wehub-resource-sync
6.6 KiB
Järjestelmän arkkitehtuuri
Tämä projekti esittelee web-sovelluksen, joka käyttää sisällön turvallisuustarkistusta ennen käyttäjän syötteiden välittämistä laskinpalvelimelle Model Context Protocolin (MCP) kautta.
Miten se toimii
- Käyttäjän syöte: Käyttäjä syöttää laskentakyselyn web-käyttöliittymään
- Sisällön turvallisuustarkastus (syöte): Kysely analysoidaan Azure Content Safety API:lla
- Turvallisuuspäätös (syöte):
- Jos sisältö on turvallista (vakavuus < 2 kaikissa kategorioissa), se siirtyy laskimelle
- Jos sisältö on merkitty mahdollisesti haitalliseksi, prosessi keskeytyy ja palauttaa varoituksen
- Laskimen integrointi: Turvallinen sisältö käsitellään LangChain4j:n kautta, joka kommunikoi MCP-laskinpalvelimen kanssa
- Sisällön turvallisuustarkastus (tulos): Botin vastaus analysoidaan Azure Content Safety API:lla
- Turvallisuuspäätös (tulos):
- Jos botin vastaus on turvallinen, se näytetään käyttäjälle
- Jos botin vastaus on merkitty mahdollisesti haitalliseksi, se korvataan varoituksella
- Vastaus: Tulokset (jos turvalliset) näytetään käyttäjälle molempien turvallisuusanalyysien kanssa
Model Context Protocolin (MCP) käyttö laskinpalveluissa
Tämä projekti näyttää, miten Model Context Protocolia (MCP) käytetään kutsuttaessa laskin-MCP-palveluita LangChain4j:stä. Toteutus käyttää paikallista MCP-palvelinta, joka toimii portissa 8080 ja tarjoaa laskutoimituksia.
Azure Content Safety -palvelun käyttöönotto
Ennen sisällön turvallisuusominaisuuksien käyttöä sinun tulee luoda Azure Content Safety -palveluresurssi:
- Kirjaudu sisään Azure-portaaliin
- Valitse "Create a resource" ja hae "Content Safety"
- Valitse "Content Safety" ja klikkaa "Create"
- Anna resurssillesi yksilöllinen nimi
- Valitse tilauksesi ja resurssiryhmä (tai luo uusi)
- Valitse tuettu alue (katso Alueiden saatavuus lisätietoja varten)
- Valitse sopiva hinnoittelutaso
- Klikkaa "Create" ottaaksesi resurssin käyttöön
- Kun käyttöönotto on valmis, klikkaa "Go to resource"
- Vasemmasta valikosta, "Resource Management" alta, valitse "Keys and Endpoint"
- Kopioi jompikumpi avaimista ja päätepisteen URL seuraavaa vaihetta varten
Ympäristömuuttujien määrittäminen
Aseta GITHUB_TOKEN ympäristömuuttuja GitHub-mallien todennusta varten:
export GITHUB_TOKEN=<your_github_token>
Sisällön turvallisuusominaisuuksia varten aseta:
export CONTENT_SAFETY_ENDPOINT=<your_content_safety_endpoint>
export CONTENT_SAFETY_KEY=<your_content_safety_key>
Näitä ympäristömuuttujia sovellus käyttää todennukseen Azure Content Safety -palvelussa. Jos muuttujia ei ole asetettu, sovellus käyttää esimerkkitietoja, mutta sisällön turvallisuusominaisuudet eivät toimi oikein.
Laskin MCP -palvelimen käynnistäminen
Ennen asiakkaan käynnistämistä sinun tulee käynnistää laskin MCP -palvelin SSE-tilassa osoitteessa localhost:8080.
Projektin kuvaus
Tämä projekti demonstroi Model Context Protocolin (MCP) integrointia LangChain4j:hin laskinpalveluiden kutsumiseksi. Keskeisiä ominaisuuksia ovat:
- MCP:n käyttö yhteyden muodostamiseen laskinpalveluun peruslaskutoimituksia varten
- Kaksitasoinen sisällön turvallisuustarkastus sekä käyttäjän syötteille että botin vastauksille
- Integrointi GitHubin gpt-4.1-nano -malliin LangChain4j:n kautta
- Server-Sent Events (SSE) -protokollan käyttö MCP-siirrossa
Sisällön turvallisuusintegraatio
Projekti sisältää kattavat sisällön turvallisuusominaisuudet, jotka varmistavat, että sekä käyttäjän syötteet että järjestelmän vastaukset ovat vapaita haitallisesta sisällöstä:
- Syötteen tarkastus: Kaikki käyttäjän syötteet analysoidaan haitallisten sisältökategorioiden, kuten vihapuheen, väkivallan, itsetuhoisuuden ja seksuaalisen sisällön varalta ennen käsittelyä.
- Tuloksen tarkastus: Vaikka käytössä olisi mahdollisesti sensuroimattomia malleja, järjestelmä tarkistaa kaikki generoitu vastaukset samoilla sisällön turvallisuusfilttereillä ennen niiden näyttämistä käyttäjälle.
Tämä kaksitasoinen lähestymistapa varmistaa, että järjestelmä pysyy turvallisena riippumatta käytettävästä tekoälymallista, suojaten käyttäjiä sekä haitallisilta syötteiltä että mahdollisesti ongelmallisilta tekoälyn tuottamilta vastauksilta.
Web-asiakas
Sovellus sisältää käyttäjäystävällisen web-käyttöliittymän, jonka avulla käyttäjät voivat olla vuorovaikutuksessa Content Safety Calculator -järjestelmän kanssa:
Web-käyttöliittymän ominaisuudet
- Yksinkertainen ja selkeä lomake laskentakyselyiden syöttämiseen
- Kaksitasoinen sisällön turvallisuusvalidointi (syöte ja tulos)
- Reaaliaikainen palaute kyselyn ja vastauksen turvallisuudesta
- Väritetyt turvallisuusindikaattorit helppoon tulkintaan
- Selkeä ja responsiivinen ulkoasu, joka toimii eri laitteilla
- Esimerkkikyselyjä turvallisen käytön ohjeistamiseksi
Web-asiakkaan käyttö
-
Käynnistä sovellus:
mvn spring-boot:run -
Avaa selain ja siirry osoitteeseen
http://localhost:8087 -
Syötä laskentakysely tekstikenttään (esim. "Laske lukujen 24.5 ja 17.3 summa")
-
Klikkaa "Submit" käsitelläksesi pyyntösi
-
Tarkastele tuloksia, jotka sisältävät:
- Kyselyn sisällön turvallisuusanalyysin
- Lasketun tuloksen (jos kysely oli turvallinen)
- Botin vastauksen sisällön turvallisuusanalyysin
- Mahdolliset turvallisuusvaroitukset, jos syöte tai tulos oli merkitty
Web-asiakas hoitaa automaattisesti molemmat sisällön turvallisuustarkistukset, varmistaen, että kaikki vuorovaikutukset ovat turvallisia ja asianmukaisia riippumatta käytetystä tekoälymallista.
Vastuuvapauslauseke:
Tämä asiakirja on käännetty käyttämällä tekoälypohjaista käännöspalvelua Co-op Translator. Vaikka pyrimme tarkkuuteen, huomioithan, että automaattikäännöksissä saattaa esiintyä virheitä tai epätarkkuuksia. Alkuperäistä asiakirjaa sen alkuperäiskielellä tulee pitää virallisena lähteenä. Tärkeissä tiedoissa suositellaan ammattimaista ihmiskäännöstä. Emme ole vastuussa tämän käännöksen käytöstä aiheutuvista väärinymmärryksistä tai tulkinnoista.