Mis on Llama Prompt Guard 2 22M?
Llama Prompt Guard 2 22M on binaarne teksti klassifitseerimise mudel, mille Meta avaldas 29. aprillil 2025. See analüüsib teksti ja määrab selle ühte kahest üldisest kategooriast: ohutu või pahatahtlik. Pahatahtlik kategooria hõlmab otseseid viiburünnakuid, sealhulgas katseid juhiseid eirata, mudelit piirangutest mööda juhtida või sisestada juhiseid rakenduse välisest allikast hangitud sisusse.
Praktikas saab mudeli paigutada LLM-il põhineva rakenduse ette. Teenus võib edastada kasutaja sõnumi, hangitud veebilehe, dokumendikatke, tööriista tulemuse või agendi sisendi enne selle lisamist suurema mudeli konteksti Prompt Guard 2 22M-ile. Klassifikaatori tulemust saab seejärel kasutada rakenduse filtreerimis-, blokeerimis-, ülevaatamis- või eskaleerimisloogikas.
Mudel ei ole vestlusassistent ega genereeri sisendile vastust. Tegemist on diskriminatiivse klassifikaatoriga: selle ülesanne on hinnata teksti, mitte teksti kirjutada, küsimustele vastata, tööriistu kasutada või kasutaja ülesannet täita.
Kuhu see Prompt Guard 2 mudeliperekonnas sobitub?
Prompt Guard 2 22M on Meta Prompt Guard 2 mudeliperekonna väiksem liige. Selle alusmudel on DeBERTa-xsmall ning see sisaldab ligikaudu 22 miljonit alusmudeli parameetrit. Perekonda kuulub ka 86M variant. 22M mudel on mõeldud väiksema latentsuse ja väiksema ressursikasutuse jaoks, samas kui suurem sõsarmudel sobib paremini juhul, kui tähtsamad on mitmekeelne jõudlus või suurem mudelimaht.
Erinevalt Prompt Guard 1-st kasutab Prompt Guard 2 ühtset ohutu või pahatahtliku sisendi klassifikatsiooni ega erista eraldi viibe- ja jailbreak-silte. Rakendused, mis peavad neid ründetüüpe eristama, peavad seetõttu lisama oma analüüsi või kasutama teistsugust mudelit ja otsustusprotsessi.
Põhivõimekus ja sisendipiirang
Mudeli peamine võimekus on otseste või äratuntavate viiburünnakute mustrite tuvastamine. Näiteks võib sisend sisaldada teksti, mis püüab arendaja juhiseid tühistada, veenda assistenti oma reegleid eirama või peita vaenulikke juhiseid sisu sisse, mida rakendus kavatseb kokku võtta või analüüsida.
Maksimaalne soovitatav kontekst on 512 tokenit. See on oluline piirang juurutamisel: pikka dokumenti või viibet ei saa lihtsalt ühe piiramatu sisendina mudelile edastada. Meta soovitab pikema materjali osadeks jagada ja need osad klassifitseerida kas paralleelselt või järjestikku. Seejärel peab rakendus ise otsustama, kuidas osade kaupa saadud tulemused kokku võtta.
Osadeks jagamine võib muuta klassifikaatori kasulikuks hangitud dokumentide ja veebisisu puhul, kuid tekitab ka rakenduse kujundamisega seotud probleemi. Rünne võib sõltuda mitme osa peale jaotunud kontekstist ning eraldi klassifitseerimistulemused ei anna automaatselt dokumenditaseme turvahinnangut. Arendajad peaksid määratlema, kuidas käsitleda piiripealseid skoore, mitut märgistatud osa ja ründeid, mis tuginevad teksti eri osade vastastikusele mõjule.
Teatatud jõudlus ja tõhusus
Meta teatab 512-tokeniste sisendite puhul A100 GPU-l klassifitseerimise latentsuseks 19,3 millisekundit. See on teenusepakkuja esitatud mõõtmistulemus, mitte garantii iga riistvarakonfiguratsiooni jaoks. Tegelik läbilaskevõime ja latentsus sõltuvad riistvarast, pakktöötlusest, tokeniseerija töötlusajast, sisendi pikkusest ja ümbritsevast rakendusest.
Meta avaldatud hindamises saavutas Prompt Guard 2 22M inglise keele puhul ROC-kõvera aluse pindala (AUC) 0,995. Meta teatab ka, et inglise keele meenutus oli 1% valepositiivsete tulemuste määra juures 88,7%. Meenutus näitab, kui palju asjakohaseid pahatahtlikke näiteid tuvastatakse, samas kui valepositiivsete tulemuste määr näitab, kui sageli ohutud näited ekslikult märgistatakse. Neid näitajaid tuleks käsitleda hindamistulemustena, mitte lubadusena, et sama tasakaal kehtib ka konkreetse rakenduse liikluse puhul.
22M mudeli peamine praktiline eelis on tõhusus. Kompaktse klassifikaatori saab paigutada kohalikku või spetsiaalsesse järeldusteenusesse ja käivitada enne kuluka generatiivse mudeli kutset. Kompromiss seisneb selles, et väiksema alusmudeli mitmekeelne jõudlus on Prompt Guard 2 86M-ist kehvem, eriti väljaspool inglise keelt. Mitut keelt teenindavad rakendused peaksid 22M mudelit esinduslike sisenditega testima, enne kui hakkavad sellele põhilise filtrina toetuma.
Juurutamine ja toetatud käitumine
Meta pakub mudelit avatud kaaludega allalaadimiseks Hugging Face'i hoidla kaudu: meta-llama/Llama-Prompt-Guard-2-22M. Seda saab kohapeal laadida Transformers'i teegi abil, kasutades teksti klassifitseerimise torujuhet või madalama taseme liideseid AutoTokenizer ja AutoModelForSequenceClassification.
Kuna tegemist on kohaliku klassifikaatori, mitte majutatud generatiivse lõpp-punktiga, ei loetleta esitatud spetsifikatsioonides sisend- ega väljundtokenite hindu. Seetõttu ei ole allalaaditava mudeli enda puhul hinnastamine asjakohane, kuigi juurutamisega kaasnevad endiselt taristu-, salvestus- ja arenduskulud. Mudel on Hugging Face'is saadaval Llama 4 Community License'i alusel, seega peaksid kasutajad enne juurutamist tutvuma selle litsentsi ja kõigi kohaldatavate kasutusnõuetega.
Prompt Guard 2 22M võtab vastu teksti ja tagastab teksti klassifitseerimise tulemuse. See ei võta otse vastu pilte, heli ega videot ega genereeri neid meediatüüpe. Esitatud spetsifikatsioonides ei ole samuti märgitud tööriistade või funktsioonide kasutamist, voogedastust, JSON-režiimi, partiilise API juurdepääsu ega generatiivse väljundi tokenipiirangut. Täppishäälestus on märgitud toetatuks, mis võib võimaldada mudelit rakendusepõhiste andmetega kohandada, kuid kättesaadav uurimistöö ei esita täppishäälestuse protseduuri ega eeldatavat paranemist.
Peamised tugevused
- Väikesed ressursinõuded: Ligikaudu 22 miljonit parameetrit ja DeBERTa-xsmalli alusmudel muudavad selle oluliselt kergemaks kui suuremad ohutus- või keelemudelid.
- Kiire sõelumine: Meta teatab A100 GPU-l 512-tokenise sisendi klassifitseerimisajaks 19,3 millisekundit.
- Selgelt piiritletud eesmärk: Mudel on spetsialiseerunud viibesüstidele ja jailbreak-katsetele, selle asemel et hinnata ohutust üldotstarbelise genereerimisülesande raames.
- Kohalik juurutamine: Avatud kaaludega mudelit saab rakendusse integreerida, ilma et iga kontrollitav sisend tuleks saata eraldi majutatud modereerimisteenusele.
- Kasulikud hindamisandmed: Meta avaldab inglise keele AUC- ja meenutustulemused, pakkudes rohkem konkreetseid juhiseid kui toetamata üldine väide ohutusalase jõudluse kohta.
Piirangud ja turvalisusega seotud kaalutlused
Prompt Guard 2 22M on tuvastuskomponent, mitte täielik kaitse. Selle ennustused võivad sisaldada valepositiivseid ja valenegatiivseid tulemusi ning ründajad võivad välja töötada kohanduvaid võtteid, mis erinevad hindamise käigus nähtud mustritest. Sisendit, mis klassifikaatorist läbi pääseb, ei tohiks automaatselt ohutuks pidada.
512-tokenine piirang nõuab pikemate viipade ja dokumentide puhul osadeks jagamist. See võib vähendada mudeli võimet mõista teksti kaugete osade vahelisi seoseid, mistõttu peaks rakendus ühendama klassifikaatori juurdepääsukontrolli, juhiste eraldamise, väljundi valideerimise ja muude töövoo jaoks sobivate turvameetmetega.
Teine oluline piirang on keelekate. Väiksem mudel ei ole eeltreenimise mõttes mitmekeelne samal viisil nagu suurem Prompt Guard 2 variant ning Meta teatab 22M mudeli puhul suuremast mitmekeelse jõudluse erinevusest. Kõige selgem kasutuskoht on inglise keelele keskenduvates rakendustes. Mitmekeelsetes juurutustes tuleks iga olulise keele puhul mõõta valepositiivseid tulemusi ja tuvastamata ründeid, mitte eeldada, et inglise keele tulemused kanduvad otse üle.
Klassifikaator annab ka üldise otsuse „pahatahtlik” või „ohutu”, mitte üksikasjalikku selgitust ega eraldi silti viibesüsti ja jailbreak'i kohta. Meeskonnad, kes vajavad auditiks sobivaid põhjendusi, ründekategooriaid või poliitikapõhiseid modereerimisotsuseid, peavad selle ümber lisama täiendava loogika.
Millal valida Llama Prompt Guard 2 22M?
Vali Llama Prompt Guard 2 22M, kui peamine vajadus on teksti kiire ja soodne kontrollimine enne selle jõudmist LLM-i või agendini. See sobib kasutaja sõnumite filtreerimiseks, otsinguga täiendatud genereerimise torujuhtmetesse, dokumendiassistentidele, veebisisu importimiseks, agendi mälule ja tööriistade tulemuste kontrollimiseks. See on eriti atraktiivne juhul, kui kohalik järeldamine, prognoositavad taristukulud või väike juurutusmaht on tähtsamad kui lai keelekate.
Mudel on kasulik ka esimese etapi filtrina. Rakendus võiks käivitada kompaktse klassifikaatori iga sisendi puhul ning suunata kahtlased, ebakindlad või suure mõjuga juhtumid võimekamasse või kallimasse turvakontrolli. Selline arhitektuur võib vähendada generatiivsete mudelite kutsete arvu, kuigi uurimistöö ei kinnita konkreetset kulude vähenemist.
Vali selle asemel Prompt Guard 2 86M, kui rakendus talub suuremat ressursikasutust ja vajab selle sõsarmudelile teatatud tugevamat mitmekeelset suutlikkust. Kui nõue hõlmab kahjuliku sisu kategooriaid, poliitikate jõustamist, pildi- või helianalüüsi, üksikasjalikke selgitusi või kaitset keerukate rakendusepõhiste rünnete eest, vali laiem modereerimis- või turvasüsteem. Üldotstarbelist LLM-i ei tohiks pidada selle klassifikaatori automaatseks asenduseks, kuid ka Prompt Guard 2 22M-i ei tohiks pidada laiemate kontrollimeetmete täielikuks asenduseks.
Praktilised hindamisjuhised
Enne tootmiskasutust testi mudelit rakenduse tegelikust liiklusest pärit näidetega. Kaasa tavalised kasutajapäringud, tsiteeritud ründed, juhiseid sisaldavad hangitud dokumendid, mitmekeelsed sisendid, osadeks jagatud pikad dokumendid ja ohutu teksti, mis sarnaneb jailbreak'iga. Kohanda rakenduse reaktsioon pahatahtlikule tulemusele vastavalt sellele, millised on seaduslike kasutajate blokeerimise ja ründe läbilaskmise tagajärjed.
Saadaolevas kataloogihinnangus hinnatakse mudelit kiiruse ja kulutõhususe poolest kõrgelt ning arutlusvõime poolest madalalt, samas kui kodeerimisele antakse tagasihoidlik hinne. Need on toimetuslikud toodete võrdlushinnangud, mitte Meta avaldatud võrdlustestid. Need peegeldavad mudeli rolli väikese klassifikaatorina: see on optimeeritud kiireks turvakontrolliks, mitte keerukate ülesannete üle arutlemiseks või koodi kirjutamiseks.
Kokkuvõttes tuleks Llama Prompt Guard 2 22M-i mõista kui kerget kaitsekihti. Selle väärtus seisneb fokuseeritud ja väikese latentsusega klassifitseerimise paigutamises suurema mudeli ette, samal ajal kui selle 512-tokenine piirang, nõrgem mitmekeelne jõudlus, binaarne väljund ja haavatavus kohanduvate rünnete suhtes määravad piirid sellele, mida mudel suudab turvaliselt teha.