Llama Guard 3-11B-Vision

Mis on Llama Guard 3-11B-Vision?

Llama Guard 3-11B-Vision on Meta multimodaalne sisuturvalisuse klassifikaator. See põhineb Llama 3.2 Visioni mudeliperel ja sisaldab ligikaudu 11 miljardit parameetrit. Selle eesmärk ei ole vastata tavalistele kasutajaküsimustele, genereerida pilte ega toimida üldotstarbelise visuaalse assistendina. Selle asemel hindab see sisu ja tagastab tekstilise turvaotsuse.

Mudel on mõeldud rakendustele, kus multimodaalne keelemudel saab sisendiks pildi ja teksti, koostab vastuse ning vajab potentsiaalselt kahjuliku materjali tuvastamiseks täiendavat kontrolli. Llama Guard 3-11B-Vision suudab klassifitseerida kombineeritud viiba ja sellega seotud tekstivastuse 13 kategooriast koosneva ohutaksonoomia alusel, mis põhineb MLCommonsi turvaraamistikul.

Meta avaldas mudeli 25. septembril 2024. See on avatud kaaludena saadaval Meta Llama repositooriumides ja Hugging Face’i ametlikus Meta Llama organisatsioonis. See võimaldab kohalikku või iseseisvalt hallatavat juurutust, millele kehtivad Llama 3.2 Community License’i tingimused ning operaatori käsutuses oleva riistvara ja järeldustarkvara nõuded.

Kuidas mudel töötab

Tüüpilises turvatorustikus saadab rakendus Llama Guard 3-11B-Visionile kasutaja viiba, mis võib sisaldada teksti ja pilti. Mudel uurib seda sisendit ning võib hinnata ka viibaga seotud tekstivastust. Selle väljund on tekst, mis kirjeldab, kas sisu on turvaline või ebaturvaline. Ebaturvalise materjali tuvastamisel teatab mudel asjakohase ohukategooria või -kategooriad.

Selline ülesehitus eraldab turvaklassifitseerimise peamisest vestlusmudelist. Seega saab arendaja kasutada üht mudelit vastuse koostamiseks ja Llama Guard 3-11B-Visionit sisendi ning väljundi kontrollimiseks. Klassifikaatori tulemust võib kasutada vastuse blokeerimiseks, turvalisema ümbersõnastuse küsimiseks, juhtumi suunamiseks inimkontrolli või poliitikaotsuse logimiseks.

Dokumenteeritud visioonikonfiguratsioon töötleb korraga üht pilti. Meta mudelimaterjalides kirjeldatakse pildi muutmist neljaks 560 × 560 piksli suuruseks osaks enne klassifitseerimist. See rakendusdetail on rakenduse kavandamisel oluline: ei tohiks automaatselt eeldada, et mudel toetab suvalist arvu pilte või kõiki pilditöötluse töövooge.

Toetatud sisendid ja väljundid

Mudeli väljund on tekstiline, mitte otsene pildi- või muu meediaväljund. „Multimodaalne” kirjeldab siin sisendit ja klassifitseerimisülesannet, mitte võimet visuaalset sisu genereerida. Seetõttu tuleks Llama Guard 3-11B-Visionit käsitleda modereerimiskomponendina, mitte pildigeneratsioonimudeli või üldotstarbelise visioonivestlusrobotina.

Konteksti- ja väljundipiirangud

Esitatud mudeliandmetes on konteksti pikkuseks märgitud 128 000 tokenit. Kontekstiaken näitab teksti ja muu toetatud sisendteabe hulka, mida mudel suudab ühe päringu käigus töödelda, kuigi tegelik kasutatav maht võib sõltuda juurutuse rakendusest ja pilditöötluse torustikust.

Esitatud esimese osapoole materjalides ei ole kontrollitud maksimaalset väljundtokenite arvu täpsustatud. Praktikas on eeldatav tulemus pigem lühike klassifitseerimisvastus kui pikk jutustav vastus, kuid rakendus ei tohiks käsitleda dokumenteerimata väljundipiiri garanteeritud spetsifikatsioonina.

Turvataksonoomia ja praktilised tugevused

Llama Guard 3-11B-Visioni peamine tugevus on spetsialiseerumine. See on loodud spetsiaalselt multimodaalses suhtluses ebaturvalise sisu tuvastamiseks, mitte selleks, et tasakaalustada turvaklassifitseerimist laiaulatusliku vestluse, programmeerimise või loomingulise genereerimise ülesannetega. See keskendunud roll võib muuta mudeli kasulikuks eraldiseisva kontrollpunktina süsteemides, mis võtavad vastu nii pilte kui ka teksti.

• Kombineeritud viipade kontroll: Mudel suudab hinnata teksti- ja pildisisu koos, mis on oluline juhul, kui päringu tähendus sõltub mõlemast modaalsusest.
• Vastuste kontroll: Mudel suudab klassifitseerida multimodaalsete viipadega seotud tekstivastuseid, aidates tuvastada teise mudeli ebaturvalist väljundit.
• Kategooriataseme tulemused: Ebaturvaline tulemus võib sisaldada teavet asjakohaste ohukategooriate kohta, mitte ainult binaarset otsust.
• Avatud kaaludega juurutus: Operaatorid saavad mudeli alla laadida ja seda ühilduva taristu kaudu käitada, selle asemel et toetuda tuvastatud ametlikule tokenipõhisele majutatud lõpp-punktile.
• Paindlik integreerimine: Eraldiseisva klassifikaatori võib paigutada enne kasutajasisu jõudmist põhimudelisse, pärast vastuse genereerimist või mõlemasse etappi.

Need tugevused on kõige olulisemad arendajatele, kes loovad rakendustaseme turvasüsteemi. See ei tähenda, et klassifikaator võiks asendada poliitikate kujundamist, inimkontrolli, juurdepääsukontrolle, päringumäärade piiranguid või vastandlike sisendite testimist.

Piirangud ja riskid

Meta kirjeldab mudelit inglise keele jaoks optimeerituna. Teisi keeli teenindavad rakendused peaksid jõudlust valideerima, mitte eeldama, et sama klassifitseerimiskvaliteet kehtib kõigis keeltes.

Mudel ei ole mõeldud asendama igat tüüpi turvaklassifikaatorit. Meta soovitab tekstipõhiste alternatiividena, näiteks ainult teksti modereerimise korral, kasutada mudeleid Llama Guard 3-8B või Llama Guard 3-1B. Samal ajal ei tohiks Llama Guard 3-11B-Visionit automaatselt käsitleda spetsiaalse ainult piltide modereerimise lahendusena. Selle dokumenteeritud roll puudutab multimodaalseid viipasid ja nendega seotud tekstivastuseid ning ainult piltidega töövoo puhul võib sobivam olla spetsialiseeritud pilditurvalisuse süsteem.

Turvaklassifitseerimine sõltub olemuslikult poliitikamääratlustest ja kontekstist. Mudel võib kahjuliku materjali märkamata jätta, ohutu materjali ekslikult blokeerida või hätta jääda, kui asjakohane kategooria eeldab värskeid faktiteadmisi. Meta materjalides hoiatatakse ka, et mudel võib olla haavatav vastandlikele rünnakutele. Kasutajad võivad sihilikult sõnastada viipasid, pilte manipuleerida või koostada sisendeid, millega püütakse klassifikaatorist mööda pääseda.

Seetõttu tuleks Llama Guard 3-11B-Visionit hinnata laiema turvaprotsessi ühe osana. Meeskonnad peaksid testima esinduslikku sisu, mõõtma valepositiivseid ja valenegatiivseid tulemusi, määratlema eskalatsiooniteed ning kaaluma suure mõjuga otsuste puhul inimkontrolli.

Arutlemise, programmeerimise, kiiruse ja kulude positsioneerimine

See on turvaklassifitseerimise mudel, mitte üldotstarbeline arutlemis- või programmeerimismudel. See suudab analüüsida turvaotsuse tegemiseks vajalikku sisu, kuid esitatud uuringud ei tõesta selle laiaulatuslikku matemaatilise arutlemise, tarkvaraarenduse ega agentseid võimeid. Samuti puudub dokumenteeritud tööriista- või funktsioonikutsumise võimekus.

Kaasnev toimetuslik hinnang annab mudelile arutlemise skooriks 4 punkti 10-st ja programmeerimise skooriks 2 punkti 10-st. Need on subjektiivsed andmebaasihinnangud, mitte Meta avaldatud skoorid ega võrdlustestide tulemused. Need kajastavad mudeli piiratud sobivust üldiseks arutlemiseks ja programmeerimiseks võrreldes nende ülesannete jaoks loodud mudelitega.

Sama hinnang annab kiiruse skooriks 5 punkti 10-st ja kuluskooriks 8 punkti 10-st. Ka need on toimetuslikud näitajad, mitte teenusepakkuja spetsifikatsioonid. Kuluskoor kajastab allalaaditavate kaalude võimalikku atraktiivsust võrreldes majutatud modereerimise API eest maksmisega, kuid kohalik juurutus toob siiski kaasa riistvara-, salvestus-, arendus-, seire- ja hoolduskulud. 11 miljardi parameetriga mudel võib nõuda ka rohkem taristut kui väiksem ainult teksti jaoks mõeldud turvaklassifikaator.

Hind ja kättesaadavus

Esitatud esimese osapoole materjalides ei ole selle täpse mudeli ametlikku tokenipõhise majutatud API hinda tuvastatud. Seetõttu ei ole kontrollitud sisend- ega väljundhinda, mida tsiteerida. Mudelit levitatakse allalaaditavate avatud kaaludena, mistõttu mudeli otsene hind ja käitamise kogukulu on erinevad küsimused.

Ise majutamine võib olla atraktiivne, kui organisatsioon vajab kontrolli andmekäitluse, juurutuskoha või läbilaskevõime üle. Tegelik kulu sõltub valitud riistvarast, järeldustarkvara virnast, klassifitseerimiste arvust ja käitamisnõuetest. Majutatud järeldusteenuse pakkuja võib pakkuda lihtsamat juurutust, kuid selle hind ja kättesaadavus sõltuvad konkreetsest teenusepakkujast ning neid ei tohiks segi ajada Meta ametliku Llama Guard 3-11B-Visioni hinnaga.

Millal valida Llama Guard 3-11B-Vision?

Vali Llama Guard 3-11B-Vision, kui rakendus vajab avatud kaaludega turvaklassifikaatorit, mis suudab kontrollida pildi- ja tekstipõhiseid viipasid ning nendega seotud tekstivastuseid. See sobib hästi multimodaalsetele vestlusrakendustele, visuaalse küsimustele vastamise süsteemidele, pilte kasutavatele tugivahenditele ja teistele toodetele, kus genereeritud teksti tuleb kontrollida koos visuaalse sisendiga.

See on eriti sobiv juhul, kui meeskond soovib turvakihi kohapeal juurutada või integreerida selle iseseisvalt hallatavasse järeldustöötluse torustikku. 13 kategooriast koosnev ohutaksonoomia võib pakkuda ka rohkem rakendatavat teavet kui üks üldine blokeerimisotsus või võimaldada eri kategooriate puhul erinevaid rakenduse reaktsioone.

Teine lahendus võib olla sobivam, kui töökoormus hõlmab ainult teksti, kui põhiülesanne on ainult piltide modereerimine või kui süsteem vajab üldotstarbelist assistenti, mis suudab arutleda, programmeerida, kasutada tööriistu või genereerida meediat. Ainult teksti modereerimiseks on esitatud materjalides nimetatud alternatiividena Meta Llama Guard 3-8B ja Llama Guard 3-1B. Suure riskiga või vastandlike sisenditega keskkondades võib eelistada mitmekihilist süsteemi, mis ühendab mitu kontrolli ja inimjärelevalve, selle asemel et toetuda ainult sellele mudelile.

Kokkuvõte

Llama Guard 3-11B-Visionil on Meta Llama Guardi tooteperes selgelt piiritletud roll: see on avatud kaaludega visioonivõimekusega turvaklassifikaator multimodaalse suhtluse jaoks. Selle peamine väärtus seisneb võimes uurida pilti koos tekstiga ning klassifitseerida seotud tekstivastuseid struktureeritud ohutaksonoomia alusel. Sama olulised on selle piirangud: mudel on optimeeritud inglise keele jaoks, toetab dokumenteeritud konfiguratsioonis üht pilti, ei genereeri meediat, selle majutatud tokenihind ei ole kontrollitud ning seda ei tohiks käsitleda täieliku turvasüsteemi ega üldotstarbelise mudelina.