Mis on Shieldstral 1.0?
Shieldstral 1.0 on Mistral AI avatud kaaludega multimodaalne turvaklassifikaator. Selle peamine ülesanne ei ole teksti kirjutamine, küsimustele vastamine, piltide genereerimine ega tööriistade kasutamine. Selle asemel analüüsib see etteantud sisu ja määrab, kas sisu vastab loomulikus keeles kirjeldatud turvatingimusele.
Tüüpiline modereerimispäring võib küsida, kas kasutaja viip sisaldab juhiseid kahjuliku tegevuse kohta, kas assistendi vastus rikub ettevõtte eeskirju või kas pilt koos selle allkirjaga tuleks blokeerida. Shieldstral tagastab jah-või-ei-tulemuse. Arendajad saavad uurida ka logiteid ehk mudeli normaliseerimata skoore võimalike väljundtokenite jaoks ning teisendada need tõenäosuselaadseks usaldusnäitajaks lävendipõhiseks filtreerimiseks.
Mistral loetleb Shieldstral 1.0 avaliku eelvaatena ja isehostitava mudelina, mis avaldati 4. augustil 2026. Allalaaditavad kaalud on saadaval Apache 2.0 litsentsi alusel. Ametlikes materjalides kirjeldatakse mudelit 3 miljardi parameetriga kontrollpunktina, samal ajal kui Mistrali mudelilehel on märgitud 3,8 miljardit parameetrit; erinevus näib tulenevat erinevatest loendamiskonventsioonidest, mitte kahest eraldi mudelist.
Kuidas toimib selle poliitikaga kohanduv ülesehitus?
Paljud modereerimissüsteemid kasutavad ette määratud kategooriaid, näiteks vägivald, ahistamine või seksuaalne sisu. Shieldstral kasutab teistsugust lähenemist: rakendus edastab koos hinnatava sisuga ka poliitika või turvaküsimuse. Seejärel klassifitseerib mudel sisu vastavalt sellele juhisele.
See muudab ühe kontrollpunkti kasutatavaks modereerimise mitmes etapis. Teenus võiks selle abil kontrollida sissetulevaid viipeid enne nende saatmist generatiivsele mudelile, uurida genereeritud vastuseid enne nende kasutajatele kuvamist, tuvastada, kas keeldumine oli asjakohane, või rakendada spetsiaalset poliitikat reguleeritud või ettevõttesisese töövoo jaoks. Poliitikat saab järeldamise ajal muuta, mistõttu modereerimiskriteeriumide kohandamine ei nõua mudeli uuesti treenimist.
Selline paindlikkus paneb arendajale ka suurema vastutuse. Ebamäärane, vastuoluline või liiga laia ulatusega poliitika võib anda ebausaldusväärseid modereerimisotsuseid. Seetõttu peaksid tootmissüsteemid poliitika sõnastust testima, uurima valepositiivseid ja valenegatiivseid tulemusi ning valima lävendid selle põhjal, millised tagajärjed kaasnevad sisu lubamise või blokeerimisega.
Toetatud sisendid ja natiivne väljund
Shieldstral toetab kolme dokumenteeritud sisendimustrit:
- Ainult teksti modereerimine, näiteks kasutaja viiba või genereeritud vastuse kontrollimine.
- Ainult pildi modereerimine, näiteks üleslaaditud pildi kontrollimine.
- Teksti ja pildi koos modereerimine, näiteks pildi hindamine koos allkirja, viiba või poliitika seisukohast olulise kirjeldusega.
Selle natiivne väljund on tekst: üks jah-või-ei-klassifikatsioonitoken. Shieldstral ei genereeri otse pilte, heli, videot, muusikat ega manuseid ega soorita toiminguid. Mudeli multimodaalsus puudutab seda, mida ta suudab analüüsida, mitte seda, millist tüüpi meediat ta toodab.
Ühe tokeni pikkune väljund sobib kiireks väravaks, kuid see ei ole täielik modereerimise selgitus. Rakendus võib lisada oma põhjusekoodid, logida kasutatud poliitika või suunata ebakindlad juhtumid teise ülevaatusprotsessi. Jah- ja ei-logititest tuletatud usaldusnäitaja võib seda suunamist hõlbustada, kuid seda ei tohiks käsitleda garantiina, et klassifikatsioon on õige.
Kontekst ja järeldamise piirangud
Mudelikaart soovitab hoida sisendid 32 768 tokeni suuruse treenitud töövahemiku piires. See on praktiline konteksti piirang, mida tuleks modereerimispäringute kavandamisel kasutada, eriti kui poliitikaga koos edastatakse pikki vestlusi, dokumente või muud tekstilist konteksti. Uuringus märgitakse ka, et mudel võib teoreetiliselt toetada suuremat kontekstiakent, kuid dokumenteeritud treenitud vahemik on kasutuselevõtuotsuste jaoks turvalisem alus.
Natiivse väljundi maksimaalne pikkus on üks token, sest mudel on mõeldud jah-või-ei-otsuse väljastamiseks. Seetõttu ei sobi see modereerimisaruannete, ümberkirjutatud teksti, üksikasjalike selgituste ega pikkade vastuste koostamiseks. Need ülesanded nõuaksid täiendavat rakendusloogikat või eraldi generatiivset mudelit.
Kasutuselevõtt, API-juurdepääs ja litsentsimine
Shieldstral 1.0 levitatakse allalaaditavate kaaludena kohalikuks või privaatselt hallatavaks järeldamiseks. Mistrali dokumentatsioon esitleb seda isehostitava mudelina, mitte mudelina, mis oleks saadaval Mistrali hallatava API lõpp-punkti kaudu. Ametlikud näited hõlmavad Transformersi, vLLM-i, llama.cpp-d ja SGLang-i, pakkudes meeskondadele mitut võimalust selle käitamiseks levinud järeldamisplatvormidega.
Mistrali väljalasketeates kirjeldatakse tõhusat tööd 16 GB NVIDIA GPU-l. Kokaraamat näitab ka väiksema mälukasutusega konfiguratsioone, milles kasutatakse sobivat või vähendatud täpsust. Tegelik mälukasutus ja läbilaskevõime sõltuvad järeldamisraamistikust, täpsusest, pakettide suurusest, pildisisenditest ja kasutatavast riistvarast. Seetõttu tuleks 16 GB väidet käsitleda teenusepakkuja väitena näidiskonfiguratsiooni kohta, mitte universaalse riistvaranõudena.
Esitatud uuringus ei ole Shieldstrali hostitud järeldamise kohta kinnitatud tokenipõhist ega tellimusehinda. Kaalud on Apache 2.0 litsentsi all, kuid isehostimine ei ole tasuta: organisatsioonid peavad endiselt tasuma GPU-taristu, salvestusruumi, inseneritöö, seire, uuenduste ja poliitika testimise eest. Kulueelis on kõige suurem meeskondade jaoks, kes juba haldavad järeldamistaristut või peavad modereerimisliikluse hoidma oma keskkonnas.
Peamised tugevused ja kompromissid
- Poliitika paindlikkus: Loomulikus keeles poliitikaid saab järeldamise ajal ette anda, võimaldades ühel kontrollpunktil toetada mitut modereerimisskeemi ilma uuesti treenimata.
- Multimodaalne kontroll: Mudel suudab hinnata teksti, pilte ning teksti ja pildi kombinatsioone, mitte ainult teksti.
- Isehostimine: Allalaaditavad kaalud võimaldavad privaatset kasutuselevõttu ning kontrolli järeldamistaristu ja andmekäitluse üle.
- Avatud litsents: Apache 2.0 litsents sobib paljudeks kommerts- ja ettevõttesisesteks kasutusjuhtudeks, arvestades litsentsi tingimusi ja organisatsiooni enda vastavuskontrolli.
- Kiired ja kitsalt piiritletud otsused: Ühe tokeni pikkune tulemus sobib hästi modereerimisväravaks ning väldib pikkade genereeritud selgituste eest tasumist.
Sama spetsialiseeritus tekitab ka olulisi piiranguid. Shieldstral ei ole üldotstarbeline assistent, kodeerimismudel, arutlusmudel ega autonoomne agent. Sellel ei ole dokumenteeritud tööriista- ega funktsioonikutsete võimekust, veebiotsingu võimalust ega natiivset pildi-, heli- või videoväljundit. Samuti ei kaota see vajadust inimliku ülevaatuse ega hoolikalt kujundatud poliitika järele. Klassifikaator võib olla kiire ja odav, kuid teha siiski olulisi vigu, kui sisu on mitmetähenduslik või poliitika halvasti määratletud.
Arutlemine, kodeerimine ja tööriistade tugi
Shieldstrali eesmärk on klassifitseerimine, mitte avatud vormis arutlemine. See suudab tõlgendada poliitika ja sisu paari, kuid esitatud spetsifikatsioonid ei kirjelda seda arutlusmudelina, millel oleks eraldi pikendatud mõtlemise režiim. Seda ei tohiks valida juhul, kui rakendus vajab mudelit keeruka töövoo kavandamiseks, otsuse üksikasjalikuks selgitamiseks või üldise probleemi lahendamiseks.
Ka kodeerimise tugi jääb selle rollist välja. Seda võib kasutada lähtekoodi või kodeerimisega seotud viipade modereerimiseks tekstina, kuid see ei ole koodi genereeriv mudel ega paku kodeerimisagenti, shellijuurdepääsu ega tarkvaraarenduse tööriistu. Dokumenteeritud tööriistakasutuse võimekus on null. Kogu orkestreerimine, lävendite rakendamine, eskaleerimine ja logimine tuleb rakendada ümbritsevas rakenduses.
Parimad kasutusjuhud
Shieldstral sobib hästi olukordadesse, kus meeskond vajab keskendunud modereerimiskihti, mida saab kasutada olemasoleva rakenduse või mudeli kõrval. Praktilised kasutusviisid on näiteks:
- Kasutaja viipade eelkontroll enne nende saatmist generatiivsele mudelile.
- Genereeritud vastuste järelkontroll enne nende edastamist.
- Kontrollimine, kas mudeli vastus näib rikkuvat keeldumis- või turvapoliitikat.
- Üleslaaditud piltide ning pildi ja allkirja kombinatsioonide modereerimine.
- Organisatsioonipõhiste poliitikate rakendamine juhul, kui neid ei hõlma kindel modereerimistaksonoomia.
- Modereerimise käitamine privaatvõrgus või kasutuselevõtu eest vastutava organisatsiooni hallatavas taristus.
Suure mõjuga otsuste puhul on parem kasutada seda kihilise süsteemi ühe komponendina. Rakendus võib ühendada selle klassifikatsiooni deterministlike reeglite, päringupiirangute, juurdepääsukontrolli, inimliku ülevaatuse ja ebakindlate juhtumite varulahendusega.
Millal valida Shieldstral 1.0?
Valige Shieldstral siis, kui peamine vajadus on tekstiliste ja visuaalsete sisendite poliitikapõhine klassifitseerimine, eriti juhul, kui avatud kaalud, privaatne kasutuselevõtt ja kohandatavad modereerimisreeglid on vestlusvõimest tähtsamad. Selle kitsas väljund võib muuta selle tõhusaks suure läbilaskevõimega väravates ning isehostitav ülesehitus võib sobida organisatsioonidele, kes ei saa saata modereeritavat sisu kolmanda osapoole hallatavasse lõpp-punkti.
Hostitud modereerimisteenus võib olla sobivam juhul, kui meeskond soovib minimaalset taristutööd, hallatud skaleerimist või teenusepakkuja hallatavat turvataksonoomiat. Üldotstarbeline multimodaalne mudel võib olla eelistatav siis, kui rakendus vajab üksikasjalikke selgitusi, sisu teisendamist, keerukat arutlemist või interaktiivset vestlust. Teksti, koodi, piltide, heli või video tootmiseks on parem valida spetsiaalne generatiivne mudel. Shieldstral võib paikneda nende süsteemide ees või järel turvakontrollpunktina, kuid seda ei tohiks käsitleda nende asendajana.
Kokkuvõte
Shieldstral 1.0 on kõige parem mõista avatud kaaludega modereerimiskomponendina, mitte järjekordse üldotstarbelise Mistrali assistendina. Selle eripära seisneb multimodaalse sisendi, loomulikus keeles juhitava poliitika ja isehostitava kasutuselevõtu kombinatsioonis. Kompromissiks on sihilikult kitsas liides: üks jah-või-ei-väljund, siin kinnitamata hostitud kasutuse hind, natiivse sisugeneratsiooni puudumine ja sisseehitatud tööriistade puudumine. Meeskonnad, kes suudavad hallata järeldamistaristut ja oma poliitikaid valideerida, võivad leida sellest praktilise kaitsekihi teksti- ja pilditöövoogude jaoks; meeskonnad, kes otsivad täielikku AI-assistenti või hallatavat modereerimis-API-t, peaksid otsima mujalt.