Mis on gpt-oss-safeguard-120b?
gpt-oss-safeguard-120b on avatud kaaludega turvalisuse arutlusmudel, mille OpenAI avaldas 29. oktoobril 2025. See kuulub gpt-oss-i mudeliperre, kuid seda on spetsiaalselt kohandatud turvalisuse klassifitseerimiseks ning usalduse ja turvalisuse töödeks, mitte tavapäraseks lõppkasutajatega suhtlemiseks.
Mudel saab kaks olulist sisendit: arendaja koostatud turvapoliitika ja hinnatava sisu. Sisu võib olla kasutaja sõnum, mudeli genereeritud vastus või terve vestlus. Seejärel määrab mudel, kuidas sisu esitatud poliitikaga sobitub, ning annab otsuse koos põhjendusega, mis selgitab otsuse aluseks olnud kaalutlusi.
See eristab mudelit fikseeritud modereerimisklassifikaatorist, mille kategooriad ja määratlused on treeningu käigus mudelisse sisse ehitatud. gpt-oss-safeguard-120b abil saab organisatsioon määratleda oma toote, kogukonna, piirkonna või riskivaldkonna jaoks sobivad poliitikad. Poliitikaid saab uute riskide ilmnemisel ka muuta, ilma et mudelit tuleks iga muudatuse jaoks uuesti treenida.
Milline on selle koht OpenAI mudelivalikus?
gpt-oss-safeguard-120b on turvalisusele keskenduv OpenAI avatud kaaludega gpt-oss-i mudelipere liige. See põhineb gpt-oss-120b arhitektuuril ja on mõeldud toimima teiste rakenduste, sealhulgas suuri keelemudeleid kasutavate süsteemide ümber paikneva modereerimis- või turvaanalüüsi komponendina.
Seetõttu on selle roll kitsam kui üldotstarbelisel assistendil. Seda ei esitleta tarbijarakenduse peamise vestlusmudelina. Pigem tuleks seda käsitleda poliitikapõhise arutluskihina, mis saab kontrollida rakenduse sisendeid ja väljundeid enne põhmodelli kasutamist, selle järel või sellega paralleelselt.
OpenAI levitab mudeli kaalusid Hugging Face'i kaudu Apache 2.0 litsentsi alusel. Esitatud dokumentatsiooni kohaselt ei pakuta mudelit OpenAI API-s ega ChatGPT-s tavapärase tasulise hostitud mudelina. Arendajad peavad seda ise käitama või kasutama ühilduvat kolmanda osapoole taristut.
Kuidas poliitikapõhine klassifitseerimine toimib?
Arendaja saab esitada poliitika, mis kirjeldab, mida tuleks lubada, keelata, eskaleerida või muul viisil märgendada. Mudel hindab sihtsisu selle poliitika alusel, mitte ainult universaalse, teenusepakkuja määratud modereerimistaksonoomia järgi.
Näiteks võib platvorm esitada reeglid ahistamise, enesevigastamisega seotud sisu, privaatsusrikkumiste või tootele omase keelatud materjali määratluse kohta. Seejärel saab mudel nende reeglite põhjal läbi vaadata kasutaja saadetud sõnumi või genereeritud vastuse. Sama alusmudel võib toetada eri toodete erinevaid poliitikakomplekte, kui iga kasutuselevõtt hindab poliitikaid hoolikalt.
Tagastatud põhjendus aitab turvameeskondadel mõista, miks otsus tehti, tuvastada ebaselget poliitikakeelt ning leida valepositiivseid ja valenegatiivseid tulemusi. Põhjendus on eelkõige kasulik arendajatele ja turvalisusega tegelevatele spetsialistidele. Seda ei tohiks tavakasutajatele automaatselt esitada modereerimisotsuse lõpliku selgitusena.
Tehnilised andmed
| Spetsifikatsioon | Üksikasjad |
|---|---|
| Teenusepakkuja | OpenAI |
| Väljalaskekuupäev | 29. oktoober 2025 |
| Mudeli tüüp | Avatud kaaludega turvalisuse arutlusmudel |
| Parameetrite koguarv | Ligikaudu 117 miljardit |
| Aktiivsed parameetrid | Ligikaudu 5,1 miljardit märgi kohta |
| Arhitektuur | Ekspertide segu |
| Konteksti pikkus | Kuni 131 072 märki, aluseks olevast gpt-oss-i arhitektuurist lähtudes |
| Sisend ja väljund | Tekstisisend ja tekstiväljund |
| Arutluse intensiivsus | Madal, keskmine ja kõrge |
| Litsents | Apache 2.0 |
| Väljundi piirang | Selle safeguard-mudeli kontrollpunkti kohta ei ole avaldatud eraldi väljundimärkide maksimumpiirangut |
Mudel kasutab Harmony vastusevormingut ja on mõeldud kasutamiseks selle vorminguga. OpenAI avaldatud juurutusjuhendis nimetatakse võimalike käitamisviisidena Transformersi, vLLM-i, SGLang-i, Docker Model Runnerit ja teisi ühilduvaid avatud mudelite käituskeskkondi. OpenAI sõnul mahub avaldatud konfiguratsioon ühele H100 GPU-le, kuigi tegelikud käitamisnõuded sõltuvad kvantimisest, käituskeskkonna seadetest, töökoormusest ja teenuse ülesehitusest.
Modaalsused ja arutluskäitumine
gpt-oss-safeguard-120b on ainult tekstipõhine. Esitatud uurimismaterjalides ei ole tuvastatud pildi-, heli- ega videosisendi või -väljundi võimalusi. Mudeli kavandatud sisendid on kirjalikud poliitikad ja kirjalik sisu, näiteks sõnumid, genereeritud vastused ja vestlused.
Mudel toetab seadistatavaid arutluse intensiivsuse tasemeid: madal, keskmine ja kõrge. See võimaldab käitajatel tasakaalustada otsuste kvaliteeti ja analüüsi sügavust latentsuse ning arvutusressursi kulu suhtes. Suurem arutluse intensiivsus võib olla kasulik keerukate või ebaselgete poliitikate puhul, väiksem intensiivsus aga lihtsamate või suure läbilaskevõimega kontrollide korral.
Esitatud tehnilises teabes on märgitud struktureeritud väljundid, kuid seda ei tohiks segi ajada laia tööriistakutsete või agendivõimekusega. Tööriistade kasutamist esitatud spetsifikatsioonides kinnitatud ei ole. Mudeli dokumenteeritud eesmärk on poliitikapõhine klassifitseerimine, mitte väliste toimingute tegemine või rakenduse üldine juhtimine.
Tugevused turvatöövoogudes
- Kohandatud poliitikad: arendajad saavad poliitika määratleda järeldamise ajal, selle asemel et piirduda fikseeritud modereerimisskeemiga.
- Kohandatavus: poliitika sõnastust saab muuta, kui muutuvad toote reeglid, kogukonna standardid või riskiprofiil.
- Põhjendatud otsused: mudel tagastab põhjenduse, mis toetab uurimist, poliitika silumist ja inimkontrolli.
- Avatud juurutamine: Apache 2.0 alusel avaldatud kaalud võimaldavad organisatsioonidel mudeli alla laadida, seda muuta ja oma hallatavas taristus juurutada, järgides litsentsi ning kandes ise käitamisega seotud vastutust.
- Mitu kontrollirežiimi: seda saab kasutada veebipõhiseks filtreerimiseks, sisu märgendamiseks, andmekogumite võrguväliseks ülevaatuseks ja pakktöötluseks.
- Kihilise kaitse lahendus: see võib toimida põhjalikuma kontrollikihina koos kiiremate klassifikaatorite, inimeste sekkumise, päringupiirangute ja muude tootekontrollidega.
Piirangud ja kompromissid
Peamine kompromiss seisneb paindlikkuse ja tõhususe vahel. Suur arutlusmudel suudab hinnata nüansirikkaid poliitikaid, kuid on tõenäoliselt arvutusmahukam ja aeglasem kui väike, spetsiaalselt modereerimiseks loodud klassifikaator. See on eriti oluline suure koormusega teenuste puhul, kus iga päring tuleb kontrollida väga väikese latentsusega.
OpenAI märgib, et suurte ja kvaliteetsete märgendatud andmekogumite põhjal treenitud klassifikaatorid võivad keerukate klassifitseerimisülesannete puhul poliitikapõhistest arutlusmudelitest paremini toimida. Seetõttu ei tohiks gpt-oss-safeguard-120b automaatselt asendada hästi testitud valdkondlikku klassifikaatorit. Praktiline lahendus võib kasutada tavapäraste juhtumite jaoks väiksemat klassifikaatorit ning suunata ebaselged, keerukad või suure mõjuga juhtumid sügavamaks analüüsiks sellele mudelile.
Mudel ei ole ka valmislahendus turvalisuse tagamiseks. Organisatsioonid peavad koostama selged poliitikad, testima neid esinduslike näidete abil, jälgima tulemusi, korraldama apellatsioonide või inimkontrolli menetluse ning kaitsma mudeli põhjendusi sobimatu avalikustamise eest. Käituse ajal esitatud poliitikat saab küll hõlpsasti uuendada, kuid halvasti sõnastatud või omavahel vastuolus olevad poliitikad võivad siiski viia ebausaldusväärsete otsusteni.
Selle kontrollpunkti kohta ei ole avaldatud hostitud API hinda, sest seda levitatakse allalaaditavate kaaludena, mitte tavalise OpenAI API mudelina. Rahalised kulud tulenevad GPU-taristust, salvestusruumist, käitamisest, seirest ja arendustööst. Ise hostimine võib pakkuda suuremat kontrolli ja prognoositavaid juurutuspiire, kuid samal ajal lähevad need kohustused organisatsioonile üle.
Programmeerimine ja üldotstarbeline kasutus
gpt-oss-safeguard-120b-d ei ole dokumenteeritud programmeerimisele spetsialiseerunud mudelina. See võib töödelda koodi või tehnilist teksti klassifitseeritava sisuna, kuid esitatud uurimismaterjalid ei tõenda spetsiaalset koodi genereerimise võimekust, programmeerimise võrdlustesti ega programmeerimisele suunatud optimeerimist. Seetõttu tuleks selle sobivust hinnata turvaotsuste kvaliteedi, mitte üldiste programmeerimisassistentidega seotud ootuste põhjal.
Samuti ei ole see mõeldud üldise vestlusmudeli asendamiseks. Selle kasutamine lõppkasutaja assistendina ei vastaks mudeli dokumenteeritud eesmärgile ning võib viia sisemise arutluse avalikustamiseni või turvaotsuste tegemiseni olukordades, kus on vaja tavalist dialoogi.
Parimad kasutusjuhud
- Suurele keelemudelile saadetavate viipade filtreerimine.
- Mudeli genereeritud vastuste ülevaatamine enne nende kasutajatele edastamist.
- Organisatsioonipõhiste reeglite rakendamine kasutajate loodud sisule.
- Suurte andmekogumite märgendamine modereerimise või turvaanalüüsi jaoks.
- Piiripealsete juhtumite uurimine, mida kiire klassifikaator ei suuda piisava kindlusega lahendada.
- Turvapoliitikate testimine ja täiustamine uute või spetsiifiliste riskide korral.
- Modereerimise töövoogude käitamine kohapeal või kontrollitud taristus, kui hostitud lõpp-punkt ei sobi.
Millal see mudel valida?
Vali gpt-oss-safeguard-120b siis, kui poliitikate kohandatavus, avatud kaaludega juurutamine ja kontrollitav arutlus on olulisemad kui minimaalne latentsus või taristukulu. See on eriti asjakohane juhul, kui organisatsioon vajab tavalisest modereerimistaksonoomiast spetsiifilisemaid reegleid või kui turvameeskonnad soovivad kontrollida, kuidas mudel neid reegleid rakendas.
Väiksem spetsiaalne klassifikaator võib olla parem valik tavapärase suure mahuga modereerimise jaoks, kus määravaks saavad kiirus ja kulu. Hostitud modereerimisteenus võib sobida paremini siis, kui meeskond ei soovi hallata GPU-sid, mudelite teenindamist ega turvalisuse hindamise töövoogu. Üldotstarbeline keelemudel sobib paremini kasutajatega suhtlemiseks, sisu genereerimiseks või programmeerimisabiks.
Paljude tootmissüsteemide puhul ei ole kõige sobivam lahendus valida ainult üks võimalus. Kiire eelfilter võib tegeleda ilmsete juhtumitega, samal ajal kui gpt-oss-safeguard-120b kontrollib ebaselget sisu, keerulisi vestlusi, poliitikamuudatusi või juhtumeid, mis vajavad inimese sekkumist.
Kättesaadavus ja juurutamine
gpt-oss-safeguard-120b on OpenAI Hugging Face'i repositooriumist allalaaditavate avatud kaaludena saadaval. Seda kirjeldatakse teadusliku eelversioonina, mistõttu peaksid meeskonnad enne selle kasutamist oluliste otsuste tegemisel valideerima mudeli käitumist oma poliitikate ja andmete põhjal.
Mudel toimib kõige paremini ühe kihina laiemas kihilise kaitse süsteemis. Juurutus peaks hõlmama poliitikaversioonide haldust, esinduslikke hindamisi, jaotuste muutuste seiret, eskalatsiooniteid ning kontrolle, mis piiravad vale klassifitseerimise mõju. Avatud kaalud annavad juurutamise üle suurema kontrolli, kuid ei kaota vajadust hoolika turvatehnika järele.