Mis on gpt-oss-20b?
gpt-oss-20b on OpenAI pakutav avatud kaaludega arutlusvõimeline keelemudel, mis avaldati 5. augustil 2025. „Avatud kaaludega” tähendab, et arendajad saavad mudeli kaalud alla laadida ja neid käitada, selle asemel et mudel oleks saadaval ainult hallatud teenusepakkuja lõpp-punkti kaudu. Kasutajad saavad selle juurutada lokaalselt, organisatsiooni enda taristus, privaatses pilves või kolmanda osapoole järeldusteenuse pakkuja kaudu.
Mudelil on ligikaudu 21 miljardit parameetrit. See kasutab ekspertide segu arhitektuuri, mistõttu on iga märgi töötlemisel aktiivne ainult osa parameetritest. OpenAI dokumentatsiooni kohaselt on iga märgi kohta aktiivsed ligikaudu 3,6 miljardit parameetrit. Selle lahenduse eesmärk on pakkuda suurema mudeli esitlusvõimekust, vähendades samal ajal iga genereeritava märgi jaoks vajalikku arvutusmahtu.
gpt-oss-20b on algse gpt-oss-i väljalaske väiksem mudel, mille kõrval on saadaval ka gpt-oss-120b. Mõlemad mudelid kasutavad avatud kaaludega juurutusviisi, kuid gpt-oss-20b on mõeldud väiksema latentsuse ja tagasihoidlikumate riistvaranõuetega juurutusteks. See ei kuulu ChatGPT-sse ning OpenAI API kaudu ei pakuta seda ametliku mudelina.
Kes peaksid gpt-oss-20b kasutama?
Mudel on eelkõige mõeldud arendajatele ja organisatsioonidele, kes vajavad järelduste tegemisel suuremat kontrolli, kui hallatud API tavaliselt võimaldab. Kaalude ise käitamine võib toetada privaatset andmetöötlust, kohandatud turvapoliitikaid, spetsialiseeritud tööriistaintegreerimist ja organisatsioonipõhistel andmetel peenhäälestamist.
See on eriti asjakohane kodeerimisabiliste, organisatsioonisiseste küsimustele vastamise süsteemide, lokaalsete uurimistööriistade, agentsete töövoogude ja rakenduste jaoks, mis vajavad arutlusvõimelist mudelit ilma iga päringut teenusepakkuja hallatavasse teenusesse saatmata. See võib olla kasulik ka kiireks katsetamiseks, sest kaalud ja näidisintegratsioonid on saadaval OpenAI mudelirepositooriumi ning seotud avatud lähtekoodiga tööriistade kaudu.
Sellise paindlikkusega kaasneb ka vastutus käitamise eest. Ise hostitud juurutus nõuab otsuseid riistvara, serveerimistarkvara, juurdepääsukontrolli, seire, logimise, väärkasutuse ennetamise, uuenduste ja hindamise kohta. Seetõttu ei ole see hallatud API otsene asendus juhul, kui peamine eesmärk on kiire tootmiskasutus minimaalse taristutööga.
Arhitektuur ja 128K kontekstiaken
gpt-oss-20b kasutab 24 kihi ja ekspertide segu marsruutimisega Transformeri arhitektuuri. Konfiguratsioon sisaldab 32 lokaalset eksperti ning iga märgi puhul aktiveeritakse neist neli. Samuti kasutatakse vaheldumisi libiseva ja täieliku tähelepanu mustreid, rühmitatud mitme päringuga tähelepanu ning pöörlevaid positsioonilisi esitusi. Need üksikasjad mõjutavad seda, kuidas mudel pikki sisendeid töötleb ja kui tõhusalt suudab järeldusmootor seda teenindada.
Dokumenteeritud maksimaalne konteksti pikkus on 128K märki ehk mudeli konfiguratsioonis 131 072 märki. Kontekstiaken hõlmab päringu käigus mudelile edastatavat teavet, näiteks süsteemijuhiseid, vestluse ajalugu, dokumente, tööriistade määratlusi ja genereeritud vastust. Pikk kontekstilimiit ei taga, et iga käituskeskkond töötab maksimaalse pikkuse juures sama hästi; mälukasutus ja latentsus sõltuvad konteksti suurusest, pakktöötlusest, riistvarast ja serveerimistarkvarast.
Väljaantud kontrollpunkt kasutab ekspertide segu kaalude puhul MXFP4-kvantimist. Kvantimine talletab mudeli väärtused kompaktsemas arvulises vormingus, vähendades mälunõudeid võrreldes suurema täpsusega kaaludega. OpenAI väitel saab gpt-oss-20b käitada ligikaudu 16 GB mäluga, kuid see on sihtväärtus, mitte universaalne riistvaranõue. Käituskeskkonna lisakulu, operatsioonisüsteemi mälukasutus, konteksti pikkus, samaaegsed päringud ja teostuse üksikasjad võivad tegelikku nõuet suurendada.
Arutlus, kodeerimine ja üldised võimekused
gpt-oss-20b on loodud arutlusvõimelise mudelina, mitte lihtsa teksti lõpetamise mudelina. See toetab väikese, keskmise ja suure arutlusmahuga seadeid. Need seaded võimaldavad rakendusel tasakaalustada arutlemise sügavust ja vastuse kiirust: väiksem arutlusmaht võib vähendada latentsust, suurem arutlusmaht võib aga sobida paremini keerukate mitmeastmeliste ülesannete jaoks. Täpne kvaliteedi- ja kiiruseerinevus sõltub viipast, käituskeskkonnast ja riistvarast.
Mudel on treenitud juhiste järgimiseks, STEM-ülesannete, kodeerimise ja üldteadmiste jaoks ning agentsete tööriistakasutuse stsenaariumide tarbeks. Praktiliselt saab seda kasutada tehnilise materjali selgitamiseks, koodi genereerimiseks või ülevaatamiseks, teksti analüüsimiseks, struktureeritud juhiste järgimiseks ning probleemi enne vastuse koostamist mitmeks sammuks jaotamiseks.
OpenAI andmetel on gpt-oss-20b mitmes avaldatud hindamises sarnase jõudlusega nagu OpenAI o3-mini. OpenAI võrdlusandmetes on toodud tulemused 85,3 MMLU-s, 71,5 GPQA Diamondis, 17,3 Humanity's Last Examis, 96,0 AIME 2024-s ja 98,7 AIME 2025-s. Need on teenusepakkuja esitatud võrdlustulemused kindlaksmääratud hindamistingimustes. Need aitavad mõista mudeli kavandatud positsioneerimist, kuid neid ei tohiks käsitleda konkreetse rakenduse või andmestiku jõudluse garantiina.
Mudeli kodeerimisvõimekust on kõige parem mõista selle laiema arutlus- ja juhiste järgimise ülesehituse osana. See võib toetada kodeerimisabilisi, koodi selgitamist, silumist ja tööriistadega ühendatud arendustöövooge. Esitatud uurimistöö ei määra kindlaks universaalset programmeerimiskeelte edetabelit ega garanteeritud tarkvaraarenduse edukuse määra, mistõttu peaks tootmiskasutus hõlmama repositooriumipõhiseid teste ja inimkontrolli.
Tööriistad, funktsioonikutsed ja struktureeritud väljund
gpt-oss-20b on treenitud tööriistu kasutama ning seda saab ühendada funktsioonikutsumise töövoogudega. Tööriistadega ühendatud rakendus võib paluda mudelil valida saadaoleva funktsiooni, esitada argumendid ja lisada tagastatud tulemuse hilisemasse vastusesse. Mudel ise ei saa automaatselt juurdepääsu internetile, andmebaasidele ega operatsioonisüsteemi toimingutele; need võimalused tulenevad tööriistadest ja käituskeskkonnast, millega operaator mudeli ühendab.
OpenAI näidislahenduste ökosüsteem sisaldab brauseripõhise veebisirvimise ja Pythoni käivitamise näiteid. Mudel ühildub ka OpenAI-ühilduvate lokaalsete serverite ja mitme järeldusmootoriga. Tööriistade käitumine, skeemid, veakäsitlus ja turvakontrollid võivad Transformersis, vLLM-is, SGLangis, Ollamas, LM Studios ja muudes serveerimisvirnades erineda.
Veebiotsing on väline võimekus, mitte mudeli aluseks olevate teadmiste muutus. Kui brauser või otsingutööriist on ühendatud, edastab see järelduse tegemise ajal ajakohast teavet. See ei loo uut teadmiste lõppkuupäeva ega uuenda mudeli kaale.
Mudel kasutab OpenAI Harmony vastusevormingut. OpenAI soovitab seda vormingut kasutada, et tagada korrektne käitumine arutlussõnumite, tööriistakutsete või struktureeritud vastuste korral. gpt-oss-20b toetab ka struktureeritud väljundeid, kui serveerimisrakendus selle võimaluse avalikustab. Arendajad peaksid kontrollima valitud käituskeskkonna täpset skeemi jõustamise käitumist, mitte eeldama, et kõik OpenAI-ühilduvad serverid pakuvad identseid tagatisi.
Sisendi- ja väljundiviisid
gpt-oss-20b on ainult tekstipõhine. See võtab vastu tekstipõhiseid viipasid ja genereerib tekstivastuseid, arutlusega seotud sisu, tööriistakutseid ning struktureeritud masinloetavaid vastuseid sõltuvalt viiba vormingust ja serveerimisrakendusest.
See ei võta loomupäraselt vastu pilte, heli ega videot. Samuti ei genereeri see pilte, heli, muusikat ega videot. Rakendus võib lisada viipa väljavõetud teksti või väliselt genereeritud kirjeldusi, kuid see ei ole sama mis loomupärane multimodaalne mõistmine. Pildianalüüsi, kõnesuhtluse või video genereerimise jaoks sobib paremini nendele viisidele loodud mudel.
Juurutusvõimalused ja riistvara
OpenAI ametlik repositoorium pakub näidisteostusi ja integratsioone Transformersile, vLLM-ile, SGLangile, Ollamale, LM Studiole, PyTorchile, Tritonile ja Apple Metalile. Ökosüsteem sisaldab ka näiteid kaalude allalaadimiseks Hugging Face'ist ning mudeli käitamiseks OpenAI-ühilduvate lokaalsete serverite kaudu.
Ligikaudu 16 GB suurune mälusiht muudab gpt-oss-20b mõne tarbijale mõeldud GPU, tööjaama ja valitud servasüsteemi jaoks praktilisemaks kui suuremad avatud kaaludega mudelid. „Käitatav” ja „tõhusalt teenindatav” tähendavad siiski eri nõudeid. Lühike ühe kasutaja päring võib mahtuda riistvarasihti, kuid pikad kontekstid, mitu samaaegset kasutajat, suurem läbilase või suur võtme-väärtuse vahemälu võivad nõuda märksa rohkem mälu.
Käituskeskkonna valik mõjutab ka kiirust. Hästi optimeeritud teostus koos toetatud kvantimise ja sobiva riistvaraga võib pakkuda reageerimisvõimelist lokaalset järeldust, samas kui toetamata vormingud või piiratud mälu võivad põhjustada aeglasemat genereerimist, protsessorile suunamist või väiksemat samaaegsust. Kavandatava töökoormuse võrdlustestid on usaldusväärsemad kui üksnes nimiparameetrite arvule tuginemine.
Hind, litsents ja API kättesaadavus
gpt-oss-20b jaoks ei ole ametlikku OpenAI sisend- ega väljundmärgi hinda, sest OpenAI ei hosti seda mudelit OpenAI API kaudu. Kaalud on allalaadimiseks saadaval Apache 2.0 litsentsi alusel, järgides OpenAI gpt-oss-i kasutuspoliitikat.
„Tasuta allalaaditav” ei tähenda, et juurutamisel pole kulusid. Operaatorid võivad maksta GPU või tööjaama, pilveeksemplaride, salvestusruumi, elektri, võrguühenduse, hoolduse ja arendusaja eest. Kolmandate osapoolte teenusepakkujad võivad pakkuda hostitud järeldusteenust, kuid nende hinnad sõltuvad teenusepakkujast, riistvarast, päringute mahust, jõudluseesmärgist ja juurutuskonfiguratsioonist. Neid hindu ei tohiks segi ajada OpenAI ametliku API hinnakirjaga.
Apache 2.0 litsents lubab üldjuhul mudelit tingimuste kohaselt äriliselt ja privaatselt kasutada, kuid oluline on arvestada ka eraldi kasutuspoliitika ja kehtivate seadustega. Organisatsioonid peaksid mõlemad enne mudeli juurutamist tootes või reguleeritud töövoos üle vaatama.
Peamised tugevused ja piirangud
Tugevused
- Kontroll lokaalses keskkonnas: Kaalusid saab käitada arendaja või organisatsiooni hallatavas taristus.
- Arutluse juhtimine: Väike, keskmine ja suur arutlusmaht võimaldavad praktilist kompromissi latentsuse ja arutlemise sügavuse vahel.
- Pikk kontekst: Dokumenteeritud 128K märgi pikkune kontekst toetab pikki juhiseid, dokumente ja tööriistaajalugusid, arvestades käituskeskkonna mälupiiranguid.
- Tõhus arhitektuur: Ekspertide segu marsruutimine aktiveerib iga märgi kohta ligikaudu 3,6 miljardit parameetrit, mitte kõiki ligikaudu 21 miljardit parameetrit.
- Kohandatavus: Arendajad saavad kohandada viipasid, tööriistu, turvakontrolle, käituskeskkondi ja peenhäälestusandmeid.
- Avatud juurutusökosüsteem: Ametlikud juhendid hõlmavad mitut laialt kasutatavat lokaalset ja ise hostitavat käituskeskkonda.
Piirangud
- Puudub OpenAI hallatud lõpp-punkt: See ei ole saadaval OpenAI API ega ChatGPT kaudu.
- Ainult tekstipõhine töö: Loomupärast pildi-, heli- ja videosisendit ega -väljundit ei toetata.
- Käitamisega seotud koormus: Operaator vastutab skaleerimise, turbe, seire, tööriistade käitamise ja ohutuse hindamise eest.
- Käituskeskkonna muutlik käitumine: Voogedastus, tööriistade kasutamine ja struktureeritud väljundid sõltuvad osaliselt valitud serveerimisrakendusest.
- Esitatud uurimistöös ei ole dokumenteeritud maksimaalset väljundipiirangut: Teenusepakkuja avaldatud maksimaalset väljundmärkide arvu ei tuvastatud.
- Kvaliteet võib varieeruda: Võrdlustulemused ei taga jõudlust konkreetses valdkonnas, koodibaasis ega äriprotsessis.
Millal valida gpt-oss-20b?
Vali gpt-oss-20b siis, kui lokaalne või privaatne järelduste tegemine on täielikult hallatud API-le juurdepääsust olulisem. See on mõistlik valik näiteks arenduskeskkonna lähedal töötava kodeerimisabilise, organisatsioonisisese dokumendiabilise, organisatsiooni kontrollitavate tööriistadega privaatse agendi või servajuutuse jaoks, kus suurem mudel oleks liiga aeglane või kulukas.
See võib olla atraktiivne ka siis, kui rakendus vajab võimalust katsetada arutlusmahu, funktsioonikutsumise, struktureeritud vastuste või peenhäälestamisega, ilma et peaks siduma end teenusepakkuja hostitud mudeliga. Väiksem aktiivsete parameetrite arv ja mälusiht võivad pakkuda suuremate avatud kaaludega mudelitega võrreldes paremat kiiruse ja kulu suhet, eriti ühe kasutaja või mõõduka läbilaskevõimega juurutustes.
Teine võimalus võib olla sobivam, kui rakendus vajab loomupärast pildi-, heli- või videovõimekust, garanteeritud hallatud kättesaadavust, dokumenteeritud hostitud teenuse hinda või minimaalset vastutust taristu eest. Suurem arutlusvõimeline mudel võib olla eelistatud ülesannete puhul, kus maksimaalne kvaliteet on olulisem kui lokaalsed ressursinõuded. Seevastu väiksem arutlusvõimetu mudel võib sobida paremini lihtsa klassifitseerimise või lühikeste vastuste jaoks, kus arutlemine tekitaks tarbetut latentsust.
Juurutusotsuse tegemisel võrdle kogu käitamise kulu, mitte ainult litsentsi. Mõõda tegelikult kasutatava riistvara ja käituskeskkonna puhul vastuse latentsust, konteksti pikkust, samaaegsete kasutajate arvu, tööriistakutsete usaldusväärsust, struktureeritud väljundi nõuetele vastavust ning ülesandepõhist täpsust.
Kokkuvõte
gpt-oss-20b on allalaaditav OpenAI arutlusvõimeline mudel, mille eesmärk on muuta lokaalne ja privaatne juurutus suhteliselt tagasihoidliku riistvaramahu juures praktiliseks. Selle 128K kontekst, seadistatav arutlusmaht, tööriistade kasutamise tugi, ühilduvus struktureeritud väljunditega ja võimalus mudelit peenhäälestada muudavad selle sobivaks arendajatele, kes soovivad kontrollida nii mudelit kui ka selle serveerimiskeskkonda.
Selle keskne kompromiss on selge: mudel välistab ametliku märgipõhise API-tasu ja annab operaatoritele kontrolli, kuid samal ajal lähevad taristu, turbe ja töökindluse eest vastutamise kohustused neile üle. Seetõttu tuleks seda käsitleda tekstipõhiste rakenduste ise hostitava arutlusvundamendina, mitte hallatud multimodaalse teenuse otsese asendusena.