Mis on GPT-OSS-120B?
GPT-OSS-120B on OpenAI suurim avatud kaaludega arutlusmudel. OpenAI avaldas selle 5. augustil 2025 koos väiksema mudeliga GPT-OSS-20B. Erinevalt mudelitest, millele pääseb ligi ainult teenusepakkuja hallatava lõpp-punkti kaudu, saab GPT-OSS-120B alla laadida, kohandada, täiendavalt treenida ja juurutada arendaja, organisatsiooni või kolmanda osapoole järeldusteenuse pakkuja hallatavas taristus.
Mudel on mõeldud rakendustele, mis vajavad arutlemist, koodi loomist, juhiste järgimist ja mitmeastmelisi agentseid töövooge. Seda levitatakse Apache 2.0 litsentsi alusel, mis lubab üldjuhul ärilist kasutamist, muutmist ja edasi levitamist vastavalt litsentsi tingimustele. OpenAI esitleb mudelit võimalusena meeskondadele, kes soovivad juurutamise, andmekäitluse ja mudeli kohandamise üle suuremat kontrolli kui tavapärase majutatud API puhul.
GPT-OSS-120B on ainult tekstipõhine. See genereerib teksti või struktureeritud tekstivastuseid, kuigi rakendus saab need vastused ühendada väliste tööriistadega, näiteks veebiotsingu või Pythoni käivitamisega. Mudel ise ei genereeri algupäraselt pilte, heli, videot ega muud mittetekstilist meediat.
Arhitektuur, parameetrid ja konteksti piirangud
GPT-OSS-120B kasutab ekspertide segu ehk MoE Transformer-arhitektuuri. See sisaldab ligikaudu 117 miljardit parameetrit, kuid iga märgi korral aktiveeritakse neist ainult umbes 5,1 miljardit. Praktilises mõttes on mudeli koguvõimekus suur, kuid iga vastuse osa puhul kasutatakse väiksemat aktiivset arvutusteed.
Arhitektuuril on 36 kihti ja 128 eksperti, millest iga märgi korral aktiveeritakse neli. Selline hõre ülesehitus võib vähendada järeldamisega seotud arvutusi võrreldes sarnase parameetrite koguarvuga tiheda mudeliga, kuigi tegelik kiirus ja mälukasutus sõltuvad teeninduskeskkonnast, kvantimisest, riistvarast, paketisuurusest ja konteksti pikkusest.
OpenAI praeguses mudelidokumentatsioonis on kontekstiaknaks märgitud 131 072 märki ja maksimaalseks väljundi pikkuseks kuni 131 072 märki. Kontekstiaken hõlmab mudelile antud materjali ja genereeritud vastust, mistõttu võivad väga pikad viibad vähendada väljundi jaoks saadaolevat ruumi. Tegelikes juurutustes võivad piirangud olla väiksemad saadaoleva mälu, teenuse konfiguratsiooni või teenusepakkuja kehtestatud piirangute tõttu.
OpenAI väitel mahub mudel ühe 80 GB klassi GPU-le, näiteks H100-le, kui kasutatakse selle algupärast MXFP4-kvantimist. See on juurutamise siht, mitte iga konfiguratsiooni garantii. Pikemad jadad, samaaegsed päringud, teistsugused kvantimisvalikud ja tootmiskeskkonna teenindamisega seotud lisakulu võivad nõuda rohkem mälu või mitut GPU-d.
Arutlus- ja agentsed võimekused
GPT-OSS-120B toetab väikese, keskmise ja suure arutlusmahuga seadeid. Väiksem maht võib vähendada latentsust ja arvutuskulu, suurem maht annab mudelile rohkem võimalusi keerukate probleemide lahendamiseks. Sobivaim seade sõltub sellest, kas rakendus väärtustab rohkem vastuse kiirust, taristu maksumust või põhjalikumat probleemilahendust.
Mudelit täiendtreeniti arutlusmudelite arendamisega seotud meetodite abil, sealhulgas juhendatud peenhäälestuse ja tugevdusõppega. OpenAI esitleb seda mudelina ülesannetele, mis hõlmavad mitmeastmelist arutlemist, programmeerimist, teadus- ja matemaatikaülesandeid, juhiste järgimist ning tööriistadele suunatud agente.
Selle agentsed võimekused ei tähenda, et mudel sooritab iseseisvalt kõik välised toimingud. Mudel võib genereerida funktsioonikutse või struktureeritud päringu, kuid ümbritsev rakendus peab selle päringu valideerima, valitud tööriista käivitama ja tulemuse tagasi saatma. See eristus on turvalisuse seisukohalt oluline: arendajad vastutavad endiselt autoriseerimise, sisendi valideerimise, tööriistade õiguste, logimise ja viipesüstimise vastaste kaitsemeetmete eest.
Programmeerimise ja hindamise ülevaade
OpenAI sõnul treeniti GPT-OSS-120B-d rõhuasetusega STEM-valdkondadele, programmeerimisele ja üldteadmistele. Ettevõte teatab tugevatest tulemustest arutluse, võistlusmatemaatika, programmeerimise ja tööriistakutsete hindamistes. OpenAI väidab ka, et mudel ületas o3-mini ning saavutas valitud programmeerimise, üldise probleemilahenduse ja tööriistakasutuse testides o4-mini-ga võrdse või parema tulemuse, eriti tugevad olid tulemused võistlusmatemaatikas ja tervisega seotud hindamistes.
Programmeerimisabiliste puhul on GPT-OSS-120B kõige kasulikum siis, kui see saab uurida asjakohast koodi, arutleda mitme faili üle ning kasutada testide või dokumentatsiooni otsingu jaoks kontrollitud tööriistu. Tootmissüsteemide muutmiseks ei tohiks sellele anda piiramatut ligipääsu ilma ülevaatuse ja keskkonnatasandi kaitsemeetmeteta.
Kuidas GPT-OSS-120B-d juurutatakse
Mudeli kaalud on saadaval OpenAI Hugging Face'i repositooriumi kaudu. OpenAI pakub ökosüsteemi juhiseid ka selliste tööriistade jaoks nagu Transformers, vLLM, Ollama ja LM Studio. Mudel treeniti OpenAI Harmony vastusevormingu jaoks, mistõttu peaks rakendus kasutama ühilduvat vestlusmalli või renderdajat, mitte eeldama, et üldine vestlusviip tagab optimaalse käitumise.
GPT-OSS-120B on peamiselt ise majutatav või kolmanda osapoole majutatud mudel. OpenAI abidokumentatsiooni kohaselt ei ole see OpenAI API kaudu saadaval. Seetõttu ei ole sellel ametlikku OpenAI majutatud teenuse märgipõhist hinda. Kasutamise maksumus sõltub valitud riistvarast, pilve-GPU rentimisest või järeldusteenuse pakkujast, kvantimisest, liikluse mahust, salvestusest, orkestreerimisest ja käitamise nõuetest.
See hinnastusmudel erineb põhimõtteliselt tavalisest majutatud API-st. Ise majutamine võib anda andmete ja kohandamise üle suurema kontrolli, kuid operaator peab tasuma taristu eest ning haldama skaleerimist, töökindlust, uuendusi, seiret ja turvalisust. Kolmanda osapoole pakkuja võib toiminguid lihtsustada, kuid sellega võivad kaasneda pakkujapõhised hinnad, piirangud, privaatsustingimused ja kättesaadavus.
Apache 2.0 litsents on oluline eelis organisatsioonidele, kes vajavad ärisõbralikku edasi levitamise või muutmise õigust. Litsents ei välista siiski vastutustundliku juurutamise vajadust. Operaatorid vastutavad endiselt privaatsuse, juurdepääsukontrolli, sisueeskirjade, seire ja mudelil põhinevate rakendustega kaasnevate riskide eest.
Modaalsused, struktureeritud väljund ja teadmiste lõppkuupäev
GPT-OSS-120B võtab vastu tekstisisendit ja tagastab teksti või struktureeritud tekstiväljundi. See ei võta algupäraselt vastu pilte, heli ega videot ega genereeri pilte, heli, muusikat või videot. Nägemist, kõnet või meedia genereerimist vajav rakendus peab ühendama GPT-OSS-120B eraldi mudelite või töötluskomponentidega.
Mudel toetab ühilduvate tööriistadega integreerituna struktureeritud väljundit ja funktsioonikutseid. Struktureeritud väljund võib muuta vastuste tarkvaralise töötlemise lihtsamaks, kuid seda ei tohiks segi ajada mudeli iseseisva toimingu sooritamisega. Rakendused peavad endiselt genereeritud välju valideerima ning vigased, ohtlikud või autoriseerimata päringud tagasi lükkama.
OpenAI märgib teadmiste lõppkuupäevaks 1. juuni 2024. Veebiotsingu või otsingupõhise hankimise tööriistad võivad seansi ajal pakkuda uuemat teavet, kuid hankimine ei muuda mudeli aluseks olevat treeningandmete lõppkuupäeva. Sündmuste, muutuva dokumentatsiooni, hindade või jooksva operatiivse teabe puhul peaks rakendus kasutama sobivat hankimis- või otsingukomponenti ning eristama selgelt hangitud teavet mudeli varasematest teadmistest.
Peamised tugevused ja piirangud
- Avatud juurutamine: Allalaaditavad kaalud võimaldavad mudelit juurutada kohapeal, privaatselt, kohandatult või kolmanda osapoole kaudu, ilma et oleks vaja kasutada OpenAI majutatud järeldusteenust.
- Arutluse juhtimine: Väikese, keskmise ja suure arutlusmahuga seaded võimaldavad praktiliselt tasakaalustada latentsust ja kvaliteeti.
- Suur kontekst: Dokumenteeritud 131 072 märgi suurune kontekstiaken toetab pikki dokumente, koodibaase ja mitmeastmelisi vestlusi, kui riistvara seda võimaldab.
- Tööriistadele suunatud ülesehitus: Funktsioonikutsed, struktureeritud väljundid ja agentsed töövood toetavad rakendusi, mis ühendavad mudeli kontrollitud väliste tööriistadega.
- Ärisõbralik litsents: Apache 2.0 litsents toetab muutmist ja ärilist kasutamist vastavalt selle tingimustele.
- Vastutus taristu eest: Ise majutamine nõuab GPU-võimekust, teenindamise asjatundlikkust, seiret, turvakontrolle ja hooldust.
- Algupärase meediatoe puudumine: Mudel ei sobi iseseisvalt pildi-, heli-, video- ega multimodaalseks sisendiks ja väljundiks.
- Teadmiste lõppkuupäev: Ilma hankimiseta ei saa eeldada, et mudel teab pärast 1. juunit 2024 toimunud sündmusi või muudatusi.
- Piiratud keskne kontroll pärast allalaadimist: Pärast juurutamist ei saa mudelikaalud automaatselt teenusepakkuja ohutus- ega käitumisuuendusi samal viisil nagu tsentraalselt majutatud teenuses.
Millal valida GPT-OSS-120B?
Vali GPT-OSS-120B siis, kui kontroll juurutamise üle on olulisem kui võtmed-kätte-majutus. See on mõistlik kandidaat privaatsetele ettevõtteabilistele, programmeerimissüsteemidele, uurimisprojektidele, valdkonnaspetsiifilisele kohandamisele, hindamiskeskkondadele ja agentsetele rakendustele, mis vajavad kohapealset või kolmanda osapoole järeldusteenust.
See on eriti atraktiivne siis, kui organisatsioon soovib mudelit uurida või muuta, seda täiendavalt treenida, kontrollida andmetöötluse asukohta või vältida sõltuvust ühe pakkuja majutatud API-st. Suur kontekstiaken ja seadistatav arutlusmaht võivad samuti aidata pikkade dokumentide, keerukate programmeerimisülesannete ja mitmeastmeliste töövoogude puhul.
Majutatud API-mudel võib olla sobivam siis, kui esmatähtsad on kiire integreerimine, prognoositav teenusepakkuja hallatav töö, taristu automaatne skaleerimine või juurdepääs algupärasele nägemisele, helile ja muudele modaalsustele. Väiksem mudel võib olla eelistatum, kui olulisemad on väike latentsus, madal riistvarakulu või suur päringumaht, mitte maksimaalne arutlusvõimekus. Kui tekstipõhisest töötlusest ei piisa, sobib paremini spetsialiseeritud multimodaalne või helimudel.
Seetõttu tuleks GPT-OSS-120B-d hinnata avatud kaaludega juurutusvalikuna, mitte lihtsalt OpenAI majutatud mudeli odavama versioonina. Selle peamine kompromiss on suurem kontroll ja kohandatavus vastutasuks mudeli käitamiseks vajaliku inseneritöö ja taristukulu eest.
Kokkuvõte
GPT-OSS-120B ühendab suure hõreda ekspertide segu arhitektuuri 131 072 märgi suuruse kontekstiaknaga, seadistatava arutlusmahuga, programmeerimise ja tööriistakasutuse toega, struktureeritud väljundite ning Apache 2.0 litsentsiga. Selle tugevaimad kasutusjuhud on ise majutatud või kolmanda osapoole juurutused, kus meeskonnad vajavad kontrolli, kohandatavust ja agentsel arutlusel põhinevaid võimekusi.
Mudel sobib vähem kasutajatele, kes otsivad hallatavat OpenAI API lõpp-punkti, sisseehitatud multimodaalseid võimekusi, minimaalset taristutööd või teenusepakkuja hallatavaid ohutusuuendusi. Selle tegelik väärtus sõltub mitte ainult mudeli kvaliteedist, vaid ka GPU-de kättesaadavusest, teeninduse konfiguratsioonist, tööriistade ülesehitusest, hindamise põhjalikkusest ja juurutava organisatsiooni käitamisvõimekusest.