SERA-32B

Mis on SERA-32B?

SERA-32B on Allen Institute for AI (Ai2) välja töötatud avatud kaaludega kodeerimis- ja tarkvaratehnika agent. See on mõeldud hoidlapõhiseks tööks: olemasoleva koodibaasi mõistmiseks, probleemi allika leidmiseks, ühe või mitme faili muutmiseks ning lahenduse loomiseks, mida saab üle vaadata ja testida.

Mudel on Ai2 sarja Open Coding Agents esimene väljalase. Selle peamised kasutusalad on vigade parandamine, funktsioonide rakendamine, refaktoreerimine, hoidlate hooldus ja kodeerimisagentide uurimine. Erinevalt mudelist, mida esitletakse peamiselt üldise vestlusabilisenа, on SERA-32B spetsialiseerunud tarkvaratehnika töövoogudele.

SERA-32B on Apache 2.0 litsentsi alusel saadaval allenai/SERA-32B Hugging Face'i hoidlas. Kaalud on saadaval ise majutamiseks ning Ai2 dokumenteerib juurutamist vLLM-iga, mis on keelemudelite suure jõudlusega järeldusserver.

SERA-32B koht Ai2 mudelivalikus

SERA-32B on Ai2 sarja Open Coding Agents lipulaevamudel ning seda kirjeldatakse praegu avatud kaaludega mudelina, mitte teenusepakkuja majutatava ja tokenipõhiselt hinnastatud API-tootena. Sellel erinevusel on praktiline tähtsus: kasutajad peavad üldjuhul korraldama GPU-taristu ja mudelit ise käitama, mitte saatma päringuid tavapärasesse hallatud lõpp-punkti.

Seetõttu erineb selle positsioon üldotstarbelisest majutatud mudelist, mille puhul rõhutatakse laialdasi teadmisi, hõlpsat juurdepääsu või suurt modaliteetide valikut. SERA-32B on keskendunum valik meeskondadele ja teadlastele, kes väärtustavad juurutamise üle kontrolli, juurdepääsu mudeli kaaludele ning võimalust kohandada mudelit privaatse koodibaasiga.

Arhitektuur ja treenimine

SERA-32B põhineb mudelil Qwen 3-32B, mis on 32 miljardi parameetriga keelemudel. Ai2 kasutas treeningmaterjali genereerimiseks õpetajamudelina mudelit GLM-4.6. Välja antud mudelit juhendatud peenhäälestati 25 000 sünteetilise kodeerimisagendi trajektooriga, mis tuletati 121 Pythoni hoidlast.

Need trajektoorid loodi Ai2 meetodiga Soft Verified Generation. Lihtsustatult pakub õpetajamudel kõigepealt välja koodimuudatuse. See muudatus teisendatakse seejärel tõmbetaotluse laadseks kirjelduseks ning õpetajamudel püüab kirjelduse põhjal muudatuse uuesti luua. Ai2 kasutab pehme kontrollsignaalina rea tasemel paiga taasesitust. Nii saab treeningprotsess mõõta, kas kavandatud muudatus loodi uuesti, ilma et iga näite puhul sõltutaks testide käivitamisest või spetsiaalsest testitaristust.

Selle lähenemisviisi eesmärk on õpetada hoidlapõhist käitumist, mitte ainult järgmise koodirea lõpetamist. Trajektoor võib hõlmata probleemi uurimist, mitme faili muutmist ja tööriistapõhist suhtlust. Treening ja avaldatud hindamine keskenduvad siiski peamiselt Pythoni hoidlatele, mistõttu ei tõenda olemasolevad andmed võrdset jõudlust teistes programmeerimiskeeltes.

Kontekst, juurutamine ja toetatud suhtlus

32 768 tokeni suurune kontekstiaken annab mudelile piisavalt ruumi mahukate juhiste, lähtefailide, tööriistade tulemuste ja hoidlaarutelu töötlemiseks ühe suhtluse käigus. See ei tähenda, et terve suur hoidla mahuks automaatselt ühte päringusse. Praktilises töövoos tuleb endiselt valida asjakohased failid, hallata tööriistade väljundit ja vältida konteksti täitmist ebavajaliku materjaliga.

Esitatud spetsifikatsioonides ei ole märgitud eraldi maksimaalset väljundtokenite piirangut. Samuti ei ole esitatud teenusepakkuja majutatava API hinda. Kuna SERA-32B on välja antud avatud kaaludega mudelina, moodustavad peamise käitamiskulu taristu, sealhulgas GPU-de rent või omamine, salvestusruum ja järeldusaeg. Tegelik hind sõltub riistvarast ja juurutuse konfiguratsioonist, mitte avaldatud tokenipõhisest hinnakirjast.

Ai2 dokumenteerib Hermese vormingus tööriistakutsed ja vLLM-i juurutamise tensorparalleelsusega. Tööriistakutsed võimaldavad välisel käitajal pakkuda selliseid toiminguid nagu failide lugemine, hoidla otsimine, muudatuste rakendamine või muude töövootoimingute käivitamine. Mudelit ennast ei tohiks käsitada piiranguteta täitmiskeskkonnana: tööriistad peab ümbritsev rakendus ise rakendama, neile õigused andma ja nende kasutamist jälgima.

Jõudlus SWE-bench Verified testis

Ai2 teatab, et SERA-32B lahendamismäär SWE-bench Verified testis 32K kontekstipikkuse korral on 49,5% ± 1,9%. Tulemus arvutati kolme juhusliku seemne põhjal. SWE-bench Verified mõõdab, kas agent suudab lahendada valitud tarkvaraprobleeme päris hoidlates, mistõttu on see hoidlapõhise kodeerimise seisukohast asjakohasem kui lihtne koodigenereerimise test.

See on teenusepakkuja esitatud võrdlustesti tulemus, mitte konkreetse projekti garantii. Tulemus kehtib SWE-bench Verified testi kohta ja seda ei tohiks tõlgendada universaalse kodeerimisvõime mõõdikuna. Tulemused võivad muutuda sõltuvalt agendi tööraamistikust, viipadest, saadaolevatest tööriistadest, hoidlate valikust, järeldusseadetest ja hindamisprotseduurist. Avaldatud andmed ei tõesta ka võrreldavat jõudlust igas programmeerimiskeeles ega muudes, mitteseotud tarkvaratehnika võrdlustestides.

Esitatud kataloogi toimetuslik hinnang annab SERA-32B-le kodeerimise spetsialiseerituse eest kõrge hinde ning madalamad, kuid siiski soodsad hinnangud arutlusvõimele, kiirusele ja kulule. Need hinnangud on subjektiivsed kataloogihinnangud, mitte Ai2 ametlikud skoorid. Neid tuleks kasutada üksnes suunava teabena: mudeli kõige tugevam dokumenteeritud kasutusala on hoidlapõhine kodeerimine, samas kui kiirus ja kulu sõltuvad suuresti kasutatavast riistvarast.

Peamised tugevused

• Hoidlapõhine fookus: SERA-32B on loodud muudatusteks, mis eeldavad olemasoleva projekti struktuuri mõistmist, mitte ainult eraldiseisvate koodilõikude genereerimist.
• Avatud juurutamine: Apache 2.0 litsents ja saadaolevad kaalud võimaldavad organisatsioonidel mudelit oma keskkonnas käitada, võttes arvesse oma taristut ja töökorralduseeskirju.
• Tööriistapõhine toimimine: Hermese vormingus tööriistakutsed toetavad kodeerimisagendi töövooge, milles mudel saab faile uurida ja väliselt tööraamistikult toiminguid taotleda.
• Suur töötluskontekst: 32K tokeni suurune kontekstiaken mahutab ühe ülesande jaoks ulatuslikke juhiseid, koodi ja tööriistade tulemusi.
• Kohandamisvõimalus: Ai2 väljalase toetab uurimistööd ja täiendavat spetsialiseerimist, sealhulgas võimalikku peenhäälestamist privaatsete koodibaaside jaoks.
• Asjakohane avaldatud hindamine: SWE-bench Verified testi tulemus annab konkreetse viite hoidlapõhiste ülesannete jõudlusele, kuid piirdub selle võrdlustestiga.

Piirangud ja riskid

SERA-32B ei ole üldotstarbeline multimodaalne mudel. Esitatud spetsifikatsioonid kirjeldavad teksti ja koodi kasutamist, kuid ei tõesta pildi-, heli- ega videosisendi või -väljundi olemasolu. Samuti ei esitleta seda laialdaste veebotsinguvõimalustega assistendina ega hallatud API-na, mille kättesaadavus oleks garanteeritud.

Treeningu ja hindamise keskendumine Pythoni hoidlatele on oluline piirang. Peamiselt mõnes muus keeles töötav meeskond peaks mudelit valideerima tüüpiliste sisemiste ülesannete põhjal, mitte eeldama, et SWE-bench Verified testi tulemus kandub otse üle.

Ai2 märgib SWE-bench'i treeningseadistusest tulenevat konkreetset eripära: pärast muudatuse lõpetamist võib mudel proovida kutsuda olematut tööriista submit. SERA käsurea puhverserver käsitleb seda käitumist automaatselt, kuid mudelit otse käitavad kasutajad peaksid sellega oma tööriistade tööraamistikus arvestama.

Genereeritud paigad võivad sisaldada loogikavigu, regressioone, ebaturvalisi muudatusi või sõltuvusprobleeme. Kõik kavandatud muudatused tuleb enne juurutamist üle vaadata, testida ning kontrollida projekti turbe- ja kvaliteedikontrollidega. Ise majutamine annab käitajale üle ka vastutuse autentimise, isoleerimise, logimise, mahup planeerimise, mudeli uuendamise ja lähtekoodi kaitsmise eest.

Millal valida SERA-32B?

Vali SERA-32B siis, kui peamine vajadus on avatud ja ise majutatav kodeerimisagent hoidlapõhiste ülesannete jaoks. See sobib eriti hästi meeskondadele, kes peavad hoidma lähtekoodi oma keskkonnas, teadlastele, kes uurivad sünteetilisi treeningtrajektoore, ning inseneridele, kes on valmis GPU-taristut haldama, et saada juurutamise üle suurem kontroll.

See võib sobida automaatseks probleemide esmasõelumiseks, millele järgnevad pakutud paigad, vigade parandamise abiks, mitme faili refaktoreerimiseks, funktsioonide arendamiseks Pythoni hoidlates ning katseteks, mille puhul on vaja kodeerimismudelit privaatse koodibaasiga kohandada. Avatud litsents võib olla kasulik ka olukordades, kus hallatud teenuse andmekäitlus või juurutusmudel ei sobi.

Teist tüüpi lahendus võib olla sobivam siis, kui vajad pildi- või helimõistmist, lihtsat majutatud API-t, prognoositavat päringupõhist hinnastamist, laialdasi tõendeid tarkvaratehnika kohta eri keeltes või väga optimeeritud väikese latentsusega teenust, mille puhul ei pea GPU-sid ise käitama. Üldotstarbeline majutatud mudel võib olla eelistatav ka segatöökoormuste korral, kus kodeerimine on vaid üks paljudest vajadustest. Seevastu väiksem kodeerimismudel võib pakkuda paremat kiirust või väiksemaid taristukulusid, kui ülesanded piirduvad lühikeste lõpetustega ega nõua hoidlapõhist arutlemist.

Kättesaadavus ja kulud

SERA-32B on saadaval Ai2 Hugging Face'i mudelihoidlas. Ai2 pakub ka SERA treeningu- ja andmegenereerimiskoodi ning SERA CLI-d juurutustöövoogude jaoks, milles saab kasutada Modalit. Välja antud kaalud võtavad enda alla ligikaudu 65 GB ning dokumenteeritud seadistus kasutab mitme GPU-ga juurutamist ja tensorparalleelsust.

SERA-32B jaoks ei ole esitatud regulaarset teenusepakkuja hinda ega sisend- ja väljundtokenite hinda. Käsitle seda taristupõhiselt hinnastatud avatud kaaludega mudelina: eelarves tuleb arvestada GPU-mahu, salvestusruumi, võrguühenduse, elektri või pilverendi ning inseneritööga. Seetõttu võib mudel püsiva suure koormuse või rangete andmekontrollinõuete korral olla majutatud teenusest odavam, kuid pärast seadistamise ja käitamise kulude arvestamist ei ole see juhukasutuse puhul automaatselt soodsam.

Üldhinnang

SERA-32B on suunitletud avatud kodeerimisagent, mitte universaalne AI-assistent. Selle Qwen 3-32B-l põhineva arhitektuuri, sünteetiliste hoidlat kirjeldavate trajektooride, Soft Verified Generationi, tööriistakutsete ja 32K kontekstiakna kombinatsioon on suunatud praktilistele tarkvaratehnika ülesannetele. Teatatud 49,5% ± 1,9% lahendamismäär SWE-bench Verified testis annab kasuliku viite mudeli võimekusele, kuid seda tuleb vaadelda koos Pythoni-keskse hindamisulatuse ja inimkontrolli vajadusega.

Kasutajatele, kes on valmis mudelit ise majutama ja looma kontrollitud kodeerimisagendi tööraamistiku, pakub SERA-32B selgelt määratletud alternatiivi suletud ja majutatud kodeerimisteenustele. Meeskondadele, kes eelistavad võtmed-kätte juurdepääsu, multimodaalset tuge või prognoositavalt väikest käitamisvaeva, võib paremini sobida teist tüüpi mudel.