EXAONE-Deep-32B

Mis on EXAONE-Deep-32B?

EXAONE-Deep-32B on LG AI Researchi 32 miljardi parameetriga arutlusvõimeline keelemudel. Selle kanooniline mudelitunnus on LGAI-EXAONE/EXAONE-Deep-32B. Mudel genereerib tekstisisendi põhjal teksti ning on loodud eelkõige keerukate matemaatika-, teadus- ja programmeerimisülesannete lahendamiseks, mitte piltide mõistmiseks, meedia genereerimiseks või üldiseks tarbijatele mõeldud vestluseks.

See on EXAONE Deepi perekonna suurim mudel, mille kõrval on 2,4B ja 7,8B variandid. LG AI Researchi laiemas mudelivalikus on EXAONE-Deep-32B positsioneeritud arutlusvõimele keskenduva avatud kaaludega väljalaskena. See on oluline erinevus: mudel on mõeldud teadlastele ja arendajatele, kes soovivad kaalud ise alla laadida ja neid käitada, mitte kasutajatele, kes otsivad valmis tellimuspõhist vestlusrobotit integreeritud otsingu, mobiilirakenduste või lihtsa kasutuspõhise hinnastusega.

LG AI Research avaldas mudeli 18. märtsil 2025. See põhines mudelil EXAONE 3.5 32B Instruct ning seda optimeeriti seejärel juhendatud peenhäälestuse, otsese eelistuste optimeerimise ja veebipõhise tugevdusõppe abil. Praktikas pidid need etapid parandama mudeli võimet probleemide lahenduskäiku läbi töötada, mitte üksnes kiiresti pealiskaudset vastust anda.

Tehnilised näitajad ja kontekstiaken

Mudelil on ligikaudu 30,95 miljardit parameetrit, kui manustamised välja arvata, 64 transformer-kihti, rühmitatud päringutega tähelepanu mehhanism 40 päringupea ja 8 võtme-väärtuse peaga ning 102 400 märgist koosnev sõnavara. Dokumenteeritud konteksti pikkus on 32 768 märgist. Kontekstiaken hõlmab kasutaja viipa, vestluse ajalugu, vahepealset arutluse sisu ja genereeritud vastust, mistõttu pikad arutluskäigud võivad hilisemate voorude jaoks saadaolevat ruumi vähendada.

32 768 märgist hõlmavast kontekstipiirist eraldi dokumenteeritud maksimaalset väljundmärgistiku väärtust ei ole. Kasutatava vastuse pikkus sõltub juurutuse konfiguratsioonist ning sellest, kui palju kontekstist on viiba ja vestlusega juba hõivatud. LG AI Research soovitab mitmevoorulise kasutuse korral varasemaid arutluskäike hallata, sest need võivad saadaolevast kontekstist märkimisväärse osa ära kasutada.

Arutlusvõime, matemaatika, teadus ja programmeerimine

EXAONE-Deep-32B peamine eripära on keskendumine arutlusvõimele. Mudel on mõeldud mitmeastmeliste probleemide lahendamiseks sellistes valdkondades nagu matemaatika, teaduslik probleemilahendus ja programmeerimine. See muudab selle spetsialiseeritumaks valikuks kui üldine juhistele häälestatud mudel, mis on optimeeritud peamiselt igapäevaseks vestluseks, kokkuvõtete tegemiseks või laiapõhjalisteks assistendiülesanneteks.

Pakkuja avaldatud hindamistulemuste kohaselt raporteerib LG AI Research tulemused 95,7 testis MATH-500, 72,1 testis AIME 2024 pass@1, 65,8 testis AIME 2025 pass@1, 94,5 hindamises CSAT Math 2025, 66,1 testis GPQA Diamond ja 59,5 testis LiveCodeBench. Need on pakkuja esitatud tulemused kindlate viipade, valimisseadete ja võrdlustestide protseduuride korral; neid ei tohiks käsitleda iga ülesande või juurutuse garanteeritud sooritusena.

Programmeerimisvõimet tuleks mõista eelkõige tekstipõhise koodigeneratsiooni ja programmeerimisprobleemide lahendamisena. Esitatud spetsifikatsioonides ei ole dokumenteeritud sisseehitatud kooditõlki, täitmiskeskkonda ega esimese osapoole tööriistakeskkonda. Seega saab mudel koodi välja pakkuda või selgitada, kuid rakendus vajaks eraldi täitmissüsteemi, kui kood tuleb automaatselt kompileerida, käivitada, testida või seda analüüsida.

Toetatud sisendid, väljundid ja tööriistad

EXAONE-Deep-32B on ainult tekstipõhine. See ei võta algupäraselt vastu pilte, heli ega videot ega genereeri pilte, heli, videot või muud mittetekstilist meediat. Seetõttu ei sobi see multimodaalsete dokumentide kontrollimiseks, piltide kohta küsimustele vastamiseks, kõnetöövoogudeks ega visuaalseks programmeerimiseks, välja arvatud juhul, kui süsteemi lisatakse mõni teine mudel.

Esitatud mudeliteabes ei ole dokumenteeritud algupärast veebotsingut, funktsioonikutseid ega tööriistade kasutamise tuge. Samuti ei ole dokumenteeritud mudelipõhist JSON-režiimi ega struktureeritud väljundi garantiid. Arendajad saavad endiselt mudeli ümber rakendusi ehitada, kuid otsingu, funktsioonide täitmise, skeemi valideerimise ja muu orkestreerimise peaks rakendama mudelist eraldi.

Voogedastusega genereerimist toetatakse dokumenteeritud Transformersi näites tekstiteraatori voogedastaja kaudu. Voogedastus võib muuta lokaalselt hostitud rakenduse kasutaja jaoks reageerivamaks, kuid see ei muuda mudeli genereerimiskiirust ega konteksti kogumahtu.

Juurutamine ja kättesaadavus

Peamine juurdepääsuviis on laadida mudeli kaalud alla Hugging Face'ist ja käitada neid lokaalselt või hallatud taristus. Ametlik dokumentatsioon sisaldab Transformersi näidet ning kirjeldab juurutusvõimalusi, mille hulka kuuluvad vLLM, SGLang, TensorRT-LLM, llama.cpp, Ollama ja LM Studio. Toetatud tööriistade valik annab kogenud kasutajatele paindlikkuse teadustööjaamade, serverite ja kohalike katsetuste vahel, kuigi tegelikud riistvaranõuded sõltuvad kvantimisest, pakktöötlusest, järjestuse pikkusest ja valitud järeldusmootorist.

LG AI Research soovitab kasutada mudeli vestlusmalli ning alustada arutluse genereerimist sobiva mõttemarkeriga. Rakendused peaksid järgima ametliku repositooriumi ja mudelikaardi juhiseid, mitte eeldama, et üldine viibavorming annab soovitud tulemuse. Mitmevooruliste vestluste puhul võib varasemate arutluskäikude eemaldamine või haldamine aidata säilitada hilisemate päringute jaoks vajalikku konteksti.

Esitatud uurimismaterjalides ei ole EXAONE-Deep-32B jaoks avaldatud ametlikku pakkuja hostitud API hinnastust. Seda ei esitleta tavapärase korduva tellimustootena ega laialdaselt dokumenteeritud esimese osapoole märgipõhise hinnastusega API-na. Seega põhineb kulumudel peamiselt taristul: kaalude käitajad maksavad oma riistvara või hostingu eest, samal ajal kui kolmandate osapoolte platvormid võivad kehtestada eraldi hinnad ja tingimused.

Litsents ja olulised piirangud

Mudelit levitatakse litsentsi EXAONE AI Model License Agreement 1.1 - NC alusel. Esitatud uurimismaterjalide kohaselt on juurdepääs, allalaadimine, muutmine ja levitamine kindlaksmääratud tingimustel teadusuuringute eesmärgil lubatud. Mudeli, tuletismudelite või väljundi äriliseks kasutamiseks on vaja eraldi kommertslepingut LG AI Researchiga. Organisatsioonid peaksid enne mudeli kasutamist kommertstootes, ettevõttesiseses töövoos või klientidele suunatud teenuses tutvuma kehtiva litsentsiga otse.

Teadusuuringutele keskenduv litsents on tootmismeeskondade jaoks üks olulisemaid piiranguid. Isegi kui mudel töötab kohalikus taristus edukalt, ei tähenda tehniline juurutatavus iseenesest luba äriliseks kasutuseks. Litsentsimist, edasilevitamist, tuletismudeleid ja genereeritud väljundit tuleks hinnata eraldi.

Mudel võib genereerida ebatäpset, kallutatud, kahjulikku või aegunud teksti. Selle teadmiste lõppkuupäeva ei ole avaldatud ning LG AI Research märgib, et mudel ei kajasta kõige värskemat teavet. Mudelil ei ole dokumenteeritud esimese osapoole veebotsingu võimalust, mistõttu ei tohiks seda ilma välise otsingu- ja kontrollisüsteemita kasutada jooksvate sündmuste, muutuvate regulatsioonide, reaalajas hindade või muude ajakriitiliste faktide allikana.

Tugevused ja kompromissid

• Spetsialiseerumine arutlusvõimele: selle treening ja avaldatud hindamistulemused keskenduvad matemaatikale, teadusele ja programmeerimisele, mitte üksnes vestluse ladususele.
• Avatud kaaludega juurdepääs: allalaaditavad kaalud võimaldavad kohalikku, privaatset ja kohapealset katsetamist, kui litsentsi- ja taristunõuded on vastuvõetavad.
• Paindlik juurutamine: juurutusvõimalustena on nimetatud Transformerit, vLLM-i, SGLangi, TensorRT-LLM-i, llama.cpp-d, Ollamat ja LM Studiot.
• Kohaliku mudeli suur kontekst: 32 768 märgiga kontekstiaken toetab mahukaid probleemipüstitusi, koodi ja uurimismaterjale, kuigi arutluskäigud võivad selle mahu kiiresti ära kasutada.
• Vastutus käitamise eest: kohalik juurutamine väldib sõltuvust dokumenteeritud pakkuja hostitud lõpp-punktist, kuid annab riistvara, skaleerimise, seire, turbe ja hoolduse eest vastutuse käitajale.
• Piiratud tootefunktsioonid: dokumenteeritud ei ole algupärast veebotsingut, tööriistade täitmist, multimodaalset sisendit, struktureeritud väljundi režiimi ega ametlikku mudelipõhist hostitud API-t.

Toimetuslikust vaatenurgast pakub EXAONE-Deep-32B teaduskasutajatele huvitavat võimekuse ja kontrolli kompromissi: see on suunatud nõudlikule arutlusele, võimaldades samal ajal lokaalset kasutust. Kompromissiks on kiirus ja mugavus. 32B mudel vajab üldjuhul väiksemast mudelist märksa rohkem arvutusvõimsust ja haldustööd ning esitatud teabes ei ole toodud kindlat märki sekundis näitajat. Kasutajad peaksid mudelit võrdlema oma riistvaral, mitte eeldama kindlat vastusekiirust.

Millal valida EXAONE-Deep-32B?

Vali EXAONE-Deep-32B siis, kui peamine vajadus on allalaaditav arutlusvõimeline mudel matemaatiliseks analüüsiks, teaduslikuks probleemilahenduseks, programmeerimise hindamiseks või kontrollitud kohalikuks teadustööks. See on eriti asjakohane juhul, kui organisatsioon soovib mudelit lokaalselt uurida või hallata, vajab avatud kaaludega töövoogu või soovib katsetada järeldusmootoreid, nagu vLLM, SGLang, llama.cpp või Ollama.

See võib sobida ka võrdlustestideks ja mudeliuuringuteks, kus reprodutseeritav kohalik juurdepääs on olulisem kui viimistletud lõppkasutajaliides. 32B suurus pakub EXAONE Deepi perekonnas suuremat arutlusele keskenduvat valikut, samal ajal kui väiksemad 2,4B ja 7,8B sõsarmudelid võivad olla sobivamad siis, kui prioriteediks on väiksem mälukasutus või kiirem järeldamine, arvestades nende enda võimeid ja litsentse.

Tavapärase klienditoe, laiapõhjalise vestlusabi või värske veebiteabe vajavate rakenduste jaoks võib mõni muu valik olla sobivam. LG AI Research ise soovitab laiemaks praktiliseks kasutuseks EXAONE 3.5 Instructi mudeleid. Piltide, heli või video sisendi jaoks tuleks valida multimodaalne mudel; tööriistadega hostitud mudel võib olla eelistatum juhul, kui rakenduse keskmes on usaldusväärsed funktsioonikutsed, veebiotsing, hallatud skaleerimine või struktureeritud JSON-väljund.

Kokkuvõttes tuleks EXAONE-Deep-32B-d käsitleda pigem spetsialiseeritud avatud kaaludega arutlusmudeli kui täieliku AI-rakendusena. Selle väärtus seisneb keskendumises keerukale tekstipõhisele arutlusele ja võimaluses juurutada kaale kohaliku või kolmanda osapoole taristu kaudu. Teadusuuringutega piirduv litsents, ainult tekstipõhine liides, avaldamata hostitud hinnastamine ja dokumenteeritud sisseehitatud tööriistade puudumine muudavad enne tootmises kasutuselevõttu hoolika hindamise vajalikuks.