EXAONE-4.0-32B

Mis on EXAONE-4.0-32B?

EXAONE-4.0-32B on LG AI Researchi pakutav avatud kaaludega keelemudel, mis kuulub EXAONE 4.0 mudeliperesse. See on tihe kausaalne keelemudel: tekstijada põhjal ennustab ja genereerib see järgmisi tokeneid. Praktilises kasutuses saab see vastata küsimustele, kirjutada ja teisendada teksti, lahendada arutluskäiku nõudvaid ülesandeid, genereerida koodi, töödelda pikki dokumente ning kutsuda väliseid tööriistu, kui rakendus edastab vajalikud tööriistade määratlused.

Mudel on mõeldud peamiselt enda hallatavas taristus ja teadustööks. Selle kaalud ja juurutamisjuhised on avalikult saadaval LG AI Researchi ametlikes GitHubi ja Hugging Face'i väljaannetes. Seetõttu erineb EXAONE-4.0-32B tavalisest tarbijatele mõeldud vestlusrobotist, mille puhul teenusepakkuja majutab mudelit ning pakub selle võimalusi veebirakenduse või tellimuse kaudu. EXAONE-4.0-32B puhul vastutab käitaja üldjuhul riistvara, tarkvarapinu, turbe, seire ja litsentsinõuete täitmise eest.

Esitatud väljalaskeinfo kohaselt avaldati mudel 15. juulil 2025. LG AI Research kirjeldab EXAONE 4.0 põlvkonda sellisena, mis toetab nii arutlusrežiimi kui ka mittearutlusrežiimi. 32B mudel on dokumenteeritud EXAONE 4.0 väljalaske suurem professionaalse taseme variant. Selle kõrval on eraldi 1.2B seadmes töötav mudel, mida ei tohiks selle mudeliga segi ajada.

Koht EXAONE'i mudeliperes

EXAONE-4.0-32B paikneb LG AI Researchi üldotstarbeliste keelemudelite ja ettevõtetele mõeldud tehisintellektilahenduste ristumiskohas. See ei ole sama toode mis tarbijatele suunatud esitlus- ja näidiskeskkond EXAONE Showroom ega majutatud tellimustase. Tegemist on mudeliga, mis on mõeldud arendajatele, teadlastele ja organisatsioonidele, kes vajavad juurutamise üle kontrolli.

Selle kõige olulisemad eristavad omadused on suhteliselt suur 32 miljardi parameetri suurusjärk, korea, inglise ja hispaania keelele keskenduv mitmekeelne tugi, valitav arutlusrežiim ning avatud kaaludega kättesaadavus. LG AI Research avaldab ka teisi EXAONE'iga seotud süsteeme, sealhulgas nägemis-keele mudeleid ja tööstuslikke erilahendusi, kuid need on eraldi mudelid või tooted. EXAONE-4.0-32B ise töötab nii sisendi kui ka väljundi puhul ainult tekstiga.

Kontrollitud tehnilised andmed

131 072 tokeni suurune kontekstiaken on üks mudeli kasulikumaid tehnilisi omadusi. Kontekstiaken näitab teksti ja muu vestlusinfo hulka, mida mudel saab ühe päringu puhul arvesse võtta, sealhulgas viipa ja genereeritavat vastust. Pikk kontekstiaken võib olla kasulik suurte dokumentide, pikkade kodeerimisseansside ja mitmeastmeliste ülesannete puhul, kuid tegelik maht sõltub teeninduslahendusest, saadaolevast mälust, viiba struktuurist ja genereerimise seadetest.

Esitatud uuringus ei kontrollitud autoriteetset maksimaalset väljundtokenite piirmäära. Seetõttu ei tohiks kontekstiakent tõlgendada genereeritava teksti garanteeritud mahuna. Käitajad peaksid praktiliste genereerimispiirangute väljaselgitamiseks kontrollima valitud järeldusraamistikku ja konfiguratsiooni.

Arutlus, kodeerimine ja tööriistade kasutamine

EXAONE-4.0-32B pakub valitavat arutlus- ja mittearutlusrežiimi. Arutlusrežiim on mõeldud ülesannetele, mille puhul mudel saab kasu täiendavast arvutusest vahepealse probleemilahenduse jaoks, näiteks mitmeastmelise analüüsi, keerukate juhiste või struktureeritud otsusetoe korral. Mittearutlusrežiim sobib paremini otsekohesele genereerimisele ja ülesannetele, kus väiksem latentsus on pikast kaalumisest olulisem. Esitatud uuring kinnitab nende režiimide olemasolu, kuid ei määra iga ülesande jaoks üht universaalset kvaliteeditaset.

Mudel on dokumenteeritud ka agentide funktsioonide ja tööriistade kutsumiseks. Sellise lahenduse puhul edastab rakendus tööriistaskemad, mis kirjeldavad saadaolevaid funktsioone, nende nimesid ja oodatavaid argumente. Seejärel saab mudel genereerida struktureeritud päringu, mille rakendus täidab. Välist funktsiooni, näiteks andmebaasiotsingut või toimingut ärisüsteemis, ei täida mudel ise. Arendajad peavad rakendama täitmise, valideerimise, õiguste haldamise, veakäsitluse ja vajaduse korral kinnitamise.

Kodeerimine on toetatud kasutusjuht, mitte eraldi ainult programmeerimiseks mõeldud mudelirežiim. EXAONE-4.0-32B-d võib kasutada koodi genereerimise, selgitamise, teisendamise ja silumise töövoogudes, eriti siis, kui ümbritsev süsteem suudab edastada pika hoidla või spetsifikatsiooni konteksti. Uuring ei määra universaalset edetabelikohta, mistõttu tuleks kodeerimiskvaliteeti hinnata konkreetse projekti keelte, raamistike ja hoidlamustrite põhjal.

Modaalsused ja juurutusvõimalused

See mudel võtab vastu teksti ja toodab teksti. See ei toeta algupäraselt piltide, heli ega video sisendit ega väljasta neid meediatüüpe otse. Seda piirangut tuleb arvestada, kui võrrelda mudelit nägemis-keele mudeli või multimodaalse assistendiga. Pildi- või dokumendimõistmise töövoog vajaks eraldi eeltöötluskomponenti või teist EXAONE'i mudelit, mis on spetsiaalselt loodud nägemis-keele sisendi jaoks.

Ametlikud juurutusjuhised hõlmavad Transformerit, llama.cpp-d, TensorRT-LLM-i ja vLLM-i. Need valikud katavad levinud teadus- ja tootmiskasutuseks mõeldud järelduskeskkondi. Transformereid kasutatakse laialdaselt katsetamiseks ja mudelite integreerimiseks; llama.cpp võib toetada optimeeritud kohalikku järeldust; TensorRT-LLM sobib NVIDIA-põhisele optimeeritud teenindusele ning vLLM-i kasutatakse sageli suure läbilaskevõimega mudelite teenindamiseks. Täpsed riistvaranõuded, kvantimise võimalused, läbilaskevõime ja latentsus sõltuvad valitud raamistikust ja konfiguratsioonist.

32B klassi mudel nõuab üldjuhul väikese seadmes töötava mudeliga võrreldes märksa rohkem mälu ja operatiivset planeerimist. Kvantimine võib vähendada mälunõudeid, kuid esitatud uuring ei määra üht minimaalset riistvarakonfiguratsiooni ega taga pärast kvantimist kindlat kiirust. Piiratud riistvaraga kasutajad peaksid katsetama kavandatud mudelivormingut ja töökoormust, mitte eeldama, et kohalik paigaldus on kindlasti otstarbekas.

Hinnastamine ja litsents

EXAONE-4.0-32B kohta ei leitud ametlikku majutatud API sisendi- ega väljundhinda. Mudelit esitletakse peamiselt enda hallatavas taristus juurutamiseks, mistõttu erineb kuluarvestus tokenipõhisest API-võrdlusest. Kulud võivad hõlmata GPU või pilveeksemplari kasutusaega, salvestusruumi, elektrit, arendust, seiret ja hooldust. Enda hallatav juurutus võib olla atraktiivne, kui kasutus on prognoositav või andmete kontroll on oluline, kuid juhusliku või väikese mahuga töökoormuse puhul ei pruugi see automaatselt odavam olla.

Mudelit levitatakse litsentsi EXAONE AI Model License Agreement 1.2 - NC alusel. Esitatud uuring toob välja mitteärilise kasutuse piirangud ja piirangud, mis puudutavad konkureerivate mudelite arendamist. Need tingimused on olulised: mudeli kaalude avalik kättesaadavus ei tähenda piiranguteta ärilist kasutust. Enne mudeli kasutuselevõttu ettevõttes, klientidele suunatud teenuses või tulu teenivas töövoos peaks käitaja tutvuma kehtiva litsentsiga ning hankima vajalikud load või sõlmima ärilise kokkuleppe.

Kuna kontrollitud maksimaalset väljundtokenite arvu ega ametlikku majutatud teenuse hinda ei ole, ei saa olemasoleva teabe põhjal täpset päringu hinda võrrelda. Kõiki kulu- või jõudlusskoore tuleks käsitleda toimetuse hinnanguna, mitte pakkuja avaldatud tehnilise näitajana.

Peamised tugevused ja piirangud

Tugevused

• Tugev positsioon korea keeles: Korea keel on koos inglise ja hispaania keelega üks keskseid toetatud keeli, mistõttu sobib mudel mitmekeelsetesse rakendustesse, mis ei ole üles ehitatud ainult inglise keele ümber.
• Avatud kaaludega kättesaadavus: Organisatsioonid saavad mudelit uurida ja juurutada toetatud kohaliku või enda hallatava taristu kaudu, sõltumata ainult tarbijarakendusest.
• Paindlik arutlus: Valitavad arutlus- ja mittearutlusrežiimid võimaldavad rakendustel kohandada vastuse põhjalikkuse ja latentsuse vahekorda vastavalt ülesandele.
• Pikk kontekst: Kontrollitud 131 072 tokeni pikkune kontekst sobib suurte viipade, pikkade kodeerimiskontekstide ja dokumentide töövoogude jaoks, arvestades teeninduslahenduse piiranguid.
• Agentide integreerimine: Dokumenteeritud funktsioonide ja tööriistade kutsumine võimaldab siduda mudeli vastused rakenduse määratletud toimingutega.
• Juurutuse valikuvõimalused: Transformersi, llama.cpp, TensorRT-LLM-i ja vLLM-i tugi annab tehnilistele meeskondadele mitu rakendusviisi.

Piirangud

• Ainult tekstiga töötamine: Mudel ei toeta algupäraselt pildi-, heli- ega videosisendit.
• Riistvara ja käitamine: 32B mudeli teenindamine on väikese kohaliku mudeliga võrreldes nõudlikum, eriti ilma kvantimise või optimeeritud järelduseta.
• Kontrollitud majutatud hinna puudumine: Kasutajad, kes soovivad lihtsat kasutuspõhist API-d, ei saa esitatud teabe põhjal tugineda LG ametlikule majutatud tokenihinnale.
• Litsentsipiirangud: NC-litsents sisaldab mitteärilise kasutuse ja konkureerivate mudelitega seotud piiranguid, mis võivad välistada mõne ärilise juurutuse.
• Puudulikud teenusepõhised piirangud: Täpset teadmiste lõpptähtaega, maksimaalset väljundtokenite arvu, peenhäälestuse tuge, vahemällu salvestamist, pakett-API-t ja varasema põlvkonna JSON-režiimi tuge ei ole kontrollitud.
• Esimese osapoole veebotsingu puudumine: Esitatud mudeliandmed ei kinnita sisseehitatud veebiotsingu võimalust. Värske info hankimiseks oleks lubatud juurutuslahenduse korral vaja välist süsteemi.

Millal seda mudelit valida?

Vali EXAONE-4.0-32B siis, kui vajad enda hallatavat mitmekeelset tekstimudelit ja suudad katta 32B juurutuse käitamisnõuded. See sobib eriti hästi koreakeelseks teadustööks, ettevõtte sisemiste dokumentide ja teadmiste töövoogudeks, kodeerimisabiks, pika konteksti analüüsiks ning agentide katsetamiseks, kui rakendus peab kontrollima tööriistade määratlusi ja täitmist. Mudel võib sobida ka organisatsioonidele, kes eelistavad hoida järeldust oma taristus, arvestades litsentsi ja kehtivaid turbenõudeid.

Mudel on mõistlik valik juhul, kui avatud kaalude uurimise või kohapeal käitamise võimalus on mugavast hallatud API-st olulisem. Selle arutlusrežiimi lüliti võib olla kasulik ka süsteemides, kus lihtsatele viipadele on vaja kiiremat tavalist vastust, kuid keerukate ülesannete puhul põhjalikumat režiimi.

Teine võimalus võib olla sobivam, kui töökoormus nõuab algupärast pildimõistmist, heli- või videotöötlust, garanteeritud majutatud API kättesaadavust, läbipaistvat tokenihinda või küpset tarbijarakendust. Väiksem mudel võib olla eelistatum siis, kui prioriteediks on väike latentsus, vähene mälukasutus või servajuurutus. Hallatud kommertsmudel võib olla tootmismeeskondadele lihtsam, kui vaja on teenusetaseme kohustusi, standardiseeritud arveldamist, sisseehitatud veebipääsu või selgelt dokumenteeritud JSON- ja pakettandmetöötlusliidest. Laiema EXAONE'i ökosüsteemi nägemis-keele mudel sobiks pildi- ja dokumendisisendi jaoks paremini kui EXAONE-4.0-32B ise.

Üldhinnang

EXAONE-4.0-32B-d on kõige õigem käsitleda võimeka avatud kaaludega teadus- ja juurutusmudelina, mitte valmis vestlusroboti tellimusena. Selle eristav kombinatsioon hõlmab 131 072 tokeni pikkust kontekstiakent, korea-inglise-hispaania tekstituge, valitavat arutluskäitumist, kodeerimisvõimet ja rakenduse kontrollitavat tööriistade kasutamist. Need omadused muudavad mudeli asjakohaseks organisatsioonidele, kes ehitavad oma süsteeme, eriti juhul, kui oluline on koreakeelne jõudlus ja kontroll juurutuse üle.

Selle kompromissid on sama praktilised. Mudel vajab märkimisväärset taristut, selle ametlikku majutatud hinda ei ole kontrollitud, see ei paku algupärast multimodaalset sisendit ega väljundit ning selle litsentsitingimused tuleb enne ärilist kasutust üle vaadata. Esitatud andmetes hindab toimetus selle arutlus- ja kodeerimisvõimet suhteliselt kõrgelt, kiirust mõõdukaks ja hinnangulist kulutõhusust avatud kaaludega mudeli kohta tugevaks, kuid need on võrdlevad toimetuslikud hinnangud, mitte LG AI Researchi tehnilised andmed. Enne mudeli tootmiskasutusse valimist peaksid võimalikud kasutajad hindama jõudlust, mälukasutust, latentsust ja litsentsi sobivust oma töökoormuste põhjal.