Mis on EXAONE-4.0-1.2B
EXAONE-4.0-1.2B on LG AI Researchi avatud kaaludega kausaalne keelemudel. Praktikas genereerib ja töötleb see teksti kohapeal, mitte esimese osapoole hostitud vestlusroboti või põhjalikult dokumenteeritud märgipõhise API-na. Selle kompaktne suurus teeb sellest EXAONE 4.0 mudeliperekonna seadmes kasutamiseks suunatud liikme suurema 32B mudeli kõrval.
Mudel sisaldab kokku ligikaudu 1,28 miljardit parameetrit ehk umbes 1,07 miljardit parameetrit ilma embedding'uteta. Parameetrid on õpitud arvväärtused, mis talletavad mudeli keelemustreid ja võimeid. Väiksem parameetrite arv vähendab üldjuhul mälu- ja arvutusvajadust, kuid seab ka keerukale arutlemisele, programmeerimisele ja laiapõhjalistele teadmistega seotud ülesannetele suurematest mudelitest madalama ülempiiri.
LG AI Research avaldas mudeli 15. juulil 2025 oma ametliku Hugging Face'i organisatsiooni kaudu. Mudelikaart ja repositoorium kirjeldavad seda kohaliku järeldamise jaoks mõeldud tekstipõhise mudelina ning EXAONE 4.0 kollektsioonis on saadaval ka kvantiseeritud ja GGUF-variandid.
Koht EXAONE 4.0 mudeliperekonnas
EXAONE-4.0-1.2B on mõeldud teistsuguseks juurutuseks kui 32B EXAONE 4.0 mudel. 1.2B versioon seab esikohale väiksema mahu ning sobivuse ääre- või seadmesiseseks kasutuseks. Seetõttu on see asjakohane arendajatele, kes soovivad hoida järeldamist kasutaja või seadme lähedal, vähendada sõltuvust kaugserverist või katsetada avatud kaaludega mudelit piiratumal riistvaral.
Kompromiss seisneb selles, et väiksemat mudelit ei tohiks käsitleda suure hostitud tipptasemel mudeliga samaväärsena. Esitatud uurimismaterjal ei tõenda, et see suudaks suuremate mudelitega võrdselt toime tulla üldise arutlemise, programmeerimise, faktiteadmiste või juhiste järgimisega. Selle peamine väärtus seisneb kompaktsuse, mitmekeelse toe, pika konteksti, valitavate arutlusrežiimide ja kohaliku juurutamise paindlikkuse kombinatsioonis.
Arutlus- ja mittearutlusrežiim
EXAONE-4.0-1.2B oluline omadus on hübriidne töörežiim. Sama mudel toetab mittearutlus- ja arutlusrežiimi, mille vahel valitakse mudeli vestlusmalli kaudu, mitte eraldi mudeli kontrollpunkte laadides.
Mittearutlusrežiim on mõeldud tavapäraseks genereerimiseks, vestluseks, ümberkirjutamiseks, teabe eraldamiseks ja muudeks ülesanneteks, kus eelistatud on otsene vastus. Arutlusrežiim on mõeldud probleemidele, mis saavad kasu põhjalikumast vahepealsest töötlemisest, näiteks mitmeastmelisele matemaatikale või struktureeritud probleemilahendusele. Arutlusrežiimi valimine võib tähendada kiiruse või kasutatavate märkide arvu kompromissi, mistõttu ei pruugi see olla iga viipa puhul parim vaikevalik.
Arutlusrežiimi olemasolu on dokumenteeritud mudelifunktsioon, kuid seda ei tohiks tõlgendada tipptasemel arutlustäpsuse garantiina. Esitatud uurimismaterjal kirjeldab võrdluskatseid teadmiste, matemaatika, programmeerimise, juhiste järgimise, pika konteksti töötlemise, tööriistade kasutamise ja mitmekeelsete ülesannete valdkonnas, kuid siin ei ole piisavalt üksikasju konkreetsete võrdlustulemuste taasesitamiseks või üldistamiseks.
Tehnilised näitajad ja konteksti pikkus
| Näitaja | Kontrollitud üksikasjad |
|---|---|
| Pakkuja | LG AI Research |
| Väljalaskekuupäev | 15. juuli 2025 |
| Mudeli suurus | Ligikaudu 1,28 miljardit parameetrit; ilma embedding'uteta ligikaudu 1,07 miljardit |
| Arhitektuuri üksikasjad | 30 kihti, grupeeritud päringuga tähelepanu, 32 tähelepanupead ja 8 võtme-väärtuse pead |
| Sõnavara | 102 400 märki |
| Konteksti pikkus | 65 536 märki |
| keeled | inglise, korea ja hispaania |
| Peamine väljund | Tekst |
| Litsents | EXAONE AI Model License Agreement 1.2 - NC |
65 536 märgi suurune kontekstiaken on selle suurusklassi mudeli kohta pikk. Kontekstiaken on ühe päringu raames töödeldava sisendi ning genereeritud vestluse või dokumendisisu hulk. See maht võib olla kasulik pikkade dokumentide, pikemate vestluste ja mahukamate tööriistajuhiste puhul, kuigi tegelik mälukasutus ja vastamiskiirus sõltuvad valitud järeldamisseadistusest.
Esitatud mudeliteave ei täpsusta eraldi maksimaalset väljundmärkide piiri. Seetõttu tuleb dokumenteeritud 65 536 märgi suurust käsitleda konteksti pikkusena, mitte kinnitatud üksnes väljundi jaoks lubatud mahuna.
Keeled ja toetatud modaalsused
EXAONE-4.0-1.2B toetab teksti genereerimist inglise, korea ja hispaania keeles. Selle mitmekeelne tugi on eriti oluline koreakeelsetele rakendustele ning arendajatele, kes loovad tekstipõhiseid töövooge, mis ei piirdu ainult inglise keelega.
Tegemist on ainult tekstiga töötava mudeliga. Esitatud näitajad kirjeldavad teksti sisendit ja väljundit ning ei dokumenteeri pildi-, heli- ega videovoo sisendit või väljundit. Seda ei tohiks valida visuaalseks küsimustele vastamiseks, piltide mõistmiseks, kõnepõhiseks suhtluseks, heli genereerimiseks ega videoanalüüsiks. Need kasutusjuhud eeldavad teistsugust multimodaalset mudelit või välist töövoogu, mis ühendab selle mudeli eraldi meediatöötluskomponentidega.
Tööriistade kutsumine ja kohalik juurutus
Ametlikud mudelimaterjalid dokumenteerivad agentse tööriistakasutuse vestlusmalli kaudu edastatavate funktsiooniskeemade abil. Funktsioonikutsed võimaldavad rakendusel kirjeldada selliseid toiminguid nagu andmete hankimine või arvutuse tegemine, mille järel võib mudel genereerida struktureeritud päringu rakenduse täitmiseks. Mudel ei tee välist toimingut iseseisvalt üksnes seetõttu, et tööriistade tugi on saadaval; ümbritsev tarkvara peab taotletud funktsiooni valideerima ja käivitama.
See võimekus võib toetada kergeid kohalikke assistente, struktureeritud töövooge ja rakendusi, mis ühendavad teksti genereerimise seadmefunktsioonide või äriloogikaga. Arendajad peaksid enne mudeli genereeritud tööriistakutse täitmist alati kontrollima argumente ja õigusi, eriti juhul, kui tööriistad võivad muuta andmeid või suhelda välissüsteemidega.
EXAONE-4.0-1.2B saab käitada Transformersiga ning see on saadaval ka kvantiseeritud või GGUF-variantidel põhinevate kohaliku järeldamise töövoogude kaudu. Kvantiseerimine vähendab mudeli kaalude salvestamiseks kasutatavat arvulist täpsust ja võib vähendada mälunõudeid, kuid mõju kvaliteedile ja kiirusele sõltub kvantiseerimisvormingust ning riistvarast. Uurimismaterjal nimetab EXAONE 4.0 kollektsioonis FP8-, GPTQ-, AWQ- ja GGUF-variante.
Võimekuse, kiiruse ja kulude kompromissid
Mudeli peamine praktiline eelis on selle kompaktne maht. Suuremate keelemudelitega võrreldes sobib 1,2 miljardi parameetriga mudel paremini piiratud ressurssidega keskkondadesse ning võib sobivalt seadistatud riistvara ja käituskeskkonna korral pakkuda kiiremaid kohalikke vastuseid. Samuti võib see vältida osa korduvatest hostitud järeldamise kuludest, sest kaalud on kohalikuks kasutuseks saadaval, kuigi kasutaja vastutab endiselt riistvara, elektri, salvestusruumi, arenduse ja käitamise kulude eest.
Toimetuslik hinnang peab selle mudeliklassi suhtelist kiirust ja kulusid soodsaks, kuid need on hinnangud, mitte LG AI Researchi avaldatud reitingud. Tegelik jõudlus varieerub sõltuvalt protsessori või graafikaprotsessori riistvarast, kvantiseerimisest, paketisuurusest, konteksti pikkusest, teostusest ja sellest, kas arutlusrežiim on lubatud.
Sama kompaktsus seab mudelile ka piirangud. Rakendused, mis vajavad parimat saadaolevat programmeerimisjõudlust, keerukat pika ahelaga arutlemist, laiaulatuslikke ajakohaseid teadmisi või väga usaldusväärset autonoomset käitumist, võivad saada paremaid tulemusi suurema mudeliga. Esitatud materjalides ei ole EXAONE-4.0-1.2B teadmiste lõppkuupäeva kontrollitult määratud ning mudelikaart hoiatab, et mudel ei kajasta kõige värskemat teavet.
Hinnad, litsents ja juurdepääs
EXAONE-4.0-1.2B ametlikku märgipõhist hostitud API-hinda ei tuvastatud. Seda levitatakse avatud kaaludena LG AI Researchi Hugging Face'i organisatsiooni kaudu, mitte esitatud uurimismaterjalides tavapärase tellimuspõhise tootena. Kohalik kasutus võib vältida pakkuja järeldamistasusid, kuid laiemas käitamismõttes ei ole see tasuta, sest endiselt on vaja riistvara ja juurutusressursse.
Mudel kasutab litsentsi EXAONE AI Model License Agreement 1.2 - NC. Esitatud uurimismaterjal nimetab mitteärilise kasutuse piiranguid ning piiranguid konkureerivate mudelite arendamisele. Kõik, kes kaaluvad ärilist juurutamist, edasilevitamist, peenhäälestamist või tootesse integreerimist, peaksid tutvuma täieliku litsentsiga ja hankima vajalikud load, mitte eeldama, et avatud kaalud tähendavad piiranguteta ärilist kasutust.
Parimad kasutusjuhud
- Seadmesisesed assistendid: Kohalikud tekstiassistendid, mille puhul on oluline hoida järeldamine seadme lähedal.
- Korea- ja mitmekeelsed tekstirakendused: Vestlus-, ümberkirjutamis-, klassifitseerimis- või eraldamistöövood korea, inglise või hispaania keeles.
- Kerge arutlemine: Ülesanded, millele tuleb kasuks valitav arutlusrežiim, kuid mis ei nõua palju suurema mudeli võimekust.
- Dokumendi- ja pika konteksti katsed: Töövood, mis saavad kasu 65 536 märgi suurusest kontekstiaknast, arvestades saadaoleva mälu ja käituskeskkonna piiranguid.
- Kohalikud tööriistatoega rakendused: Prototüübid või tootmissüsteemid, mis ühendavad mudeli genereeritud funktsioonipäringud hoolikalt kontrollitud rakendustööriistadega.
- Uurimine ja mudelikatsetused: Projektid, mis vajavad avatud kaaludega mudelit ning võimalust käitada või muuta järeldamist kohapeal, arvestades litsentsi.
Millal seda mudelit valida
Vali EXAONE-4.0-1.2B siis, kui kohalik juurutus, mudeli väike maht, koreakeelne võimekus ja kontrollitav arutluskäitumine on olulisemad kui mudeli maksimaalne üldine kvaliteet. See on mõistlik kandidaat ääreseadmetes katsetamiseks, privaatseteks kohalikeks tekstipõhisteks töövoogudeks ja rakendusteks, kus kaug-API ei ole soovitav või kättesaadav.
Vali suurem mudel, kui rakendus sõltub keerukast mitmeastmelisest arutlemisest, tipptasemel programmeerimisest, laiapõhjalistest üldteadmistest või ebaselgete juhiste usaldusväärsemast järgimisest. Vali multimodaalne mudel, kui sisend või väljund sisaldab pilte, heli või videot. Vali mõne teise pakkuja hostitud teenus, kui vajad küpset esimese osapoole API-t, avaldatud märgipõhist hinnastamist, hallatud skaleerimist või ajakohast veebiotsingul põhinevat konteksti; esitatud materjalides ei ole nende võimaluste olemasolu selle mudeli puhul tõendatud.
Enne juurutamist kontrollitavad piirangud
EXAONE-4.0-1.2B ei ole dokumenteeritud esimese osapoole hostitud API-tootena ning ametlikku märgipõhist hinda ega eraldi maksimaalset väljundipiiri ei ole esitatud. See töötab ainult tekstiga, sellel ei ole dokumenteeritud sisseehitatud veebiotsingut ning konkreetset teadmiste lõppkuupäeva ei ole kontrollitud. Arutlusrežiim võib keerukamate ülesannete puhul kasulik olla, kuid võrreldes otsese genereerimisega võib see suurendada latentsust või kasutatavate märkide arvu.
Lõpuks on litsents juurutamisel oluline kaalutlus. Mitteärilise kasutuse tähis tähendab, et tehnilisest sobivusest üksi ei piisa ärilise kasutusjuhu heakskiitmiseks. Enne uurimisest või lubatud hindamisest kaugemale liikumist vaata üle kehtiv leping, täpne mudelivariant ning kõik kohaldatavad levitamise või tuletatud mudelite piirangud.