Kimi-VL-A3B-Thinking-2506

Mis on Kimi-VL-A3B-Thinking-2506?

Kimi-VL-A3B-Thinking-2506 on Moonshot AI 21. juunil 2025 välja antud avatud kaaludega multimodaalne arutlusmudel. See on Kimi-VL-A3B-Thinkingi uuendatud versioon, mis on mõeldud ülesanneteks, kus mudel peab tõlgendama pilte või videot koos tekstiga ning seejärel enne vastamist läbima mitu arutlusetappi.

Mudel ei ole piltide, video ega heli genereerimise süsteem. Selle väljund on tekst: selgitused, vastused, väljavõetud teave, arutluskäigud juhul, kui kasutatav teeninduslahendus neid võimaldab, ning kavandatud tegevused või kood. Visuaalsed sisendid muudavad selle sobivaks dokumentide, ekraanipiltide, graafikute, fotode, diagrammide ja videost võetud kaadrite mõistmiseks.

Moonshot AI laiemas Kimi ökosüsteemis tuleks seda mudelit käsitleda eelkõige isehostitava avatud kaaludega uurimis- ja juurutusvõimalusena, mitte tarbijatele mõeldud vestlusplaani või tavapärase esimese osapoole tokenipõhise hinnastusega API-na. Moonshot AI praeguste tarbekasutajatele mõeldud toodete hulka kuuluvad uuemad Kimi teenused ja mudelid, kuid Kimi-VL-A3B-Thinking-2506 on endiselt asjakohane juhul, kui juurutuse kontroll, avatud kaalud või spetsialiseeritud multimodaalne arutlus on hallatud rakenduse kaudu kasutamisest olulisemad.

Arhitektuur ja toetatud sisendid

Kimi-VL-A3B-Thinking-2506 kasutab ekspertide segu ehk Mixture-of-Expertsi (MoE) arhitektuuri. See sisaldab kokku 16 miljardit parameetrit, kuid ühe arvutuse käigus aktiveeritakse ligikaudu 2,8 miljardit keelemudeli parameetrit. Selline lahendus võimaldab kasutada suurema mahutavusega mudelit, ilma et kõik keeleparameetrid oleksid iga tokeni puhul aktiivsed.

Selle visuaalsüsteem kasutab algupärase eraldusvõimega visioonikodeerijat MoonViT. Mudelikaart ja seotud tehnilised materjalid kirjeldavad tuge suure eraldusvõimega piltidele, mille kogupikslite arv on ligikaudu 3,2 miljonit, sealhulgas 1792×1792 sisenditele. Algupärase eraldusvõimega töötlemine on kasulik väikese teksti, üksikasjalike graafikute, ekraanipiltide ja dokumendilehekülgede puhul, kuid suurema eraldusvõime ja mitme pildiga töökoormused suurendavad mälu- ja arvutusvajadust.

Mudel võtab vastu teksti- ja visuaalseid sisendeid. Toetatud visuaalsete kasutusjuhtude hulka kuuluvad staatilised pildid ja video, mida esitatakse valitud kaadrite jadana. Seega tähendab video mõistmine mudelile edastatud visuaalsete kaadrite analüüsimist; see ei tähenda, et mudel looks videot või töötleks videofaili tingimata sisseehitatud majutatud liidese kaudu.

• Tekstisisend: Toetatud.
• Pildisisend: Toetatud, sealhulgas suure eraldusvõimega pildid.
• Videosisend: Toetatud visuaalsete kaadrite jadade kaudu.
• Helisisend: Dokumenteeritud tugi puudub.
• Tekstiväljund: Toetatud.
• Pildi-, video- või heliväljund: Ei ole toetatud.

Arutlus ja praktilised võimalused

Mudel on mõeldud sihipäraseks multimodaalseks arutluseks, mitte lihtsalt piltide kirjeldamiseks. See suudab ühendada visuaalsed tõendid kirjaliku küsimusega, tuvastada diagrammil olevaid seoseid, lahendada visuaalseid matemaatikaülesandeid ja selgitada järeldusi tekstina. Dokumenteeritud kasutusjuhtude hulka kuuluvad visuaalne küsimustele vastamine, OCR, graafikute tõlgendamine, matemaatiline arutlus, pikkade dokumentide analüüs, video mõistmine ja ekraanipiltidel põhinev GUI-maandamine.

Näiteks saab seda kasutada skannitud aruande uurimiseks, mitmel leheküljel olevate tabelite kohta küsimustele vastamiseks, ekraanipildil oleva teksti tuvastamiseks, graafiku selgitamiseks või kasutajaliidese ekraanipiltide jadas nähtava põhjal arutlemiseks. Selle GUI-agendi näited näitavad, et mudel kirjeldab tegevusi ja koostab näiteks automatiseerimiskoodi, näiteks pyautogui juhiseid. See on kasulik interaktsiooni kavandamisel, kuid seda ei tohiks segi ajada algupärase masinloetava tegevusväljundi või sisseehitatud tööriistade käivitamisega.

Seetõttu on selle kodeerimisvõime kõige tugevam juhul, kui kood on seotud visuaalse või arutlusülesandega: väljavõtteskripti genereerimine, automatiseerimisjärjestuse pakkumine, ekraanipildil kuvatud vea selgitamine või diagrammi põhjal koodi kirjutamine. Esitatud hindamine kirjeldab kodeerimist pigem mõõduka tugevusena, mitte mudeli keskse spetsialiseerumisena. Tarkvaraarenduse töövoogude puhul, mis nõuavad usaldusväärseid hoidlate toiminguid, funktsioonikutsunguid või automaatset käivitamist, võib spetsiaalne kodeerimismudel või hallatud agendisüsteem olla parem valik.

Kontekstiaken ja väljundipiirang

Kimi-VL-i tehniline aruanne kirjeldab 128K tokeni suurust kontekstiakent. Moonshot AI soovitatud vLLM-i konfiguratsioonis on mudeli maksimaalseks pikkuseks määratud 131 072 tokenit. See on multimodaalse töö jaoks suur kontekst ning võimaldab mahutada pikki dokumente, palju visuaalseid elemente või ulatuslikku arutlusajalugu, sõltuvalt juurutuseks kasutatava riistvara mälumahust.

Dokumenteeritud pika arutluse konfiguratsioon toetab kuni 32 768 genereeritud tokenit. See piirang on teeninduskonfiguratsiooni maksimum, mitte lubadus, et iga vastus kasutab nii palju tokeneid. Pikad väljundid ja pikad arutluskäigud suurendavad latentsust ja GPU-mälunõudeid, eriti suure eraldusvõimega piltide või mitme videokaadri kasutamisel.

Avaldatud jõudlus ja kompromissid

Moonshot AI väitel parandab 2506 versioon varasema Kimi-VL-A3B-Thinkingi mudeli tulemusi, vähendades samal ajal arutluse keskmist pikkust ligikaudu 20 protsendi võrra. Avaldatud võrdlustulemused hõlmavad järgmisi näiteid: MathVision 56,9; MathVista 80,1; MMMU-Pro 46,3; MMMU 64,0; VideoMMMU 65,2; MMBench-EN-v1.1 84,4 ja ScreenSpot-Pro 52,8.

Need näitajad viitavad mudelile, mis on suunatud visuaalsele matemaatikale, üldisele multimodaalsele mõistmisele, video mõistmisele ja ekraanil kuvatava sisu maandamisele. Tegemist on siiski teenusepakkuja avaldatud tulemustega ning neid tuleks võrrelda ettevaatlikult. Erinevused viipades, pilditöötluses, valimisprotsessis, riistvaras ja hindamismetoodikas võivad tulemusi oluliselt mõjutada. Võrdlustestide tulemused ei taga kindlat jõudlust konkreetse dokumendikogu või kasutajaliidese puhul.

Mudeli ligikaudu 2,8 miljardit aktiivset keeleparameetrit võivad muuta selle käitamise potentsiaalselt säästlikumaks kui tiheda mudeli puhul, mille 16 miljardit parameetrit on aktiivsed, kuid see ei muuda juurutamist ressursinõuete poolest kergeks. Visioonikodeerija, suur kontekstiaken, suure eraldusvõimega sisendid, mitme pildi kasutamine ja pikad genereerimised võivad kõik nõuda märkimisväärselt GPU-mälu. Moonshot AI soovitab järelduste tegemiseks vLLM-i ning märgib, et flash-attention on oluline CUDA-mälu lõppemise vigade riski vähendamiseks.

Juurutamine, kättesaadavus ja hinnastamine

Kimi-VL-A3B-Thinking-2506 levitatakse avatud kaaludega mudelina Moonshot AI Hugging Face'i organisatsiooni kaudu. Projekt pakub rakendusmaterjale ka Kimi-VL-i GitHubi repositooriumis. Dokumenteeritud juurutusvõimaluste hulka kuuluvad Transformers koos kaugmudeli koodiga ning teenindamine OpenAI-ga ühilduvate vLLM-i või SGLangi lõpp-punktide kaudu.

Esitatud uuringus ei ole selle konkreetse mudeli ametlikku majutatud sisendi- ega väljundihinda. Mudel on eelkõige mõeldud isehostitavaks või kolmanda osapoole kaudu käitatavaks järelduste tegemiseks, mistõttu sõltub rahaline kulu riistvarast, majutusteenuse pakkujast, päringute mahust, konteksti suurusest, piltide eraldusvõimest ja genereerimise pikkusest. Avatud kaaludega mudelit ei saa automaatselt tasuta kasutada: kasutajad peavad sobiva riistvara puudumisel endiselt tasuma GPU rentimise, salvestusruumi, võrguühenduse ja tehnilise hoolduse eest.

Mudelirepositooriumis on litsentsina märgitud MIT. Enne mudeli kaasamist kommertssüsteemi peaksid kasutajad siiski üle vaatama repositooriumi kehtiva litsentsiteksti ja juurutusnõuded. Avatud kaalud annavad majutuse ja andmevoo üle suurema kontrolli kui tarbijateenus, kuid ühtlasi annavad need käitajale vastutuse taristu, seire, turvalisuse ja väljundite hindamise eest.

Tööriistad, funktsioonikutsungid ja struktureeritud väljund

Esitatud spetsifikatsioonid ei kinnita Kimi-VL-A3B-Thinking-2506 puhul algupärast funktsioonikutsungite tuge, garanteeritud struktureeritud väljundit ega sisseehitatud tööriistade käivitamist. Mudel võib genereerida teksti, mis kirjeldab tegevust või sisaldab koodi, ning väline rakendus võib seda teksti analüüsida või selle põhjal toimida, kuid selline rakenduskiht on mudelist endast eraldiseisev.

See erinevus on GUI-automatiseerimise puhul oluline. Mudel võib siduda vastuse ekraanipiltidega ja soovitada kasutajaliidese toimingute jada, kuid uuring ei kinnita, et see suudaks ilma välise kontrollerita otse klõpsata, teksti sisestada, veebis sirvida või käske käivitada. Süsteemid, mis vajavad tööriistade usaldusväärset kutsumist, peaksid lisama valideerimise ja piiratud õigustega käivituskihi või valima mudeli ja teenindusplatvormi, mille funktsioonikutsungite tugi on selgesõnaliselt dokumenteeritud.

Peamised tugevused ja piirangud

Tugevused

• Sobib hästi pildi ja teksti põhisele arutlusele, OCR-ile, graafikutele, visuaalsele matemaatikale ja dokumentide mõistmisele.
• Suure eraldusvõimega piltide tugi võib olla kasulik ekraanipiltide, väikese teksti ja üksikasjalike diagrammide puhul.
• 128K suurune kontekstiaken toetab pikki multimodaalseid viipasid ja dokumendipõhiseid töövooge.
• Video mõistmine on võimalik valitud kaadrite jadade kaudu.
• Avatud kaalud ja repositooriumis märgitud MIT-litsents annavad suletud tarbija-API-ga võrreldes suurema kontrolli juurutuse üle.
• Aktiivsete parameetritega MoE-arhitektuur võib pakkuda kasulikku jõudluse ja arvutusressursside kompromissi võrreldes kõigi 16 miljardi parameetri aktiveerimisega iga tokeni puhul.

Piirangud

• See genereerib teksti, mitte pilte, videot ega heli.
• Ametlikku, konkreetselt sellele mudelile mõeldud majutatud API hinda ei ole dokumenteeritud.
• Suure eraldusvõimega pildid, mitu pilti, pikad kontekstid ja 32 000 tokenini ulatuvad genereerimised võivad nõuda märkimisväärseid GPU-ressursse.
• GUI-näited ei kinnita algupärast tegevuste käivitamist ega tööriistade usaldusväärset kasutamist.
• Esitatud uuringus ei ole kinnitatud algupärast funktsioonikutsungite tuge, garanteeritud JSON-väljundit, peenhäälestust, vahemällu salvestamist ega partiilise API tuge.
• Teenusepakkuja võrdlustulemused ei pruugi ennustada jõudlust teistsuguste viipade või tootmisandmete puhul.

Millal seda mudelit valida?

Vali Kimi-VL-A3B-Thinking-2506 juhul, kui vajad multimodaalseks arutluseks avatud kaaludega mudelit ning suudad järelduste tegemise taristut ise või kolmanda osapoole kaudu hallata. See sobib eriti hästi pikkade PDF-failide analüüsimiseks, pildirikka dokumentatsiooni põhjal teabe väljavõtmiseks, graafikute tõlgendamiseks, ekraanipiltide ülevaatamiseks, valitud videokaadrite mõistmiseks ja GUI-agendisüsteemi loomiseks, kus eraldi kontroller valideerib pakutud tegevused.

See on mõistlik valik ka siis, kui andmed peavad jääma juurutava organisatsiooni kontrolli all olevasse taristusse või kui töökoormus saab kasu MIT-litsentsiga avatud kaaludega mudelist, mitte suletud API-st. 128K suurune kontekst ja suure eraldusvõimega visioonitugi on eriti kasulikud dokumentide ja ekraanide analüüsi projektides, mis ületavad väiksemate visioon-keelemudelite praktilised piirid.

Teine võimalus võib olla sobivam juhul, kui prioriteediks on lihtne hallatud vestluskogemus, prognoositav tokenipõhine hinnastamine, sisseehitatud veebiotsing, garanteeritud funktsioonikutsungid või algupärane piltide ja video genereerimine. Hoidlateülese tarkvaraarenduse puhul võib eelistada spetsiaalset kodeerimismudelit, samas kui lihtsa OCR-i või piltide klassifitseerimise jaoks võib väiksem visioonimudel pakkuda väiksemat latentsust ja väiksemaid taristukulusid. Kui maksimaalne töökindlus on avatud juurutusest ja riistvara üle kontrolli omamisest olulisem, võib eelistada suuremat majutatud multimodaalset mudelit.

Üldjoontes paikneb Kimi-VL-A3B-Thinking-2506 praktilises keskpunktis: see pakub avatud kaaludega aktiivsete parameetrite mudelina laia multimodaalset arutlusvõimet ja väga pikka konteksti, kuid eeldab kasutajalt juurutuse haldamist ning tööriistade käivitamise, struktureeritud valideerimise ja tootmiskeskkonna turvakontrollide ise mudeli ümber ehitamist.