Mis on Kimi K2 Base?
Kimi K2 Base on Moonshot AI eeltreenitud alusmudeli kontrollpunkt Kimi K2 mudeliperekonnas. Seda jagatakse Hugging Face’i kaudu allalaaditavate avatud kaaludena, mis annab uurimisrühmadele ja taristu arendajatele kontrolli mudeli serveerimise, peenhäälestuse, viipade ning rakendustaseme turvameetmete üle.
Sõna „Base“ on siin oluline. Seda mudelit ei esitleta valmis vestlusassistendina. Baasmudel on eeltreeningu käigus õppinud üldisi keelemustreid ja võimeid, kuid ei pruugi järjepidevalt järgida vestlusjuhiseid, vormindada vastuseid lõppkasutajatele ega teha usaldusväärseid tööriistakutseid ilma täiendava järeltreeningu ja rakendusloogikata. Moonshot AI positsioneerib Kimi K2 Base’i kohandatud süsteemide lähtekohana, samal ajal kui Kimi K2 Instruct on üldotstarbelise vestluse ja agentsete suhtluste jaoks sobivam sõsarmudel.
Mudel avaldati 11. juulil 2025. Mudeli kohta esitatud teave kirjeldab seda avatud kaaludega ja allalaaditavana, kuigi uuemate Kimi K2.x mudelitega võrreldes suhteliselt vanema mudelina. See on endiselt saadaval ametlikus mudelirepositooriumis.
Arhitektuur ja 128K märgi kontekstiaken
Kimi K2 Base kasutab hõredat ekspertide segu arhitektuuri, mida lühendatakse sageli kujule MoE. Selle asemel et aktiveerida iga märgi puhul kõik parameetrid, suunab mudel iga märgi valitud spetsialiseerunud närvivõrkude rühmale. See võimaldab väga suurt parameetrite koguarvu, ilma et kogu mudel igal sammul aktiveeruks, kuigi täielik kontrollpunkt vajab endiselt märkimisväärset salvestusruumi ja serveerimistaristut.
- Parameetreid kokku: 1 triljon
- Aktiveeritavad parameetrid: ligikaudu 32 miljardit märgi kohta
- Kihte: 61
- Eksperte: 384, millest iga märgi puhul valitakse kaheksa eksperti ja üks jagatud ekspert
- Tähelepanupeasid: 64
- Sõnavara: 160 000 märki
- Konteksti pikkus: 131 072 märki, mida kirjeldatakse tavaliselt kui 128K
- Kontrollpunkti vorming: FP8
128K märgi suurune kontekstiaken võimaldab anda mudelile ühe päringu jooksul palju rohkem teksti kui tavapärase lühikese kontekstiga süsteemis. Praktilised näited hõlmavad suuri koodihoidlaid, mahukaid tehnilisi dokumente, uurimismaterjalide kogumeid või mitme dokumendi analüüsi. Konteksti piirang ei ole sama mis garanteeritud väljundi pikkus: esitatud spetsifikatsioonid ei kinnita selle kontrollpunkti eraldi maksimaalset väljundimärkide arvu.
Mudelikaart nimetab arhitektuuri komponentidena ka Multi-head Latent Attention’i ja SwiGLU aktiveerimist. Ametlik repositoorium on ligikaudu 1,03 TB suurune, seega ei tohiks kontekstiakent pidada märgiks, et mudelit on lihtne kohapeal käivitada. Selle juurutamisel on olulised salvestusruum, mälu, võrk, kvantimise valikud ja mitme GPU-ga serveerimise võimekus.
Võimekused ja toetatud modaalsused
Kimi K2 Base on teksti genereeriv mudel. Esitatud spetsifikatsioonid kinnitavad teksti sisendit ja teksti väljundit, kuid ei dokumenteeri selle konkreetse Base’i kontrollpunkti puhul loomulikku pildi-, heli- ega videoväljundit või -sisendit. Seetõttu tuleks seda käsitleda ainult keelelise alusmudelina, mitte multimodaalse mudelina.
Moonshot AI laiemates Kimi K2 materjalides seostatakse mudeliperekonda teadmiste, arutlusoskuse, programmeerimise ja agentsete töökoormustega. Kimi K2 Base’i puhul toetavad uuringud nende käsitlemist alusmudeli võimekustena, mitte täieliku lõppkasutajale mõeldud agendipaketina. Base’i kontrollpunkt võib olla tugev lähtekoht programmeerimissüsteemidele, domeenikohandusele ja eksperimentaalsetele arutlusvoogudele, kuid arendajad peaksid vajalike funktsioonide korral lisama juhiste järgi häälestamise, tööriistade orkestreerimise, valideerimise ja turvakontrollid.
Selle mudeli kohta esitatud toimetuslik hinnang annab arutlusoskusele 8 punkti 10-st ja programmeerimisele 9 punkti 10-st. Need on toimetuslikud hinded, mitte teenusepakkuja avaldatud võrdlustestide tulemused. Need näitavad mudeli hinnangulist sobivust tehniliseks ja programmeerimistööks, kuid neid ei tohiks kasutada oma meeskonna ülesannete testimise asemel.
Peenhäälestus ja kohandatud juurutamine
Kimi K2 Base’i valimise peamine põhjus on kontroll. Meeskonnad saavad kasutada kontrollpunkti spetsialiseerunud keelemudeli alusena ning kohandada seda konkreetse valdkonna, vastamisstiili, ettevõttesisese terminoloogia või ülesandevormingu järgi. Võimalikud projektid on valdkonnaspetsiifilised assistendid, programmeerimiskatsed, uurimissüsteemid ja isehostitud rakendused, mille puhul peab operaator haldama mudelit, mitte toetuma valmis majutatud vestlusrobotile.
Ametlikus juurutusmaterjalis viidatakse Transformersile, vLLM-ile, SGLangile, KTransformersile ja TensorRT-LLM-iga ühilduvale taristule. Mudel kasutab kohandatud mudelikoodi, mistõttu võivad mõned serveerimisviisid nõuda mudelipõhist integreerimist või kaugkoodi seadeid. Enne taristulahenduse lõplikku valimist peaksid operaatorid tutvuma ametliku repositooriumi ja valitud serveerimisraamistikuga.
Isehostimine annab juurutavale organisatsioonile ka suurema vastutuse. Mudel ei paku automaatselt täielikku turvapoliitikat, usaldusväärset juhiste järgimise kihti, juurdepääsukontrolli, seiresüsteemi ega rakendusepõhist hindamisprotsessi. Need elemendid tuleb kontrollpunkti ümber üles ehitada. Repositooriumi suur maht ja kõrged riistvaranõuded muudavad selle ebasobivaks väikese tööjaama jaoks või olukorras, kus kiired vastused on mudeli üle kontrollimisest tähtsamad.
Tööriistade kasutamine, struktureeritud väljund ja API kättesaadavus
Esitatud uuringus ei ole Kimi K2 Base’i loomulikku tööriistakasutuse ega funktsioonikutsete võimekust eraldi kinnitatud. Sama kehtib JSON-režiimi, struktureeritud väljundi, vahemällu salvestamise, pakk-API juurdepääsu ja selle konkreetse kontrollpunkti teenusepakkuja pakutava API-hinna kohta. Arendaja võiks isehostitud mudeli ümber luua orkestreerimiskihi, kuid see oleks rakendusepõhine otsus, mitte Base’i mudeli kinnitatud sisseehitatud funktsioon.
Mudelikaart sisaldab OpenAI-ga ühilduva serveerimise näiteid. Selles kontekstis kirjeldavad need näited kohapeal majutatud järeldamist ning neid ei tohiks tõlgendada tõendina, et Moonshot pakub Kimi K2 Base’i jaoks kindlasti majutatud API-toodet. Mudelit kaaluvad organisatsioonid peaksid eristama ise käitatavat OpenAI-ga ühilduvat serverit mudelipakkujalt ostetud hallatavast lõpp-punktist.
Hinnakujundus ja käituskulud
Esitatud teabe põhjal ei ole Kimi K2 Base’i ametlikku majutatud API-hinda kinnitatud. Seda jagatakse isehostimiseks mõeldud kaaludena, mistõttu ei esitata mudeli otsest hinda korduva märgipõhise tellimuse ega tavapärase majutatud järeldamise hinnana.
See ei tähenda, et juurutamine oleks tasuta. Tegelik kulu hõlmab ligikaudu 1,03 TB suuruse repositooriumi salvestamist, kiirendiriistvara või renditud GPU-mahtu, elektrit, võrguühendust, inseneritööd, serveerimistarkvara, seiret ja pidevat hooldust. Toimetuslik kuluhinnang on 6 punkti 10-st ning kiiruse hinnang 3 punkti 10-st; mõlemad on võrdlevad hinnangud, mitte Moonshot AI spetsifikatsioonid. Praktilises mõttes võib mudeli hõre arhitektuur vähendada märgi kohta aktiveeritavate parameetrite hulka võrreldes sama parameetrite koguarvuga tiheda mudeliga, kuid mudeli üldine suurus tekitab endiselt märkimisväärse taristu- ja latentsuskoormuse.
Peamised tugevused ja piirangud
Tugevused
- Kontroll avatud kaalude üle: meeskonnad saavad kontrollpunkti alla laadida, seda uurida, peenhäälestada ja ise hostida selle muudetud MIT-litsentsi alusel.
- Suur kontekst: kinnitatud 128K märgi suurune kontekstiaken on kasulik pikkade dokumentide, koodihoidlate ja mitme dokumendiga töövoogude puhul.
- Tehniline fookus: mudel on suunatud programmeerimisele, teadmistele, arutlusele, uurimistööle ja kohandatud keelesüsteemide arendamisele.
- Paindlik juurutamine: ametlikus materjalis viidatakse mitmele väljakujunenud järeldamis- ja serveerimisvirnale.
- Alusmudeli roll: arendajad saavad mudelit kohandada, selle asemel et leppida valmisassistendi käitumise ja piirangutega.
Piirangud
- Väga suur riistvaravajadus: ligikaudu 1,03 TB suurune repositoorium ja triljoni parameetriga arhitektuur on paljudes kohalikes keskkondades ebapraktilised.
- Ei ole kasutusvalmis vestlusrobot: Base’i kontrollpunkt võib enne lõppkasutajatele pakkumist vajada juhiste järgi häälestamist, hoolikat viipamist, turvakontrolle ja valideerimist.
- Piiratud kinnitatud platvormifunktsioonid: loomulik tööriistakasutus, JSON-režiim, struktureeritud väljund, vahemällu salvestamine, pakktöötlus ja majutatud API ei ole selle konkreetse mudeli puhul kinnitatud.
- Ainult tekst: Kimi K2 Base’i puhul ei ole dokumenteeritud loomulikku pildi-, heli- ega videosisendit või -väljundit.
- Kiiruse ja kulu kompromissid: juurutamine on nõudlikum kui tüüpiliste väiksemate avatud kaaludega mudelite puhul ning esitatud toimetuslik kiirusehinnang on madal.
- Kinnitatud väljundi maksimum puudub: kuigi kontekstiaken on dokumenteeritud, ei ole eraldi maksimaalset väljundimärkide arvu kinnitatud.
Millal valida Kimi K2 Base?
Vali Kimi K2 Base siis, kui peamine vajadus on suur ja kohandatav keeleline alus, mitte kohe kasutatav vestlustoode. See on mõistlik valik organisatsioonile, kellel on mitme GPU-ga taristu, kes soovib mudelit spetsialiseeritud valdkonna jaoks peenhäälestada, vajab isehostimist või uurib suuri ekspertide segu süsteeme.
See sobib ka juhul, kui 128K märgi suurune kontekstiaken on väärtuslik ja meeskond suudab teha inseneritöö, mis on vajalik eeltreenitud kontrollpunkti muutmiseks töökindlaks rakenduseks. Programmeerimisuuringud, ettevõttesisesed keelesüsteemid, pika konteksti katsed ja kohandatud hindamistorud sobivad paremini kui juhuslik isiklik kasutus.
Teine lahendus on sobivam siis, kui esmatähtsad on väike latentsus, madalad taristukulud, loomulik multimodaalne sisend, hallatav API-juurdepääs või usaldusväärne juhiste järgimine ilma ulatusliku järeltreeninguta. Kimi K2 perekonnas on Kimi K2 Instruct kasutusvalmis vestluse ja agentse käitumise seisukohast asjakohasem võrdlusmudel. Väiksemad avatud kaaludega mudelid võivad olla eelistatavad siis, kui riistvara kättesaadavus ja vastamiskiirus on maksimaalsest mudeli suurusest olulisemad.
Kokkuvõte
Kimi K2 Base’i on kõige õigem mõista suure avatud kaaludega ehitusplokina. Selle 1 triljon parameetrit kokku, ligikaudu 32 miljardit aktiveeritavat parameetrit märgi kohta, 128K kontekstiaken ja muudetud MIT-litsents muudavad selle tõsiseks kohandamiseks ja isehostitud uurimistööks huvitavaks. Samad omadused muudavad selle nõudlikuks valikuks: kontrollpunkt on tohutu, järeldamine ei ole odav ega väikese latentsusega ning esitatud uuring ei kinnita valmis majutatud API-d ega täielikku assistendifunktsioonide komplekti.
Meeskondadele, kes on valmis suurt mudelitaristut käitama ja puuduvaid rakenduskihte üles ehitama, pakub Kimi K2 Base märkimisväärset paindlikkust. Kasutajatele, kes vajavad lihtsalt kiiret vestlusassistenti või hallatavat multimodaalset teenust, sobib tõenäoliselt paremini järeltreeninguga või väiksem majutatud mudel.