Mis on MiMo-V2.6-Pro?
MiMo-V2.6-Pro on Xiaomi MiMo multimodaalne arutlusmudel ja MiMo-V2.6 mudeliperekonna lipulaev. See on loodud ülesannete jaoks, mis nõuavad enamat kui lühike küsimuse ja vastuse vahetus, sealhulgas pikaajalised agendid, tarkvaraarendus, küberturvalisuse analüüs, uurimistöö, kontoritarkvaraga suhtlemine ja arvuti kasutamine.
Praktikas suudab mudel tõlgendada teksti koos piltide, video ja heliga, arutleda suurte infokogumite põhjal, kutsuda tööriistu ning säilitada pikka töö konteksti. Selle standardne API tagastab teksti ja tööriistakutsed, mitte ei loo otse pilte, heli ega videot. See erinevus on oluline: MiMo-V2.6-Pro on multimodaalne selle poolest, mida ta mõista suudab, mitte üldotstarbeline meedia genereerimise mudel.
Xiaomi pakub mudelit kahel kujul. Arendajad saavad kasutada Xiaomi API kaudu majutatud mudelit või laadida toetatud enda hallatavates juurutustes kasutamiseks alla XiaomiMiMo/MiMo-V2.6-Pro-RL kontrollpunkti. Xiaomi väljalaskematerjalide kohaselt on avaldatud kaalud, tehniline aruanne, tugevdusõppe kood, treeningukeskkonnad ja seotud uurimisressursid avaldatud MIT-litsentsi alusel.
MiMo-V2.6-Pro koht Xiaomi MiMo tootevalikus
MiMo-V2.6-Pro paikneb Xiaomi MiMo-V2.6 mudeliperekonna tipus ning on mõeldud nõudlikeks arutlus- ja agendiülesanneteks, mitte kergeks vestluseks. Xiaomi loetleb ka erineva hinnastusega juurutusvariandi MiMo-V2.6-Pro-UltraSpeed, kuid kaasasolevas dokumentatsioonis käsitletakse UltraSpeedi eraldi juurutusvõimalusena, mitte teistsuguse alusmudelina.
Mudel on eraldiseisev Xiaomi HyperAI-st, mis on valitud Xiaomi seadmetesse ja HyperOS-i toodetesse integreeritud tarbijatele suunatud tehisintellekti funktsioonide kogum. MiMo-V2.6-Pro on peamiselt arendajatele ja API-kasutuseks mõeldud mudel, mille allalaaditavad kaalud ühilduvad OpenAI ja Anthropicuga ühilduvate API-protokollidega.
Arhitektuur ja kontekstiaken
Allalaaditav MiMo-V2.6-Pro-RL kontrollpunkt kasutab hõredat ekspertide segu ehk MoE-arhitektuuri. Sellel on ligikaudu 1,02 triljonit parameetrit, millest ühe sisendi puhul aktiveeritakse umbes 42 miljardit. MoE-mudelis valitakse eri märkide või ülesannete jaoks erinevad ekspertkomponendid, mis võimaldab kasutada väga suurt võrku ilma kõiki parameetreid iga arvutuse korral aktiveerimata.
Mudel toetab 1 000 000 märgi suurust kontekstiakent. Kontekstiaken näitab, kui palju sisendit ja käimasoleva vestluse materjali suudab mudel ühe päringu või töövoo puhul arvesse võtta. See ebatavaliselt suur piirang on kasulik suurte koodibaaside, mahukate uurimismaterjalide, pikkade agendijälgede, dokumendikogumite ja paljusid vaheetappe nõudvate ülesannete korral.
Maksimaalseks väljundiks on märgitud 131 072 märki ehk kuni 128K väljundmärki. Tegelikud vastused võivad olla lühemad sõltuvalt päringust, API-seadetest, tööriistade kasutamisest ja praktilistest juurutuspiirangutest. Suur konteksti piirang ei taga ka seda, et mudel pöörab väga pika viiba igale detailile võrdselt tähelepanu; arendajad peaksid olulise teabe siiski selgelt struktureerima.
Toetatud modaalsused ja väljundid
MiMo-V2.6-Pro toetab teksti, pildi, video ja heli sisendit. See võimaldab töövoos ühendada kirjalikud juhised visuaalse materjali, salvestatud kõne, videosisu või muu toetatud meediaga. Võimalikud kasutusnäited on ekraanipildi uurimine koos kodeerimisprobleemi selgitamisega, visuaalsete tõendite läbivaatamine uurimistöö käigus või heli ja video kasutamine pikemas analüüsiülesandes.
Dokumenteeritud standardmudeli väljund on tekst. API võib toetatud juhtudel genereerida ka tööriistakutseid ja struktureeritud vastuseid, kuid mudelit ei tohiks valida juhul, kui vaja on loomulikku pildi-, heli- või videoloomet, muusika tootmist või kõnesünteesi. Kaasasolevas mudeliteabes on need väljunditüübid märgitud toetamata.
MiMo-V2.6-Pro toetab Xiaomi platvormi kaudu ka voogedastust, konteksti vahemällu salvestamist, veebiotsingut ja tööriistakutseid. Platvormi võimaluste hulgas on loetletud ka struktureeritud väljund. Need funktsioonid aitavad arendajatel luua rakendusi, mis saavad vastu võtta osalisi vastuseid, kasutada korduvat konteksti uuesti, hankida ajakohast teavet või ühendada mudeli väliste funktsioonidega.
Arutlus-, kodeerimis- ja agendivõimekus
Mudeli peamine eesmärk on pikaajaline arutlemine: keeruka eesmärgi jagamine etappideks, vahepealse teabe töötlemine ja jätkamine pikema ülesande vältel. Xiaomi tutvustab seda uurimistöö, kodeerimise, küberturvalisuse, kontoritarkvara, visuaalse kodeerimise ja arvuti kasutamise stsenaariumide jaoks. Mudel esineb ka kehastatud agentide ja tegevusele suunatud arvutikasutuse näidetes.
Kodeerimisel on MiMo-V2.6-Pro mõeldud mahukate tarkvaraülesannete jaoks, mitte ainult koodi lõpetamiseks. Väga suur kontekst aitab mudelil uurida ulatuslikku projektimaterjali, samal ajal kui tööriistade kasutamine võimaldab ühendada mudeli täitmise, otsingu või muude arendaja määratud funktsioonidega. Kaasasolev teave ei kinnita siiski konkreetset programmeerimiskeele võrdlustesti ega taga koodi korrektsust. Arendajad peaksid genereeritud koodi kontrollima, eriti juhul, kui see võib muuta faile, käivitada käske või suhelda tootmissüsteemidega.
Ka arvutikasutuse võimekust tuleks käsitleda agendifunktsioonina, mitte rakenduste turvakontrollide otsese asendusena. Mudel võib osaleda arvuti kasutamist ja tegevusele suunatud käitumist hõlmavates töövoogudes, kuid tavalised API-interaktsioonid tagastavad otse robotijuhtimise voo asemel teksti ja tööriistakutseid. Väline tarkvara peab need väljundid tõlgendama, õigusi jõustama ja otsustama, milliseid toiminguid on ohutu käivitada.
Hinnastus ja juurdepääs API-le
Xiaomi loetletud standardse API hinnad on järgmised:
| Kasutuse tüüp | Hind |
|---|---|
| Sisendmärgid, vahemälu puudumine | $0.435 1 miljoni märgi kohta |
| Sisendmärgid, vahemälu tabamus | $0.0036 1 miljoni märgi kohta |
| Väljundmärgid | $0.87 1 miljoni märgi kohta |
| Pakktöötluse sisend | $0.2175 1 miljoni märgi kohta |
| Pakktöötluse väljund | $0.435 1 miljoni märgi kohta |
Need on kasutuspõhised API-hinnad, mitte tarbijatele mõeldud tellimuse hind. Vahemälu tabamuse hind on vahemälu puudumise hinnast märgatavalt väiksem, mistõttu võivad rakendused, mis kasutavad pikka süsteemiviipa või viitekonteksti korduvalt, sobiva päringumustri korral vahemälust kasu saada. Pakktöötluse hinnad on tavapärastest interaktiivsetest hindadest madalamad, kuid mõeldud toetatud pakktöötluse jaoks, mitte latentsustundlikuks suhtluseks.
Mudel on saadaval Xiaomi OpenAI-ga ja Anthropicuga ühilduvate protokollide kaudu. See võib vähendada integreerimiseks kuluvat tööd rakenduste puhul, mis on juba loodud ühe sellise API-stiili jaoks, kuid arendajad peaksid siiski kontrollima Xiaomi dokumentatsiooni alusel päringu välju, multimodaalset vormingut, tööriistade määratlusi, autentimist ja vastuste käitumist.
Peamised tugevused ja kompromissid
- Väga suur töökontekst: 1 miljoni märgi suurune aken on kasulik mahukate dokumentide, koodihoidlate ja pikkade agendiajalugude korral.
- Lai sisendite tugi: teksti, pildi, video ja heli mõistmine võimaldab rikkalikumat analüüsi kui ainult teksti toetav mudel.
- Agendikeskne ülesehitus: tööriistakutsed, veebiotsing, voogedastus, struktureeritud väljund ja arvutikasutuse töövood toetavad mitmeetapilisi rakendusi.
- Avatud väljalase: MIT-litsentsiga kontrollpunkt ja seotud ressursid võimaldavad mudelit ise majutada ning kasutada uurimiseks ja katsetamiseks.
- Suure mudeli võimekus kasutuspõhise hinnaga: mudel on suunatud keerukatele arutlus- ja kodeerimisülesannetele ning pakub vahemälu- ja pakktöötluse hindu töökoormustele, mille puhul neid saab kasutada.
Nende eelistega kaasnevad märkimisväärsed käituskulud. Kuigi ühe sisendi puhul aktiveeritakse ainult umbes 42 miljardit parameetrit, on kogu kontrollpunkti suurus ligikaudu 1,02 triljonit parameetrit. Seetõttu nõuab ise majutamine märkimisväärset mitme GPU-ga taristut ja spetsiaalset seadistust. Xiaomi nimetab toetatud juurutusvõimalustena selliseid süsteeme nagu vLLM ja SGLang, kuid allalaaditavat kontrollpunkti ei tohiks pidada kergeks lokaalseks mudeliks.
Mudel ei ole loodud eelkõige järjepidevalt väikese latentsusega vastuste jaoks. Selle arutlusele ja agentidele keskendumine võib muuta selle keerukate ülesannete puhul paremaks valikuks kui suure mahuga lihtsa klassifitseerimise või lühivastustega töökoormuste korral. Kui vastusekiirus ja taristu hind on maksimaalsest arutlussügavusest olulisemad, võib sobivam olla väiksem või kiirusele optimeeritud mudel.
Piirangud, millega arvestada
MiMo-V2.6-Pro multimodaalse sisendi tugi ei tähenda, et mudel suudab meediat otse luua või töödelda. Rakendused, mis vajavad loomulikku pildi-, heli- või videoväljundit, vajavad eraldi genereerimissüsteemi või selleks otstarbeks loodud mudelit.
Teine oluline piirang on ise majutamine. MIT-litsents muudab kaalud kasutamiseks ja muutmiseks kättesaadavaks, kuid ei kõrvalda triljoni parameetriga hõreda MoE kontrollpunktiga seotud riistvara-, mälu-, orkestreerimis- ega hooldusvajadusi. Majutatud API võib olla lihtsam valik meeskondadele, kes ei halda suuremahulist järeldustaristut.
Tööriistade kasutamine ja arvutiga toimingute tegemine toovad kaasa ohutusprobleeme. Rakendused peaksid isoleerima mandaadid, piirama saadaolevaid funktsioone, logima toiminguid ja nõudma pöördumatute toimingute puhul kinnitust. Mudeli võime genereerida tegevusele suunatud vastus ei tõenda, et toiming on õige või ohutu.
Lõpuks märgib kaasasolev Xiaomi API näide, et mudeli teadmiste lõppkuupäev on detsember 2024. Veebiotsing ja välised tööriistad võivad aidata hankida sellest kuupäevast hilisemat teavet, kuid ainult juhul, kui rakendus need võimalused lubab ja neid õigesti käsitleb. Mudelit ei tohiks pidada automaatselt ajakohaseks ainult seetõttu, et see saab tööriistu kasutada.
Millal valida MiMo-V2.6-Pro?
Vali MiMo-V2.6-Pro siis, kui ülesanne saab kasu suurest kontekstist, multimodaalsest mõistmisest, põhjalikust arutlemisest ja tööriistadega ühendatud töövoogudest. See sobib hästi suurte tehniliste materjalikogumite analüüsimiseks, uurimisagentide loomiseks, keerukate koodibaaside läbivaatamiseks, mitmeetapiliste küberturvalisuse uurimiste koordineerimiseks või arvutikasutuse süsteemide loomiseks, mis peavad visuaalset ja kirjalikku teavet koos tõlgendama.
Allalaaditavad kaalud on eriti olulised meeskondadele, kes vajavad juurutuse üle suuremat kontrolli, soovivad mudelit uurida või eelistavad avatud lähtekoodiga kontrollpunkti. Majutatud API on praktilisem siis, kui meeskond soovib vältida vajaliku mitme GPU-ga taristu haldamist.
Lihtsa vestluse, suure läbilaskevõimega klassifitseerimise, rangete väikese latentsuse nõuete, kerge kohaliku juurutuse või loomuliku meedialoome puhul võib sobivam olla mõni teine võimalus. MiMo-V2.6-Pro väärtus avaldub eelkõige keerukates, pikaajalistes ja multimodaalsetes ülesannetes; selle kasutamine iga päringu puhul võib maksta rohkem või lisada tarbetut keerukust. Selle standardne väljund on samuti tekst ja tööriistakutsed, mistõttu vajavad meedialoome töövood täiendavaid mudeleid.
Kokkuvõte
MiMo-V2.6-Pro on kaasasolevas MiMo-V2.6 tootevalikus Xiaomi MiMo tehniliselt kõige ambitsioonikam pakkumine: avatud lähtekoodiga multimodaalne arutlusmudel, millel on 1 miljoni märgi suurune kontekst, ligikaudu 1,02 triljonit parameetrit, tööriistade tugi ja keskendumine pikaajalisele agenditööle. Allalaaditavate MIT-litsentsiga kaalude ja majutatud API kombinatsioon annab arendajatele nii juurutuspaindlikkuse kui ka hallatud kasutusvõimaluse.
Selle peamine eripära on mastaap. Mudel sobib kõige paremini organisatsioonidele, kes suudavad õigustada arenenud arutluse, kodeerimise ja multimodaalse analüüsi jaoks vajaliku taristu või API-kasutuse kulusid. See sobib vähem kergeks igapäevamudeliks või iseseisvaks pildi-, heli- või videogenereerijaks.