Mis on MiMo-7B-RL?
MiMo-7B-RL on Xiaomi avatud kaaludega tekstigeneratsiooni mudel, mis on mõeldud intensiivset arutlemist nõudvate ülesannete jaoks. Mudel kuulub MiMo-7B mudeliperre ja on tugevdusõppega versioon, mis on treenitud MiMo-7B-SFT kontrollpunkti põhjal. Selle peamine fookus on samm-sammulist arutlemist eeldavate probleemide lahendamine, eriti matemaatikas, programmeerimises ja struktureeritud probleemilahenduses.
Tähis „RL“ viitab tugevdusõppele – treeningujärgsele meetodile, mille puhul mudelit optimeeritakse saadud tasude alusel. MiMo-7B-RL-i puhul kasutas Xiaomi ligikaudu 130 000 kontrollitavat matemaatika- ja programmeerimisülesannet. Tasude arvutamisel kasutati reeglipõhiseid kontrolle ning Xiaomi kirjeldab testide raskusastmest sõltuvat kooditasu, mille eesmärk on pakkuda programmeerimisülesannete puhul tihedamat tagasisidet.
Tegemist on allalaaditava mudeli kontrollpunktiga, mitte tavapärase tarbijatele mõeldud vestlusroboti paketi ega dokumenteeritud kasutuspõhise hinnastusega API-mudeliga. Kasutajad saavad kaalud Xiaomi ametlikust Hugging Face'i repositooriumist alla laadida ja mudelit ühilduva järeldustarkvaraga käitada. See muudab paindliku juurutamise mudeli üheks keskseks väärtuseks, kuid tähendab ka seda, et riistvara, majutuse, kvantimise ja teenindamisega seotud otsuste eest vastutab kasutaja.
Milline on selle koht MiMo mudeliperes?
MiMo-7B-RL kuulub Xiaomi algsesse MiMo-7B mudeliseeriasse. Mudelipere eesmärk on parandada arutlusvõimet nii eeltreenimise kui ka treeningujärgse töötluse abil. Xiaomi andmetel eeltreeniti baasmudelit ligikaudu 25 triljoni märgendi põhjal ning täiendava treeningueesmärgina kasutati mitme märgendi ennustamist.
Siin käsitletavat konkreetset kontrollpunkti ei tohiks segi ajada versiooniga MiMo-7B-RL-0530, mis on hilisem ja eraldiseisev versioon ning mille puhul Xiaomi avaldas paremad võrdlustestide tulemused. MiMo-7B-RL on algne tugevdusõppe kontrollpunkt, mida tähistab repositooriumi nimi XiaomiMiMo/MiMo-7B-RL.
Tugevused ja avaldatud tulemused
MiMo-7B-RL on mõeldud ülesannete jaoks, mille puhul saab õigsust kontrollida, eelkõige matemaatiliste vastuste ja käivitatava koodi puhul. Xiaomi avaldatud hindamise tulemused on järgmised:
| Hindamine | Avaldatud tulemus |
|---|---|
| MATH-500 | 95.8 pass@1 |
| AIME 2024 | 68.2 |
| AIME 2025 | 55.4 |
| LiveCodeBench v5 | 57.8 |
| LiveCodeBench v6 | 49.3 |
| GPQA Diamond | 54.4 pass@1 |
Need on teenusepakkuja avaldatud tulemused, mitte sõltumatud garantiid. Xiaomi määrab avaldatud testide temperatuuriks 0.6 ning kasutab mõne hindamise puhul korduvat valimite genereerimist. Viipade, valimi genereerimise, tööriistade kasutamise, testiversioonide ja hindamisprotseduuride erinevused võivad tegelikus juurutuses anda teistsuguseid tulemusi.
Toimetuslikult toetavad need tulemused MiMo-7B-RL-i käsitlemist kompaktse mudelina, mille keskmes on matemaatiline ja programmeerimisega seotud arutlemine. Need ei tõesta, et mudel edestab suuremaid mudeleid kõigis üldotstarbelistes keeletöödes. Selle selgeim eelis on arutlemisele spetsialiseerumise ja avatud kaaludega kasutamise kombinatsioon.
Tehnilised andmed
Avaldatud kontrollpunkti konfiguratsioon kirjeldab põhjuslikku keelemudelit, millel on 36 peidetud kihti, 4096-mõõtmeline peidetud olek, 32 tähelepanupead ja 8 võtme-väärtuse pead. Kaalud kasutavad bfloat16-vormingut. Konfiguratsioon sisaldab ka üht mitme märgendi ennustamise kihti, mis võib ühilduvates järeldussüsteemides toetada spekulatiivset dekodeerimist.
Kontrollpunkti konfiguratsioon määrab maksimaalselt 32 768 positsioonimanust. See on allalaaditava mudeli kõige olulisem avaldatud konteksti puudutav piirang, kuid seda ei tohiks tõlgendada määratud majutusteenuse garanteeritud piiranguna. Xiaomi ei dokumenteeri selle konkreetse kontrollpunkti jaoks eraldi maksimaalset väljundmärgendite arvu, mistõttu tuleb maksimaalset väljundväärtust käsitleda teadmata väärtusena, mitte eeldada, et see võrdub kogu positsioonimanuste seadistusega.
Praktilises mõttes võtab mudel vastu teksti ja genereerib teksti. Seda ei ole dokumenteeritud natiivse pildi-, heli-, video-, kõne-, manustamis- ega meediageneratsiooni mudelina. Avaldatud materjalid ei tõesta ka selle kontrollpunkti puhul esimese osapoole veebotsingu, tööriistakutsete, struktureeritud väljundi garantiide, partiilise API toe ega viipade vahemällu salvestamise toe olemasolu.
Kuidas MiMo-7B-RL-i juurutada?
MiMo-7B-RL on saadaval Xiaomi ametlikus Hugging Face'i repositooriumis. Mudeli dokumentatsioon sisaldab juurutamisnäiteid Transformersile, vLLM-ile ja SGLangile. Xiaomi soovitab kasutada tühja süsteemiviipa ning dokumenteerib mitme märgendi ennustamist kasutava järeldamise jaoks MiMo-ga ühilduvat vLLM-i haru.
Transformers sobib lähtekohaks kasutajatele, kes soovivad katsetada otse Pythoni kaudu. vLLM või SGLang võib olla sobivam, kui eesmärk on teenindada mitut päringut või lõimida kontrollpunkt suuremasse järeldussüsteemi. Ühilduvus teenindusraamistikuga ei tähenda, et Xiaomi käitab mudeli jaoks majutatud lõpp-punkti; käitaja peab endiselt tagama riistvara, käituskeskkonna ja operatiivse keskkonna.
Täielik bfloat16-kontrollpunkt võib nõuda märkimisväärselt mälu ning tegelikud nõuded sõltuvad mudeli teostusest, käituskeskkonna lisakulust, pakisuurusest, jada pikkusest ja sellest, kas kasutatakse kvantimist. Kaasasolev uurimus ei määra üht kindlat minimaalset GPU-mälu mahtu, mistõttu tuleks riistvaranõudeid testida valitud teeninduskorstna põhjal, mitte tuletada neid ainult konteksti piirangust.
Hind ja kulud
MiMo-7B-RL-il ei ole ametlikku sisend- ega väljundmärgendi põhist hinda. Xiaomi levitab mudelit MIT-litsentsi alusel allalaaditavate kaaludena, mitte mõõdetava kasutusega esimese osapoole majutatud API-tootena.
See ei tähenda, et mudeli käitamine oleks tasuta. Käitajal võivad tekkida kulud GPU-de, pilveinstantside, salvestusruumi, elektri, võrguühenduse, seire ja arendusaja eest. Kulud varieeruvad ka sõltuvalt kvantimisest, läbilaske-eesmärkidest, päringute samaaegsusest ja valitud järeldusraamistikust. Võrreldes majutatud API-ga pakub ise majutamine suuremat kontrolli ja väldib teenusepakkuja märgendipõhist arvestust, kuid annab taristu ja hooldusega seotud vastutuse kasutajale.
Arutlus- ja programmeerimisvõimekus
Matemaatiline arutlemine on üks MiMo-7B-RL-i selgemaid sihtvaldkondi. Selle avaldatud MATH-500 ja AIME tulemused näitavad, et Xiaomi optimeeris mudelit võistluslikku laadi ja kontrollitavate matemaatikaülesannete jaoks. Seetõttu võib see sobida katseteks, mis hõlmavad lahenduskäigu koostamist, sümboolset probleemide osadeks jaotamist ja vastuste kontrollimist, kuid olulised väljundid tuleks siiski kasutajal üle kontrollida.
Teine suur fookus on programmeerimisel. Xiaomi tugevdusõppe protsess hõlmas programmeerimisülesandeid ja koodipõhist tasudisaini, mis arvestas osaliselt testide raskusastet. LiveCodeBenchi tulemused toetavad mudeli kasutamist koodigeneratsiooni katsetes, algoritmilises probleemilahenduses ja programmeerimisabis. Nagu teiste keelemudelite puhul, tuleks genereeritud kood üle vaadata ja käivitada turvalises keskkonnas; võrdlustesti tulemuslikkus ei asenda tarkvara testimist selle tegelikus kasutuskontekstis.
Mudeli arutlusspetsialiseerumine ei tähenda garanteeritud täpsust avatud uurimistöös, faktiküsimustes ega ülesannetes, mis nõuavad ajakohast teavet. Dokumenteeritud sisseehitatud veebotsing puudub ning ametlikud materjalid ei tõesta natiivse tööriista- ega funktsioonikutsumise toe olemasolu. Rakendused, mis vajavad veebisirvimist, usaldusväärseid väliseid toiminguid või rangelt masinloetavat väljundit, võivad vajada täiendavat orkestreerimiskihti ning kaasasolev dokumentatsioon ei garanteeri, et need funktsioonid töötavad natiivselt.
Millal valida MiMo-7B-RL?
MiMo-7B-RL on mõistlik valik siis, kui avatud kaalud ja kohalik kontroll on sama olulised kui üldotstarbeline võimekus. See sobib eriti hästi järgmisteks kasutusjuhtudeks:
- Matemaatiline arutlemine ja võistluslikku laadi probleemilahendus
- Programmeerimisabi ja koodigeneratsiooni katsed
- Tugevdusõppel põhinevate arutlusmudelite uurimine
- Kompaktsete arutlusvõimega süsteemide võrdlustestimine
- Kohalik või ise majutatud tekstigeneratsioon
- Rakendused, mille puhul käitaja soovib mudelit iseseisvalt uurida, kohandada või teenindada
Selle avatud kaaludega levitamine võib muuta mudeli suletud majutatud mudelist eelistatumaks juhul, kui olulised on andmete kontroll, võrguühenduseta töötamine või mudeliga katsetamine. Avaldatud võrdlustestide profiil muudab selle kaalumist väärivaks ka arutlusele keskenduvate töökoormuste puhul, kus kompaktne mudel on eelistatum suuremale ja potentsiaalselt kallimale süsteemile.
Millal võib mõni muu valik olla sobivam?
Majutatud mudel võib olla parem valik siis, kui prioriteediks on kohene juurdepääs, prognoositav skaleerimine, hallatud töökindlus või avaldatud märgendipõhine hind. MiMo-7B-RL-i puhul peab kasutaja korraldama juurutamise ning kaasasolevas dokumentatsioonis ei ole ametlikku majutatud teenuse hinda.
Piltide, heli või video töötlemiseks sobib paremini multimodaalne mudel, sest MiMo-7B-RL on tekstipõhine. Tootmisvoogude puhul, mis sõltuvad tööriistakutsetest, veebotsingust, struktureeritud väljunditest või partiitöötlusest, võib eelistada ka mudelit, mille need võimalused on dokumenteeritud. Samuti võib suurem üldotstarbeline mudel olla parem valik laiapõhiste teadmistega seotud tööde või ülesannete puhul, kus kompaktse mudeli arutlusspetsialiseerumine ja ise majutamisega kaasnevad kompromissid on üldisest katvusest vähem olulised.
Piirangud ja hetkeseis
Kõige olulisem piirang tuleneb avaldatud kontrollpunkti spetsifikatsiooni ja hallatud teenuse spetsifikatsiooni erinevusest. 32 768 märgendi pikkune positsiooniseadistus kirjeldab välja antud konfiguratsiooni, kuid eraldi majutatud teenuse lepingut, mis sätestaks väljundipiirangud, latentsuse, töökindluse või hinna, ei ole. Kiirus sõltub suurel määral ka riistvarast ja järeldusmootorist, mistõttu ei saa mudeli tegelikku reageerimiskiirust taandada ühele teenusepakkuja avaldatud arvule.
MiMo-7B-RL on ametlik Xiaomi avatud kaaludega kontrollpunkt, mis on välja antud MIT-litsentsi alusel. See on hilisemast MiMo-7B-RL-0530 versioonist eristatav. Kasutajate jaoks, kes seda täna hindavad, on keskne küsimus, kas selle matemaatika- ja koodiarutlusele keskenduv ülesehitus ning ise majutamise paindlikkus õigustavad taristuga seotud tööd võrreldes hallatud või laiemate võimalustega alternatiiviga.