Mis on Phi-4-mini-reasoning?
Phi-4-mini-reasoning on Microsofti Phi-4 mudeliperekonda kuuluv 3,8 miljardi parameetriga keelemudel. See on loodud eelkõige mitmeetapiliseks matemaatiliseks arutlemiseks, mitte laiaulatuslikuks ja piiranguteta assistendikäitumiseks. Praktikas on mudel mõeldud ülesannete lahendamiseks, arutluskäigu vaheetappide kirjeldamiseks ning matemaatika- või loogikamahukate ülesannete lahenduste koostamiseks.
Mudel põhineb Phi-4-Mini arhitektuuril ning kasutab tihedat ainult dekoodriga Transformeri arhitektuuri. „Tihe” tähendab, et mudel kasutab iga genereeritud vastuse puhul kogu oma närvivõrku, samas kui „ainult dekoodriga” kirjeldab tekstigeneratsioonis levinud arhitektuuri. Suhteliselt väike parameetrite arv muudab selle palju suuremate arutlusmudelitega võrreldes praktilisemaks kohalikes arvutites, servaseadmetes ja väikest latentsust nõudvates süsteemides kasutamiseks.
Microsoft tutvustas Phi-4-mini-reasoningut 30. aprillil 2025 koos mudelitega Phi-4-reasoning ja Phi-4-reasoning-plus. Mudel on Hugging Face'is saadaval avatud kaaludega kontrollpunktina ning see on loetletud ka Microsoft Foundrys, kus täpne mudel on märgitud eelvaateversiooniks.
Tehnilised andmed
| Spetsifikatsioon | Kinnitatud üksikasjad |
|---|---|
| Pakkuja | Microsoft |
| Mudeliperekond | Phi-4 |
| Parameetrid | 3,8 miljardit |
| Arhitektuur | Tihe ainult dekoodriga Transformer |
| Põhispetsialiseerumine | Matemaatiline ja loogiline arutlemine |
| Sisend | Tekst |
| Väljund | Genereeritud tekst |
| Kontekstiaken | 128 000 tokenit |
| Microsoft Foundrys loetletud maksimaalne väljund | Kuni 128 000 tokenit |
| Litsents | MIT |
| Majutatud versiooni olek | Eelvaade Microsoft Foundrys |
128 000 tokeni suurune kontekstiaken võimaldab mudelile ühe päringuga edastada suure hulga teksti. See võib olla kasulik pikkade ülesannete kirjelduste, definitsioonikogumike, matemaatiliste märkmete või mitmeetapiliste harjutuste puhul. Microsoft Foundry loetleb majutatud mudeli kirje puhul väljundiks kuni 128 000 tokenit, kuid tegelik väljundipiirang võib sõltuda käituskeskkonnast, juurutuse konfiguratsioonist, vaba mälu hulgast ja teenindusraamistikust.
Arutlusvõime ja treenimine
Phi-4-mini-reasoningut treeniti mitmeetapilise protsessi käigus, mis hõlmas sünteetiliste arutlusandmete destilleerimist, juhendatud peenhäälestust, eelistuste optimeerimist ja kontrollitavate preemiate abil toimunud tugevdusõpet. Microsofti andmetel sisaldasid treeningandmed rohkem kui miljonit sünteetilist matemaatikaülesannet, mis hõlmasid tasemeid põhikoolist doktoritasemel matemaatikani.
Microsofti avaldatud hindamiskogumis saavutas mudel AIME 2024 testis tulemuse 57,5%, MATH-500 testis 94,6% ja GPQA Diamondi testis 52,0%. Microsoft esitab baasmudeli Phi-4-Mini vastavate tulemustena 10,0%, 71,8% ja 36,9%. Need on pakkuja esitatud tulemused, mitte sõltumatu garantii mudeli jõudlusele kõigi ülesannete või juurutuste puhul.
Tulemused viitavad sellele, et Phi-4-mini-reasoning pakub oma suuruse kohta erakordselt head matemaatilist jõudlust. Matemaatika testide tulemusi ei tohiks siiski käsitleda faktilise täpsuse, kirjutamiskvaliteedi või tegeliku maailma usaldusväärsuse üldmõõdikuna. Microsoft märgib, et mudeli piiratud suurus piirab ka talletatavate faktiliste teadmiste hulka. Praegust või laiaulatuslikku faktilist teavet nõudvad rakendused võivad seetõttu vajada otsingut ja välist kontrollimist.
Modaalsused ja toetatud funktsioonid
Phi-4-mini-reasoning on ainult tekstipõhine. See võtab vastu tekstisisendit ja genereerib tekstiväljundit; esitatud mudeliandmed ei viita loomupärasele piltide, heli, video, kõne ega muusika toele. Seetõttu ei ole see sobiv valik diagrammide, ekraanipiltide, fotode, salvestiste või videote tõlgendamiseks, välja arvatud juhul, kui mõni teine süsteem teisendab need materjalid esmalt tekstiks.
Microsoft Foundry saadaolev teave ei loetle selle mudeli puhul loomupärast tööriistakutset ega veebiotsingu abil konteksti hankimist. Ei tohiks eeldada, et mudel sirvib iseseisvalt veebi, hangib ajakohast teavet, kutsub funktsioone või suhtleb välissüsteemidega. Arendajad võivad paigutada selle suuremasse rakendusse, mis pakub tööriistu või otsingut, kuid sellised võimalused pärineksid ümbritsevast rakendusest, mitte mudeli kinnitatud sisseehitatud funktsioonidest.
Esitatud hindamisandmetes toodud mudeli koodiskoor on toimetuslik hinnang, mitte Microsofti avaldatud spetsifikatsioon. Phi-4-mini-reasoning võib olla kasulik matemaatilise koodi, sümbolarvutuste ja programmeerimisharjutuste puhul, kuid mudeli dokumenteeritud spetsialiseerumine on matemaatiline arutlemine, mitte üldine tarkvaraarendus.
Kus saab seda juurutada?
Ametlik avatud kaaludega kontrollpunkt on Hugging Face'is microsoft/Phi-4-mini-reasoning. MIT-litsents lubab litsentsitingimustest kinni pidades mudelit laialdaselt kasutada, mistõttu sobib see eksperimenteerimiseks, privaatseks järeldamiseks, manustatud rakendustesse ja kohandatud juurutustesse.
Seda saab laadida ühilduvate Transformersil põhinevate tööriistadega ning kasutada teenindamiseks järeldusraamistikke, mis mudelit toetavad. Esitatud uurimus nimetab võimalike juurutuskeskkondadena vLLM-i, SGLang'i, Ollama't, llama.cpp-d ja teisi Phi-ga ühilduvaid käituskeskkondi. Täpne ühilduvus, kvantimise tugi, mälunõuded ja jõudlus sõltuvad käituskeskkonnast ning riistvara konfiguratsioonist.
Microsoft avaldab ka ONNX Runtime'i variante CPU-, GPU- ja NPU-põhiseks juurutuseks. Need versioonid on mõeldud näiteks lauaarvutites, serverites, mobiilses riistvaras ja toetatud servaseadmetes kasutamiseks. Lisaks on Microsoft lisanud Phi-4-mini-reasoningu Azure AI Foundry ja Foundry Locali kataloogidesse, pakkudes kasutajatele valikut hallatud majutuse ja kohaliku käitamise vahel.
Hind ja juurdepääs
Esitatud Microsofti hinnateabes ei ole Phi-4-mini-reasoningu kohta kinnitatud kindlat avalikku tokenipõhist hinda. Seetõttu on sisendi- ja väljundhinnad teadmata, mitte null. Avatud kaaludega kontrollpunkti kasutamisel sõltub rahaline kulu kasutaja riistvarast, majutuslahendusest, elektrist, salvestusruumist ja käitamisnõuetest. Azure'i või muu hallatud teenuse kaudu juurutamisel võib rakenduv hind sõltuda valitud juurutusest ja teenusetingimustest.
Mudel on saadaval avatud kaaludega distributsioonina ning kuvatakse Microsoft Foundrys eelvaatemudelina. Eelvaate saadavus tähendab, et kataloogi olek, piirkondlik juurdepääs, juurutuskäitumine ja teenusetingimused võivad muutuda. Kohalik saadavus võib samuti sõltuda sellest, kas valitud käituskeskkond ja riistvara toetavad kontrollpunkti või selle optimeeritud vorminguid.
Tugevused ja piirangud
Tugevused
- Oma suuruse kohta tugev matemaatiline jõudlus: Microsofti avaldatud testitulemused näitavad viidatud hindamistes baasmudeliga Phi-4-Mini võrreldes märkimisväärset paranemist.
- Väiksemad juurutusnõuded: 3,8 miljardi parameetriga mudel on mõeldud keskkondadesse, kus suurem arutlusmudel nõuaks liiga palju mälu, arvutusvõimsust või vastamisaega.
- Pikk kontekst: 128 000 tokeni suurune kontekstiaken mahutab pikki ülesannete kirjeldusi, taustmaterjale ja mitmeetapilist tööd.
- Avatud kaaludega juurdepääs: MIT-litsents ja Hugging Face'i kontrollpunkt toetavad kohalikku eksperimenteerimist ning rakendusepõhist juurutust.
- Paindlik riistvaratugi: Microsoft pakub juurutusvõimalusi tavaliste järeldusraamistike ja CPU-, GPU- ning NPU-riistvarale mõeldud ONNX-i variantide kaudu.
Piirangud
- Kitsas spetsialiseerumine: Mudelit on peamiselt treenitud ja hinnatud matemaatiliseks arutlemiseks, mistõttu ei tohiks seda automaatselt käsitleda suuremate assistendimudelite üldotstarbelise asendusena.
- Loomupärase multimodaalse sisendi puudumine: Mudel ei töötle loomupäraselt pilte, heli ega videot.
- Piiratud üldteadmised: Mudeli kompaktsus võib põhjustada faktilisi vigu ja nõrgemat ülevaadet maailma puudutavatest laialdastest teadmistest.
- Kinnitatud sisseehitatud veebiotsingu või tööriistakutsete puudumine: Ajakohase teabe hankimiseks ja väliste toimingute tegemiseks on vajaduse korral vaja rakendusekihti.
- Eelvaateolek ja muutuvad majutustingimused: Microsoft Foundry saadavus ja hallatud teenuse hinnad võivad muutuda ning kindlat avalikku tokenihinda ei ole kinnitatud.
- Arutlusvõime ei taga õigsust: Üksikasjalikuna näiv lahendus võib siiski sisaldada valet eeldust, arvutusviga või kehtetut tõestussammu.
Parimad kasutusjuhud
Phi-4-mini-reasoning sobib hästi rakendustesse, kus matemaatilise arutlemise kvaliteet on olulisem kui lai vestluslik katvus. Näideteks on õppeabilised, samm-sammult ülesandeid lahendavad assistendid, matemaatika harjutamise tööriistad, lihtsam tõestamisabi, sümbolarvutuse töövood ja väikeste arutlusmudelite uurimine.
Kohaliku juurutuse võimalused muudavad selle eriti asjakohaseks siis, kui päringud või lahendused peavad jääma privaatselt hallatavasse taristusse. See võib sobida ka serva- või manustatud toodetesse, mis vajavad arutlusvõimega mudelit ilma tipptasemel süsteemi ressursinõueteta. Pikk kontekstiaken on kasulik juhul, kui rakendus peab ühe päringuga edastama mahukad juhised, suure hulga definitsioone või mitu omavahel seotud ülesannet.
Tootmiskasutuses tuleks väljundeid kontrollida deterministlike arvutuste, sümbolmatemaatikasüsteemi, tõestuskontrolli, otsingu või inimliku ülevaatuse abil, kui vead on olulised. Mudeli matemaatiline spetsialiseerumine ei kaota vajadust lahendusi kontrollida.
Millal valida Phi-4-mini-reasoning?
Vali Phi-4-mini-reasoning siis, kui põhiülesanne on matemaatika- või loogikamahukas, juurutuseelarve on piiratud ning kohalik või servas toimuv järeldamine on väärtuslik. See on eriti atraktiivne juhul, kui 3,8 miljardi parameetriga mudel pakub piisavat arutluskvaliteeti, kuid nõuab palju suurema mudeliga võrreldes eeldatavasti vähem taristut ja tagab väiksema latentsuse.
Vali selle asemel suurem üldotstarbeline arutlusmudel, kui rakendus vajab laialdasemaid faktilisi teadmisi, usaldusväärsemat üldist koodikirjutamist, rikkalikumat keelekatvust, loomupärast multimodaalset töötlust, veebiotsingut või sisseehitatud tööriistakasutust. Vali multimodaalne mudel, kui sisend sisaldab pilte, diagramme, heli või videot. Vali otsinguga täiendatud süsteem, kui ajakohane teave on ülesande keskmes.
Võrreldes baasmudeliga Phi-4-Mini on Phi-4-mini-reasoning Microsofti avaldatud võrdlustulemuste põhjal sobivam valik teadlikuks, mitmeetapiliseks matemaatiliste ülesannete lahendamiseks. Kompromiss seisneb selles, et arutlusele keskenduv treenimine ei muuda seda universaalseks assistendiks ning kompaktne ülesehitus seab endiselt piirangud üldteadmistele ja usaldusväärsusele.
Kokkuvõte
Phi-4-mini-reasoning on keskendunud väike arutlusmudel, mitte üldine tehisintellekti platvorm. Selle peamine väärtuspakkumine ühendab matemaatilise arutlemise jõudluse, 128 000 tokeni suuruse kontekstiakna, avatud kaaludega MIT-litsentsi ning juurutusvõimalused alates kohalikust järeldamisest kuni Microsoft Foundryni. Need omadused muudavad selle kasulikuks hariduses, matemaatikatarkvaras, tõestamisega seotud eksperimenteerimises ja piiratud ressurssidega juurutustes.
Sama olulised on ka piirangud: ainult tekstipõhine töö, kinnitatud loomupärase veebiotsingu või tööriistakutsete puudumine, teadmata majutatud teenuse tokenihind, eelvaateolek Microsoft Foundrys ning suuremate mudelitega võrreldes nõrgem üldine faktiline katvus. See tuleks valida kontrollitud matemaatiliste töökoormuste jaoks, kus kompaktsel juurutusel on tähtsus, mitte praeguste faktide iseseisvaks allikaks ega universaalseks multimodaalseks assistendiks.