Mis on Phi-4-reasoning-plus?
Phi-4-reasoning-plus on Microsofti Phi-4 perekonda kuuluv avatud kaaludega arutlusmudel. See on ligikaudu 14 miljardi parameetriga tihe ainult dekooderiga Transformer. Praktilises mõttes genereerib see teksti ühe märgi kaupa, kuid seda on häälestatud enne lõpliku lahenduse või kokkuvõtte esitamist mitmeastmelisi probleeme läbi töötama.
Microsoft Research avaldas mudeli 30. aprillil 2025. Mudel on Phi-4 põhjal täiendavalt häälestatud juhendatud õppe abil, kasutades arutluskäikude näiteid, millele järgnes tulemustepõhine tugevdusõpe. Plussversioon on mõeldud genereerima pikemaid arutluskäike kui Phi-4-reasoning. Microsofti sõnul parandab täiendav treening keerukate arutlusülesannete täpsust, kuid suurendab ka genereeritavate märkide arvu.
Phi-4-reasoning-plus on peamiselt ingliskeelne tekstimudel. See ei ole üldotstarbeline multimodaalne assistent: mudeli kohta esitatud teave määratleb nii sisendi kui ka väljundi modaalsuseks teksti ega loetle loomulikku pildi-, heli- või videotuge.
Milline on selle koht Microsofti mudelivalikus?
Phi-4-reasoning-plus on positsioneeritud väiksema avatud kaaludega arutlusmudelina, mitte Microsofti majutatava tarbijaassistendi või üldise multimodaalse tootena. Allalaaditavad kaalud eristavad seda Microsoft Copiloti kaudu kasutatavatest teenustest ning MIT-litsents lubab kohalikku juurutamist, teadustööd ja ärilist kasutust vastavalt litsentsile ning kohaldatavatele seadustele.
Phi-4 arutlusmudelite hulgas on see pikemate arutluskäikudega „plus”-variant. Võrreldes tavapärase juhendamismudeliga ei ole selle eesmärk lihtsalt kiiresti vastata; see on häälestatud kulutama rohkem genereerimisressurssi probleemidele, mille puhul vaheetapid võivad tulemust parandada. Seetõttu sobib see teadlastele, arendajatele ja organisatsioonidele, kes soovivad juurutamist ise kontrollida, mitte sõltuda fikseeritud majutatavast lõpp-punktist.
Arutlusvõime ja jõudlus võrdlustestides
Peamine kompromiss seisneb arvutusressursi vahetamises arutlusjõudluse vastu. Microsofti sõnul genereerib Phi-4-reasoning-plus keskmiselt ligikaudu 50% rohkem märke kui Phi-4-reasoning. Pikemad arutluskäigud võivad anda mudelile rohkem ruumi matemaatika- või teadusülesannete lahendamiseks, kuid muudavad vastused ka aeglasemaks ja nende käitamise piiratud mälu või läbilaskevõimega riistvaral kulukamaks.
Microsofti esitatud hindamistulemustes sai mudel AIME 2024 testis tulemuseks 81,3, AIME 2025 testis 78,0, OmniMathis 81,9, GPQA Diamondis 68,9 ja esitatud LiveCodeBenchi vahemikus 53,1. Need on teenusepakkuja esitatud võrdlustestide tulemused, mitte konkreetse rakenduse garantiid. Tulemusi võivad mõjutada testi tingimused, viipade koostamine, valimi võtmise seaded ja hindamisandmete võimalik sattumine treeningandmetesse, mistõttu peaksid tootmiskasutajad tüüpilisi töökoormusi iseseisvalt testima.
Mudel genereerib esmalt arutlusosa ning seejärel lahenduse või kokkuvõtte osa. Neid genereeritud samme ei tohiks automaatselt käsitleda usaldusväärse tõendusena vastuse õigsuse kohta. Nii lõplik vastus kui ka vahepealsed arutluskäigud võivad endiselt sisaldada vigu või väljamõeldud väiteid, eriti väljaspool mudeli kõige põhjalikumalt hinnatud valdkondi.
Tehnilised andmed ja piirangud
| Tehniline näitaja | Kontrollitud üksikasjad |
|---|---|
| Teenusepakkuja | Microsoft |
| Väljalaskekuupäev | 30. aprill 2025 |
| Mudelite perekond | Phi-4 |
| Parameetrid | Ligikaudu 14 miljardit |
| Arhitektuur | Tihe ainult dekooderiga Transformer |
| Konteksti pikkus | 32 768 märki |
| Maksimaalne dokumenteeritud uute märkide limiit | Keerukate päringute korral kuni 32 768 märki |
| Sisend ja väljund | Tekstisisend ja tekstiväljund |
| Litsents | MIT |
| Teadmiste lõppkuupäev | Mudelikaardi kohaselt 2025. aasta märts ja varasemad avalikud treeningandmed |
32 768 märgi suurune kontekstiaken piirab viiba konteksti ja genereeritud sisu kogupikkust, mida rakendus suudab töödelda. Mudeli dokumentatsioon soovitab keerukate päringute jaoks lubada kuni 32 768 äsja genereeritud märki. Tegelikult kasutatavad piirangud võivad sõltuda järeldusmootorist, saadaolevast mälust, teeninduse seadistusest ja viiba vormingust.
Mudelikaart soovitab kasutada ChatML-i malli ning annab valimi võtmise juhisteks temperatuuri 0,8, top-k väärtust 50 ja top-p väärtust 0,95, kui valimi võtmine on lubatud. Need on dokumenteeritud lähtekohad, mitte universaalselt sobivad seaded. Deterministlikud või väiksema varieeruvusega rakendused võivad vajada eraldi testimist, et otsustada, kas need seaded on sobivad.
Kodeerimine, tööriistad ja toetatud modaalsused
Phi-4-reasoning-plus toetab tekstipõhist kodeerimisabi ning selle kohta on öeldud, et see on eriti kasulik Pythoni-põhiste ülesannete ja levinud Pythoni teekide puhul. See võib aidata algoritme selgitada, koodi koostada, programmeerimisülesandeid lahendada ning rakendamise etappe läbi mõelda. Olemasolev teave ei kinnita siiski laialdast töökindlust kõigi programmeerimiskeelte, raamistike või vähem levinud pakettide puhul. Koodi tuleb enne kasutamist käivitada ja üle vaadata.
Esitatud tehnilised andmed ei loetle loomulikku funktsioonikutset, tööriistade kasutamist, veebiotsingut ega sisseehitatud koodi käitamise keskkonda. Seetõttu tuleks mudelit käsitleda tekstigeneraatorina, mida ümbritsev rakendus saab ühendada väliste süsteemidega, mitte autonoomse agendina, millel on kontrollitud sisseehitatud tööriistad.
See võtab vastu ja genereerib ainult teksti. Kontrollitud loomulikku pildimõistmist, pildigeneratsiooni, heli töötlemist, video töötlemist, kõneväljundit ega muud mittetekstilist väljundit ei ole. Multimodaalset sisendit või väljundit vajavad rakendused peaksid valima nende võimalustega mudeli või lisama eraldi spetsialiseeritud komponendid.
Juurutamine ja hinnastamine
Microsoft levitab Phi-4-reasoning-plusi allalaaditavate mudelikaaludena oma Hugging Face'i hoidla kaudu. Mudelit saab laadida Transformersiga ning seda saab teenindada ühilduvate süsteemide, näiteks vLLM-i, SGLangi, Ollama ja llama.cpp abil. Esitatud teadusmaterjalides on saadaval ka kvantiseeritud ja ONNX Runtime'i variandid, mis võivad vähendada mälunõudeid võrreldes täistäpsete kaalude kasutamisega.
Esitatud teadusmaterjalides ei ole tuvastatud Microsofti ametlikku majutatava API märgipõhist hinda. Seetõttu ei ole mudel otseselt võrreldav tavapärase pilvemudeliga, millel on fikseeritud sisendi- ja väljundihind. Tegelik kulu sõltub riistvara ostmisest või rentimisest, kvantiseerimisest, pakisuurusest, teenindustarkvarast, elektrist ning genereeritavate märkide arvust ja pikkusest. Kolmanda osapoole majutus võib lisada kasutustasu, kuid selle hind ja saadavus sõltuvad teenusepakkujast.
14 miljardi parameetriga mudeli kohalik käitamine nõuab märksa rohkem mälu kui väikese mudeli käitamine ning plus-variandi pikemad vastused suurendavad ühe päringu kohta kuluvat arvutusressurssi. Kvantiseerimine võib vähendada riistvaranõudeid, kuid kasutajad peaksid kontrollima, kas valitud kvantiseeritud variant säilitab nende ülesande jaoks piisava kvaliteedi.
Peamised tugevused ja piirangud
Tugevused
- Spetsialiseerumine arutlusele: Mudel on spetsiaalselt häälestatud mitmeastmeliste matemaatika-, teadus-, kodeerimis- ja algoritmiülesannete jaoks.
- Tugevad tulemused mudeli suuruse kohta: Microsofti hindamised näitavad 14 miljardi parameetriga mudeli konkurentsivõimelist jõudlust mitmes matemaatika- ja teadusvaldkonna võrdlustestis.
- Avatud juurutamine: Allalaaditavad kaalud võimaldavad kohalikku, privaatset ja kohandatud juurutamist, ilma et oleks vaja Microsofti majutatavat lõpp-punkti.
- Paindlik litsents: MIT-litsents toetab teadus- ja ärilist kasutust vastavalt litsentsile ning kohaldatavatele seadustele.
- Pikemad arutluskäigud: Pluss-treeningu eesmärk on anda keerukatele probleemidele rohkem arutlusvõimekust.
Piirangud
- Viivitus ja arvutusressurss: Pikemad arutluskäigud suurendavad vastamisaega, mälukasutust ja käituskulu.
- Ainult tekstipõhine töö: Mudel ei töötle loomupäraselt pilte, heli ega videot.
- Rõhk inglise keelel: Mudel on peamiselt treenitud ja hinnatud ingliskeelseks kasutuseks.
- Kontrollitud sisseehitatud tööriistad puuduvad: Esitatud tehnilised andmed ei kinnita loomulikku veebiotsingut, funktsioonikutseid ega koodi käitamist.
- Piiratud ajakohased teadmised: Treeningandmed on staatilised ja nende lõppkuupäev on märts 2025 ning varasemad andmed; värske teabe saamiseks on vaja otsingut või muud välist allikat.
- Tootmiskäitumine on ebakindel: Esitatud võrdlustestide tulemused ei kõrvalda valideerimise, ohutuskontrollide ega inimülevaatuse vajadust.
- Kodeerimisulatus: Jõudlus keskendub suuresti Pythonile ja levinud teekidele, mistõttu tuleb teistes keeltes või ebatavaliste sõltuvustega genereeritud koodi täiendavalt kontrollida.
Millal valida Phi-4-reasoning-plus?
Valige Phi-4-reasoning-plus siis, kui prioriteediks on suhteliselt tugev matemaatiline või teaduslik arutlusvõime avatud mudelis, mida saab alla laadida ja ise kontrollida. See sobib hästi kohalikuks teadustööks, matemaatikaõppe prototüüpideks, algoritmiliste probleemide lahendamiseks, kodeerimisabiks, sünteetiliste andmete katseteks, privaatseks küsimustele vastamiseks ja arutlusmudelite käitumise hindamiseks.
Selle avatud kaaludega ülesehitus on eriti kasulik siis, kui viipade saatmine majutatavasse teenusesse ei ole soovitav, organisatsioon peab teenindusvirna kohandama või meeskond soovib testida kvantiseeritud või optimeeritud juurutusi. MIT-litsents võib võrreldes rangemate tingimustega mudelitega lihtsustada ka ärilist katsetamist, kuigi juriidiline ja nõuetele vastavuse kontroll jääb kasutaja vastutuseks.
Teine võimalus võib olla sobivam siis, kui väike latentsus on olulisem kui pikem arutluskäik, töökoormus nõuab värsket teavet ilma otsingukihita või olulised on loomulikud multimodaalsed funktsioonid ja sisseehitatud tööriistad. Väiksem arutluseta mudel võib lihtsate klassifitseerimis- või lühivastuse ülesannete puhul olla säästlikum. Majutatav mudel võib olla meeskondadele lihtsam, kui nad ei soovi hallata riistvara, mudelifailide, järeldusserverite ja skaleerimisega seotud küsimusi. Multimodaalne või tööriistadega mudel on eelistatav rakendustes, mis peavad kontrollima pilte, kutsuma väliseid funktsioone, veebis sirvima või koodi käitama.
Praktilised juhised juurutamiseks
Esmaseks hindamiseks kasutage avaldatud ChatML-i vormingut ja alustage mudelikaardil soovitatud valimi võtmise seadetega. Testige nii vastuste kvaliteeti kui ka töökorralduslikku käitumist: mõõtke esimese vastuseni kuluvat aega, kogu genereerimisaega, mälukasutust, väljundi keskmist pikkust ja tüüpiliste probleemide veamäära. Kuna plus-variant võib genereerida märksa pikemaid arutluskäike, ei pruugi tavapärase juhendamismudeli puhul toimiv märgieelarve pakkuda võrreldavat kulu- või latentsusprofiili.
Rakendused peaksid võimaluse korral eraldama mudeli selgituse lõplikust vastusest, valideerima matemaatika- ja programmeerimisväljundid sõltumatute kontrollidega ning kasutama otsingut, kui vaja on teavet pärast 2025. aasta märtsi. Suure mõjuga otsused ei tohiks tugineda Phi-4-reasoning-plusile ilma valdkonnapõhise ülevaatuse ja kaitsemeetmeteta.