Mis on Phi-4-mini-instruct?
Phi-4-mini-instruct on Microsofti 3,8 miljardi parameetriga tihe ainult dekooderiga Transformer-mudel. Praktikas on see suhteliselt väike keelemudel, mis on treenitud juhiseid järgima ja teksti genereerima. „Mini“ tähistab eelkõige tõhusa juurutamise rõhuasetust, mitte kasulike arutlus- või kodeerimisvõimete puudumist.
Mudel kuulub Microsofti Phi-4 perekonda ja on välja antud MIT-litsentsi alusel. Selle kaalud on saadaval Microsofti Hugging Face’i repositooriumis ning Microsoft loetleb seda ka Foundry mudelikataloogis. See annab arendajatele võimaluse valida, kas mudel alla laadida ja seda ise käitada või kasutada hallatud pilvejuurutust.
Phi-4-mini-instruct ei ole sama mis Microsoft Copilot. Tegemist on eraldiseisva mudeliga, mida saab rakendustes komponendina kasutada, samas kui Copilot on laiem toode, mis võib kombineerida mudeleid otsingu, failihalduse, rakenduste ja muude teenustega.
Arhitektuur, kontekstiaken ja väljundi piirang
Microsofti andmetel treeniti Phi-4-mini-instructi ligikaudu 5 triljoni märgi põhjal ning seejärel täiustati mudelit juhendatud peenhäälestuse ja otsese eelistusoptimeerimise abil. Arhitektuur sisaldab 200 000 märgiga sõnavara, rühmitatud päringutega tähelepanu (grouped-query attention) ning jagatud sisendi- ja väljundmanuseid.
Mudelil on 128 000 märgi suurune kontekstiaken, mille täpsem suurus tarnitud mudeliandmete järgi on 131 072 märki. Kontekstiaken näitab tekstihulka, mida mudel saab ühe päringu ajal arvesse võtta, sealhulgas juhiseid, vestluse ajalugu, hangitud materjali ja soovitud vastust. Seetõttu sobib mudel pikkade dokumentide, suurte koodihoidlate, pikkade vestluste ja otsinguga täiendatud genereerimise töövoogude jaoks.
Azure Foundry loetleb hallatud teenuse maksimaalseks vastuse pikkuseks 4096 märki. See on konkreetse teeninduskeskkonna väljundipiirang ning seda ei tohiks käsitleda kõigi ühilduvate kohalike käituskeskkondade universaalse piiranguna. Kohalikud juurutused võivad pakkuda teistsuguseid seadistusvõimalusi, kuid tarnitud uuringud ei kinnita üht kindlat käituskeskkonnast sõltumatut maksimumi.
Võimekused ja toetatud modaalsused
Phi-4-mini-instruct võtab vastu teksti ja tagastab genereeritud teksti. Seega on selle kontrollitud modaalsusprofiil ainult tekstisisend ja tekstiväljund. Mudel ei võta algupäraselt vastu pilte, heli ega videot ning ei genereeri pilte, heli, videot, muusikat ega kõnet.
Mudel on mõeldud üldisteks keeletöödeks, pöörates erilist tähelepanu mitmekeelsele tekstigenereerimisele, matemaatikale, loogikale, kodeerimisele ja juhiste järgimisele. Pikk kontekst võimaldab seda kasutada ka dokumentidele vastamisel, kokkuvõtete koostamisel, koodihoidlate analüüsimisel ja otsinguga täiendatud genereerimisel, kui rakendus annab mudelile asjakohase lähtematerjali.
Phi-4-mini-instruct on staatiline mudel, mida treeniti võrguühenduseta andmetel ning mille avalikult dokumenteeritud teadmiste lõppkuupäev on 2024. aasta juuni. Sellel puudub algupärane veebisirvimise võimalus ja ühendus jooksva teabega. Rakendus võib mudeli ümber lisada otsingu või andmete hankimise, kuid see ei muuda mudeli algset treeningu lõppkuupäeva. Ka hangitud allikad tuleb üle kontrollida, sest mudel võib talle edastatud teavet endiselt valesti tõlgendada või ebatäpselt kokku võtta.
Arutlus ja matemaatika
Microsoft positsioneerib mudelit kompaktse lahendusena matemaatiliseks arutluseks, loogikaks ja muudeks ülesanneteks, mis nõuavad mitut omavahel seotud sammu. Juhiste järgi häälestamise eesmärk on muuta see struktureeritud päringute järgimisel kasulikumaks kui üldine baasmudel.
Neid võimekusi tuleks mõista praktilise fookusena, mitte tagatisena, et mudel lahendab usaldusväärselt kõik keerulised ülesanded. Mudeli väiksem suurus võib piirata faktiteadmiste ulatust ja töökindlust keerukate, palju teadmisi nõudvate või väga mitmetähenduslike ülesannete korral. Oluliste arvutuste puhul peaksid rakendused tulemusi kontrollima deterministliku koodi, väliste allikate või inimese ülevaatuse abil.
Kodeerimine ja tööriistade kasutamine
Phi-4-mini-instruct sobib koodi genereerimiseks, selgitamiseks ja teisendamiseks ning koodihoidlatega seotud abiks, kui vajalikud failid mahuvad saadaolevasse konteksti. Kodeerimisvõimekus on üks põhjusi, miks seda võiks kaaluda kohalike arendustööriistade või väiksema kuluga kodeerimise töövoogude jaoks.
Mudeli kaardil on dokumenteeritud tööriistu toetav viibavorming. Selles vormingus kirjeldatakse tööriistu süsteemiviibas ning mudel väljastab struktureeritud tööriistakutse märgid. See on mudelitaseme viipamise käitumine, mitte sama mis teenusepakkuja garantii täitmisele, iga argumendi valideerimisele skeemi alusel või universaalselt toetatud funktsioonikutse objekti tagastamisele.
Microsoft Foundry hallatud kataloogis on tööriistakutsed selle mudeli puhul praegu märgitud mittetoetatuks. Seetõttu sõltub tööriistade käitumine teeninduskihtidest ja viibavormingust. Arendajad peaksid enne funktsioonikutsete tootmises kasutamist testima täpselt kasutatavat käituskeskkonda ning rakendama ise argumentide valideerimise ja täitmise turvamehhanismid.
Juurutamine ja kättesaadavus
Avatud kaaludega versiooni saab alla laadida Microsofti Hugging Face’i repositooriumist ja kasutada ühilduvate käituskeskkondadega, nagu Transformers, vLLM, SGLang ja ONNX Runtime. See on Microsoft Foundrys loetletud ka üldiselt kättesaadavana. Täpne kasutuskogemus, toetatud funktsioonid, läbilaskevõime ja hinnastus võivad isehostitud järeldamise ning hallatud teenusejuurutuse vahel erineda.
Selle 3,8 miljardi parameetri suurus on peamine juurutamiseelis. Võrreldes palju suuremate mudelitega võib see olla praktilisem valik kohalike masinate, servaseadmete, privaatsete keskkondade või selliste rakenduste jaoks, kus mälu ja viivitus on olulised. Tegelikud riistvaranõuded ja kiirus sõltuvad kvantimisest, pakisuurusest, jada pikkusest, käituskeskkonnast ja saadaolevatest kiirenditest; tarnitud uuringud ei määra üht universaalset latentsusnäitajat.
Hinnastus
Microsofti 2025. aasta veebruari Azure’i teadaandes oli mudel teenusena hinnaks märgitud 0,00075 dollarit 1000 sisendmärgi kohta ja 0,0003 dollarit 1000 väljundmärgi kohta. Need on teadaandeaegsed viitehinnad, mitte praeguse hinna garantii igas piirkonnas või lepingu puhul. Foundry praegune hinnastus võib sõltuda juurutusest, piirkonnast, ärikokkuleppest ja teenuse seadistusest.
Isehostimise korral ei kaasne allalaaditud kaaludega Microsofti-poolset märgipõhist järeldamistasu, kuid kulud kanduvad riistvarale, salvestusruumile, elektrile, arendusele ja hooldusele. Mudeli väike suurus võib muuta need kulud märksa paremini hallatavaks kui oluliselt suurema mudeli käitamine, eriti prognoositavate või privaatsustundlike töökoormuste puhul.
Peamised tugevused ja kompromissid
- Tõhus juurutamine: 3,8 miljardi parameetri suurus sobib hästi rakendustele, kus eelistatakse väiksemat ressursikulu, väiksemat latentsust või kohalikku käitamist.
- Pikk kontekst: 131 072 märgi suurune kontekstiaken mahutab pikki dokumente, koodikogumeid ja hangitud tõendusmaterjali, arvestades kasutatava käituskeskkonna piiranguid.
- Kasulik ülesannetele keskendumine: Matemaatika, kodeerimine, loogika, mitmekeelne genereerimine ja juhiste järgimine on mudeli peamised kavandatud kasutusalad.
- Avatud litsents: MIT-litsents ja allalaaditavad kaalud pakuvad rohkem juurutamispaindlikkust kui ainult majutatud mudel, arvestades litsentsist tulenevaid ja käitamisega seotud kohustusi.
- Võimalik kuluefektiivsus: Avaldatud hallatud teenuse märgihinnad olid madalad ning kompaktne arhitektuur võib vähendada isehostimise nõudeid.
Kompromiss seisneb selles, et kompaktsus ei paku sama laia teadmistebaasi, töökindlust ega keeruka planeerimise võimet, mida kasutajad võivad palju suurematelt mudelitelt oodata. Phi-4-mini-instructil puuduvad ka algupärane multimodaalne sisend, veebisirvimine ja teenusepakkuja hallatud tööriistakutsed Foundry kataloogis esitatud kujul. Seetõttu tuleks seda käsitleda pigem tõhusa tekstimudelina kui täieliku agendi või üldotstarbelise multimodaalse assistendina.
Millal valida Phi-4-mini-instruct?
Vali Phi-4-mini-instruct, kui rakendus vajab suhteliselt väikest avatud mudelit teksti genereerimiseks ning töökoormus saab kasu kohalikust juhtimisest, pikast kontekstist või väikesest märgipõhisest kulust. Sobivad näited on järgmised:
- Kohalikud kirjutamis-, kokkuvõtete koostamise, tõlkimise ja klassifitseerimise tööriistad.
- Koodi selgitamine, genereerimine, ümbertegemine ja koodihoidlate haldamise abi.
- Matemaatilistele või loogilistele küsimustele vastamine koos tulemuste kontrollimisega.
- Otsinguga täiendatud rakendused, mis edastavad ajakohast või valdkonnaspetsiifilist lähtematerjali.
- Privaatsed või servaseadmetel töötavad juurutused, kus kõigi viipade saatmine suurele majutatud mudelile ei ole soovitav.
- Suure mahuga tekstitöötlus, kus väiksema mudeli kiirus ja hind on olulisemad kui maksimaalne üldvõimekus.
Suurem mudel võib olla sobivam, kui ülesanne nõuab laialdasi faktiteadmisi, keerukat mitmeastmelist planeerimist, järjepidevalt tugevat arutlusvõimet või usaldusväärsemat autonoomset käitumist. Piltide, heli või video mõistmiseks on vaja multimodaalset mudelit. Kui tootmise töövood sõltuvad standardiseeritud tööriistakutsetest, mitte viibataseme tööriistavormingutest, on eelistatav mudel või platvorm, mille hallatud funktsioonikutsed on kontrollitud. Veebiga ühendatud süsteem sobib paremini ka siis, kui vastused peavad kajastama 2024. aasta juunist uuemat teavet.
Piirangud ja juhised tootmiskasutuseks
Mudelit ei tohiks käsitleda automaatselt ajakohase teabe allikana. Selle teadmiste lõppkuupäev on 2024. aasta juuni ja see ei saa iseseisvalt veebis sirvida. Andmete hankimine võib parandada faktipõhisust, kuid tootmissüsteemid peaksid säilitama allikaviited ja olulised väljundid valideerima.
Tööriistade kasutamine nõuab erilist tähelepanu. Dokumenteeritud tööriistamärkide vorming võib ühilduvate käituskeskkondadega toimida, kuid Foundry kataloogi märge, et tööriistakutsed pole toetatud, tähendab, et ühe keskkonna juurutuseeldusi ei saa automaatselt teise üle kanda. Valideeri genereeritud argumendid enne täitmist, piira saadaolevaid toiminguid ning käsitle vigaseid või väljamõeldud kutseid turvaliselt.
Kõrge riskiga valdkondades kasuta andmete hankimist, deterministlikke kontrolle, seiret ja inimese ülevaatust. Mudeli väike suurus võib tõhusust parandada, kuid see ei kõrvalda hallutsinatsioone ega taga matemaatika, koodi või valdkondlike nõuannete õigsust.
Üldhinnang
Phi-4-mini-instruct sobib hästi arendajatele, kes otsivad tõhusat avatud kaaludega tekstimudelit, mitte täielikku multimodaalset assistenti. Selle 3,8 miljardi parameetri, 128 000 märgi suuruse kontekstiakna, MIT-litsentsi, kodeerimisele ja arutlusele suunatud võimekuste ning kohaliku juurutamise võimaluste kombinatsioon muudab selle praktiliseks valikuks kulutundlike ja privaatsust hindavate rakenduste jaoks.
Selle väärtuse piirid tulenevad mudeli piirangutest: see töötab ainult tekstiga, teadmiste lõppkuupäev on 2024. aasta juuni, see ei sirvi veebis ning ei paku universaalselt hallatud tööriistakutseid. Parimad tulemused saavutatakse, kui seda kasutatakse keskendunud keeletöödeks ning toetatakse andmete hankimise, valideerimise ja rakendustaseme kontrollidega. Selliste nõuete korral pakub see kasulikku kompromissi võimekuse, kiiruse, juurutamispaindlikkuse ja hinna vahel.