Phi-4

Mis on Microsoft Phi-4?

Phi-4 on Microsoft Researchi 14 miljardi parameetriga tihe ainult dekooderiga Transformer-arhitektuuril põhinev keelemudel. Praktilises mõttes loeb see teksti ja genereerib teksti: mudel suudab vastata küsimustele, selgitada tehnilist materjali, kirjutada koodi, teisendada dokumente ning lahendada mitmesuguseid matemaatika- ja loogikaülesandeid.

Mudel avaldati 12. detsembril 2024 ning see on MIT-litsentsi alusel saadaval avatud kaaludega mudelina. Avatud kaalud võimaldavad arendajatel ja teadlastel mudeli toetatud levituskanalite kaudu alla laadida ja käitada, enda töö jaoks kohandada või majutusteenuse kaudu juurutada. Enne ärilist või suure mõjuga kasutust tuleks siiski üle vaadata nii litsents kui ka konkreetse juurutuse kohustused.

Phi-4 on Microsoft Foundrys loetletud ka eelvaateversioonis oleva vestluse lõpetamise mudelina. See tähendab, et kasutajad võivad kokku puutuda majutatud versiooniga, millel on teenusepõhised piirangud ja kasutustingimused, samal ajal kui allalaaditaval mudelil endal ei ole ühtset Microsofti kehtestatud märgi­põhist hinda.

Tehnilised andmed

16 384 märgi suurune kontekstiaken näitab, kui palju teksti suudab mudel ühe päringu raames töödelda, hõlmates nii viipa kui ka genereeritud vastust. Microsoft Foundry loetleb samuti väljundi piiriks 16K märki, kuid tegelik kasutatav väljund võib sõltuda majutusliidesest, päringu seadetest, saadaolevatest ressurssidest ja teenuse eeskirjadest.

Arutlusoskus, programmeerimine ja peamised tugevused

Phi-4 on loodud pakkuma oma suurusest eeldatavasti paremat arutlusvõimet. Microsoft kirjeldab treeningmeetodit, mis põhineb sünteetilistel andmetel, filtreeritud avaliku domeeni veebimaterjalil, akadeemilistel raamatutel ning küsimuste ja vastuste andmekogumitel. Protsessis pööratakse tähelepanu ka õppekava kujundamisele, juhendatud peenhäälestusele ja otsesele eelistuste optimeerimisele.

See ülesehitus muudab mudeli eriti sobivaks ülesannete jaoks, kus on oluline hoolikas vahepealne arutlus ja juhiste järgimine. Sobivad näited on matemaatikaülesannete lahendamine või selgitamine, teadusküsimustele vastamine, tehniliste eelduste kontrollimine ning samm-sammuliste selgituste koostamine. Mudel võib siiski eksida, mistõttu tuleks selle arutluskäiku käsitleda genereeritud analüüsina, mitte õigsuse garantiina.

Programmeerimine on veel üks peamisi kasutusvaldkondi. Phi-4 suudab genereerida koodi, selgitada olemasolevat koodi, aidata programmeerimiskeelte vahel tõlkida ning toetada tehnilise dokumentatsiooni koostamist. Kaasasolevad uuringud ei kinnita sisseehitatud koodi käivitamise keskkonna olemasolu, mistõttu ei saa eeldada, et mudel on genereeritud programme ise testinud. Arendajad peaksid koodi käivitama eraldi kontrollitud keskkonnas ning üle vaatama selle turvalisuse, korrektsuse, sõltuvused ja litsentsiga seotud küsimused.

Selle peamine praktiline tugevus on võimekuse ja juurutamise tõhususe tasakaal. 14 miljardi parameetriga mudel vajab üldjuhul vähem ressursse ja võib pakkuda väiksemat latentsust kui palju suuremad mudelid, kuigi tegelik kiirus sõltub riistvarast, kvantimisest, pakktöötlusest, konteksti pikkusest ja teenindus­taristust. Kaasasolevad uuringud toetavad seda käsitlust, kuid võrdlused konkreetsete suuremate mudelitega sõltuksid testist ja juurutustingimustest.

Toetatud modaalsused ja funktsioonid

Phi-4 standardmudel töötab ainult tekstiga. See võtab vastu tekstisisendit ja genereerib tekstiväljundi. Mudel ei toeta algupäraselt piltide, heli ega video sisendina kasutamist ning ei genereeri pilte, heli ega videot.

• Tekstisisend: Toetatud.
• Tekstiväljund: Toetatud.
• Pildisisend: See mudel ei toeta.
• Helisisend: See mudel ei toeta.
• Videosisend: See mudel ei toeta.
• Pildi-, heli- või videoväljund: Ei ole toetatud.
• Veebiotsing: Ei ole mudelisse sisse ehitatud; mudelil on staatilised teadmised.
• Tööriista- või funktsioonikutse: Esitatud spetsifikatsioonides kontrollimata.
• Struktureeritud väljund või JSON-režiim: Eraldiseisva algupärase võimekusena kontrollimata.
• Voogedastus, vahemällu salvestamine, pakktöötlus ja peenhäälestus: Universaalsete mudelifunktsioonidena kontrollimata.

Ümbritsev rakendus võib ühendada Phi-4 otsingu, tööriistade või struktureeritud väljundi valideerijaga, kuid need oleksid rakenduse või majutuskihi lisad, mitte võimekused, mida tuleks automaatselt alusmudelile omistada.

Teadmiste ajaline piir ja piirangud

Phi-4 on staatiline mudel, mida treeniti võrguühenduseta andmekogumitel. Mudelikaardi järgi kasutati avalikult kättesaadavaid treeningandmeid, mille ajaline piir on 2024. aasta juuni ja varasem aeg. Seetõttu ei tohiks eeldada, et mudel teab hilisemaid sündmusi, uusi tooteid, kehtivaid hindu või hiljutisi tehnilisi muudatusi, välja arvatud juhul, kui väline otsingusüsteem talle selle teabe edastab.

Mudel on eelkõige mõeldud ingliskeelse teksti töötlemiseks. See võib anda ebatäpseid, väljamõeldud, kallutatud või ebaturvalisi vastuseid, sealhulgas enesekindlalt kõlavaid vastuseid küsimustele, millest ta aru ei saa. Matemaatika- ja programmeerimisvõimekus ei kõrvalda kontrollimise vajadust. See on eriti oluline meditsiini, õiguse, rahanduse, hariduse hindamise, taristu ja muude suure mõjuga valdkondade puhul.

Phi-4 ei tohiks segi ajada teiste Microsofti Phi-4 perekonna mudelitega. Phi-4-mini-instruct on väiksem juhistele keskenduv mudel, samas kui Phi-4-multimodal-instruct lisab multimodaalsuse. Phi-4-reasoning, Phi-4-reasoning-plus, Phi-4-mini-reasoning, Phi-4-mini-flash-reasoning ja Phi-4-reasoning-vision-15B on eri eesmärkide ja võimekustega eraldi mudelid. Nende nimed ei muuda seda, mida standardne Phi-4 mudel ise toetab.

Hind ja saadavus

Allalaaditaval avatud kaaludega Phi-4 mudelil ei ole kaasasolevate uuringute põhjal ühtset universaalset esimese osapoole märgipõhist hinda. Majutusteenuse pakkujad võivad küsida tasu arvutusressursside, lõpp-punkti töös hoidmise, päringute või genereeritud märkide eest, kuid need hinnad sõltuvad konkreetsest juurutusest ning neid ei tohiks esitada mudeli enda hinnana.

Microsoft Foundry loetleb Phi-4 eelvaateversioonis oleva vestluse lõpetamise mudelina, mille kontekstiaken on 16K ja väljundi­märkide piir 16K. Eelvaate olek tähendab, et saadavus, hinnad, kvoodid, piirkondlik ligipääs ja tööpõhimõtted võivad muutuda. Kanoonilist avatud kaaludega mudelit levitatakse ka Microsofti Hugging Face'i organisatsiooni kaudu.

Kohaliku juurutuse puhul moodustavad peamise kulu riistvara, salvestusruum, elekter ja arendustöö. Kvantimine või optimeeritud teenindus võib vähendada mälunõudeid, kuid kaasasolevad uuringud ei määra universaalset riistvara miinimumnõuet ega garanteeritud latentsust. Majutatud juurutust võib olla lihtsam hallata, samas kui kohalik juurutus võib pakkuda suuremat kontrolli andmete üle ja prognoositavamaid taristukulusid.

Millal valida Phi-4?

Phi-4 on mõistlik valik, kui rakendus vajab võimekat tekstimudelit, kuid ei nõua algupärast multimodaalset sisendit ega ajakohaseid teadmisi maailma kohta. See sobib eriti hästi järgmisteks ülesanneteks:

• Matemaatika- ja teadusküsimustele vastamine.
• Koodi genereerimine, koodi selgitamine ja tehniline abi.
• Haridustööriistad, mis vajavad tekstipõhiseid selgitusi.
• Dokumentide teisendamine ja struktureeritud teksti genereerimine.
• Kohalikud või privaatsed juurutused, kus väiksem mudel on eelistatum eesliini­suurusega süsteemile.
• Avatud kaaludega keelemudelite, kohandamise ja peenhäälestuse uurimine.
• Latentsus- või ressursitundlikud rakendused, mis suudavad arvestada 14B mudeli kompromissidega.

MIT-litsents ja avatud kaaludega levitamine võivad muuta selle atraktiivseks ka eksperimenteerimiseks ja kohandatud juurutusteks, kui enne tehakse asjakohane hindamine ja litsents vaadatakse üle.

Millal võib mõni teine valik olla sobivam?

Phi-4 perekonna multimodaalne mudel sobib paremini juhul, kui rakendus vajab piltide mõistmist või muid modaalsusi. Standardne Phi-4 mudel ei suuda iseseisvalt pilti vaadata, heli kuulata ega videot analüüsida.

Praeguste sündmuste, reaalajas tooteinfo, muutuva dokumentatsiooni või muude ülesannete puhul, kus 2024. aasta juuni treeningandmete ajaline piir on liiga vana, on eelistatud otsingu, veebisirvimise või uuema teadmistebaasiga mudel. Samuti võib suurem eesliinimudel olla parem valik siis, kui rakendus seab kohaliku tõhususe asemel esikohale maksimaalse üldise võimekuse, kuigi kaasasolevad uuringud ei paku otsest võrdlustestide tulemust.

Spetsialiseeritud majutatud teenus võib olla eelistatud juhul, kui rakendus vajab kontrollitud funktsioonikutseid, voogedastust, pakktöötlust, vahemällu salvestamist, garanteeritud teenusetaseme käitumist või dokumenteeritud peenhäälestuse töövoogu. Esitatud spetsifikatsioonides ei ole neid funktsioone Phi-4 universaalsete võimekustena kinnitatud.

Kokkuvõte

Microsoft Phi-4 on kõige parem käsitleda kompaktse, avatud kaaludega tekstimudelina, mis keskendub arutlusele, matemaatikale, teadusele, programmeerimisele ja tõhusale juurutamisele. Selle 14 miljardi parameetri suurus, 16K kontekstiaken, MIT-litsents ja ainult tekstiga töötav ülesehitus teevad sellest praktilise kandidaadi kohalikele või majutatud rakendustele, kus hinnatakse kontrolli ja tõhusust. Sama olulised on aga mudeli piirangud: selle teadmised on staatilised, algupärane multimodaalne tugi puudub, sisseehitatud veebijuurdepääs või tööriistade käivitamine ei ole kinnitatud ning õigsus ei ole garanteeritud. Seetõttu sobib see kõige paremini keskendunud tekstirakendusteks, kus arendajad saavad vajaduse korral ise pakkuda otsingut, koodi käivitamist, valideerimist ja turvakontrolle.