Mis on Granite-TTM-R3?
Granite-TTM-R3 on IBMi kolmanda põlvkonna TinyTimeMixeril põhinev aegridade prognoosimismudelite perekond. Erinevalt keelemudelist ei genereeri see vestlusteksti. Mudel saab sisendiks arvulised aegridade andmed ja koostab prognoosid tulevaste ajahetkede kohta. Aegrida võib kirjeldada näiteks päevast müüki, tunnipõhist elektrinõudlust, masina temperatuuri, liiklusmahtu või muud ajas kogutud mõõtmist.
Mudel on mõeldud mitmemuutujaliseks prognoosimiseks, mis tähendab, et see saab töödelda mitut omavahel seotud arvulist signaali, mitte ainult üht jada. Samuti toetab see eksogeenseid ehk kontrollmuutujaid: lisateavet, mis võib aidata sihtrea käitumist selgitada või prognoosida. Näiteks võib nõudluse prognoosimisel kasutada ajaloolise müügi kõrval seotud tegevus- või kalendritunnuseid, kui valitud kontrollpunkt ja andmekonfiguratsioon neid toetavad.
IBM avaldab Granite-TTM-R3 avatud kaaludega mudelite perekonnana Granite-TTM-R3 Hugging Face'i repositooriumi kaudu. Repositoorium sisaldab mitut kontrollpunkti konfiguratsiooni, mis on valitud erinevate kontekstipikkuste, prognoosipikkuste, sageduste ja mudelisuuruste jaoks. Seega ei tähista „Granite-TTM-R3” üht kindlat kontrollpunkti ühe universaalse sisendakna või prognoosihorisondiga.
Granite'i mudelite hulgas
Granite-TTM-R3 kuulub IBM Granite'i aegridade mudelite perekonda, mitte IBMi vestlus- või koodigeneerimismudelite hulka. Selle ülesanne on spetsialiseeritud: mudel on mõeldud arvuliseks prognoosimiseks ja tõhusaks juurutamiseks. IBMi laiemat watsonx-i portfelli saab kasutada ettevõtete tehisintellekti arendamiseks, haldamiseks, andmetöötluseks ja mudelite juurutamiseks, kuid see mudel ise keskendub ajas muutuvate jadade prognoosimisele.
Mudel on seotud ka IBMi Granite Time Series Foundation Models tööriistakomplekti ja implementatsioonirepositooriumidega. IBMi praegused mudelimaterjalid suunavad värskeima mudeli- ja tööriistakomplektiinfo saamiseks Hugging Face'i ja GitHubi. See positsioneerib Granite-TTM-R3 eelkõige arendajatele ja andmeteaduse meeskondadele, kes soovivad avatud kaaludega prognoosimudelit käitada või kohandada, mitte kasutajatele, kes otsivad majutatud üldotstarbelist vestlusrobotit.
Kuidas mudel töötab
Granite-TTM-R3 põhineb IBMi TinyTimeMixeri lähenemisel. Suurte keelemudelitega sageli seostatava kuluka täieliku enesetähelepanuarhitektuuri asemel kasutab see kergeid mikseripõhiseid komponente, mis on mõeldud aegridade teabe tõhusaks töötlemiseks.
Mudelikaardi järgi sisaldab R3 ülesehitus mitut olulist elementi:
- Trendide ja jääkide eraldamine: mudel eraldab aegrida iseloomustava üldise liikumise lühemaajalisest varieeruvusest, aidates esitada eri tüüpi ajalist käitumist.
- Töötlus mitmel eraldusvõimel: ajalisi mustreid saab vaadelda eri skaaladel, mitte ainult ühel ajalisel eraldusvõimel.
- FFT-põhised esitused: ajaliste signaalide esitamisel kasutatakse ka sagedusruumi teavet.
- GLU-väratsemine ja registritokenid: need arhitektuurilised komponendid aitavad juhtida teabe liikumist võrgus.
- Õpetaja-õpilase eeltreenimine: treenimisviis kannab õpetajamudeli teabe üle kompaktsemale õpilasmudelile.
- Mitme kvantiili prognoosimine: väljund võib sisaldada mitut prognoosikvantiili, andes tõenäosusliku prognoosimise korral ühe punktihinnangu asemel ulatuslikuma prognoosi.
Nende lahenduste eesmärk on vähendada arvutusnõudeid, säilitades samal ajal kasuliku prognoosivõime eri andmekogumite korral. Need ei muuda mudelit üldiseks arutlussüsteemiks: selle põhifookus on endiselt arvuliste aegridade prognoosimine.
Prognoosimisvõimalused ja kohandamine
Granite-TTM-R3 prognoosimiskontrollpunkti saab kasutada mitmel viisil:
- nullkaadri-prognoosimine: mudelit saab rakendada seninägemata andmekogumile ilma ülesandespetsiifilise treenimiseta, arvestades valitud kontrollpunkti toetatud konfiguratsiooni;
- vähesätherežiimis kohandamine: IBMi mudelimaterjalide järgi on mõnes seadistuses võimalik kohandamine juba ligikaudu 1000 valimi abil. See on kirjeldatud võimekus, mitte garantii iga andmekogumi või prognoosikonfiguratsiooni puhul;
- peenhäälestus: meeskonnad saavad mudelit domeenipõhiste andmetega kohandada, kui nullkaadri- või vähesätherežiimi tulemuslikkusest ei piisa;
- mitmemuutujaline prognoosimine: mitut omavahel seotud aegrida saab modelleerida koos;
- eksogeensete muutujate tugi: täiendavaid kontroll- või selgitavaid muutujaid saab kaasata juhul, kui kontrollpunkt ja implementatsioon toetavad vajalikku sisendstruktuuri;
- tõenäosuslik prognoosimine: mitme kvantiili väljund võimaldab esitada ühe prognoositud väärtuse asemel tõenäoliste tulemuste vahemikku.
Praktikas võimaldab see mudelite perekonnal alustada eeltreenitud mudelist, katsetada seda prognoosimisülesandel ning seejärel otsustada, kas piisab kergest kohandamisest või on mõistlik teha täielik peenhäälestus. Sobiv töövoog sõltub andmete sagedusest, ajaloo pikkusest, prognoosihorisondist, muutujate arvust ja kontrollpunkti konfiguratsioonist.
Kiirus, mudeli suurus ja juurutamise tõhusus
Tõhusus on Granite-TTM-R3 peamine põhjus. IBM teatab standardse R3 konfiguratsiooni puhul GPU-l ligikaudu 7500 valimist sekundis ja CPU-l ligikaudu 180 valimist sekundis. R3 Lite'i puhul teatab IBM GPU-l ligikaudu 18 000 valimist sekundis ja CPU-l ligikaudu 800 valimist sekundis.
Need on tarnija esitatud mõõtmistulemused, mitte universaalsed jõudlusgarantiid. Tegelik läbilaskevõime võib muutuda sõltuvalt riistvarast, pakikaupa töötlemisest, eeltöötlusest, jada pikkusest, prognoosi pikkusest ja konkreetsest kontrollpunktist. „Valim” tähistab samuti mudelispetsiifilist prognoosisisendit, mistõttu ei tohiks neid näitajaid käsitleda otsese mõõduna, kui kiiresti töötab iga tegelik prognoosimisvoog.
Mudelikaardi järgi jäävad standardkonfiguratsioonid ligikaudu 1 miljoni kuni 35 miljoni parameetri vahele ning Lite-konfiguratsioonid ligikaudu 1 miljoni kuni 18 miljoni parameetri vahele. Kuna repositoorium sisaldab kontrollpunktide komplekti, ei ole Granite-TTM-R3-l tervikuna üht kindlat parameetrite arvu. Väiksemad konfiguratsioonid võivad olla eelistatavad juhul, kui CPU-latentsus, mälukasutus või suuremahuline järeldamine on maksimaalsest mudelivõimekusest olulisem.
Konteksti pikkus, prognoosihorisont ja konfiguratsioonipiirangud
Fikseeritud kontekstipikkus või väljundtokenite maksimaalne arv ei ole selle mudelite perekonna puhul rakendatav samas tähenduses nagu keelemudeli korral. Granite-TTM-R3 ei genereeri tekstisümboleid. Iga kontrollpunkt on seotud kindla konfiguratsiooniga, mis hõlmab muu hulgas ajaloolise konteksti pikkust, prognoosipikkust, sagedust ja mudelisuurust.
Kasutajad peavad seetõttu valima kontrollpunkti, mis vastab nende ülesande struktuurile. Ühe prognoosihorisondi või valimisageduse jaoks mõeldud kontrollpunkt ei pruugi sobida teise jaoks. Ainuüksi repositooriumi taseme nimi ei näita üht universaalset ajalooakna maksimumpikkust, prognoosihorisonti ega parameetrite arvu.
See on oluline rakenduslik kaalutlus. Enne juurutamist peaksid kasutajad kontrollima kontrollpunkti dokumenteeritud sisendi- ja väljundkujusi, valimisagedust, toetatud kovariaate ning eeltöötluse eeldusi. Kogu R3 repositooriumi käsitlemine ühe fikseeritud mudelina võib põhjustada ühildumatuid sisendeid või eksitavaid võrdlusi.
Toetatud modaalsused ja toetamata ülesanded
Granite-TTM-R3 on arvuline mudel. Selle sisend on aegridade andmed, mitte tekst, pildid, heli või video, ning väljund on prognoos, mitte loomulikus keeles sisu ega meedia. Läbi vaadatud mudeliinfo kohaselt ei paku see tekstigeneerimist, pildigeneerimist, heli- ega videogeneerimist, kõneväljundit ega esitusi.
Seda ei esitleta ka vestlusliku arutlusmudeli, kodeerimisabilise, veebiotsingusüsteemi ega tööriistu kutsuva agendina. Mudelil puudub dokumenteeritud funktsioonikutsete või üldise tööriistakasutuse võimekus ning see ei paku keelemudelilaadset JSON-vastuse režiimi. Kogu ümbritsev rakendusloogika, andmete hankimine, seire ja töövoogude automatiseerimine tuleb rakendada prognoosimudelist eraldi.
Hind ja juurdepääs
Läbi vaadatud Granite-TTM-R3 mudelilehel ei olnud märgitud tokenipõhist ega majutatud järeldamise hinda. Mudelit kirjeldatakse avatud kaaludega mudelina, mis on saadaval IBMi Granite'i Hugging Face'i repositooriumi kaudu, mistõttu saavad kasutajad kaalusid ja nendega seotud tööriistu otse hinnata, selle asemel et tugineda avaldatud majutatud API hinnale.
See ei tähenda, et juurutamine oleks tasuta. Kasutajatel võivad tekkida kulud pilvearvutuse, salvestusruumi, andmete ettevalmistamise, seire ja taristu eest. Mudeli väike suurus ja teatatud CPU-läbilaskevõime võivad võrreldes suuremate prognoosisüsteemidega riistvaranõudeid vähendada, kuid tegelik kogukulu sõltub töödeldavate aegridade arvust, prognooside genereerimise sagedusest ning sellest, kas mudelit käitatakse kohapeal, eraserveris või pilvekeskkonnas.
Peamised tugevused ja kompromissid
Tugevused:
- Loodud spetsiaalselt arvuliste aegridade prognoosimiseks, mitte kohandatud üldisest keelemudelist.
- Avatud kaaludega levitamine Apache 2.0 litsentsi alusel vastavalt esitatud mudeliinfole.
- Toetab nullkaadri-prognoosimist, vähesätherežiimis kohandamist, peenhäälestust, mitmemuutujalisi sisendeid, eksogeenseid muutujaid ja tõenäosuslikke väljundeid.
- Väikesed mudelikonfiguratsioonid ja CPU-sõbralik järeldamine võimaldavad kasutada seda piiratud ressurssidega juurutustes.
- Suur teatatud läbilaskevõime on kasulik paljude aegridade pakettprognoosimisel.
- Kontrollpunktide perekond pakub valikuid eri ajaloo pikkuste, horisontide, sageduste ja mudelisuuruste jaoks.
Kompromissid:
- Kontrollpunktide perekond nõuab konfiguratsiooni hoolikat valimist; puudub üks universaalne konteksti- või prognoosipiirang.
- Teatatud läbilaskevõime sõltub riistvarast ja töökoormusest ning seda tuleks valideerida kasutaja enda andmetöötlusvoos.
- See ei ole üldotstarbeline tehisintellektiassistent ega asenda keelemudelit teksti, koodi, vestluse või tööriistakasutuse korral.
- Kasutajatel on vaja sobivaid arvulisi andmeid ja prognoosimisalaseid teadmisi, sealhulgas otsuseid sageduse, kovariaatide, eeltöötluse ja hindamise kohta.
- Läbi vaadatud mudelilehel ei olnud märgitud majutatud järeldamisteenuse pakkujat ega tavapärast kasutuspõhist hinda.
Millal seda mudelit valida
Granite-TTM-R3 on tugev kandidaat juhul, kui põhiküsimus on paljude arvuliste jadade tõhus prognoosimine. Sobivate näidete hulka kuuluvad nõudluse ja müügi prognoosimine, varude ja tarneahela planeerimine, tööstuslikud või operatiivsed signaalid, finants- ja majandustrendide analüüs ning reaalaja- või pakettprognoosimine, mille korral on CPU-l põhinev juurutamine väärtuslik.
Seda tasub eriti hinnata siis, kui meeskond soovib avatud kaaludega mudelit, mida saab katsetada ilma kohustuseta kasutada omanduslikku majutatud prognoosimis-API-t, või kui töökoormus nõuab suurt läbilaskevõimet ja mudeli kontrollpunkti konfiguratsioon sobib andmetega. Peenhäälestuse ja eksogeensete muutujate tugi muudab selle sobivamaks kui täiesti üldine baaslahendus ka juhul, kui domeenipõhistel prognoosisignaalidel on oluline roll.
Millal võib mõni muu lahendus olla sobivam
Üldotstarbeline keelemudel on parem valik loomuliku keele analüüsi, aruannete koostamise, programmeerimise, küsimustele vastamise või vestlusliideste jaoks. Laiem multimodaalne mudel on sobivam juhul, kui ülesanne ühendab prognoosimise piltide, dokumentide, heli või videoga. Majutatud prognoosimisteenus võib olla eelistatav meeskonnale, kes ei soovi hallata mudelifailide, riistvara, eeltöötluse ega järeldamisega seotud toiminguid.
Samuti võib eelistada mõnda muud prognoosimudelit, kui selle dokumenteeritud kontrollpunkt vastab nõutavale kontekstipikkusele, sagedusele, prognoosihorisondile või kovariaatide struktuurile täpsemalt. Granite-TTM-R3 perekonnapõhine ülesehitus pakub paindlikkust, kuid tähendab ühtlasi, et kasutajad peavad uurima konkreetset kontrollpunkti, mitte eeldama, et kõik R3 variandid toetavad samu sisendeid ja väljundeid.
Kokkuvõte
Granite-TTM-R3 on spetsialiseeritud ja tõhus prognoosimudelite perekond, mitte universaalne tehisintellektimudel. Selle väärtus seisneb kompaktsetes avatud kaaludega kontrollpunktides, mitme prognoosi- ja kohandamisrežiimi toes, tõenäosuslikes prognoosides ning suurepärases teatatud CPU- või GPU-läbilaskevõimes. See sobib kõige paremini meeskondadele, kes töötavad arvuliste aegridade andmetega ning vajavad skaleeritavat järeldamist ja kontrolli juurutamise üle. Peamine praktiline ettevaatuskoht on see, et R3 koosneb mitmest konfiguratsioonist, mistõttu tuleb konteksti pikkust, prognoosihorisonti, mudeli suurust ja sisendnõudeid kontrollida iga kontrollpunkti tasandil.