Mis on NVIDIA Kumo Relational?
NVIDIA Kumo Relational on eeltreenitud relatsiooniline alusmudel ennustavate masinõppeülesannete jaoks, mis töötavad omavahel seotud andmebaasitabelitega. Selle fookus ei ole vestlusel ega teksti genereerimisel. Selle asemel analüüsib see struktureeritud andmeid, näiteks kliente, kontosid, tehinguid, tooteid, sündmusi ja muid olemite kogumeid, mida ühendavad primaarvõtme ja võõrvõtme suhted.
Tavaline tabelandmetel põhinev mudel eeldab sageli ühe konkreetse ülesande jaoks hoolikalt ette valmistatud lamedat tabelit. Kumo Relational on mõeldud töötama relatsioonilise esitusega, milles mitu tabelit säilitavad omavahelised seosed. NVIDIA kirjeldab seda esitust relatsioonigraafina: ridadest saavad olemid või kirjed ning tabelitevahelistest suhetest lingid, mis aitavad ennustusele konteksti anda.
Mudel saab kasutada ennustuspäringuga kaasas olevaid märgendatud kontekstinäiteid. Praktiliselt võib rakendus edastada ajaloolised read, mille tulemus on teada, ja seejärel küsida ennustusi uute ridade kohta. Ennustuse sihtmärgi ja asjakohase konteksti kirjeldamiseks kasutatakse ennustuspäringute keelt ehk PQL-i. NVIDIA pakub juurdepääsu Kumo Relational NIM-i järeldusteenuse, Pythoni kliendi ja REST-i lõpp-punktide kaudu.
Kuhu see NVIDIA mudelivalikus sobitub?
Kumo Relational kuulub NVIDIA Kumo relatsiooniliste alusmudelite tehnoloogia perekonda ja seda levitatakse NVIDIA NIM-ina. NVIDIA esitatud API viide nimetab mudelit Kumo Relationaliks ja loetleb NIM-i versioonina 1.0.0. Sama viite kohaselt on mudelil 31 miljonit parameetrit.
See positsioneerimine on oluline, sest Kumo Relational ei ole väiksem keelemudel, mis konkureeriks vestluse, kirjutamise või programmeerimise valdkonnas. See on struktureeritud relatsiooniliste ennustuste jaoks loodud spetsialiseeritud mudel. Selle väärtus tuleneb tabelistruktuuri ja -seoste otsesest kasutamisest, mitte andmebaasitöökoormuse surumisest tekstipäringusse või iga tabeli käsitlemisest omavahel mitteseotud veergude kogumina.
Esitatud uuringu kohaselt oli mudel saadaval NVIDIA tasuta API lõpp-punkti kaudu ning allalaaditava NIM-i juurutusena. API viites on avaldamiskuupäevana märgitud 18. august 2026. Saadavus, litsents ja juurutustingimused võivad muutuda, seega peaksid tootmiskasutajad kehtivad tingimused NVIDIA mudelilehelt ja API dokumentatsioonist üle kontrollima.
Mida saab Kumo Relational ennustada?
NVIDIA dokumenteerib mitu ennustustöö kategooriat:
- Binaarne klassifitseerimine: kahe tulemuse vahel valimine, näiteks selle ennustamine, kas klient tõenäoliselt lahkub.
- Mitmeklassiline klassifitseerimine: ühe tulemuse valimine mitme kategooria hulgast.
- Regressioon: arvulise väärtuse hindamine, näiteks riskiskoori või eeldatava summa prognoosimine.
- Prognoosimine: tulevaste väärtuste ennustamine ajalooliste ja ajaga seotud andmete põhjal.
- Ajaline lingiennustus: selle hindamine, kas olemitevaheline suhe tekib või muutub aja jooksul.
Olenevalt ülesandest võivad väljundid sisaldada ennustusi, tõenäosusi, skoore, järjestusi, kvantiile, manuseid ja diagnostilisi selgitusi. Seetõttu sobib mudel enamaks kui lihtsaks jah-ei-klassifikaatoriks. Näiteks võib soovitussüsteem vajada järjestatud kandidaate, prognoosimisvoog aga ühe punktihinnangu asemel usutavate väärtuste vahemikku.
Sobivate rakenduste näited on klientide lahkumise tõenäosuse hindamine, pettuste tuvastamine, riskihindamine, soovitused, klientide või kontode klassifitseerimine, arvulised ennustused, nõudluse või sündmuste prognoosimine ning suhete ennustamine ajas muutuvates andmetes. Need näited kirjeldavad dokumenteeritud ülesannete ulatust; neid ei tohiks tõlgendada konkreetse andmestiku täpsuse garantiina.
Kuidas sisend ja ennustusvoog toimivad?
Kumo Relational võtab vastu relatsioonilised andmed JSON-massiivi vormingus koos deklareeritud skeemidega. Päringus saab määratleda olemite ja seotud tabelid, täpsustada primaarvõtme ja võõrvõtme suhted, edastada märgendatud kontekstiread ning lisada read, mille kohta ennustusi vajatakse.
See erineb keelemudelile päringu saatmisest. Kumo Relationali kohta ei ole esitatud tavapärast märgendipõhist kontekstiakent ning esitatud spetsifikatsioonid ei määra maksimaalset väljundmärgendite arvu. Selle asemel sõltub tegelik sisendi maht relatsioonilistest andmetest, skeemist, kontekstinäidetest, ennustuspäringust ja NIM-i toetatud juurutuskonfiguratsioonist.
Tüüpilises töövoos määratletakse tabelid ja nendevahelised suhted, kirjeldatakse ennustuse sihtmärki PQL-is, edastatakse ajaloolised näited ning saadetakse üks või mitu ennustusrida. Tagastatud tulemust saab rakendus kasutada skoorimiseks, järjestamiseks, prognoosimiseks või järgnevaks analüüsiks. NVIDIA dokumenteerib kliendi kaudu ka paketipõhist ennustamist: tavalised paketid toetavad kuni 1000 olemit ning suuremaid töid saab sobivate juurutuste korral konfigureerida.
Kuna mudel tugineb suhetele ja ajaloolisele kontekstile, on andmemodelleerimine selle kasutamise oluline osa. Tähenduslike võtmete, usaldusväärsete ajatemplite ja piisavalt esinduslike märgenditega andmebaas sobib paremini kui eraldiseisev arvutustabel, millel puuduvad kasulikud seosed. Esitatud dokumentatsioon ei anna universaalset täpsusläve ega luba, et tabelite lisamine parandab iga ülesande tulemust.
Peamised tugevused ja piirangud
Tugevused
- Loodud seotud andmete jaoks: mudel saab kasutada tabelitevahelisi suhteid, selle asemel et nõuda kõigi tunnuste käsitsi ühte andmestikku tasandamist.
- Mitu ennustustöö tüüpi: dokumenteeritud töövoog hõlmab klassifitseerimist, regressiooni, prognoosimist ja ajalist lingiennustust.
- Kohandamine konteksti põhjal: märgendatud kontekstinäited aitavad ülesannet ennustamise ajal kirjeldada, ilma et iga kasutusjuhtumi jaoks oleks vaja eraldi ülesandespetsiifilist mudelit.
- Paindlik juurutus: kasutajad saavad kasutada NVIDIA hallatavat lõpp-punkti või juurutada allalaaditava NIM-i, arvestades kohaldatavaid keskkonna- ja litsentsitingimusi.
- Praktilised väljundid: tõenäosused, järjestused, kvantiilid, manused ja diagnostilised selgitused võivad tootmissüsteemides olla kasulikumad kui üksainus märgend.
- Pakettidena skoorimine: klient toetab paketipõhist ennustamist, sealhulgas NVIDIA dokumentatsiooni kohaselt tavalisi kuni 1000 olemiga pakette.
Piirangud
- See ei ole keelemudel: see ei ole mõeldud loomuliku keele genereerimiseks, vestluseks, kokkuvõtete tegemiseks, üldotstarbeliseks programmeerimiseks ega muudeks tekstikeskseteks ülesanneteks.
- Tavapärane märgendispetsifikatsioon puudub: NVIDIA ei esita kaasasolevas uuringus konteksti pikkust märgendites ega maksimaalset väljundmärgendite arvu. Mahtu tuleks hinnata relatsioonilise sisendi ja juurutuskonfiguratsiooni põhjal.
- Vajalik on struktureeritud andmete ettevalmistamine: kasutajad peavad esitama oodatud vormingus skeemid, suhted, kontekstiread ja ennustusread. See on keerukam kui lihtsa tekstipäringu saatmine.
- Piiratud tööriistade ulatus: tööriistade või funktsioonide kutsumise võimekust ei ole dokumenteeritud. Mudel ei sirvi iseseisvalt veebi ega halda väliseid rakendusi.
- See ei ole multimodaalne generaator: esitatud spetsifikatsioonides ei ole määratletud pildi-, heli- ega videosisendit ega -väljundit. Selle väljundid on struktureeritud ennustused ja nendega seotud analüütilised tulemused.
- Ülesande kvaliteet sõltub andmetest: kehvad võtmed, puuduvad seosed, nõrgad märgendid, andmelekked või ebaesinduslikud ajaloolised näited võivad ennustuste kasulikkust vähendada.
Modaalsused, arutlusvõime ja programmeerimisvõimekus
Kumo Relational kasutab struktureeritud relatsiooniandmeid, mitte teksti, pilte, heli ega videot. Esitatud mudelikirje märgib teksti-, pildi-, heli- ja videosisendi toetamata ning ei määratle otsest pildi-, heli- ega videoväljundit. Selle väljund on struktureeritud ennustusinfo, mis võib sisaldada skoore, järjestusi, manuseid ja selgitusi.
Seetõttu oleks eksitav hinnata seda mudelit tavaliste vestlusmudelite kategooriate põhjal. Esitatud andmebaasis on toimetuslikuks arutlusvõime skooriks märgitud 4 punkti 10-st ja programmeerimisskooriks 2 punkti 10-st. Need on toimetuse sisehinnangud, mitte NVIDIA võrdlustestide tulemused. Madal programmeerimishinnang peegeldab mudeli eesmärki: see võib toetada struktureeritud ennustusteenust, kuid ei ole üldotstarbeline programmeerimisassistent. Samamoodi väljendub selle arutlusväärtus relatsioonilise järeldamise ja ennustamise, mitte avatud ahelaga mõttekäiguvestluse kaudu.
Tööriistade kasutamise või funktsioonide kutsumise võimekust ei ole dokumenteeritud. Rakendused saavad kutsuda REST-i API-t või kliendi SDK-d, kuid see on integratsioonimeetod, mitte mudeli funktsioon, mis võimaldaks Kumo Relationalil suvalisi tööriistu valida ja käivitada.
Kiirus, kulu ja hinnastamine
Esitatud uuringus ei ole toodud avalikke sisend- ega väljundmärgendipõhiseid hindu. Ka see hinnastusmudel kirjeldaks toodet halvasti, sest Kumo Relational ei ole tavapärane märgendipõhine keele-API. NVIDIA dokumenteerib tasuta API lõpp-punkti ja allalaaditava NIM-i, kuid enne juurutuse tasuta kasutamiseks pidamist peaksid kasutajad üle kontrollima kehtivad lõpp-punkti piirangud, konto nõuded, taristukulud ja litsentsitingimused.
Toimetuse andmebaasis on kiirusele antud hindeks 7 punkti 10-st ja kulule samuti 7 punkti 10-st. Need on kataloogimise eesmärgil antud ligikaudsed hinnangud, mitte NVIDIA avaldatud mõõtmistulemused. Tegelik kulude ja võimekuse suhe sõltub sellest, kas töökoormus kasutab hallatavat lõpp-punkti või allalaaditavat NIM-i, kui palju relatsiooniandmeid saadetakse, kui sageli ennustusi tehakse ja millist riistvara juurutuseks kasutatakse.
Kumo Relational võib pakkuda soodsat võimekuse ja kulu suhet juhul, kui paljud seotud tabelid toetavad korduvaid ennustusülesandeid ning meeskond soovib mitme eraldi välja töötatud töövoo asemel kasutada üht relatsioonilist alusmudelit. Lihtsam ühe tabeliga mudel võib olla väikese ja stabiilse andmestiku puhul tõhusam, samas kui keelemudel sobib paremini siis, kui vajalik väljund on loomulik keel.
Millal valida Kumo Relational?
Vali Kumo Relational siis, kui põhiprobleem on seotud andmebaasi põhjal ennustamine ning kirjetevahelised suhted sisaldavad kasulikku infot. See on eriti asjakohane juhul, kui seotud olemite puhul on vaja mitut ülesandetüüpi, näiteks klassifitseerimist, regressiooni, prognoosimist või lingiennustust, ning ülesandeid soovitakse kirjeldada kontekstinäidete ja PQL-i abil.
See on mõistlik valik ka siis, kui oluline on juurutuspaindlikkus. NVIDIA hallatav lõpp-punkt võimaldab suhteliselt otsest hindamist, samas kui allalaaditav NIM sobib meeskondadele, kes peavad juurutust oma keskkonnas haldama. Paketipõhine ennustamine muudab selle korduvate skoorimistööde jaoks sobivamaks kui vestlusliidese jaoks.
Teine lahendus võib olla sobivam juhul, kui töökoormus keskendub peamiselt teksti genereerimisele, dokumentide mõistmisele, tarkvaraarendusele, pildianalüüsile või helitöötlusele. Tavaline tabelandmetel põhinev masinõppemudel võib olla eelistatav siis, kui andmed on juba puhtad, lamedad ja keskenduvad kitsalt ühele ülesandele. Spetsiaalne prognoosimis- või graafiõppesüsteem võib samuti olla lihtsamini hallatav, kui kasutusjuht nõuab erikontrolle, mida Kumo Relationali kohta ei ole dokumenteeritud.
Kokkuvõte
NVIDIA Kumo Relational on spetsialiseeritud struktureeritud andmete mudel, mitte üldotstarbeline tehisintellektiassistent. Selle eripära seisneb võimes teha ühendatud tabelite põhjal mitut tüüpi ennustusi, kasutades relatsioonistruktuuri, märgendatud kontekstinäiteid ja PQL-i. Mudel on kõige huvitavam andmebaasikesksetes rakendustes, näiteks klientide lahkumise tõenäosuse hindamisel, pettuste tuvastamisel, soovituste tegemisel, riskiskooride arvutamisel, prognoosimisel ja ajas muutuvate suhete ennustamisel.
Selle peamine kompromiss on spetsialiseeritus. Kasutajad saavad relatsiooniliseks ennustamiseks loodud töövoo, kuid peavad esitama täpselt määratletud skeemid ja suhted ning ei tohiks oodata vestlust, koodi genereerimist, multimodaalset töötlemist, tööriistade kutsumist ega märgendipõhiseid konteksti juhtelemente. Ühendatud andmete ja korduvate ennustusülesannetega meeskondade jaoks võib just see spetsialiseeritus olla põhjus selle valimiseks; tekstikesksete või struktureerimata töökoormuste korral sobib tõenäoliselt paremini teist tüüpi mudel.