Reka Core

Mis on Reka Core?

Reka Core on Reka pakutav üldotstarbeline multimodaalne keelemudel. Reka tutvustas seda 15. aprillil 2024 ja kirjeldas mudelit kui nullist treenitut, mille treenimiseks kasutati mitme kuu jooksul tuhandeid GPU-sid. Praktikas on see loodud töötama enama kui tavaliste tekstipäringutega: päring võib sisaldada koos kirjalikke juhiseid, pilte, videot, heli või pikki dokumente.

Mudel kuulub Reka algsesse Core’i, Flashi ja Edge’i mudelisarja. Käivitamise ajal oli Core selle perekonna suurim ja võimekaim liige, samal ajal kui Flash keskendus kergemale ja kiiremale kasutusprofiilile ning Edge tõhusale või lokaalsele juurutamisele. Reka praegune dokumentatsioon nimetab Flashi ja Edge’i baasmudeliteks, mis on avalikuks kasutuseks alati saadaval. Core on Reka hinnakirjas endiselt loetletud, kuid juurdepääs võib sõltuda kontost, platvormi konfiguratsioonist või juurutusviisist.

See eristus on Core’i hindamisel oluline. Avaldatud spetsifikatsioonid muudavad selle nõudliku analüüsi jaoks atraktiivseks, kuid hinnakirjas olemine ei tähenda, et mudel oleks sama piiranguteta kättesaadav nagu avalik baasmudel.

Mida Core töödelda suudab

Reka Core toetab nelja peamist sisendmodaliteeti:

• Tekst: tavalised päringud, küsimused, juhised ja dokumendid.
• Pildid: visuaalne analüüs ja piltidel põhinev küsimustele vastamine.
• Video: videosisu analüüs ning salvestisel kujutatud sündmuste või sisalduva teabe kohta küsimustele vastamine.
• Heli: heliteadlikud töövood, kuigi esitatud dokumentatsioon ei kinnita eraldi kõnetuvastuse ega heli genereerimise tootevõimekust.

Mudeli väljund on tekst. Esitatud mudelikirje põhjal ei genereeri Core natiivselt pilte, videot ega heli. Seetõttu on mudelit kõige kasulikum mõista kui „multimodaalse sisendi ja tekstiväljundiga“ mudelit: see suudab uurida mitut tüüpi meediat ning neid kirjalikult selgitada, kokku võtta, võrrelda või nende üle arutleda.

128K kontekstiaken ja arutlusvõime

Core’i dokumenteeritud kontekstiaken on 128 000 tokenit. Token on väike teksti- või muu mudelisisendi ühik; kontekstiaken näitab teabe hulka, mida mudel ühe suhtluse käigus arvesse võtta saab. 128K suurune aken on piisav mahukate dokumentide, seotud materjalide kogumite või pikkade multimodaalsete päringute jaoks, kuigi tegelik kasutatav maht sõltub sellest, kuidas API üles laaditud meediat esitab, ning ümbritsevatest juhistest.

Mudel loodi arutlemiseks keele, matemaatika, visuaalse teabe ja videosisu põhjal. Võimalikud kasutusviisid hõlmavad pika tehnilise dokumendi kohta küsimuste esitamist, mitme pildi võrdlemist, sündmuse leidmist videost või kirjalike ja visuaalsete tõendite ühendamist enne järelduse koostamist. Reka tehniline aruanne ja tutvustusmaterjalid esitlesid Core’i 2024. aasta väljalaskeperioodil konkurentsivõimelisena juhtivate mudelitega keele, visiooni, multimodaalse vestluse ja video kohta küsimustele vastamise hindamistel. Need on pakkuja esitatud ajaloolised võrdlused, mitte garantii praeguse jõudluse kohta võrreldes uuemate mudelitega.

Esitatud uurimismaterjalid ei kinnita Core’i teadmiste lõppkuupäeva. Samuti ei ole dokumenteeritud väljundi maksimaalset tokenipiirangut. Seetõttu ei tohiks arendajad eeldada, et kogu 128K suurust konteksti saab väljundina tagastada või et konkreetne vastuse pikkus on garanteeritud.

Kodeerimine, funktsioonikutseid ja tööriistade kasutamine

Reka positsioneeris Core’i kodeerimise ja agentsete töövoogude jaoks ning mudelikirje hindab selle kodeerimisvõimekust tarkvaraga seotud ülesannete puhul kasulikuks. See suudab koodi genereerida ja selgitada, aidata kontrollida koodiga seotud materjale ning arutleda programmeerimisprobleemide üle. Olemasolev teave ei määra kindlaks programmeerimiskeelte kaupa koostatud ühilduvusmaatriksit ega garanteeritud käivituskeskkonda, mistõttu tuleb genereeritud koodi endiselt tavapäraselt testida ja üle vaadata.

Funktsioonikutsed on olulisem piirang. Reka praegune funktsioonikutsete dokumentatsioon ütleb, et dokumenteeritud API-tasemel toetab funktsioonikutseid ainult Reka Flash. Seetõttu ei tohiks Core’i puhul eeldada tööriistade kasutamise võimalust. Core võib küll kirjeldada toimingut või koostada tekstina struktureeritud juhiseid, kuid see erineb sellest, kui API käivitab mudeli nimel otse välise funktsiooni.

Uurimismaterjalid ei kinnita konkreetse Core’i mudeli puhul ka eraldi pärand-JSON-režiimi, struktureeritud väljundi garantiid, peenhäälestuse tuge, viipade vahemällu salvestamist ega partiitöötluse API tuge. Need puuduvad andmed ei tõesta, et sellised funktsioonid oleksid igas juurutuses võimatud, kuid neid tuleks pidada kinnitamata võimalusteks, mitte eeldada nende olemasolu.

Hind ja saadavus

Reka praegusel API hinnalehel on Reka Core’i kohta loetletud järgmised hinnad:

Need on kasutuspõhised hinnad, mitte tarbijatele mõeldud tellimustasu. Tokenitasud kehtivad teksti sisendi ja väljundi puhul, samal ajal kui meediasisenditel on eraldi loetletud hinnad. Multimodaalse päringu tegelik maksumus sõltub teksti mahust ning esitatud meedia kestusest või failide arvust.

Algse avaliku väljalaskega seotud kuupäevaga mudeliidentifikaator oli reka-core-20240501; reka-core oli dokumenteeritud lühialiasena. Enne tootmisintegratsiooni loomist peaksid arendajad kontrollima praegust mudelite loendit ja oma kontoõigusi. Core’i olemasolu hinnalehel näitab, et mudel on praegu loetletud, kuid dokumentatsioon ei nimeta seda mudeliks, mis oleks alati avalikult saadaval.

Tugevused ja kompromissid

Core’i peamine tugevus on lai kasutusulatus koos suure kontekstiaknaga. See suudab ühes mudelis vastu võtta teksti, pilte, videot ja heli, vähendades vajadust jaotada töövoog mitme spetsialiseeritud süsteemi vahel. See on eriti kasulik siis, kui vastus sõltub eri meediatüüpide omavahelistest seostest, näiteks kirjaliku juhtumikirjelduse sidumisel videos näidatud kaadritega või pildi kontrollimisel pika dokumendi juhiste põhjal.

Teine tugevus on keskendumine keerukale analüüsile, mitte ainult lühikestele vestlusvastustele. Mudel loodi keerukaks arutlemiseks, mitmekeelseks kasutuseks, kodeerimiseks, ettevõtete töökoormusteks ja multimodaalsetele küsimustele vastamiseks. Reka teatel hõlmas eeltreening 32 keelt.

Kompromissid on sama olulised. Core ei ole natiivse meedialoome jaoks ilmselge valik, sest dokumenteeritud väljund on tekst. Samuti ei sobi see kõige paremini olukordadesse, kus agendiarhitektuuri keskne osa on garanteeritud funktsioonikutsete tugi. Selle API hinnas on väljund kallim kui sisend ning multimodaalsed päringud lisavad eraldi meediatasud. Väiksema või kiirema mudeliga võrreldes võib Core olla lihtsa klassifitseerimise, lühikeste tekstiteisenduste või suure mahu ja vähese keerukusega päringute jaoks tarbetult kallis.

Arvestada tuleb ka kiirusega. Esitatud hindamistulemused annavad Core’ile mõõduka kiirusehinnangu, mitte ei esitle seda ülima väikese latentsusega mudelina. See hinnang on toimetuslik hinnang, mitte pakkuja võrdlustulemus ega teenusetaseme garantii. Praktikas tuleb mudeli suuremat võimekust võrrelda rakenduse kiiruse- ja kulunõuetega.

Millal valida Reka Core?

Reka Core on mõistlik valik, kui töövoog vajab korraga mitut järgmist omadust:

• Dokumentide või pikkade päringute analüüs suure konteksti põhjal.
• Küsimused, mis ühendavad teksti piltide, video või heliga.
• Video või piltide mõistmine, mille tulemuseks on kirjalik vastus.
• Keerukas mitmekeelne analüüs.
• Koodi genereerimine või selgitamine koos laiemate arutlusülesannetega.
• Ettevõtte- või privaatjuurutus, mille puhul Reka saab kinnitada mudeli juurdepääsu ja konfiguratsiooni.

Näiteks võiks uurimisrühm esitada pika aruande koos toetavate piltidega ning paluda Core’il vastuolud kindlaks teha ja tõendeid selgitada. Meeskond võiks üles laadida video ja paluda kirjeldada olulisi sündmusi. Arendaja võiks kasutada mudelit koodibaasi väljavõtte analüüsimiseks koos dokumentatsiooni ja kasutajaliidese ekraanipiltidega.

Teine võimalus võib olla sobivam siis, kui prioriteediks on väike latentsus, prognoositav avalik saadavus või sisseehitatud tööriistade käivitamine. Reka Flash on dokumenteeritud spetsiaalselt funktsioonikutsete jaoks ning seda nimetatakse koos Reka Edge’iga baasmudeliks, mis on avalikuks kasutuseks alati saadaval. Väiksem mudel võib olla parem valik ka tavapäraste tekstülesannete puhul, mille korral Core’i multimodaalsed ja pika konteksti võimalused ei õigustaks lisakulu.

Enne juurutamist kontrollitavad piirangud

Enne Core’ile tootmises tuginemist kinnitage Reka dokumentatsioonist täpne mudeliidentifikaator, kontojuurdepääs, toetatud sisendvormingud ja kehtiv hinnakiri. Esitatud uurimismaterjalid ei kinnita Core’i puhul väljundi maksimaalset tokenipiirangut, teadmiste lõppkuupäeva, peenhäälestuse, vahemällu salvestamise, partiitöötluse ega struktureeritud väljundite tuge või eraldi JSON-režiimi.

Funktsioonikutseid tuleks dokumenteeritud API-tasemel käsitleda kättesaamatuna. Arendajad peaksid meediarohkeid päringuid testima tekstipäringutest eraldi, sest piltide, video ja heli kasutust hinnastatakse iseseisvalt. Lõpuks tuleks 2024. aasta väljalaskeperioodi võrdlustulemusi käsitleda ajaloolise taustana, mitte praeguse lõpp-punkti enda rakenduse dokumentide, piltide, salvestiste ja koodiga testimise asendusena.

Kokkuvõte

Reka Core’i on kõige parem mõista kui suurt tekstiväljundiga mudelit nõudlikuks multimodaalseks analüüsiks. Selle kinnitatud eristavad omadused on teksti, pildi, video ja heli sisendi kombinatsioon, 128K tokeni suurune kontekstiaken ning loetletud API-juurdepääs eraldi meediahinnastusega. See võib sobida hästi pika konteksti ja eri meediatüüpide vaheliseks arutluseks, kuid kontost sõltuv saadavus, dokumenteerimata väljundi- ja tööpiirangud ning dokumenteeritud funktsioonikutsete toe puudumine muudavad kontrollimise enne juurutamist hädavajalikuks.