embed-multilingual-light-v3.0

Mis on Cohere embed-multilingual-light-v3.0?

Cohere embed-multilingual-light-v3.0 on embedding-mudel, mis teisendab teksti või pildid arvulisteks vektoriteks. Need vektorid esindavad semantilist tähendust, võimaldades tarkvaral võrrelda sisu ka siis, kui sõnastus on erinev. Näiteks saab ingliskeelse otsingupäringu sobitada asjakohase dokumendiga, mis on kirjutatud mõnes muus toetatud keeles, kui rakendus kasutab mudeli loodud vektoreid koos sobiva sarnasuspõhise otsingusüsteemiga.

Mudel kuulub Cohere'i Embed v3.0 mudeliperre ning seda esitletakse mudeli embed-multilingual-v3.0 väiksema ja kiirema versioonina. Selle peamine kompromiss on 384-mõõtmeline väljund: vektorid vajavad vähem salvestusruumi ja võimaldavad tõhusat suure läbilaskevõimega otsingut, samas kui täisversioonis mitmekeelne mudel loob suuremaid, 1 024-mõõtmelisi vektoreid, mis võivad keerukamate ülesannete puhul pakkuda suuremat esitlusvõimet.

See ei ole vestlus- ega tekstigenereerimismudel. See ei kirjuta vastuseid, teosta mitmeastmelist arutlemist, genereeri koodi ega tagasta pilte. Selle ülesanne on luua embedding'u-vektoreid, mida mõni teine süsteem saab kasutada otsinguks, järjestamiseks, klassifitseerimiseks, klasterdamiseks, soovituste andmiseks või sarnasuse analüüsiks.

Peamised tehnilised andmed lühidalt

512 tokeni piirang kehtib iga sisendi kohta ja tähendab, et pikemad dokumendid tuleb üldjuhul enne embedding'uks teisendamist väiksemateks lõikudeks jagada. Mudelil ei ole maksimaalse väljundi tokenite seadistust, sest selle väljund on genereeritud teksti asemel kindla suurusega vektor.

Kuidas mudelit kasutatakse

Embedding'u-töövoog koosneb tavaliselt kolmest etapist. Esiteks teisendab rakendus salvestatud sisu, näiteks dokumendid või tootekirjeldused, vektoriteks. Teiseks salvestab see vektorid vektorandmebaasi või muusse indeksisse. Kolmandaks teisendab see kasutaja päringu vektoriks ja otsib sarnasuse mõõdiku abil lähedalasuvaid salvestatud vektoreid.

Cohere pakub otsingutöövoogude jaoks ülesandepõhiseid sisenditüüpe. Salvestatud lõigu võib embedding'uks teisendada kui search_document, kasutaja päringu aga kui search_query. Nende rollide eristamine aitab mudelil teha vahet otsitaval sisul ja päringul, mille abil seda sisu otsitakse. Saadud vektoreid saab seejärel kasutada semantilises otsingus või otsinguga täiendatud genereerimise (RAG) töövoos, kus eraldi keelemudel kasutab vastuse koostamiseks leitud lõike.

Pika aruande puhul peaks rakendus jagama aruande sisukateks lõikudeks, mitte püüdma kogu dokumenti korraga embedding'uks teisendada. Jaotamine jaotiste, seotud lõikude või mõne muu loogilise piiri järgi muudab otsingutulemused tavaliselt paremini tõlgendatavaks. Esitatud uurimismaterjal kinnitab 512 tokeni sisendipiirangut, kuid ei määra üht kindlat kohustuslikku tükeldamisstrateegiat.

Teksti- ja pildiembedingute tugi

Mudel toetab mitmekeelset teksti ja pilte. Tekstitugi on keskne kasutusjuht: dokumente, päringuid, klienditoepileteid, kataloogikirjeid, sõnumeid ja muid lõike saab semantiliseks võrdlemiseks esitada samas vektorruumis.

Cohere lisas Embed v3 mudeliperele pildiembedingute toe 2024. aasta oktoobris. Päringutes kasutatakse Embed API pildisisendi tüüpi ning pildiandmed edastatakse base64-andme-URL-ina. Toetatud pildivormingud on PNG, JPEG, WebP ja GIF. Pildiandmete maht on piiratud 5 MB-ga ning pildiembedingute päringud ei toeta pakktöötlust. Need piirangud on suure pildikogu töötlemisel olulised, sest rakendus peab haldama kodeerimist, failisuuruse kontrollimist ja ühe pildi töötlemist päringu kohta.

Pildi- ja tekstivektorid võimaldavad selliseid töövooge nagu pilt-pildilt sarnasuse otsimine, teksti ja pildi sobitamine ning eri tüüpi sisu hõlmav otsing. Mudel loob siiski esitusi, mitte pildiallkirju ega selgitusi. Kui süsteem vajab pildi kirjalikku kirjeldust, on vaja eraldi pildimõistmise või genereerimise komponenti.

Peamised tugevused ja kompromissid

Kompaktsed 384-mõõtmelised vektorid

Mudeli peamine praktiline eelis on kompaktne väljund. 384-mõõtmeline vektor vajab vähem salvestusruumi kui 1 024-mõõtmeline vektor, mis võib vähendada vektorindeksi mahtu ja muuta suurte kogude haldamise lihtsamaks. Väiksemad vektorid võivad olla kasulikud ka suure läbilaskevõimega otsingusüsteemides, kus latentsus ja taristu tõhusus on olulised.

Tegu on disainikompromissiga, mitte tingimusteta kvaliteedieelisega. Väiksem mõõtmete arv võib tähendada väiksemat võimet esitada peeneid erinevusi. Täisversioon embed-multilingual-v3.0 võib olla sobivam juhul, kui otsingu kvaliteet on indeksi mahust või kiirusest tähtsam. Enne olemasoleva embedding'u-indeksi asendamist peaksid meeskonnad mõlemat mudelit oma päringute ja dokumentide näidete põhjal testima.

Lai mitmekeelne tugi

Cohere'i sõnul toetab mudel enam kui 100 keelt. See muudab mudeli sobivaks keelteüleseks otsinguks ja mitmekeelsete kogude jaoks, kus iga dokumendi ja päringu tõlkimine ühte keelde lisaks keerukust või põhjustaks nüansside kadumist. Samuti võib see pakkuda ühist esitust rakendustele, mille kasutajad räägivad mitut keelt.

Ainuüksi keelte tugi ei taga ühesugust kvaliteeti kõigi keelte, valdkondade ega kirjastiilide puhul. Kui rakendus sõltub suurel määral konkreetsest keelest, erialaterminoloogiast või kitsast tööstusharust, peaks hindamine hõlmama tegelikku sisu, mitte tuginema ainult avaldatud keelte arvule.

Kiiruse, salvestusruumi ja hinna positsioneerimine

Cohere positsioneerib light-mudelit täisversioonis mitmekeelse v3.0 mudeliga võrreldes väiksema ja kiiremana. Esitatud toimetuslikus mudeliandmestikus hinnatakse selle kiirust ja kulutõhusust samuti kõrgelt, kuid need hinnangud ei ole pakkuja avaldatud võrdlustulemused. Neid tuleks käsitleda suunavate hinnangutena, mitte konkreetse riistvarakonfiguratsiooni, API töökoormuse, pakisuuruse või otsinguindeksi garantiina.

Mudeli kompaktsed vektorid võivad vähendada salvestusvajadust ning selle kerge ülesehitus võib parandada läbilaskevõimet. Tegelik kogukulu sõltub ka sisendite arvust, API hinnast, indeksitehnoloogiast, tükeldamisstrateegiast ja sellest, kas rakendus kasutab sünkroonseid päringuid või asünkroonseid töid. Selle konkreetse mudeli täpset avalikku tokenipõhist hinda ei olnud esitatud Cohere'i praeguse hinnainfo põhjal võimalik kontrollida, seega ei tohiks eeldada kindlat numbrilist hinda.

Parimad kasutusjuhud

• Mitmekeelne semantiline otsing: Leia asjakohane sisu tähenduse, mitte täpsete märksõnade kattuvuse põhjal.
• Keelteülene infootsing: Sobita ühes keeles esitatud päring mõnes teises toetatud keeles kirjutatud dokumentidega.
• Otsinguga täiendatud genereerimine: Leia asjakohased lõigud enne nende edastamist eraldi tekstigeneerimismudelile.
• Dokumentide ja päringute sobitamine: Võrdle klienditoepöördumisi, eeskirju, teadmistebaasi kirjeid või sisemisi dokumente.
• Klassifitseerimise tunnused: Kasuta embedding'u-vektoreid järgneva klassifikaatori sisendtunnustena, mitte ära eelda, et mudel tagastab otse klassisilte.
• Klasterdamine: Rühmita dokumente, sõnumeid, tooteid või pilte semantilise sarnasuse alusel.
• Duplikaatide tuvastamine ja soovitused: Tuvasta seotud või peaaegu identsed sisud ning soovita sarnaseid üksusi.
• Pildi- ja tekstisarnasus: Toeta otsingusüsteeme, mis võrdlevad piltide ja teksti esitusi.
• Suuremahulised embedding'u-töövood: Kasuta kompaktseid vektoreid siis, kui salvestusruum, läbilaskevõime ja latentsus on maksimaalsest embedding'u-võimekusest tähtsamad.

Piirangud, millega arvestada

Kõige olulisem piirang on kompaktsuse ja esitlusvõime vaheline tasakaal. 384-mõõtmeline väljund on väiksem kui mudeli embed-multilingual-v3.0 1 024-mõõtmeline väljund, kuid light-mudel võib olla vähem sobiv keerukate otsinguülesannete puhul, kus peened erinevused on olulised. Kõige kindlam viis nende vahel valimiseks on võrdlustest, milles kasutatakse rakenduse enda päringuid, dokumente, keeli ja asjakohasushinnanguid.

Iga sisend on piiratud 512 tokeniga. Seetõttu tuleb pikad dokumendid tükeldada ning hooletu tükeldamine võib eraldada asjakohase konteksti või tekitada liiga laiad või liiga killustatud otsingutulemused. Mudel ei ole mõeldud pika konteksti probleemi iseseisvalt lahendama.

Pildipäringutega kaasnevad eraldi kasutuspiirangud: pildid tuleb edastada base64-andme-URL-idena, toetatud vormingud on PNG, JPEG, WebP ja GIF, pildi maksimaalne maht on 5 MB ning pildipäringuid ei saa pakktöötlusega töödelda. Väga suurte pildikogude puhul võib seetõttu olla mugavam kasutada teistsugust pilditöötluse töövoogu.

Mudelil puuduvad ka vestluse, arutlemise, koodi, tööriistade kasutamise, funktsioonikutsete, struktureeritud väljundi ja meedia genereerimise võimalused. Selle kasutusotstarbe kontekstis ei ole need puuduvad funktsioonid, vaid jäävad embedding'u-mudeli eesmärgist väljapoole. Rakendus, mis vajab genereeritud vastuseid, koodi, autonoomseid toiminguid või üksikasjalikku visuaalset analüüsi, peaks ühendama embedding'u-vektorid teiste komponentidega või valima selle ülesande jaoks loodud mudeli.

Cohere lõpetas vaikimisi Embed-mudelite kasutamise Classify lõpp-punktiga alates 31. jaanuarist 2025. Uued klassifitseerimissüsteemid peaksid üldjuhul kasutama embedding'u-vektoreid otse koos järgneva klassifikaatori või muu toetatud töövooga, mitte eeldama, et vaikimisi Embed-lõpp-punkt suudab iseseisvalt klassifitseerida.

API-juurdepääs ja suuremad töötlemistööde

Mudel on saadaval Cohere'i Embed API ja asünkroonse Embed Jobs API kaudu. Tavaline Embed-päring sobib interaktiivsete või väiksemate töökoormuste jaoks, samas kui Embed Jobs võib aidata suuremaid andmekogumeid asünkroonselt töödelda. Uurimismaterjal kinnitab pakktööde olemasolu, kuid ei esita töö maksimaalset suurust ega garanteeritud töötlemisaega.

Esitatud uurimismaterjali kohaselt kuulub embed-multilingual-light-v3.0 24. septembri 2026 seisuga Cohere'i saadaolevate embedding'u-mudelite hulka ning Cohere'i olekuteabe põhjal töötab see mudel töös. Saadavus ja hinnad võivad muutuda, mistõttu peaksid tootmiskasutajad enne juurutamist kontrollima praegust mudelikataloogi, konto nõudeid, päringumäärade piiranguid ja arveldustingimusi.

Millal valida embed-multilingual-light-v3.0?

Vali see mudel siis, kui rakendus vajab mitmekeelse teksti embedding'u-vektoreid, pildiembedinguid või mõlemat ning kompaktne 384-mõõtmeline indeks pakub olulist töökorralduslikku eelist. See sobib eriti hästi suure mahuga semantilise otsingu, keelteülese infootsingu, klasterdamise ja soovitussüsteemide jaoks, kus väiksem salvestusvajadus ja kiire töötlemine on olulised.

Vali selle asemel täisversioon embed-multilingual-v3.0 siis, kui otsinguülesanne on piisavalt keerukas, et täiendavad vektormõõtmed võivad asjakohasust parandada, ning suurem indeks on vastuvõetav. Kui rakendus vajab loomulikus keeles vastuseid, koodi, piltide tõlgendamist, tööriistakutseid või muid otseseid väljundeid, vali selle asemel genereeriv või multimodaalne arutlusmudel. Klassifitseerimise puhul kasuta seda mudelit tunnuste genereerijana koos eraldi klassifikaatoriga, mitte silte väljastava mudelina.

Praktilises mõttes tuleks embed-multilingual-light-v3.0 näha eelkõige tõhususele suunatud otsingukomponendina. Selle väärtus seisneb mitmekeelse ja visuaalse sisu teisendamises kompaktseteks, võrreldavateks esitusteks, mitte iseseisva vastuse loomises.