Mis on Cohere embed-multilingual-v3.0?
Cohere embed-multilingual-v3.0 on Cohere'i embedding-mudel. Loomulikus keeles vastuse kirjutamise asemel teisendab see sisu arvuliseks esituseks, mida nimetatakse embedding'uks ehk vektor-esituseks. Sarnase tähendusega tekstid peaksid sobiva sarnasuse mõõtmise meetodi kasutamisel andma vektorid, mis paiknevad lähestikku.
Seetõttu sobib mudel süsteemidele, mis peavad sisu leidma, rühmitama, klassifitseerima või võrdlema. Näiteks võib otsingurakendus teisendada kasutaja päringu ühes keeles embedding'uks ja võrrelda seda teises keeles kirjutatud dokumentidega. Klienditoe platvorm saab embedding'uid kasutada ka saabuvate sõnumite klassifitseerimiseks, samal ajal kui soovitussüsteem võib võrrelda kirjeldusi, päringuid või pilte.
Mudel kuulub Cohere'i Embed-mudelite perekonda ja on mõeldud eelkõige mitmekeelsete töökoormuste jaoks. See ei ole üldotstarbeline keelemudel ega loo proosat, pea vestlusi, käivita koodi ega kutsu tööriistu.
Peamised näitajad lühidalt
| Spetsifikatsioon | Üksikasjad |
|---|---|
| Pakkuja | Cohere |
| Kanooniline mudeli ID | embed-multilingual-v3.0 |
| Mudeli tüüp | Mitmekeelne embedding-mudel |
| Väljalaskekuupäev | 2. november 2023 |
| Toetatud keeled | Üle 100 |
| Embedding'u suurus | 1024 dimensiooni |
| Sisendi maksimaalne pikkus | 512 tokenit |
| Tekstisisend | Toetatud |
| Pildisisend | Embed v3 mudelite puhul toetatud |
| Teksti-, pildi-, heli- ja videoväljund | Ei ole toetatud; väljund on embedding-vektor |
| Peamine juurdepääs | Cohere Embed ja Embed Jobs lõpp-punktid ning valitud pilviplatvormide juurutused |
Dimensioonide arv on fikseeritud: iga edukalt loodud embedding sisaldab 1024 arvulist komponenti. Mudeli dokumentatsioon nimetab vektorite võrdlemiseks toetatud meetoditena koosinussarnasust, punktkorrutise sarnasust ja Eukleidese kaugust.
Kuidas mudeliga mitmekeelne otsing töötab
Tavapärases märksõnaotsingu süsteemis peavad päring ja dokument sageli sisaldama samu sõnu. Embedding-põhine otsing võrdleb selle asemel tähenduse esitusi. Mitmekeelse embedding-mudeli puhul saab ühes keeles esitatud päringut võrrelda teises keeles kirjutatud dokumentidega, kui mõlemad on esitatud samas vektorruumis.
Tüüpiline otsingu töövoog koosneb kahest etapist. Esmalt teisendab organisatsioon oma dokumendid embedding'uteks ja salvestab saadud vektorid vektorandmebaasi või muusse otsinguindeksisse. Kui kasutaja esitab päringu, teisendab rakendus ka päringu embedding'uks ja otsib dokumendid, mille vektorid on kõige sarnasemad. Seejärel võib eraldi generatiivne mudel kasutada leitud dokumente vastuse koostamiseks, kuid embed-multilingual-v3.0 ise tegeleb ainult esituse ja sobitamise etapiga.
Mudel saab seega toetada mitmekeelseid teadmistebaase, eri keeli hõlmavaid abikeskusi, tootekatalooge, siseotsingut ja otsingupõhise genereerimise (RAG) töövooge. Uurimistöö hõlmab üle 100 keele, sealhulgas inglise, hispaania, prantsuse, hiina, araabia, jaapani, korea ja hindi keelt.
Toetatud sisendid ja ülesandepõhised režiimid
Teksti puhul pakub Cohere ülesandepõhiseid sisenditüüpe, mis annavad embedding'u lõpp-punktile teada, kuidas vektorit kasutatakse. Dokumenteeritud režiimid hõlmavad järgmisi tüüpe: search_document, search_query, classification ja clustering.
search_document: Kasutage seda dokumentide, artiklite, tootekirjete või muu otsitava sisu embedding'uks.search_query: Kasutage seda kasutaja otsingupäringu või muu dokumentide leidmiseks mõeldud päringu puhul.classification: Kasutage seda siis, kui vektoreid kasutatakse kategoriseerimiseks või märgendamiseks.clustering: Kasutage seda sarnaste üksuste rühmitamiseks, kui eelmääratletud märgendeid ei pruugi olla.
Need režiimid on täpsemad kui kogu teksti saatmine ühe eristamata embedding'u seadistuse kaudu. Otsingusüsteemide puhul tasub hinnata dokumendi- ja päringurežiimi kasutamist vastavate andmetüüpide jaoks.
Embed v3 mudelid said piltide embedding'ute toe 2024. aasta oktoobris tehtud uuendusega. Pildivaated kasutavad sisenditüüpi image ning toetavad PNG-, JPEG-, WebP- või GIF-pilte, mis edastatakse base64-andme-URL-idena. Dokumenteeritud piirangute kohaselt võib päring sisaldada ühe pildi ja pildi maksimaalne suurus on 5 MB. See võimaldab pildi-teksti ja teksti-pildi otsingut, kui rakendus teisendab mõlemad modaalsused embedding'uteks ja võrdleb nende vektoreid.
Parimad kasutusjuhud
Mitmekeelne semantiline otsing: Otsige mitmes keeles kirjutatud dokumentidest, ilma et peaksite iga dokumenti esmalt tõlkima.
Keelteülene otsing: Leidke ingliskeelse päringu põhjal asjakohast hispaania-, araabia-, jaapani- või muus keeles sisu, võttes arvesse vastava keele ja valdkonna katvuse kvaliteeti.
RAG-dokumentide indekseerimine: Looge otsingukiht otsingupõhise genereerimise süsteemile. Mudel saab indekseerida lähtematerjali ja sobitada kasutaja küsimused asjakohaste lõikudega, enne kui eraldi genereeriv mudel vastuse sõnastab.
Klassifitseerimine: Esitage klienditoe pöördumised, arvustused, dokumendid või sõnumid kujul, mida saab kasutada järgnevates klassifitseerimise töövoogudes.
Klasterdamine: Rühmitage mitmekeelset sisu semantilise sarnasuse alusel, näiteks korraldage klientide tagasisidet või leidke suurest dokumendikogust teemasid.
Sarnasuse ja soovituste süsteemid: Võrrelge kirjeldusi, kirjeid või muud sisu, et tuvastada seotud üksusi.
Pildi-teksti otsing: Kasutage pildifunktsiooni visuaalsete varade ühendamiseks tekstipäringutega või piltide omavaheliseks võrdlemiseks ühises otsingu töövoos.
Olulised piirangud ja kompromissid
Peamine piirang on sisendi maksimaalne pikkus, 512 tokenit. Pikad dokumendid tuleb enne embedding'uks teisendamist väiksemateks lõikudeks jagada. See tükeldamine võib mõjutada otsingu kvaliteeti: väga väikesed lõigud võivad kaotada konteksti, samas kui väga suured lõigud võivad mudeli piirangut ületada või sisaldada liiga palju omavahel mitteseotud ideid. Esitatud uurimus ei määra üht kindlat parimat tükeldamisstrateegiat, seega peaksid rakendused lõigu suurust ja kattuvust oma andmetel katsetama.
Väljund on vektor, mitte vastus. Mudel ei saa leitud lõiku kokku võtta, tulemust selgitada, koodi kirjutada ega vestlust pidada. Samuti ei ole sellel dokumenteeritud tööriista- ega funktsioonikutsete võimalust, voogedastusväljundit ega arutlusrežiimi sellises tähenduses, nagu seda kasutatakse generatiivsete arutlusmudelite puhul.
Piltide tugi on kasulik, kuid piiratud. Iga pildipäring võib sisaldada ainult üht pilti, pildid tuleb edastada toetatud vormingus base64-andme-URL-idena ja iga pildi suurus võib olla kuni 5 MB. Mudelit ei tohiks käsitleda pildigeneraatori ega pilte mõistva vestlusassistendina.
Selle fikseeritud 1024-dimensiooniline väljund võib olla prognoositava indeksi suuruse tõttu praktiline eelis, kuid mudel ei paku Cohere'i uuema embed-v4.0 puhul dokumenteeritud konfigureeritavaid väljunddimensioone. Embed v4.0 pakub ka suuremat kontekstiakent ja teksti-pildi kombineeritud sisendeid, mistõttu võib see nende võimalusi vajavate uute töökoormuste jaoks paremini sobida. See võrdlus ei muuda v3.0 mudelit iga kasutusjuhu puhul aegunuks: v3.0 on endiselt eraldiseisev mudel, millel on mitmekeelse sisu tugi ja iseseisvalt kasutatav API.
Kiirus, kulu ja hinnastamine
Embedding-mudeleid kasutatakse üldiselt suuremahulistes indekseerimise ja otsingu töövoogudes, kus kulu ja läbilaskevõime võivad olla olulisemad kui genereeritud vastuse kvaliteet. Esitatud toimetuslik hinnang annab sellele mudelile võrreldud alternatiividega arvestades kõrged hinded kiiruse ja kulutõhususe eest, kuid need on hinnangulised skoorid, mitte Cohere'i avaldatud võrdlustulemused, ning neid ei tohiks käsitleda ametlike jõudlusgarantiidena.
Kolmanda osapoole mudelihindade kataloog teatab sisendi hinnaks ligikaudu 0,10 dollarit 1 miljoni sisendtokeni kohta. Esitatud uurimuses märgitakse siiski, et Cohere'i praegusel avalikul hinnalehel ei ole selle pärandmudeli täpset iseteenindushinda. Seetõttu tuleks teatatud summa enne eelarvestamist või tootmiskasutust kontrollida vastava Cohere'i konto, lepingu või pilvejuurutuse põhjal. Esitatud andmetes ei ole eraldi väljundtokenite tasu, sest mudel toodab genereeritud teksti asemel embedding'eid.
Cohere pakub nii tavalist Embed-lõpp-punkti kui ka Embed Jobs'i asünkroonseks pakktöötluseks. Embed Jobs võib olla kasulik siis, kui suur dokumendikogu tuleb indekseerida ilma et iga päring peaks interaktiivselt lõpule jõudma. Täpne läbilaskevõime, pakktöötluse piirangud ja juurutusepõhine hinnastamine sõltuvad kasutatavast lõpp-punktist või platvormi seadistusest ning neid siin ei määratleta.
Arutlus, kodeerimine ja tööriistade tugi
Embed-multilingual-v3.0 ei lahenda probleeme arutledes ega genereeri koodi. Selle ülesanne on kodeerida sisu vektoriteks. Klassifitseerimise töövoog võib kasutada neid vektoreid tunnustena ja otsingusüsteem võib kasutada neid asjakohase teabe leidmiseks, kuid arutlus või koodi genereerimine pärineks mõnest teisest komponendist.
Samuti ei paku see sisseehitatud veebisirvimist, tööriista- ega funktsioonikutseid ega koodi käivitamist. See on embedding-mudeli puhul ootuspärane ning seda tuleb rakenduse arhitektuuri kavandamisel arvestada. Levinud lahendus on kasutada seda mudelit otsinguks ja ühendada see eraldi generatiivse mudeliga vastuste kirjutamiseks või agendi käitumise juhtimiseks.
Millal valida embed-multilingual-v3.0?
Valige see mudel, kui keskne nõue on mitmekeelne semantiline sobitamine ja 512-tokenine piirang on sobiv. See on mõistlik valik, kui vajate järgmist:
- Üht embedding-mudelit otsinguks enam kui 100 keeles.
- Keelteülest otsingut päringute ja dokumentide vahel.
- Fikseeritud 1024-dimensioonilisi vektoreid prognoositava indekseerimislahenduse jaoks.
- Ülesandepõhiseid režiime otsingu, klassifitseerimise või klasterdamise jaoks.
- Pildi ja teksti sarnasuse töövooge dokumenteeritud pildipiirangutega.
- Pakktöötlusel põhinevat indekseerimist Embed Jobs'i kaudu.
Kaaluge muud võimalust, kui vajate pika kontekstiga embedding'uid, konfigureeritavaid vektordimensioone, mitme pildi saatmist ühes päringus või rikkalikumat eri modaalsusi kombineerivat töötlust. Cohere'i embed-v4.0 on uurimuses tuvastatud otseselt asjakohane uuem sõsarmudel ja võib nende nõuete puhul olla parem lähtekoht. Valige selle asemel generatiivne keelemudel, kui rakendus peab looma proosat, vastama otse küsimustele, kirjutama koodi, kasutama tööriistu või toetama vestlusliidest.
Saadavus ja praegune positsioon
Kanooniline API mudeli ID on embed-multilingual-v3.0. See on saadaval Cohere'i Embed ja Embed Jobs lõpp-punktide kaudu ning on loetletud ka valitud pilveplatvormidel juurutamiseks, sealhulgas Amazon Bedrockis. Esitatud elutsükliuuringus ei ole mudelit märgitud kasutuselt kõrvaldatuks, kuigi selle hinnastamine ja saadavus tuleks konkreetse Cohere'i konto või pilveturu puhul siiski üle kontrollida.
Cohere'i praeguses mudelivalikus täidab see mudel keskendunud mitmekeelse embedding-mudeli rolli. See täiendab generatiivseid mudeleid, näiteks Commandi, mitte ei asenda neid: embedding-mudel leiab ja korraldab asjakohase teabe, samal ajal kui generatiivne mudel saab seda teavet vastuse kirjutamiseks kasutada. Peamine põhjus selle mudeli kaalumiseks on laiaulatusliku mitmekeelse toe, pildi-embedding'ute toe ja stabiilse fikseeritud suurusega vektori väljundi kombinatsioon. Kõige selgemad põhjused sellest loobumiseks on lühike, 512-tokenine sisendipiirang ja generatiivsete võimaluste puudumine.