Mida Cohere Embed English v3.0 teeb
Cohere Embed English v3.0 teisendab toetatud sisendi embedding'uks ehk vektoriks: numbriloendiks, mis esindab selle sisendi tähendust või omadusi. Saadud vektoreid saab salvestada vektorandmebaasi ja võrrelda teiste vektoritega koosinussarnasuse, skalaarkorrutise sarnasuse või Eukleidilise kauguse abil.
Praktikas saab rakendus teisendada kasutaja otsingupäringu embedding'uks ja võrrelda seda dokumentide embedding'utega, et leida asjakohased lõigud ka siis, kui sõnastus on erinev. Näiteks päring teemal „pilvetaristu kulude vähendamine“ võib leida dokumendi, kus räägitakse „majutuskulude vähendamisest“, sest mudel on loodud esitama seotud tähendust, mitte ainult tuvastama identseid märksõnu.
Mudelit pakub Cohere ning see kuulub ettevõtte Embed v3.0 mudeliperre. Tegemist on majutatud suletud mudeliga, mida kasutatakse Cohere'i teenuste ja toetatud juurutusintegratsioonide kaudu. See ei ole vestlusmudel ega tagasta proosateksti, koodi, loodud pilte, heli ega videot.
Kontrollitud spetsifikatsioonid ja toetatud sisendid
| Spetsifikatsioon | Üksikasjad |
|---|---|
| Mudeli ID | embed-english-v3.0 |
| Pakkuja | Cohere |
| Mudeli tüüp | Ingliskeelne embedding'u- ja esitlusmudel |
| Väljalaskekuupäev | 2. november 2023 |
| Vektori suurus | 1024 dimensiooni |
| Konteksti limiit | 512 tokenit |
| Tekstisisend | Ingliskeelne tekst |
| Pildisisend | Toetatud pildid v3.0 multimodaalse uuenduse kaudu |
| Loodud väljund | Puudub; mudel tagastab embedding'ud |
| Peamine juurdepääs | Cohere Embed API ja Embed Jobsi lõpp-punkt |
512 tokeni suurune kontekstilimiit on pikkade dokumentide embedding'uteks teisendamisel oluline. Mudeli toetatud sisendiaknast pikem sisu tuleb enne indekseerimist väiksemateks osadeks jagada. Tükeldamine võib parandada otsingu täpsust, kuid tähendab ka seda, et rakendus peab säilitama kasulikke metaandmeid ja haldama hiljem leitud lõikude kokkupanemist.
Cohere kirjeldab eri töökoormuste jaoks mõeldud sisenditüübi valikuid, sealhulgas otsingupäringuid, otsitavaid dokumente, klassifitseerimist ja klasterdamist. Need valikud aitavad mudelil luua esitusi, mis sobivad sisendi rolliga. Seetõttu peaks otsingusüsteem eristama otsitavat päringut indekseeritavatest dokumentidest, mitte käsitlema kõiki sisendeid samaväärsetena.
Piltide embedding'uteks teisendamise tugi
Embed English v3.0 keskendus algselt ingliskeelsele tekstile. Hiljem lisas Cohere v3.0 mudeliperele piltide embedding'uteks teisendamise toe, mis võimaldab toetatud pilte vektoritena esitada. Mudel ei loo endiselt pilte: pildisisendist saadakse embedding, mida saab otsingu- ja sarnasuse töövoogudes võrrelda teiste pildi- või tekstiembedding'utega.
Cohere'i dokumentatsiooni kohaselt kuuluvad toetatud pildivormingute hulka PNG, JPEG, WebP ja GIF. Pilte saab edastada base64-kodeeritud andmetena andme-URL-is ning pildi maksimaalne suurus on 5 MB. v3.0 pildiembedding'ud ei toeta pakkimist, seega saab ühe päringuga töödelda ainult üht pilti.
See võimekus võib toetada näiteks visuaalselt või semantiliselt seotud piltide leidmist, pildisisu sobitamist tekstikirjeldustega ning otsingusüsteemide loomist, mis ühendavad kirjalikud metaandmed visuaalsete sisenditega. Esitatud uuring ei kinnita, et mudel toetaks piltide kirjeldamist, objektituvastust või piltide genereerimist, seega ei tohiks neid käsitleda toetatud väljunditena.
Peamised kasutusjuhud
- Semantiline otsing: Asjakohase sisu leidmine tähenduse, mitte täpselt kattuvate märksõnade põhjal.
- Dokumentide otsing: Lõikude indekseerimine otsingu, ettevõtte teadmussüsteemide või otsingupõhise genereerimise jaoks.
- Vektorandmebaasi indekseerimine: 1024-dimensiooniliste esituste salvestamine lähima naabri otsinguteks.
- Klassifitseerimine: Embedding'ute kasutamine ingliskeelse teksti klassifitseerimise töövoogudes.
- Klasterdamine: Seotud dokumentide, tugipiletite, päringute või muu ingliskeelse sisu rühmitamine.
- Soovitused ja sarnasuse järgi sobitamine: Toodete, dokumentide, kirjete või piltide võrdlemine nende esitatud sisu alusel.
- Dubleerimise tuvastamine: Semantiliselt sarnaste üksuste tuvastamine ka siis, kui nende sõnastus erineb.
- Multimodaalne otsing: Toetatud pildi- ja tekstiesituste võrdlemine, kui rakenduse töövoog on selleks loodud.
Otsingupõhise genereerimise korral tegeleb Embed English v3.0 otsinguetapiga, mitte vastuse kirjutamisega. Rakendus saab küsimuse embedding'uks teisendada, leida lähedased dokumendilõigud ja edastada need eraldi generatiivsele mudelile. Embed English v3.0 ise ei arutle leitud materjali üle ega loo lõplikku vastust.
Tugevused ja praktilised kompromissid
Mudeli peamine tugevus on spetsialiseeritus. See keskendub järjepidevate ingliskeelsete esituste loomisele otsingu- ja sarnasuseülesannete jaoks, selle asemel et kasutada ressursse vestluslikuks genereerimiseks. Selle 1024-dimensioonilised vektorid pakuvad indekseerimiseks kindlat vormingut ning päringu ja dokumendi sisenditüübid on kasulikud otsingusüsteemides, mis vajavad küsimuste ja dokumentide jaoks erinevaid esitusi.
Hiljem lisatud pilditugi laiendab mudelit tekstipõhisest indekseerimisest kaugemale. Süsteem saab kasutada sama v3.0 mudeliperet teatud teksti- ja pildiotsinguülesannete jaoks, kuigi pildipäringutele kehtivad eraldi vormingu-, suuruse- ja pakkimispiirangud.
Embedding'usüsteemid on otsingu puhul üldiselt kiiremad ja odavamad kui generatiivse keelemudeli kasutamine iga dokumendi kontrollimiseks või iga otsingupäringu vastamiseks. Täpne kiirus ja hind sõltuvad siiski päringute mahust, dokumentide tükeldamisest, taristust ja ümbritsevast vektorotsingusüsteemist. Selle mudeli kohta esitatud toimetuslik hinnang annab kiiruseks 7 punkti 10-st ja hinnaks 8 punkti 10-st; need on võrdlevad toimetuslikud hinded, mitte Cohere'i avaldatud võrdlustestid ega garantiid.
Mudelil on ka selged kompromissid. See on suunatud inglise keelele, ühe sisendi pikkus on piiratud 512 tokeniga ning esitatud uuringu kohaselt ei paku see konfigureeritavaid väljunddimensioone. Sellel puudub teksti genereerimise väljund, tööriistade või funktsioonide kutsumine, voogedastusvastus ning arutlus- või kodeerimisrežiim. Rakendused, mis vajavad mitmekeelset otsingut, pikemaid sisendeid, loodud vastuseid või laiemat dokumendituge, võivad vajada uuemat või teistsugust mudelit.
Hind ja saadavus
Embedding'u kasutust arvestatakse töödeldud sisendi mahu, mitte loodud väljundtokenite põhjal. Avalikud mudelikataloogid ja kolmandate osapoolte allikad teatavad Embed English v3.0 hinnaks sageli ligikaudu 0,10 dollarit miljoni sisendtokeni kohta. Cohere'i praegusel avalikul hinnalehel ei ole selle pärandmudeli eraldi tokenipõhist hinda selgelt esitatud, seega tuleks teatatud summa enne tootmiseelarve koostamist või ostuotsust Cohere'ilt üle kontrollida.
Loodud teksti eest väljundtokeni tasu ei ole, sest Embed English v3.0 ei genereeri teksti. Mudel on saadaval Cohere Embed API ja Embed Jobsi lõpp-punkti kaudu ning see on loetletud Cohere'i praeguses mudelikataloogis ja tööoleku dokumentatsioonis. Cohere kirjeldab ka juurutusintegratsioone, näiteks Amazon Bedrocki, kus vastav identifikaator on cohere.embed-english-v3.
Avalik API-juurdepääs algab Cohere'i arendajajuurdepääsu ja proovikasutuse võimalustest, kuid tootmiskasutusele kehtivad konto-, arveldus- ja teenusetingimused. Juurutuse saadavus ja hinnad võivad platvormi, piirkonna ja ärikokkuleppe järgi erineda.
Võimekused, mida sellel ei ole
Embed English v3.0 ei ole mõeldud üldotstarbelise tehisintellektiassistendina hindamiseks. See ei paku:
- Vestlust ega vestluslikke vastuseid
- Teksti, koodi, piltide, heli ega video genereerimist
- Tööriistade kasutamist ega funktsioonide kutsumist
- Veebiotsingut ega veebisirvimist
- Heli- ega videosisendit
- Konfigureeritavaid arutlustasemeid
- Genereeritud vastuste voogedastust
- Struktureeritud JSON-väljundit generatiivse vastusena
Selle väljund on embedding'u vektor. Rakendus peab ise lisama ümbritsevad komponendid, näiteks vektorindeksi, sarnasuse funktsiooni, otsinguloogika, klassifikaatori või eraldi generatiivse mudeli.
Millal valida Embed English v3.0
Vali Cohere Embed English v3.0, kui peamine vajadus on ingliskeelne semantiline esitus ja 512 tokeni suurune kontekstilimiit on sobiv. See on mõistlik valik väljakujunenud otsingu- või otsingupõhise töötluse torule, mis eeldab juba 1024-dimensioonilisi vektoreid, vajab Cohere'i päringu ja dokumendi sisendi spetsialiseeritust või saab kasu toetatud pildiembedding'utest.
See võib sobida ka siis, kui hind ja otsingu läbilaskevõime on tähtsamad kui generatiivsed võimekused. Suure andmekogu ühekordne embedding'uteks teisendamine ja saadud vektorite otsimine on tavaliselt otstarbekam kui kogu kogu korduv saatmine generatiivsele mudelile.
Kaalu teist võimalust, kui rakendus vajab mitmekeelset tuge, pikemaid sisendeid, valitavaid vektordimensioone või eri dokumendivormingute kombinatsiooni. Esitatud uuringus mainitakse asjakohaste alternatiividena Cohere Embed v4.0 ja Cohere'i mitmekeelseid Embed-mudeleid, kuid õige valik sõltub vajalikest keeltest, konteksti suurusest, sisendivormingutest, juurutuse sihtkohast ja kehtivast hinnast.
Kasuta eraldi generatiivset mudelit, kui rakendus peab kirjutama vastuseid, leitud lõike kokku võtma, koodi genereerima või vestlust pidama. Kui ülesanne nõuab analüüsi, mis ulatub toetatud pildiembedding'u töövoost kaugemale, kasuta eraldi nägemis-, heli- või videosüsteemi.
Kokkuvõte
Cohere Embed English v3.0 on spetsialiseeritud embedding'u-mudel ingliskeelse otsingu ja sarnasuse töökoormuste jaoks. See loob 1024-dimensioonilisi vektoreid, võtab vastu ingliskeelset teksti ja toetatud üksikuid pilte ning toetab 512 tokeni suurust kontekstiakent. Selle väärtus seisneb tõhusas esituses otsingu-, klassifitseerimis-, klasterdamis- ja otsingupõhise töötluse torude jaoks, mitte arutlemises või genereerimises. See on endiselt praktiline valik sobivate ingliskeelsete süsteemide jaoks, kuid uuemaid või mitmekeelseid alternatiive tasub võrrelda siis, kui projekt vajab laiemat sisendituge, suuremat konteksti või konfigureeritavat vektoriväljundit.