Mida clir-emb-dolphin teeb
clir-emb-dolphin on loodud teksti teisendamiseks vektoriteks ehk embedding'uteks. Vektor on tekstilõigu tähenduse ja omaduste arvuline esitus. Kui kahel tekstil on sarnane tähendus, võivad nende vektorid valitud sarnasuse arvutusmeetodi järgi olla teineteisele lähedased.
Seetõttu sobib mudel pigem suurema rakenduse komponendiks kui vestlus- või generatiivseks assistendiks. Näiteks võib otsingusüsteem teisendada dokumendikogu embedding'uteks, salvestada saadud vektorid, teisendada kasutaja päringu embedding'uks ja leida dokumendid, mille vektorid on päringu omadega kõige sarnasemad. Mudel loob esitused, kuid ümbritsev rakendus vastutab salvestamise, sarnasuspõhise otsingu, järjestamise ja võimaliku lõpliku vastuse genereerimise eest.
NAVER Cloud Platform pakub mudelit clir-emb-dolphin CLOVA Studio Embedding API kaudu. NAVER kirjeldab seda kui üldotstarbelist mudelit, mida saab kasutada eri valdkondades. Klassikalises Embedding API-s on see määratud vaike-embedding-mudeliks.
Kontrollitud tehnilised andmed
| Spetsifikatsioon | Kontrollitud teave |
|---|---|
| Mudeli tüüp | Teksti embedding'u mudel |
| Pakkuja | NAVER Cloud Platform |
| Sisend | Tekst, mis sisaldab päringu kohta 1–500 tokenit |
| Väljund | Vektor 1024 ujukomaväärtusega |
| Soovitatav sarnasuse arvutus | Skalaarkorrutis ehk sise- või punktkorrutis |
| Juurdepääs | CLOVA Studio Embedding API |
| Keskkonnad | CLOVA Studio Classic ja VPC-keskkonnad |
500 tokeni näitaja on selle embedding'u lõpp-punkti sisendipiirang. Seda ei tohiks tõlgendada generatiivse keelemudeli kontekstiakna suurusena. Esitatud dokumentatsioon ei määra genereeritavate tokenite maksimaalset arvu, sest clir-emb-dolphin ei genereeri teksti.
Kuidas embedding'u töövoog toimib
Tüüpiline teostus koosneb kahest etapist. Esmalt jagatakse dokumendid sobiva suurusega lõikudeks ja iga lõik saadetakse mudelile clir-emb-dolphin. Rakendus salvestab iga tagastatud 1024-mõõtmelise vektori koos algse lõigu ja metaandmetega, nagu pealkiri, allikas või juurdepääsuõigused.
Kui kasutaja esitab otsingupäringu, saadab rakendus selle samale mudelile. Seejärel võrdleb rakendus päringuvektorit salvestatud dokumendivektoritega, kasutades sise- ehk punktkorrutisel põhinevat sarnasust, mida NAVER selle mudeli puhul soovitab. Kõige suurema skooriga lõigud saab tagastada otsingutulemustena või edastada teisele süsteemile otsinguga täiendatud genereerimiseks.
Sama embedding'u mudeli ja sarnasuse arvutusmeetodi kasutamine nii indekseerimisel kui ka päringute töötlemisel on oluline. Mudelite segamine võib paigutada dokumendid ja päringud omavahel ühildumatutesse vektorruumidesse, samas kui sarnasuse arvutusmeetodi muutmine võib muuta järjestamise käitumist. Need integratsioonivalikud kuuluvad rakenduse, mitte mudeli enda juurde.
500 tokeni piirang ja dokumentide tükeldamine
Üks päring võib sisaldada kuni 500 tokenit. Seetõttu tuleb pikad dokumendid enne embedding'uks teisendamist osadeks jagada. Kasulik lõik peaks üldjuhul säilitama tervikliku mõtte, näiteks lõigu, lühikese lõikude rühma, jaotise või täieliku lõigu, mida saab otsingutulemustes iseseisvalt kasutada.
Teksti suvaline lõikamine võib otsingutulemusi halvendada, sest määratlus võib eralduda oma teemast või täpsustus väitest, mida see täpsustab. Samal ajal võivad väga suured lõigud muuta otsingutulemused ebatäpsemaks, kuna need ühendavad mitu omavahel seostumatut teemat. Esitatud uurimismaterjal ei määra alla 500 tokeni jäävat kindlat lõigu suurust, seega tuleks sobivaim valik kindlaks teha lähtedokumentide struktuuri ja rakenduse otsinguvajaduste põhjal.
Metaandmed ja lähtetekst ei kuulu vektoriväljundi enda hulka. Kui kasutajad vajavad viiteid, dokumendipealkirju, filtreerimist või juurdepääsu kontrollimist, peab rakendus need eraldi säilitama.
Peamised kasutusjuhud
Semantiline otsing ja otsingutulemuste hankimine
clir-emb-dolphin võimaldab toetada tähenduspõhist otsingut, mis ei sõltu täpsest sõnade kattumisest. Näiteks võib broneeringu tühistamist käsitlev päring leida lõigu, milles kasutatakse teistsugust sõnastust, kuid räägitakse samast reeglist. See on eriti kasulik siis, kui kasutajad väljenduvad mitteametlikult või kui dokumentides kasutatakse otsingupäringust erinevat terminoloogiat.
Otsinguga täiendatud genereerimine
Otsinguga täiendatud genereerimise töövoos võib mudel leida privaatsest teadmistebaasist asjakohased lõigud. Seejärel saab need edastada eraldi tekstigeneratsiooni mudelile. clir-emb-dolphin ei kirjuta lõplikku vastust, võta leitud materjali kokku ega käivita tööriistu või funktsioone; see pakub vektoripõhist otsingukihti.
Dokumentide ja lõikude sarnasus
Rakendused saavad vektoreid võrrelda, et leida seotud dokumente, duplikaat- või peaaegu duplikaatsisu ning temaatiliselt sarnaseid lõike. Seega saab mudelit kasutada sisu avastamiseks, soovitusloogika rakendamiseks ja dokumentide korrastamiseks, kui rakendus määratleb võrdlusmeetodi ja ärireeglid.
Klasterdamine ja klassifitseerimine
Embedding'u vektoreid saab rühmitada teemade avastamiseks või korraldada kategooriatesse järgnevate klasterdamis- ja klassifitseerimismeetodite abil. clir-emb-dolphin pakub sisendi esitust, kuid ei tagasta ise kategooriasilte ega käivita täielikku klassifitseerimistoru. Ümbritsev süsteem peab tagama klasterdusalgoritmi, klassifikaatori, läved ja hindamisprotsessi.
Tugevused ja kompromissid
clir-emb-dolphini kõige selgem tugevus on selle lai kasutusvaldkond. NAVER kirjeldab seda eri valdkondades hästi üldistatava mudelina, mistõttu on see mõistlik lähtekoht, kui rakendus vajab üht embedding'u mudelit tavapäraste otsingu-, hankimis-, sarnasuse- ja korraldusülesannete jaoks.
Selle 1024-mõõtmeline väljund pakub püsivormingus esitust, mida saab indekseerida vektorandmebaasis või mõnes muus sarnasuspõhise otsingu süsteemis. Selge soovitus kasutada sise- ehk punktkorrutisel põhinevat sarnasust annab rakenduste loojatele ka dokumenteeritud vaikimisi meetodi vektorite võrdlemiseks.
Praktikas tuleb arvestada mitme kompromissiga. Mudel on piiratud 500 sisendtokeniga päringu kohta, mistõttu vajavad pikkade dokumentidega süsteemid tükeldamist ning täiendavat salvestus- või töötlemisloogikat. Lisaks tagastab mudel esitusi, mitte vastuseid. See ei saa asendada generatiivset mudelit, kui rakendus vajab selgitusi, kokkuvõtteid, dialoogi, koodi või muud genereeritud sisu.
Esitatud uurimismaterjal ei avalda clir-emb-dolphini kohta mudelipõhist võrdlustesti, väljalaskekuupäeva, teadmiste lõppkuupäeva ega eraldi avalikku sisendi- ja väljundihinda. CLOVA Studio kasutamisele kehtivad vastava teenuse hinnakiri ja kasutustingimused. Seetõttu tuleks hind kinnitada NAVER Cloud Platformi kehtivast kommertsdokumentatsioonist, mitte tuletada seda mudeli vektori suurusest.
Modaalsused ja toetamata generatiivsed võimalused
clir-emb-dolphin võtab vastu tekstisisendi ja väljastab arvulise embedding'u. See ei genereeri teksti, pilte, heli, videot ega muusikat. Dokumenteeritud ei ole pildi-, heli- ega videosisendi tugi ning esitatud uurimismaterjal ei tuvasta selle lõpp-punkti puhul tööriistade kasutamist, funktsioonikutseid, voogedastusgenereerimist, struktureeritud JSON-väljundit, vahemällu salvestamist, pakktöötlust ega peenhäälestust.
Arutlus ja programmeerimine ei ole selle mudeli puhul sisuliselt esmased võimekused. See suudab esitada arutlust või koodi käsitlevat teksti sarnasuse ja otsingu eesmärgil, kuid ei käivita arutluskäike, programme ega genereeri koodi. Nende ülesannete jaoks on vaja eraldi mudelit või rakenduse komponenti.
Seos NAVERi seotud embedding'u mudelitega
NAVER kirjeldab clir-emb-dolphini kui klassikalise Embedding API laialt rakendatavat valikut. Seotud mudel clir-sts-dolphin on kirjelduste kohaselt keskendunud täpsemale semantilisele tekstisarnasusele. See erinevus on oluline siis, kui peamine ülesanne on lausete tähenduse võrdlemine, mitte üldise otsingu- või dokumendikorraldussüsteemi loomine.
NAVER dokumenteerib ka Embedding v2, mis kasutab avatud lähtekoodiga mudelit bge-m3 ja toetab kuni 8192 tokeni pikkuseid sisendeid. Pikemate sisendite piirang võib sobida paremini rakendustele, mis peavad töötlema suuremaid lõike väiksema tükeldamisvajadusega. Esitatud uurimismaterjal ei sisalda siiski nende mudelite otsest võrdlustesti ega hinnavõrdlust. Indeksid ei tohiks nende vektoreid omavahel segada ilma läbimõeldud migreerimis- või ühilduvusstrateegiata.
Millal valida clir-emb-dolphin
Vali clir-emb-dolphin siis, kui vajad üldotstarbelist tekstiesitust semantiliseks otsinguks, otsingutulemuste hankimiseks, dokumentide sarnasuse tuvastamiseks, klasterdamiseks või järgnevaks klassifitseerimiseks ning sinu sisu saab jagada kuni 500 tokeni pikkusteks lõikudeks. See sobib eriti siis, kui soovid kasutada klassikalise CLOVA Studio Embedding API vaikemudelit ja oled valmis kasutama oma vektorotsingu töövoos sise- ehk punktkorrutisel põhinevat sarnasust.
Kaalu mudelit clir-sts-dolphin siis, kui keskne nõue on täpne lausetasandi semantiline sarnasus. Kaalu Embedding v2 kasutamist siis, kui dokumenteeritud 8192 tokeni sisendimaht on väärtuslikum kui clir-emb-dolphini üldotstarbeline suunitlus. Generatiivne keelemudel sobib paremini siis, kui süsteem peab pärast otsingut koostama vastuseid, kokkuvõtteid, selgitusi või koodi.
Praktilises mõttes tasub clir-emb-dolphini käsitleda keskendunud otsingu- ja tekstiesituse komponendina. Selle väärtus sõltub sellest, kui järjepidevalt rakendus sisu tükeldab, vektoreid indekseerib, sarnasuspõhist otsingut rakendab ja leitud materjali kasutab – mitte iseseisvast vestlusest või genereerimisest.