Mis on Llama-TFree-HAT-Pretrained-7B-DPO?
Llama-TFree-HAT-Pretrained-7B-DPO on Aleph Alpha Researchi välja töötatud 7 miljardi parameetriga keelemudel. See on mudeli TFree-HAT-Pretrained-7B-Base otsese eelistusoptimeerimisega versioon, mis on mõeldud teksti genereerimiseks, kasulike vastuste andmiseks ja juhiste järgimiseks inglise ja saksa keeles.
Mudelit levitatakse Hugging Face’i kaudu allalaaditavate BF16-vormingus safetensor-failidena. Seda ei esitleta tarbijatele mõeldud juturoboti ega kasutuspõhise kommerts-API mudelina. Selle asemel on tegu avatud kaaludega teadusväljaandega kasutajatele, kes saavad mudelit ise käitada ja järgida Open Aleph License’i tingimusi.
Nime osa „Llama” ei tähenda, et tegemist oleks Meta Llama mudeliga. Mudeli dokumentatsiooni kohaselt kasutati treeninguprotsessi ajal filtreerimiseks mudelit Llama 3.3. Mudeli enda töötas välja Aleph Alpha ning see kasutab Aleph Alpha enda märgendivaba hierarhilise autoregressiivse transformeri ehk HAT-i arhitektuuri.
Milline on selle koht Aleph Alpha tootevalikus?
See mudel kuulub Aleph Alpha teadus- ja avatud kaaludega mudelite portfelli, mitte ettevõtetele mõeldud hallatud rakenduste kihti. Aleph Alpha praegune kommert ökosüsteem hõlmab tooteid PhariaAI, PhariaAssistant, PhariaStudio ja PhariaEngine ning nendega seotud juurutus- ja arendustööriistu. Llama-TFree-HAT-Pretrained-7B-DPO on eraldi allalaaditav kontrollpunkt, mis annab teadlastele ja lubatud kasutajatele otsese juurdepääsu spetsialiseeritud mudeliarhitektuurile.
See erinevus on praktikas oluline. Kontrollpunktiga ei kaasne kontohaldust, teenusetaseme garantiisid, majutatud järeldamist ega kommerts-API-dega seotud standardset märgipõhist arveldamist. Kasutajad vastutavad juurutuse, riistvara, tarkvara ühilduvuse, seire ja rakendustaseme turvameetmete eest.
Kuidas märgendivaba HAT-i arhitektuur töötab?
Enamik tänapäevaseid keelemudeleid teisendab teksti enne töötlemist fikseeritud sõnavarast pärinevateks märgenditeks. HAT kasutab teistsugust lähenemist: see ühendab märgitaseme kodeerimise ja dekodeerimise sõnataseme transformeri põhiosaga. Praktikas on arhitektuur loodud teksti esitamiseks ilma tavapärase fikseeritud märgendisõnavarata.
Üks võimalik eelis on see, et mudel võib mõne teksti puhul kasutada vähem jadapositsioone, kui nõuaks märgihaaval töötav süsteem, säilitades samal ajal märgitaseme töötluse sõnade piiridel. Aleph Alpha töötas selle lähenemise välja mitmekeelse modelleerimise ja tõhusa tekstitihenduse jaoks. Arhitektuur võib olla eriti asjakohane teadlastele, kes uurivad, kuidas keelemudelid käsitlevad eri keeli, õigekirjamustreid ja sõnavarasid.
Avaldatud konfiguratsioon määratleb arhitektuuri kui hierarchical_autoregressive_transformer. See määrab 32 kihist koosneva, 4 096 peidetud mõõtmega põhiosa ja maksimaalseks konfigureeritud positsioonipikkuseks 163 840 positsiooni. Kuna tegemist on spetsialiseeritud arhitektuuri, mitte standardse transformeriperekonna teostusega, ei tohiks seda konfiguratsiooniväärtust automaatselt tõlgendada tavapärase 163 840 märgi pikkuse kontekstiaknana. Mudeli märgendivaba ülesehitus ja hoidla teostus mõjutavad seda, kuidas teksti esitatakse ja kui palju sisu praktikas mahub.
Treening, joondamine ja keelefookus
Mudel treeniti algusest peale ning seejärel viimistleti otsese eelistusoptimeerimisega, mida lühendatakse sageli kui DPO. DPO on joondamismeetod, mille käigus treenitakse mudelit eelistama vastuseid, mida hinnatakse kasulikumaks või sobivamaks, ilma et tavapärases vormis oleks vaja eraldi tugevõppe torujuhet.
Aleph Alpha dokumentatsiooni kohaselt keskendusid järeltreening ja hindamised inglise ja saksa keelele. Seetõttu on see mudel sihipärasem valik kakskeelsete või saksakeelsete rakenduste jaoks kui üldine kontrollpunkt, mis on valitud üksnes parameetrite arvu põhjal. Mudel on mõeldud juhiste järgimiseks ja mitmekeelse teksti genereerimiseks, mitte kõigi võimalike spetsialiseeritud töökoormuste jaoks.
Teenusepakkuja avaldatud MTBenchi võrdlustes eelistati Llama-TFree-HAT-Pretrained-7B-DPO vastuseid mudeli Llama 3.1 8B Instruct vastustele 69 protsendil ingliskeelsetest ja 75 protsendil saksakeelsetest juhtudest. Need on avaldatud võrdlustulemused, mitte sõltumatu garantii. Tulemused võivad varieeruda olenevalt viipadest, hindajatest, dekodeerimisseadetest ja rakendusvaldkonnast.
Võimalused ja piirangud
Mudeli peamine võimekus on teksti genereerimine. Seda saab kasutada vestluslike vastuste, juhiste järgimise katsete, mitmekeelse kirjutamise, analüüsi, kokkuvõtete ja muude keelega seotud ülesannete jaoks, mis mahuvad olemasoleva riistvara ja litsentsitingimuste piiridesse.
Esitatud spetsifikatsioonide kohaselt ei ole tegemist multimodaalse mudeliga. Selle toetatud sisend ja väljund on tekst ning kontrollitud tuge pildi-, heli- või videosisendile ega nende genereerimisele ei ole. Samuti ei ole selle konkreetse kontrollpunkti jaoks tuvastatud esimese osapoole veebiotsingu võimalust, mistõttu ei tohiks eeldada, et see annab välise, arendaja lisatud otsingusüsteemita kontrollitud ajakohast teavet.
Mudelikaardil öeldakse konkreetselt, et mudelit ei optimeeritud koodi genereerimiseks ega matemaatikaks ning neid ülesandeid ei hinnatud põhjalikult. Mudel võib üldise keelemudelina siiski koodi genereerida või matemaatikaküsimusi lahendada, kuid neid võimeid ei tohiks pidada selle põhitugevusteks. Nõudliku tehnilise töö jaoks oleks turvalisem valida kodeerimisele spetsialiseerunud mudel või tugevama dokumenteeritud matemaatilise arutlusvõimega mudel.
Selle kontrollpunkti jaoks ei ole dokumenteeritud spetsiaalset arutlusrežiimi, tööriistade kasutamise liidest, funktsioonikutsete süsteemi, struktureeritud väljundi garantiid, vahemällu salvestamise funktsiooni ega partiitöötluse API-t. Neid võimalusi vajavad rakendused peavad vajaliku ümbritseva loogika ise rakendama või valima neid võimalusi toetava majutatud mudeli.
Kontekst, juurutus ja jõudlus
Konfiguratsioonis on maksimaalseks positsioonipikkuseks märgitud 163 840 positsiooni. See on peamine avaldatud kontekstiga seotud piirang, kuid spetsialiseeritud arhitektuuri tõttu peaksid kasutajad tegelikku mahtu kontrollima kavandatud teksti ja järeldamise teostusega. Esitatud teadusmaterjalides ei määrata maksimaalset väljundmärgiste arvu.
Allalaaditavad BF16-kaalud võtavad kokku ligikaudu 14,4 GB ruumi. Tegelik mälukasutus on suurem, sest järeldamine vajab ka käitusaja puhvreid, tähelepanuseisundit, raamistiku üldkulusid ja genereeritava väljundi jaoks vajalikku ruumi. Seetõttu on sobiv kiirendi oluline, eriti pikemate viipade või samaaegsete päringute korral.
Dokumenteeritud Hugging Face’i seadistus nõuab PyTorchi, Transformersi, FlashAttentioni ja paketti hat-splitter. Hoidla kasutab kohandatud mudelikoodi, mistõttu eeldab juurutus hoidla kaugteostuse usaldamist. See on täiendav kasutuslik kaalutlus võrreldes standardse arhitektuuriga, mida toetab otseselt laialt kasutatav järeldamisplatvorm.
Aleph Alpha soovitab suurema läbilaskevõimega partiipõhiseks järeldamiseks oma vLLM-il põhinevat teostust, samas kui Hugging Face’i teostus on peamiselt kasulik testimiseks ja teadustööks. Kontrollitud latentsus-, läbilaskevõime- ega riistvaravõrdlust ei ole esitatud, mistõttu tuleks kiirust hinnata rakenduse jaoks olulise riistvara, partii suuruse, viiba pikkuse ja teeninduskonfiguratsiooniga.
Hind ja litsents
Selle mudeli sisendi- ega väljundipõhist avalikku API-hinda ei ole avaldatud. Seda levitatakse allalaaditavate kaaludena, mitte tavapärase kasutuspõhise hinnastusega lõpp-punktina. Seetõttu ei ole võimalik välja tuua kontrollitud korduvat mudelihinda, kuid ise majutamine tekitab endiselt taristu-, elektri-, salvestus-, arendus- ja hoolduskulusid.
Mudel on välja antud Open Aleph License 1.0 alusel. Esitatud dokumentatsioon kirjeldab määratletud mitteärilise ja mittehaldusliku kasutuse, sealhulgas teadus- ja haridustegevuse lubamist, kui järgitakse täielikke litsentsitingimusi. Äriks, tootmiskasutuseks või halduslikuks kasutuseks ei tohiks luba eeldada pelgalt seetõttu, et kaalud on allalaaditavad. Organisatsioonid peaksid enne juurutamist litsentsi läbi vaatama.
Millal seda mudelit valida?
Llama-TFree-HAT-Pretrained-7B-DPO on tugev kandidaat, kui projekt keskendub selgelt ühele või mitmele järgmisele eesmärgile:
- Juhiste järgimine või teksti genereerimine inglise ja saksa keeles.
- Märgendivabade keelemudeliarhitektuuride ja tekstitihenduse uurimine.
- Iseseisev katsetamine Aleph Alpha teadusliku kontrollpunktiga.
- Saksakeelsed assistendid, analüüsitööriistad või hindamisprojektid, mis ei vaja loomupärast multimodaalset väljundit.
- Mitteäriline või hariduslik töö, mille puhul saab järgida Open Aleph License’i tingimusi.
Selle 7 miljardi parameetri suurus võib pakkuda paremini hallatavat lähtepunkti kui palju suuremad mudelid, kuid spetsialiseeritud arhitektuur ja kohandatud sõltuvused tähendavad, et juurutamine ei pruugi olla lihtsam kui sarnase suurusega tavapärase mudeli puhul. Praktiline kiiruse ja kulude tasakaal sõltub olemasolevast riistvarast ja teenindusplatvormist.
Millal võib mõni muu valik olla sobivam?
Majutatud kommertsmudel on tõenäoliselt sobivam, kui projekt vajab prognoositavat API-hinnastust, hallatud skaleerimist, teenusetaseme kohustusi või sisseehitatud seiret. Dokumenteeritud tööriistakasutuse ja veebiotsinguga mudel on eelistatavam töövoogude puhul, mis peavad kutsuma väliseid süsteeme või andma ajakohast teavet. Kodeerimisele või matemaatikale spetsialiseerunud mudel sobib paremini tarkvaraarenduseks, formaalseteks arvutusteks ja võrdlustulemustest sõltuvaks arutluseks.
Pilte, heli või videot hõlmavate rakenduste jaoks tuleks valida multimodaalne mudel. Samuti peaksid meeskonnad, kes vajavad garanteeritud JSON-i või skeemiga piiratud vastuseid, kasutama süsteemi, mille dokumentatsioonis on struktureeritud väljundi tugi selgelt kirjas, mitte eeldama, et see kontrollpunkt genereerib usaldusväärselt masinloetavat JSON-i.
Kokkuvõttes on Llama-TFree-HAT-Pretrained-7B-DPO kõige parem käsitleda spetsialiseeritud, teadustööle suunatud kakskeelse tekstimudelina. Selle eripärane väärtus seisneb märgendivabas HAT-i ülesehituses ning saksa ja inglise keele fookuses. Peamised kompromissid on ise majutamise vastutus, piiratud dokumenteeritud integratsioonid, litsentsipiirangud ning väiksem sobivus koodi, matemaatika, multimodaalsete ülesannete ja ajakohase teabe hankimise jaoks.