Mis on Llama-3.1-Tulu-3-70B?
Llama-3.1-Tulu-3-70B on Allen Institute for AI (Ai2) välja töötatud avatud kaaludega üldotstarbeline keelemudel. See võtab vastu tekstipõhiseid viipasid ja genereerib tekstivastuseid ülesannetele, nagu juhiste järgimine, küsimustele vastamine, kirjutamine, arutlemine, matemaatika ja koodi genereerimine.
Mudel kuulub Ai2 Tülu 3 järeltreeningu seeriasse ja põhineb Meta Llama 3.1 70B baasmudelil. „Järeltreening” tähendab tööd, mida tehakse pärast seda, kui baasmudel on õppinud suuremahulisest andmestikust: mudelit treenitakse täiendavalt juhiste järgimiseks, kasulikumalt vastamiseks ja valitud ülesannete paremaks täitmiseks. Tülu 3 puhul kasutas Ai2 juhendatud peenhäälestust, Direct Preference Optimizationit (DPO) ja kontrollitavatel tulemustel põhinevat tugevõpet (Reinforcement Learning with Verifiable Rewards, RLVR).
See konkreetne kontrollpunkt on Tülu 3 seeria lõplik 70B RLVR-mudel, mis järgneb juhendatud peenhäälestuse ja DPO etappidele. Ai2 avaldas ka seotud järeltreeningu retseptid, andmestikud ja hindamistaristu, mistõttu on mudel oluline mitte ainult kasutusvalmis kontrollpunktina, vaid ka teadusliku uurimisobjektina.
Kuhu see Ai2 mudelivalikus paigutub?
Llama-3.1-Tulu-3-70B kuulub Ai2 avatud mudelite uurimiskataloogi, mitte tavapäraste tarbijatele mõeldud vestlusrobotite või esimese osapoole kommerts-API-de hulka. See on mõeldud kasutajatele, kes soovivad pääseda ligi mudeli kaaludele ning kontrollida juurutamist, järeldustarkvara ja edasisi katsetusi.
Selle seos Llama 3.1-ga on oluline. Meta pakub aluseks olevat baasmudelit, samal ajal kui Ai2 Tülu 3 töö muudab täiendava treeningu kaudu seda, kuidas mudel juhistele vastab. Seetõttu tuleks seda käsitleda kui Ai2 järeltreeninguga mudelit, mis on tuletatud mudelist Llama 3.1 70B, mitte Llama liinist sõltumatu mudeliperena.
Peamised võimekused ja tugevused
Mudeli põhieesmärk on üldine tekstipõhine abistamine, keskendudes juhiste järgimisele ja keerukatele arutlusülesannetele. Toetatud kasutusviisid hõlmavad järgmist:
- Mitmeastmeliste kirjalike juhiste järgimine
- Matemaatika- ja loogikaülesannete lahendamine
- Koodi genereerimine, selgitamine ja teisendamine
- Kirjutamine, ümberkirjutamine, kokkuvõtete koostamine ja küsimustele vastamine
- Avatud järeltreeningumeetodite ja mudelite hindamise uurimine
- Ise majutatavate abisüsteemide või ettevõtterakenduste loomine
Tülu 3 treeninguprotsess on kavandatud parandama mudeli käitumist võrreldes algse baaskontrollpunktiga. Juhendatud peenhäälestus õpetab mudelit näidete põhjal, eelistuste optimeerimine suunab vastuseid eelistatud vastuste poole ning RLVR kasutab valitud ülesannetes preemiaid, mida saab kontrollitavate tulemuste põhjal kontrollida. Need meetodid toetavad mudeli kavandatud tugevusi arutlemises, matemaatikas ja juhiste järgimises, kuigi esitatud uurimistöö ei anna selle konkreetse kontrollpunkti kohta üht autoriteetset võrdlustesti tulemust.
Toimetuslikust vaatenurgast on seda mudelit kõige parem käsitleda suure võimekusega avatud kaaludega valikuna, mitte odava või väikese latentsusega mudelina. Suur parameetrite arv võimaldab genereerida keerukaid vastuseid, kuid suurendab ka mälu-, riistvara- ja käitamisnõudeid.
Konteksti pikkus, sisendid ja väljundid
Avaldatud mudelik konfiguratsioon määrab maksimaalse positsioonimanuste pikkuseks 131 072 tokenit. See on dokumenteeritud konfiguratsiooniväärtus, mitte garantii, et iga juurutus suudab kogu kontekstiakent kasutada sama kiiruse või mälukuluga. Tegelik piirang sõltub järeldusraamistikust, saadaolevast kiirendimälust, kvantimisest, pakktöötlusest ja genereerimisseadetest.
Llama-3.1-Tulu-3-70B on ainult tekstipõhine. Selle toetatud sisend- ja väljundtüüp on tekst. Mudel ei võta natiivselt vastu pilte, heli ega videot ning ei genereeri pilte, heli ega videot. Esitatud uurimistöö ei tuvasta selle konkreetse kontrollpunkti kontrollitud maksimaalset väljundtokenite arvu, mistõttu tuleks väljundimahtu käsitleda juurutusest sõltuvana, mitte omistada sellele välja mõeldud numbrit.
Ligikaudu 71 miljardi parameetriga mudel on bfloat16-kaaludega käitamisel eriti nõudlik. Kvantiseeritud versioonid võivad vähendada mälunõudeid ning tensoriparalleelsed juurutused võivad töökoormuse mitme kiirendi vahel jaotada, kuid need lahendused ei muuda mudelit kulude ega taristuvajaduste poolest samaväärseks väikese kohaliku mudeliga.
Arutlemine, kodeerimine ja tööriistade tugi
Arutlemine ja matemaatika kuuluvad mudeli kavandatud tugevuste hulka. Tülu 3 treeninguprotsess hõlmab konkreetselt kontrollitavatel tulemustel põhinevat tugevõpet, mis on kasulik ülesannete puhul, kus vastust saab kontrollida. See treeningumeetod ei tähenda, et iga vastus oleks õige: mudel võib endiselt teha fakti-, loogika- või arvutusvigu ning seda tuleks sihtkoormusel testida.
Kodeerimine on veel üks peamisi kasutusviise. Mudel suudab genereerida koodi, selgitada olemasolevat koodi ja aidata programmeerimisega seotud probleemide lahendamisel. See sobib kõige paremini olukordadesse, kus rakendus saab genereeritud koodi üle vaadata ja seda testida, mitte seda ilma turvameetmeteta käivitada.
Baaskontrollpunkt ei paku esimese osapoole veebotsinguteenust, hallatud pakktöötluse API-t ega garanteeritud struktureeritud väljundi liidest. Uurimistöö ei kinnita ka natiivset tööriistade ega funktsioonikutsete tuge. Arendajad võivad tööriistu ümbritseva järeldustarkvara ja rakendusekoodi kaudu lisada, kuid neid funktsioone ei tohiks esitada mudeli enda sisseehitatud võimekustena.
Hind ja juurdepääs
Esitatud uurimistöö põhjal ei ole Allen Institute for AI avaldanud mudeli Llama-3.1-Tulu-3-70B ametlikku tokenipõhist API-hinda. Mudelit levitatakse allalaaditavate kaaludena Hugging Face'i kaudu ning selle kanooniline identifikaator on allenai/Llama-3.1-Tulu-3-70B. Seetõttu peavad kasutajad üldjuhul arvestama oma riistvara, pilvandmetöötluse, salvestusruumi, võrguühenduse ja käitamise kuludega või kasutama kolmanda osapoole majutusteenust, mis määrab oma hinnad.
Mudel on välja antud Llama 3.1 Community License Agreementi alusel. Mudelikaardil käsitletakse ka treeningul kasutatud kolmandate osapoolte mudelite väljundeid ja nendega seotud tingimusi. Igaüks, kes mudelit edasi levitab või äriliselt juurutab, peaks tutvuma kogu litsentsi ning baasmudeli ja treeninguallikatega seotud tingimustega.
Parimad kasutusviisid
See mudel sobib hästi olukordadesse, kus juhtimine ja läbipaistvus on olulisemad kui kasutusvalmis juurdepääs. Sobivad rakendused hõlmavad järgmist:
- Juhendatud häälestuse, eelistuste optimeerimise ja RLVR-i uurimine
- Allalaaditavaid kaalusid vajavad ise majutatavad abisüsteemid
- Kontrollitud ettevõtte juurutused privaatse järeldustaristuga
- Matemaatika-, arutlus- ja kodeerimistöövood, mis võimaldavad hindamist või inimlikku ülevaatust
- Korratavad katsed Ai2 avaldatud retseptide ja hindamisressursside abil
- Organisatsioonid, kes soovivad avatud mudelit kohandada või peenhäälestada
Selle avatud kaaludega vorming võib olla väärtuslik meeskondadele, kes ei saa või ei soovi saata viipasid suletud majutusteenusele. Samuti võimaldab see otsesemalt kontrollida versioone ja juurutamist, arvestades mudeli litsentsi ja meeskonna taristut.
Piirangud ja olukorrad, kus mõni muu valik võib olla parem
Kõige olulisem piirang on mudeli suurus. Väiksem avatud mudel võib olla parem valik kohalike sülearvutite, tagasihoidlike serverite, suure läbilaskevõimega teenuste või rakenduste jaoks, kus vastusekiirus ja taristukulu on maksimaalsest võimekusest olulisemad. 70B mudel nõuab ka hoolikat mahutavuse planeerimist, eriti pika konteksti kasutamisel või mitme kasutaja teenindamisel.
Majutatud kommertsmudel võib olla sobivam, kui meeskond vajab hallatud API-t, prognoositavat operatiivtuge, sisseehitatud tööriistaintegratsioone, garanteeritud struktureeritud vastuseid või kasutuspõhist arveldamist ilma kiirendeid ise haldamata. Piltide, heli või video mõistmiseks on parem valik multimodaalne mudel, sest Tulu 3 70B piirdub tekstiga.
Kasutajad peaksid arvestama ka mudeli käitumisega seotud riskidega. Väljundid võivad sisaldada faktivigu, kallutatust, ohtlikku sisu või ebasoovitavaid juhiseid. Mudel on peamiselt inglise keele keskne ning seda tuleks sihtrakenduse jaoks hinnata ja turvameetmetega varustada. Ümbritsevate funktsioonide, näiteks veebotsingu, tööriistade käitamise või struktureeritud väljundi kättesaadavus sõltub juurutusvirnast, mitte selle kontrollpunkti kinnitatud natiivsest võimekusest.
Millal valida Llama-3.1-Tulu-3-70B?
Vali Llama-3.1-Tulu-3-70B siis, kui vajad suurt avatud kaaludega tekstimudelit juhiste järgimiseks, kodeerimiseks, matemaatikaks või arutlemiseks ning sul on selle käitamiseks vajalik taristu. See sobib eriti hästi teadlastele ja insenerimeeskondadele, kes hindavad allalaaditavaid kaalusid, korratavust ning võimalust ümbritsevat süsteemi uurida või muuta.
Vali väiksem mudel siis, kui esmatähtsad on hind, kiirus või lihtne kohalik juurutamine. Vali majutatud API siis, kui operatiivne lihtsus ja hallatud juurdepääs on mudeli omamisest olulisemad. Mitte-tekstisisendite või -väljundite jaoks vali multimodaalne mudel. Lühidalt öeldes ei seisne Tulu 3 70B peamine eristav eelis esimese osapoole teenusekihis, vaid suure järeltreeninguga kontrollpunkti ja avatud, teadusuuringutele suunatud juurutusmudeli kombinatsioonis.