Mis on ERNIE 4.5 Turbo?
ERNIE 4.5 Turbo on Baidu pakutav üldotstarbeline teksti genereerimise mudel. Baidu avalikustas selle Create 2025 arendajakonverentsil, positsioneerides selle ERNIE 4.5 mudeliperekonna kiirema ja soodsama valikuna. Praegu on mudel kättesaadav Baidu Qianfani kaudu ning selle kanooniline API-identifikaator on ernie-4.5-turbo-128k.
Praktikas on see mõeldud rakendustele, mis peavad viipasid mõistma ja genereerima kirjalikke vastuseid suhteliselt väikeste kuludega. Tüüpilised kasutusjuhud hõlmavad hiinakeelset kirjutamist ja ümberkirjutamist, kokkuvõtete koostamist, küsimustele vastamist, dokumentide töötlemist, otsinguga täiendatud genereerimist, ettevõtete assistente, agentide töövooge, arutlusülesandeid ja programmeerimisabi.
„Turbo” tähistus on mudeli positsioneerimise seisukohast oluline, kuid seda ei tohiks käsitleda universaalse jõudlusväitena. Kättesaadava teabe kohaselt on võrreldes mudeliga ERNIE 4.5 paranenud kiirus, kulutõhusus, loogiline arutlus, programmeerimisvõime ja hallutsinatsioonide vähendamine. Need on teenusepakkuja positsioneerimisväited; allpool esitatud võrdlusskoorid on toimetuslikud hinnangud, mitte avaldatud võrdlustestide tulemused.
Kontrollitud spetsifikatsioonid ja piirangud
| Spetsifikatsioon | Üksikasjad |
|---|---|
| Teenusepakkuja | Baidu |
| Mudeliperekond | ERNIE 4.5 |
| Praegune Qianfani lõpp-punkt | ernie-4.5-turbo-128k |
| Avaldamise kuupäev | 25. aprill 2025 |
| Sisend ja väljund | Tekstisisend tekstiväljundiks |
| Konteksti pikkus | 138 240 tokenit |
| Sisendi maksimaalne maht | 125 952 tokenit vastavalt API mudeli metaandmetele |
| Maksimaalne genereeritav väljund | 12 288 tokenit |
| Funktsioonikutsed | Baidu mudeli konfigureerimise dokumentatsiooni kohaselt toetatud |
| Teadmiste lõppkuupäev | Läbi vaadatud Baidu dokumentatsioonis avalikult kinnitamata |
Token on töötlemiseks ja arveldamiseks kasutatav tekstiühik; see võib tähistada sõna osa, tervet sõna, kirjavahemärki või näiteks hiina keele märki. 138 240 tokeni suurune kontekstilimiit tähistab mudeli kogu tööakent, samas kui dokumenteeritud sisendi ja genereeritava väljundi maksimumid kirjeldavad selle akna jaotust ühe päringu korral. Pika dokumendiga rakenduses peavad viip, otsitud materjal, juhised ja genereeritud vastus mahtuma kõik kohaldatavatesse piiridesse.
Tekstipõhine tööriistatoega kasutus
ERNIE 4.5 Turbo on dokumenteeritud teksti-teksti mudelina. See ei võta algupäraselt vastu pilte, heli ega videot ega genereeri pilte, heli, videot ega muud mittetekstilist meediat. See eristus on oluline, sest Baidu laiem tarbijatele suunatud tehisintellekti ökosüsteem reklaamib multimodaalseid funktsioone, kuid neid toote taseme võimalusi ei tohiks automaatselt seostada selle konkreetse Qianfani mudeliga.
Mudel toetab funktsioonikutsunguid. Funktsioonikutsung võimaldab rakendusel kirjeldada väliseid toiminguid – näiteks andmebaasist päringu tegemist, tellimuse andmete otsimist või ettevõtte siseteenuse käivitamist – ning paluda mudelil koostada struktureeritud tööriistapäring. Välise toimingu teeb endiselt rakendus ja tagastab ka tulemuse; mudel ei käivita ainuüksi funktsioonikutsungute olemasolu tõttu iseseisvalt suvalist koodi.
Baidu mudelite loendi teave näitab samuti, et veebotsingu täiendust saab vajaduse korral kasutada lisatasu eest. Veebiotsing võib päringu ajal anda juurdepääsu otsitud veebiteabele, kuid see ei määra alusmudeli kindlat teadmiste lõppkuupäeva. Arendajad peaksid eristama teenusepakkuja toetatud otsingut garantiist, et iga vastus on ajakohane või õige.
Hinnastus ja kuluprofiil
Esitatud Qianfani hinnateabe kohaselt maksab ERNIE 4.5 Turbo sisendtokenite puhul ¥0,0008 iga 1000 tokeni kohta ja väljundtokenite puhul ¥0,0032 iga 1000 tokeni kohta. Veebiotsingu täienduse hinnaks on vajaduse korral märgitud eraldi ¥0,004 iga 1000 tokeni kohta.
| Kasutus | Loetletud hind |
|---|---|
| Sisendtokenid | ¥0,0008 1000 tokeni kohta |
| Väljundtokenid | ¥0,0032 1000 tokeni kohta |
| Veebiotsingu täiendus | ¥0,004 1000 tokeni kohta vajaduse korral |
Sisendit ja väljundit hinnastatakse eraldi ning nende loetletud hindade järgi maksavad genereeritud tokenid tuhande tokeni kohta rohkem kui sisendtokenid. Tegelik projektikulu sõltub viiba pikkusest, vastuse pikkusest, päringute arvust ja sellest, kas kasutatakse otsingu täiendust. Seetõttu tuleks neid hindu käsitleda selle kirje jaoks esitatud dokumenteeritud Qianfani hindadena, mitte lubadusena, et kõigis Baidu kanalites või tulevastes kontoseadistustes kehtib täpselt sama arveldamine.
Arutlus, programmeerimine, kiirus ja töökindlus
ERNIE 4.5 Turbo on suunatud tavapärastele ja mõõdukalt nõudlikele arutlusülesannetele, mitte rakendustele, mis eeldavad sõltumatult tõestatud tipptasemel arutlusvõimet. Baidu kirjeldab võrreldes mudeliga ERNIE 4.5 parandusi loogilises arutluses ja hallutsinatsioonide vähendamises. Mudel toetab ka programmeerimisabi, sealhulgas koodinäidete genereerimist, koodi selgitamist, teksti teisendamist ühest vormingust teise ning rakendusprobleemide lahendamisele kaasaaitamist.
Toimetuslikus võrdluses on esitatud hinnangud: arutlus 7/10, programmeerimine 7/10, kiirus 9/10 ja maksumus 9/10. Need on toimetuslikud võrdlushinnangud, mitte Baidu avaldatud võrdlustestide tulemused. Need väljendavad mudeli kavandatud kompromissi: kiire ja soodne tekstigeneerimine koos kasuliku arutlus- ja programmeerimisvõimega, mitte maksimaalne sügavus kõige keerukamate probleemide lahendamisel.
Töökindlus sõltub endiselt viipast, lähtematerjalist, rakenduse ülesehitusest ja kontrolliprotsessist. Mudeli dokumenteerimata teadmiste lõppkuupäev on veel üks põhjus kasutada ajakriitilise teabe puhul otsingut või veebotsingut. Funktsioonikutsed võivad ühendada mudeli autoriteetsete süsteemidega, kuid rakendus peaks enne oluliste toimingute tegemist tööriista argumendid ja väljundid valideerima.
Kus ERNIE 4.5 Turbo kõige paremini sobib
- Hiinakeelsed rakendused: kirjutamine, ümberkirjutamine, kokkuvõtete koostamine, klienditugi, klassifitseerimine ja küsimustele vastamine, kui oluline on väike latentsus ja madal tokenikulu.
- Pika kontekstiga dokumenditöövood: suurte tekstikogumite analüüsimine, kokkuvõtete koostamine, teabe eraldamine ja pikkade dokumentide jaotiste võrdlemine toetatud kontekstiakna piires.
- Ettevõtete agendid: assistendid, kes peavad valima või kutsuma ärilisi tööriistu, hankima teavet ja koostama tekstilise vastuse.
- Sisuloome toimingud: tootetekstide, aruannete, kavandite, ettevõttesisese suhtluse ja muu teksti koostamine, kui suur päringute hulk muudab hinnastamise oluliseks.
- Programmeerimisabi: koodi selgitamine, genereerimine, teisendamine ja probleemide lahendamine, kui rakendus ei vaja spetsiaalset programmeerimismudelit.
- Otsinguga täiendatud vastused: töövood, mis saavad kasu Baidu veebotsingu täiendist ja mille puhul saab arvestada selle eraldi kasutustasuga.
Suur kontekstiaken koos madalate loetletud tokenihindadega võib olla kasulik rakendustes, mis töötlevad korduvalt mahukaid tekste. Suur kontekstilimiit ei taga siiski, et mudel pöörab igale detailile võrdselt tähelepanu, mistõttu võivad tulemusi parandada dokumentide jaotamine, otsing ja väljundi valideerimine.
Piirangud ja olukorrad, kus mõni muu valik võib olla parem
Kõige selgem piirang on modaalsus. Valige mõni muu mudel või teenus, kui rakendus peab tõlgendama fotosid, kuvatõmmiseid, heli või videot või kui see peab meediat genereerima. ERNIE 4.5 Turbo ise on dokumenteeritud tekstipõhisena, kuigi Baidu laiemad tarbijatele suunatud pakkumised sisaldavad multimodaalseid funktsioone.
See mudel võib olla halb valik ka siis, kui sõltumatult kontrollitud struktureeritud väljundi garantiid on hädavajalikud. Esitatud teave ei kinnita JSON-režiimi ega JSON Schema väljundi tuge. Rangelt masinloetavaid vastuseid vajavad arendajad peaksid kontrollima Qianfani praegust dokumentatsiooni ja lisama rakenduse tasemel valideerimise, mitte eeldama, et funktsioonikutsed on samaväärsed üldise JSON-režiimi garantiiga.
Äärmiselt raskete matemaatiliste, teaduslike või mitmeastmeliste arutlusülesannete puhul võib eelistada rohkem arutlusele keskenduvat mudelit, kui selle suurem latentsus ja maksumus on põhjendatud. Seevastu lihtsa klassifitseerimise või lühikeste lõpetuste puhul võib veel väiksem mudel olla soodsam. Spetsiaalne programmeerimismudel võib samuti olla parem valik suurte koodibaaside või sügavamat koodibaasi analüüsi nõudvate programmeerimisülesannete jaoks, kuid esitatud uuringus ei nimetata ühtki konkreetset alternatiivi.
Kasutajad peaksid arvestama ka juurutuskontekstiga. ERNIE 4.5 Turbo on saadaval Baidu Qianfani kaudu ning läbi vaadatud allikad ei kinnita kõigis piirkondades ja kõigi kontode puhul ühtselt standarditud hindu ega kättesaadavuspoliitikat. Baidu põhiökosüsteemist väljaspool tegutsevad meeskonnad peaksid enne tootmiskasutusele üleminekut kontrollima konto juurdepääsu, piirkondlikku kättesaadavust, arveldamist, andmekäitlust ja teenusetaseme nõudeid.
Millal valida ERNIE 4.5 Turbo?
Valige ERNIE 4.5 Turbo siis, kui töökoormus on peamiselt tekstipõhine, saab kasu hiina keele toest ja pikast kontekstist ning väärtustab kiireid vastuseid ja madalaid loetletud tokenikulusid. See sobib eriti hästi suure mahuga genereerimiseks, dokumenditöövoogudeks, ettevõtte tööriistade kasutamiseks ja rakendusteks, kus ligikaudu 128K tokeni suurune kontekstiaken on olulisem kui multimodaalne sisend.
Valige mõni muu lahendus, kui vajalik on meedia algupärane mõistmine või genereerimine, kui rangelt struktureeritud väljundi käitumine on kontrollitud ja vältimatu nõue või kui ülesanne eeldab sõltumatult mõõdetud kõige tugevamat saadaolevat arutlusvõimet, olenemata maksumusest ja latentsusest. Igal juhul testige sihtkeeles ja sihtkoormusega representatiivseid viipasid: tegelik tasakaal kiiruse, kvaliteedi, maksumuse ja töökindluse vahel sõltub rakenduse dokumentidest, juhistest, tööriistadest ja valideerimisreeglitest.