Mis oli ERNIE-Code3-128K
ERNIE-Code3-128K oli Baidu ERNIE Code'i mudeliperre kuuluv programmeerimisele spetsialiseerunud keelemudel. Selle peamine eesmärk oli töödelda ja genereerida programmeerimisega seotud teksti, sealhulgas lähtekoodi, kommentaare, selgitusi ja teste. Baidu dokumentatsiooni kohaselt toetas laiem ERNIE Code'i mudelipere rohkem kui 600 programmeerimiskeelt ning oli eriti tugev Go, Java, Pythoni ja C++ puhul.
Mudeli nimi sisaldab kahte kasulikku vihjet. „Code” viitab selle keskendumisele tarkvaraarendusele, „128K” aga dokumenteeritud konfiguratsioonis kasutatud 128 000 märgi suurusele maksimaalsele treeningjärjestuse pikkusele. Märk (token) on keelemudeli kasutatav väike tekstühik; järjestuse piirang määrab, kui palju sisendkonteksti saab ühes treeningnäites töödelda. Olemasolev dokumentatsioon ei kinnita, et 128K tähistas genereeritava väljundi maksimaalset pikkust, mistõttu ei tohiks seda tõlgendada väljundi piiranguna.
ERNIE-Code3-128K oli Baidu Qianfan ModelBuilderis loetletud baasmudelina. Seetõttu oli see asjakohasem organisatsioonidele, kes ehitasid või peenhäälestasid spetsialiseeritud kodeerimismudelit, kui kasutajatele, kes otsisid kohe kasutatavat tarbijatele mõeldud vestlusrobotit.
Dokumenteeritud kodeerimisvõimekused
Baidu dokumenteeris mudeli jaoks mitu tarkvaraarenduse funktsiooni:
- Koodi lõpetamine: osaliselt kirjutatud lähtekoodi jätkamine.
- Koodi genereerimine loomuliku keele põhjal: koodi loomine soovitud käitumise kirjelduse põhjal.
- Ühiktestide genereerimine: olemasolevate funktsioonide või moodulite jaoks testide loomine.
- Koodi optimeerimine: muudetud teostuste soovitamine eesmärgiga parandada koodi kvaliteeti või tõhusust.
- Kommentaaride genereerimine: lähtekoodile selgitavate kommentaaride lisamine.
- Koodi selgitamine: koodilõigu toimimise kirjeldamine loomulikus keeles.
- Tegevuse ennustamine: tõenäolise järgmise kodeerimistegevuse või jätku ennustamine.
Need funktsioonid katavad tavapärase arenduse abistamise töövoo: arendaja võib esitada koodi või nõude, paluda jätkamist või teisendamist ning kasutada tulemust ülevaatamist vajava kavandina. Dokumentatsioon kirjeldab võimekusi, mitte garanteeritud korrektsust. Enne kasutamist tootmiskeskkonnas tuleb genereeritud koodi endiselt testida, kontrollida turvalisuse ja sõltuvuste seisukohast ning lasta inimesel see üle vaadata.
Peenhäälestus Qianfan ModelBuilderi kaudu
Mudeli üks selgemaid eristavaid omadusi oli treeningu tugi. Baidu dokumenteeris ERNIE-Code3-128K jaoks nii kõigi parameetrite uuendamise kui ka LoRA-treeningu. Kõigi parameetritega peenhäälestus uuendab treeningu käigus mudeli parameetreid ning võib nõuda märkimisväärselt rohkem arvutusressursse. LoRA ehk Low-Rank Adaptation treenib väiksemat hulka täiendavaid parameetreid, jättes algse mudeli suures osas muutmata. Seda kasutatakse sageli siis, kui meeskond soovib mudelit konkreetse koodibaasi, stiili või sisemise ülesandega kohandada säästlikumalt.
Qianfan ModelBuilder dokumenteeris ka juhendatud peenhäälestuse ja eelistuste optimeerimise töövood. Juhendatud peenhäälestuse abil saab mudelit õpetada soovitud sisendite ja väljundite näidete põhjal, näiteks ettevõttesiseste kodeerimistavade või tüüpiliste kooditeisenduste abil. Eelistuste optimeerimist saab kasutada juhul, kui üht vastust tuleks inimeste või süsteemi eelistuste põhjal teisele eelistada. Esitatud dokumentatsioon ei sisalda võrdlustulemusi, mis näitaksid, kui palju kumbki meetod täpsust parandas, mistõttu tuleks neid käsitleda toetatud töövoogude, mitte jõudlusgarantiidena.
Tehnilised näitajad ja piirangud
| Näitaja | Kontrollitud teave |
|---|---|
| Teenusepakkuja | Baidu |
| Mudelipere | ERNIE Code |
| Mudeli tüüp | Kodeerimise keelemudel |
| Väljalaskekuupäev | 26. detsember 2023 |
| Dokumenteeritud konteksti- või treeningjärjestuse piirang | 128 000 märki treeningnäite kohta |
| Tekstisisend | Toetatud |
| Tekstiväljund | Toetatud |
| Pildi-, heli- ja videosisend | Esitatud mudelikirjes ei ole toetatud |
| Pildi-, heli- ja videoväljund | Ei ole toetatud |
| Tööriista- või funktsioonikutsete tugi | Toetust ei ole dokumenteeritud |
| Peenhäälestus | Toetatud kõigi parameetrite uuendamise ja LoRA kaudu |
| Kasutuselt eemaldamise kuupäev | 14. august 2025 |
Mudeli kirjes ei ole kontrollitud teavet väljundimärkide maksimaalse arvu, teadmiste lõppkuupäeva, voogedastuse, vahemällu salvestamise toe, pakktöötluse API ega JSON-režiimi kohta. Samuti ei ole dokumenteeritud loomulikku veebotsingut, väliste tööriistade kasutamist ega funktsioonikutseid. Need puuduvad andmed on olulised mudeli hindamisel tänapäevase rakenduse jaoks: pikk sisendjärjestus ei tähenda iseenesest agentset käitumist, struktureeritud väljundi garantiid ega juurdepääsu välistele süsteemidele.
Hinnakujundus ja kuludega seotud kaalutlused
ERNIE-Code3-128K standardseid järeldamise sisendi- ja väljundihindu ei ole esitatud. Olemasolev ajalooline hinnateave puudutab tavapärase genereerimise asemel peenhäälestust. Baidu avaldas treeningutasudeks 0,005 CNY 1000 märgi kohta jõudeolekuvälise soodushinnaga ajastamise korral ning 0,01 CNY 1000 märgi kohta loetletud alghinna alusel nii kõigi parameetritega kui ka LoRA-treeningu puhul.
Neid ajaloolisi näitajaid ei tohiks esitada praegu kehtiva saadavuse ega järeldamise hindadena. Kuna mudel eemaldati Qianfan ModelBuilderist 14. augustil 2025, tuleks uue juurutuse kulude hindamisel esmalt kontrollida, kas saadaval on samaväärne järeltulija, arhiveeritud mudel või asendusteenus. Esitatud uurimus ei tuvasta praegu kasutatavat asendusmudelit ega kehtivaid lõpp-punkti hindu.
Tugevused ja kompromissid
ERNIE-Code3-128K peamine tugevus oli spetsialiseerumine. Selle dokumenteeritud funktsioonid käsitlesid praktilisi programmeerimisülesandeid ning 128K treeningjärjestuse piirang oli märkimisväärne töövoogudes, mis hõlmasid pikki lähtefaile, mitut seotud faili või üksikasjalikku koodidokumentatsiooni. Kõigi parameetritega treeningu ja LoRA kombineeritud tugi pakkus meeskondadele ka mitut võimalust mudeli kohandamiseks vastavalt nende arvutuseelarvele ja kohandamisvajadustele.
Sama olulised on mudeli piirangud. See oli ainult tekstipõhine ning kontrollitud pildi-, heli- ega video sisendit või väljundit ei olnud. Dokumenteeritud loomulik tööriista- või funktsioonitugi puudus, mistõttu ei olnud tegu täieliku kodeerimisagendiga, mis suudaks iseseisvalt teste käivitada, hoidlat uurida, faile muuta või arendustööriistu kasutada. Kontrollitud väljundipiirangu puudumine tähendab samuti, et dokumenteeritud 128K näitajat ei tohiks kasutada selle hindamiseks, kui palju koodi suudab mudel ühe vastusena genereerida.
Esitatud kirjes antud toimetuslikud hinnangud peavad selle sobivust kodeerimiseks suhteliselt kõrgeks, samas kui põhjendusvõimekusele ja kiirusele antakse keskmise vahemiku hinnang ning kuludele soodne hinnang. Need on võrdlevad toimetuslikud hinnangud, mitte Baidu võrdlustestide tulemused. Neid ei tohiks segi ajada mõõdetud täpsuse, latentsuse ega kogukulu tulemustega.
Millal seda mudelit valida
Ajalooliselt oleks ERNIE-Code3-128K olnud mõistlik valik meeskondadele, kes vajasid kodeerimisele keskendunud baasmudelit ja kavatsesid seda ettevõttesiseste näidete põhjal peenhäälestada. See oli eriti asjakohane koodi lõpetamise, koodi genereerimise, ühiktestide kavandamise, koodi selgitamise ja pikki treeningnäiteid hõlmavate teisenduste puhul. LoRA oleks olnud praktiline lähtekoht meeskondadele, kes soovisid kergemat kohandamisviisi, samas kui kõigi parameetritega treening võis sobida suuremate arvutusressurssidega projektidele, mis vajasid sügavamat spetsialiseerumist.
See ei oleks olnud õige valik multimodaalse assistendi, üldotstarbelise vestlusmudeli ega rakenduse jaoks, mis vajas sisseehitatud tööriistade kasutamist ja struktureeritud tegevusi. Uue tootmisprojekti jaoks oleks sobivam ka praegu hooldatav kodeerimismudel, sest ERNIE-Code3-128K on kasutuselt eemaldatud. Meeskonnad, kes vajavad garanteeritud JSON-vastuseid, välise hoidla toiminguid, testide käivitamist või praegust API-tuge, peaksid valima lahenduse, mille dokumentatsioon neid funktsioone sõnaselgelt kirjeldab.
Mudeli pikk järjestuse piirang võis olla atraktiivne ka lähtekoodi analüüsimisel, kuid kasutajad peaksid eristama treeningjärjestuse piirangut tootmiskeskkonna konteksti- või väljundigarantiist. Esitatud allikad kinnitavad esimest, kuid mitte täielikku praegust teenindusspetsifikatsiooni.
Saadavus ja lõpphinnang
ERNIE-Code3-128K avaldati 26. detsembril 2023 ning eemaldati hiljem Baidu Qianfan ModelBuilderist 14. augustil 2025. Seetõttu kuulub see ajaloolisse mudelikataloogi, mitte praegu usaldusväärselt kasutatavate tootmise lõpp-punktide loendisse.
Selle olulisus seisneb spetsialiseeritud kodeerimisfookuse, dokumenteeritud 128K treeningjärjestuse piirangu ning nii kõigi parameetrite uuendamise kui ka LoRA kaudu pakutava peenhäälestuse toe kombinatsioonis. Ajaloolise hindamise või migratsiooniuuringute jaoks on neid omadusi kasulik mõista. Uue rakenduse puhul tuleks aga esmalt uurida hooldatavat alternatiivi, sest mudel on kasutuselt eemaldatud, praegused hinnad pole saadaval, väljundipiirangud on dokumenteerimata ja kontrollitud tööriistatuge ei ole.