olmOCR-2-7B-1025

Mis on olmOCR-2-7B-1025?

olmOCR-2-7B-1025 on Allen Institute for AI (Ai2) välja töötatud dokumentidele keskenduv nägemis-keelemudel. Selle peamine ülesanne on lugeda renderdatud dokumendilehti ja muuta need kasutatavaks struktureeritud tekstiks. Mudel on mõeldud dokumentidele, mille puhul lihtsad tekstieraldustööriistad hätta jäävad, näiteks teadusartiklitele, skannitud ajaloolistele materjalidele, juriidilistele dokumentidele, brošüüridele, tabelitele, matemaatilistele valemitele, päistele, jalustele ja mitmeveerulistele küljendustele.

Mudeli kanooniline identifikaator on allenai/olmOCR-2-7B-1025. Seda levitatakse avatud kaaludena, mitte tavapärase majutatud AI-teenusena. Kasutajad saavad mudeli alla laadida ja seda kasutada olmOCR-i tööriistakomplekti või ühilduva järeldustaristu kaudu.

Algaja jaoks on oluline mõista, et see ei ole eeskätt vestlusrobot. Mudel võtab vastu dokumendipilte ja viipasid ning genereerib lehe tekstilise esituse. Selle väärtus seisneb dokumendi struktuuri ja lugemisjärjekorra säilitamises, mitte üldistele küsimustele vastamises või ulatuslikus vestluses osalemises.

Kus paikneb see Ai2 mudelivalikus?

Ai2 avaldatud mudelite portfellis on olmOCR-2-7B-1025 spetsialiseerunud OCR-i ja dokumenditöötluse mudel. See on Qwen2.5-VL-7B-Instructi põhjal peenhäälestatud, kuid saadud süsteem on optimeeritud kitsamale ülesandele: keerukate dokumentide eraldamisele ja lineaarsesse vormi teisendamisele.

See spetsialiseerumine annab mudelile üldotstarbelistest nägemis-keelemudelitest erineva rolli. Üldmudel võib pilti kirjeldada või selle kohta küsimustele vastata, samal ajal kui olmOCR-2-7B-1025 on loodud korduvkasutatava dokumendikeskse väljundi tootmiseks. Selle treening ja hindamine keskenduvad lehe küljendusele, tabelitele, valemitele, skannidele ja lugemisjärjekorrale.

Ai2 treenis mudelit andmestikuga olmOCR-mix-1025, mis sisaldab ligikaudu 270 000 PDF-lehekülge, ning rakendas GRPO-põhist tugevdusõpet. Selle protsessi käigus kasutati preemiatena kontrollitavaid dokumendiüksusteste, et soodustada näiteks tabelite säilitamist, matemaatiliste avaldiste teisendamist ja ühtlase lugemisjärjekorra hoidmist.

Dokumendi OCR-i põhivõimalused

Mudel töötleb renderdatud dokumendilehte, mitte ainult PDF-i manustatud tekstikihti. Seetõttu sobib see skannitud lehtede ja küljenduste jaoks, mille puhul tavaline tekstieraldus visuaalsed seosed kaotab. Toetatud väljundvormingud ja käitumised hõlmavad järgmist:

• Struktureeritud tekst, mis sobib dokumentide eraldamiseks ja PDF-i lineaarsesse vormi teisendamiseks.
• Markdowni-laadsed pealkirjad ja dokumendistruktuur.
• Tabelite HTML-esitused.
• Matemaatiliste võrrandite LaTeX-esitused.
• Mitmeveeruliste lehtede lugemisjärjekorra taastamine.
• Päiste, jaluste, väikese teksti ja keerukate leheküljenduste tuvastamine.

Soovitatud olmOCR-i töövoos renderdatakse iga PDF-leht pildina, mille pikim külg on ligikaudu 1288 pikslit. Seejärel koostab tööriistakomplekt viiba, saadab lehe mudelisse ning haldab dokumendi metaandmeid ja töötlemisülesandeid. See töövoog on oluline, sest lehe renderdus ja pildi eraldusvõime mõjutavad lõpliku eraldise kvaliteeti.

Jõudlus ja võrdlustulemuste tähendus

Ai2 teatab, et olmOCR-i tööriistakomplekti kasutamisel on selle mudeli üldine olmOCR-Benchi skoor ligikaudu 82,3. Eraldi avaldatud FP8-variandi skoor on ligikaudu 82,4. Võrdlustest hõlmab arXivi lehti, vanu skanne, matemaatilist sisu, tabeleid, päiseid ja jaluseid, mitmeveerulisi küljendusi, pikka väikest teksti ning lähtetaseme lehti.

Ai2 andmetel on varasema olmOCR-i versiooni ja mitme üldotstarbelise nägemis-keelemudeliga võrreldes eriti suured täiustused saavutatud tabelite, matemaatiliste skannide ja mitmeveeruliste dokumentide puhul. Need on teenusepakkuja esitatud võrdlustulemused, mistõttu tuleks neid käsitleda tõendina mudeli kavandatud tugevusvaldkonna kohta, mitte garantiina iga dokumendikogu jaoks.

Mudel avaldatakse täieliku BF16-täpsusega, kuid Ai2 soovitab enamiku praktiliste järelduskoormuste jaoks eraldi FP8-väljaannet. FP8 võib vähendada mudeli käitamiseks vajalikku mälu ja riistvarakoormust, kuigi juurutamise kvaliteet ja kiirus sõltuvad endiselt valitud järeldusvirnast ja riistvarast.

Sisendid, väljundid ja toetatud modaalsused

olmOCR-2-7B-1025 võtab vastu tekstiviipasid koos dokumendipiltidega. Praktikas on pildiks tavaliselt renderdatud PDF-leht. Mudel toodab teksti, mitte uut pilti, helisalvestist, videot, esitustena vektorit ega muud mittetekstilist artefakti.

Mudel suudab esitada tabeleid HTML-i ja võrrandeid LaTeX-ina, kuid seda ei tohiks segi ajada teenusepakkuja garanteeritud struktureeritud JSON-režiimiga. Rakendused, mis vajavad ranget masinloetavat skeemi, peaksid genereeritud teksti valideerima ja vajaduse korral järeltöötlema.

Kontekst, väljundipiirangud ja API kättesaadavus

Esitatud mudelispetsifikatsioonides ei tuvastatud autoriteetset kontekstiakna pikkust ega väljundtokenite maksimaalset piiri. Mudel on mõeldud töötlema üksikuid renderdatud lehti olmOCR-i töövoo kaudu, kuid kasutajad ei tohiks eeldada, et terve mitmeleheküljelise dokumendi saab paigutada ühte piiramata päringusse. Suuri dokumente töötleb tööriistakomplekt üldjuhul lehekülgede kaupa või partiidena.

Samuti ei ole tuvastatud esimese osapoole majutatud API-t, millel oleks tavapärane tokenipõhine hinnastus. Tavaline juurutusviis on kaalude allalaadimine ja nende käitamine kohapeal, privaatselt hallatavas taristus või ühilduva kolmanda osapoole teenuseplatvormi kaudu. Seetõttu sõltub tegelik kulu GPU-de kättesaadavusest, mälunõuetest, järeldustarkvarast, läbilaskevõimest ja dokumentide mahust, mitte avaldatud tokenihinnast.

Juurutamine ja peenhäälestus

Mudelit saab laadida Transformersi abil ning pakkuda ühilduvate järeldusmootorite, näiteks vLLM-i või SGLangi kaudu. olmOCR-i tööriistakomplekt on kõige asjakohasem praktiline lähtepunkt, sest see haldab PDF-i renderdamist, viipade koostamist, korduskatseid, pakktöötlust ja dokumendi metaandmeid.

Ai2 pakub ka treeningukoodi ja konfiguratsioonifaile, et treeninguprotsessi korrata või kohandada mudelit spetsialiseerunud dokumendikogude jaoks. Peenhäälestus võib olla kasulik, kui dokumendid kasutavad ebatavalist tüpograafiat, valdkonnaspetsiifilisi küljendusi või ühtset koguvormingut. Täielik BF16-mudel vajab siiski märkimisväärselt GPU-mälu, mistõttu võib FP8-väljaanne või sobivalt optimeeritud teeninduslahendus olla tootmises järelduste tegemiseks praktilisem.

Tööriistakomplekt toetab suuremahulisi töötlemisvooge, kuid juurutamist tuleks testida tüüpiliste lehtedega. OCR-i kvaliteet võib varieeruda sõltuvalt skanni kvaliteedist, eraldusvõimest, lehe keerukusest ja PDF-i renderdamise viisist.

Peamised tugevused ja kompromissid

• Dokumendispetsialiseerumine: Mudel on treenitud ja hinnatud OCR-i, küljenduse, tabelite, valemite ja lugemisjärjekorra, mitte üldise vestluse põhjal.
• Avatud kaaludega juurutamine: Organisatsioonid saavad avaldatud mudelit uurida, majutada ja kohandada, selle asemel et sõltuda esimese osapoole majutatud lõpp-punktist.
• Struktureeritud esitused: Markdown, HTML-tabelid ja LaTeX muudavad väljundi kasulikumaks arhiivide, uurimustöötluse ja edasise töötlemise jaoks.
• Keerukatele lehtedele keskendumine: Mitmeveerulised lehed, matemaatilised skannid, tabelid ja väike tekst on mudeli ning selle võrdlustesti selged sihtvaldkonnad.
• Käituskulu: Majutatud tokenihinda ei ole avaldatud, kuid isemajutamine tähendab kulude kandmist GPU-riistvarale, salvestusele, arendusele ja hooldusele.
• Ulatuspiirangud: Spetsialiseerunud OCR-mudel ei ole parim vaikevalik üldiseks visuaalseks küsimustele vastamiseks, avatud vestluseks ega dokumentidest kaugemale ulatuva multimodaalse sisu töötlemiseks.

Selle mudeli kirjele lisatud toimetuslikud hinded hindavad seda OCR-i kulutõhususe ja kiiruse poolest kõrgelt, arvestades 7B avatud mudeli jaoks eeldatavaid riistvara- ja juurutusvõimalusi. Need hinded on selle kasutusjuhtumi subjektiivsed hinnangud, mitte Ai2 avaldatud võrdlustesti tulemused. Tegelik läbilaskevõime sõltub kvantimisest või täpsusest, GPU-mälust, partiide moodustamisest ja teenindusmootorist.

Piirangud, mida arvestada

olmOCR-2-7B-1025 on peamiselt optimeeritud ingliskeelsete digiteeritud trükidokumentide jaoks. Ei tohiks eeldada, et see pakub ilma testimiseta laialdast mitmekeelset OCR-i tuge. Käsikiri, tugevalt kahjustatud skannid, ebatavalised kirjasüsteemid, väga väikese eraldusvõimega lehed ja väga spetsialiseerunud küljendused võivad vajada teistsugust OCR-süsteemi või täiendavat töötlemist.

Väljundi kvaliteet sõltub ka sisendpildist. Halb renderdus, vale skaleerimine, puuduvad lehe metaandmed ja sobimatud viibad võivad vähendada tuvastuskvaliteeti isegi siis, kui inimene suudab alusdokumenti lugeda. Kuna mudel genereerib teksti, võib esineda ka transkriptsiooni- või vormindusvigu; olulise täpsuse korral tuleks tabelid ja võrrandid üle kontrollida.

Mudel ei genereeri loomupäraselt pilte, heli ega videot ning sellel ei ole tuvastatud loomulikku tööriistakutsumise liidest. Avatud kaaludega mudel annab küll kontrolli ja kohandamisvõimalused, kuid tähendab ühtlasi, et kasutajad vastutavad taristu, turbe, skaleerimise, seire ja väljundi valideerimise eest.

Millal valida olmOCR-2-7B-1025?

Vali olmOCR-2-7B-1025 siis, kui keskne ülesanne on keerukate ingliskeelsete PDF-lehtede struktureeritud tekstiks teisendamine ning soovid avatud kaaludega mudelit, mida saab ise majutada või peenhäälestada. See sobib eriti hästi otsitavate arhiivide, teadusartiklite töötlemise, juurdepääsetavustööriistade, andmestike ettevalmistamise, juriidiliste dokumentide eraldamise, tabelite taastamise ja matemaatiliste dokumentide digiteerimise jaoks.

See on mõistlik valik ka siis, kui andmeid ei saa saata majutatud OCR-teenusepakkujale või kui meeskond peab töövoogu kohandama spetsialiseerunud dokumendikogu järgi. Kaasasolev tööriistakomplekt vähendab PDF-i renderdamiseks ja pakktöötluseks vajaliku taristu loomise mahtu.

Teistsugune lahendus võib olla sobivam juhul, kui ülesanne nõuab laialdast mitmekeelset OCR-i, üldotstarbelist pildimõistmist, vestlusabi, rangelt garanteeritud loomulikku JSON-vormingut või lihtsat hallatud API-t prognoositava päringupõhise hinnastusega. Üldine nägemis-keelemudel võib olla segaste visuaalsete ülesannete puhul paindlikum, samas kui tavapärast OCR-teenust võib standardiseeritud suuremahuliste tootmisvoogude puhul olla lihtsam kasutada. Kompromiss seisneb selles, et need alternatiivid võivad pakkuda vähem kontrolli, teistsuguseid privaatsusomadusi või nõrgemat tuge dokumendistruktuuridele, mille jaoks olmOCR-2-7B-1025 on loodud.

Litsents ja kavandatud kasutus

Mudeli kaalud on avaldatud Apache 2.0 litsentsi alusel. Ai2 kirjeldab mudelit teadus- ja haridusotstarbeliseks kasutamiseks vastavalt oma vastutustundliku kasutuse juhistele. Enne tootmises kasutuselevõttu peaksid kasutajad tutvuma kohaldatava litsentsi, vastutustundliku kasutuse nõuete, dokumentide privaatsuskohustuste ja töövoo jaoks vajaliku täpsuslävega.

Kokkuvõttes tuleks olmOCR-2-7B-1025 käsitleda pigem avatud dokumenditöötluskomponendi kui üldise AI-assistendina. Selle peamine tugevus on keerukate renderdatud lehtede teisendamine struktureeritud ja otsitavaks tekstiks, jättes juurutamise ja kohandamise kasutaja kontrolli alla.