OlmoEarth-v1-Large

Mis on OlmoEarth-v1-Large?

OlmoEarth-v1-Large on Allen Institute for AI välja töötatud avatud Maa-vaatluse alusmudel. See kasutab vision transformer’it ehk visuaalandmete analüüsimiseks loodud närvivõrguarhitektuuri, et õppida satelliidipiltidest ja piltide aegridadest esitusi. Neid esitusi saab seejärel kasutada teistes mudelites või konkreetse ülesande jaoks loodud süsteemides.

Mudel ei ole vestluspõhine tehisintellektiassistent ega genereeri tavalisi kirjalikke vastuseid. Selle peamine väljund on embedding ehk arvuline esitus pildist või pildijadast, mis sisaldab kasulikku teavet vaatluste võrdlemiseks, klassifikaatorite treenimiseks, piirkondade segmenteerimiseks või georuumiliste ennustussüsteemide loomiseks.

Ai2 määratleb OlmoEarth-v1-Large’i algse OlmoEarth v1 perekonna liikmena koos Nano, Tiny ja Base’i variantidega. See on selle perekonna suurim kontrollpunkt. Hilisemad OlmoEarth v1.1 ja v1.2 väljalasked kuuluvad eraldi mudeliperekondadesse ning neid ei tohiks käsitleda selle konkreetse kontrollpunkti aliase ega uuendusena.

Arhitektuur ja treenimisviis

Kontrollpunkt sisaldab ligikaudu 308 miljonit kodeerija parameetrit ja 53 miljonit dekoodri parameetrit. Kodeerija on komponent, mis tegeleb kõige otsesemalt satelliidivaatlustest kasulike tunnuste eraldamisega, samal ajal kui kodeerija-dekoodri treenimisviis aitab mudelil õppida osaliselt maskeeritud sisendite ja nendega seotud ennustussihtmärkide põhjal.

OlmoEarth-v1-Large’i treenimisel kasutati maskeeritud pildimodelleerimist ja kontrastiivõppe eesmärke. Maskeeritud pildimodelleerimise korral peidetakse osa sisendist ning mudel õpib selle kohta teavet tuletama. Kontrastiivne õpe suunab mudelit looma seotud vaatluste jaoks sobivalt sarnaseid või erinevaid esitusi. Koos peaksid need eesmärgid looma taaskasutatavaid tunnuseid, mitte piirduma ühe märgendatud ülesande kitsa ennustamisega.

Treenimisviis ühendab kolm olulist Maa-vaatluse andmeallikat: Sentinel-1, Sentinel-2 ja Landsat. Sentinel-1 annab radarmõõtmisi, samas kui Sentinel-2 ja Landsat pakuvad optilist ja multispektraalset teavet. Mudel kasutab ennustussihtmärkidena ka eri aegadel kogutud vaatlusi ja tuletatud geograafilisi andmekihte. Selline multimodaalne ja mitmeajaline ülesehitus on kasulik siis, kui ülesanne sõltub nii pildil nähtavast kui ka sellest, kuidas asukoht aja jooksul muutub.

Toetatud sisendid ja väljundid

Peamised toetatud sisendid on Sentinel-1, Sentinel-2 ja Landsati kujutised ning nende vaatlustel põhinevad piltide aegread. Praktilises mõttes peavad kasutajad satelliidiandmed ette valmistama viisil, mis vastab mudeli eeldustele sensori, ruumiliste, spektraalsete ja ajaliste parameetrite kohta. Eeltöötlus ja valimi moodustamise valikud võivad jõudlust märkimisväärselt mõjutada.

OlmoEarth-v1-Large loob õpitud pildiesitusi ja embedding’eid, mida saab kasutada järgnevates süsteemides. See ei loo algupäraselt teksti, genereeritud pilte, heli, videot, kõnet ega muusikat. Samuti ei ole selle kohta teatatud vestluskonteksti akent ega teksti maksimaalset väljundipiirangut, sest see ei ole keelemudel ega paku tavapärast märgendipõhist genereerimisliidest.

Milleks seda kasutada saab?

Mudel on mõeldud taaskasutatava esituse õppimise komponendina Maa-vaatluse süsteemides. Kasutaja saab satelliidivaatlustest eraldada embedding’id ja edastada need järgmisele klassifikaatorile, segmenteerimismudelile, otsingusüsteemile või georuumilise analüüsi töövoole. Mudelit saab kohandada ka konkreetse ülesande jaoks, kui saadaval on märgendatud andmed ja sobiv treenimistaristu.

• Maakatte ja maakasutuse klassifitseerimine: maastiku või inimtegevuse kategooriate eristamine satelliidiandmetest tuletatud tunnuste abil.
• Segmenteerimine ja kaardistamine: geograafiliste piirkondade ja objektide tuvastamine või piiritlemine.
• Põllumajandusanalüüs: põllukultuuridega seotud klassifitseerimis- ja seireprotsesside toetamine.
• Ökosüsteemide ja keskkonna seire: geograafiliste tingimuste ja nende muutumise analüüsimine aja jooksul.
• Muutuste analüüs: eri kuupäevadel tehtud vaatluste võrdlemine, et aidata tuvastada olulisi muutusi.
• Embedding’ute põhine otsing: satelliidipiltide arvuline esitamine, et sarnaseid vaatlusi saaks leida või rühmitada.
• Georuumiline peenhäälestus: eeltreenitud esituse kohandamine valdkonnaspetsiifilise ennustusülesande jaoks.

Need on embedding’utele keskendunud kaugseiremudeli sobivad kasutusjuhud. Neid ei tohiks segi ajada väitega, et kontrollpunkt suudab iseseisvalt läbida kogu tootmistaseme töövoo. Vaja võib minna järgmise etapi ülesandekihti, peenhäälestust, eeltöötlusvoogu või eraldi georuumilist rakendust.

Peamised tugevused ja kompromissid

OlmoEarth-v1-Large’i kõige olulisem tugevus on selle spetsialiseeritus. Selle asemel et käsitleda satelliidiandmeid tavaliste piltidena, on mudel treenitud eri sensorite ja ajavahemike Maa-vaatluse sisenditega. Radari-, optilised ja ajaloolised vaatlused võivad anda asukoha kohta erinevat teavet, mistõttu võib see ülesehitus olla georuumiliste esituste õppimisel kasulikum kui üldine arvutinägemismudel, mida ei ole võrreldavate andmetega treenitud.

Selle suurus on veel üks praktiline eelis algses OlmoEarth v1 perekonnas. Ligikaudu 308 miljoni parameetriga kodeerija pakub suuremat esituse õppimise võimekust kui väiksemad Nano, Tiny ja Base’i variandid. Kompromiss seisneb selles, et suurem kontrollpunkt nõuab käitamiseks või peenhäälestuseks üldjuhul rohkem mälu ja arvutusressursse. Esitatud uuring ei sisalda võrdlustabelit, mis mõõdaks nende variantide kiiruse või täpsuse erinevust, seega oleks konkreetse jõudluseelise väitmine kontrollimata.

Toimetuslikust vaatenurgast on seda mudelit kõige parem käsitleda suure võimekusega valikuna nõudlike Maa-vaatluse embedding’u- ja peenhäälestustöövoogude jaoks, millega kaasnevad suuremad riistvara- ja töökorralduslikud nõuded. Esitatud võimekusskoorid hindavad selle kavandatud kasulikkust kaugseires kõrgelt, kuid need skoorid on toimetuslikud hinnangud, mitte teenusepakkuja avaldatud võrdlustulemused.

Millal valida OlmoEarth-v1-Large?

Vali OlmoEarth-v1-Large siis, kui põhiprobleem hõlmab satelliidipilte, eriti juhul, kui töövoog saab kasu mitmest sensorist, korduvatest vaatlustest ja eeltreenitud esitusest. See on tugev kandidaat meeskondadele, kes vajavad suurt kaugseirekodeerijat klassifitseerimiseks, segmenteerimiseks, keskkonna kaardistamiseks või embedding’ute eraldamiseks ning on valmis korraldama mudeli käitamist ja järgmise etapi ülesannete arendamist.

Selle avatud mudelina levitamine on oluline ka siis, kui organisatsioon vajab kontrollpunkti ja treenimisressursside kasutamist, mitte tavapärast majutatud keelemudeli API-t. Ai2 pakub mudelit oma ametliku Hugging Face’i organisatsiooni kaudu koos treeningukoodi, hindamisressursside, juhendmaterjalide ja OlmoEarth Platformi kaudu kasutamise võimalusega.

Väiksem OlmoEarth v1 kontrollpunkt võib olla sobivam siis, kui riistvara võimekus, järeldamise kiirus või käitamiskulu on tähtsam kui algse perekonna suurim saadaolev esituse maht. Uuring kinnitab Nano, Tiny ja Base’i variantide olemasolu, kuid ei paku piisavalt võrdlusmõõtmisi, et valida nende seast kindla täpsus- või latentsusläve põhjal.

Üldotstarbeline nägemismudel võib olla parem valik tavaliste fotode või piltide genereerimise jaoks, samas kui keelemudel sobib paremini vestluseks, koodi genereerimiseks, dokumentide töötlemiseks või teksti väljundiks. OlmoEarth-v1-Large ei asenda neid mudelitüüpe. Ka Maa-vaatluse valdkonnas võib mõni teine mudel olla eelistatum, kui selle andmekate, eeltöötlusnõuded, litsents, ülesandespetsiifilised võrdlustulemused või juurutusvorming sobivad projektiga paremini.

Hind, juurdepääs ja litsents

Esitatud teabe põhjal ei ole OlmoEarth-v1-Large’i jaoks ametlikku majutatud tokenipõhist hinnastust. Kontrollpunkti levitatakse avatud mudelina, mistõttu erineb selle kulustruktuur tüüpilisest API-mudelist, mille puhul arvestatakse sisend- ja väljundtokenite põhiseid tasusid. Kasutajatel võivad tekkida taristukulud salvestusruumi, riistvara, järeldamise, peenhäälestuse või platvormile juurdepääsu eest. OlmoEarth Platformi suhtes võivad kehtida eraldi tingimused.

Mudelit levitatakse OlmoEarth Artifact License’i alusel. Esitatud uuring märgib konkreetselt piiranguid, mis on seotud sõjaliste, kaitsevaldkonna ja kaevandustööstuse rakendustega. Organisatsioonid peaksid litsentsi enne juurutamist läbi vaatama, mitte eeldama, et avatud kontrollpunkti kättesaadavus lubab igasugust kaubanduslikku või operatiivset kasutust.

Piirangud ja juurutamisel arvestatavad asjaolud

OlmoEarth-v1-Large ei paku üldotstarbelist majutatud vestlus-API-t, standardset tokenipõhist kontekstiakent ega tavapärast keelemudeli väljundipiirangut. See ei suuda loomulikus keeles küsimustele otse vastata, väliseid tööriistu kutsuda, genereeritud pilte tagastada ega kõnet algupärase vestlussüsteemina töödelda.

Selle praktilised tulemused sõltuvad enamast kui parameetrite arvust. Tulemust võivad mõjutada sensori eeltöötlus, ruumiline eraldusvõime, ajaline valim, geograafiline katvus, järgmise etapi ülesande ülesehitus, riistvara ja olemasolevate märgendatud andmete hulk. Embedding on kasulik vahepealne esitus, mitte täielik rakendus ega garanteeritud ennustus.

Kasutajad peaksid arvestama ka mudeli arvutusnõudlikkusega. Suur kontrollpunkt võib olla piiratud võimalustega servariistvara või suure läbilaskevõimega töövoogude jaoks ebasobiv, kui väiksem mudel pakub vastuvõetavat kvaliteedi ja kulu tasakaalu. Esitatud allikad ei määra universaalset mälunõuet, järeldamise kiirust, pildi maksimaalset suurust ega toetatud aegrea pikkust, mistõttu tuleks need väärtused enne rakendamist ametlikust mudelidokumentatsioonist üle kontrollida.

Kokkuvõte

OlmoEarth-v1-Large on spetsialiseeritud suuremahuline alusmudel satelliidipiltide esituse õppimiseks. Selle väärtus seisneb Sentinel-1, Sentinel-2 ja Landsati vaatluste, sealhulgas mitmeajaliste andmete põhjal õppimises ning nende õpitud tunnuste kättesaadavaks tegemises georuumiliste ülesannete jaoks. See sobib kõige paremini meeskondadele, kes loovad Maa-vaatluse klassifikaatoreid, segmenteerimissüsteeme, kaardistamisvahendeid, keskkonnaanalüüse või embedding’u-töövooge. See ei sobi juhul, kui nõutav on teksti genereerimine, vestluslik suhtlus, meedia genereerimine või tavapärane kasutuspõhine LLM API.