Mis on OlmoEarth-v1_2-Nano?
OlmoEarth-v1_2-Nano on Allen Institute for AI ehk Ai2 pakutav avatud kaaludega Maa seire alusmudel. See on loodud kaugseire töövoogude jaoks ehk rakendustele, mis analüüsivad satelliitide või muude Maa vaatlussüsteemide kogutud pilte ja mõõtmisi.
Mudel ei ole vestlusrobot ega genereeri teksti. Selle peamine ülesanne on õppida georuumiliste andmete kasulikku arvulist esitust. Seejärel saab seda esitust kasutada klassifikaatoris, segmenteerimissüsteemis, sarnasuspõhises otsingutööriistas või mõnes muus järgmise etapi ülesandes. Praktilises mõttes aitab mudel muuta satelliidi toorvaatlused tunnusteks, mida spetsialiseeritud rakendus saab hõlpsamini kasutada.
OlmoEarth-v1_2-Nano on saadaval Ai2 Hugging Face’i organisatsiooni kaudu mudelinime OlmoEarth-v1_2-Nano all. Seda kirjeldatakse pilditunnuste eraldamise mudelina ning see kuulub OlmoEarth v1.2 perekonda. Selles perekonnas on Nano kompaktne konfiguratsioon, mis on mõeldud väiksemate kulude ja tõhusa juurutamise jaoks.
Peamine eesmärk ja koht OlmoEarthi perekonnas
Mudel on mõeldud esituste õppimiseks satelliidipiltide ja piltide aegridade põhjal. Esituse õppimine tähendab, et mudel teisendab keerukad sisendid vektoriteks ehk embedding’uteks, mis säilitavad hilisemaks analüüsiks kasulikku teavet. Neid vektoreid saab kasutada näiteks maakasutuse klassifitseerimiseks, viljaliikide tuvastamiseks, piirkondade kaardistamiseks, asukohtade võrdlemiseks või ajas toimuvate muutuste avastamiseks.
Võrreldes suuremate Maa seire mudelitega rõhutab Nano konfiguratsioon kompaktsust. Selle kodeerijas on ligikaudu 1,7 miljonit parameetrit ja dekodeerijas ligikaudu 800 000 parameetrit. Väike maht võib vähendada mälunõudeid ning muuta mudeli praktilisemaks katsetamiseks, suure läbilaskevõimega töötlemiseks või juurutamiseks olukordades, kus GPU-ressursid on piiratud.
Kompaktsel ülesehitusel on ka kompromissid. Nano on kasulik siis, kui töötlemise tõhusus on oluline, kuid seda ei tohiks käsitleda suuremate mudelite universaalse asendusena ega täieliku georuumilise rakendusena. Enamik tegelikke juurutusi vajab pärast tunnuste eraldamist endiselt ülesandespetsiifilist klassifikaatorit, dekooderit, ennustuspead või peenhäälestusprotseduuri.
Toetatud sisendid ja modaalsused
OlmoEarth-v1_2-Nano on Maa seire tähenduses multimodaalne: see suudab töötada mitut tüüpi georuumiliste andmetega, mitte ainult ühe tavalise fotoga. Dokumenteeritud sisendid ja treenimisel kasutatud modaalsused hõlmavad järgmist:
- Sentinel-2 L2A multispektraalsed kujutised
- Sentinel-1 radarkujutised
- Landsati kujutised
- WorldCoveri maakasutuse andmed
- SRTM-i kõrgusandmed
- OpenStreetMapi rasterandmed
- WRI Canopy Height Mapi andmed
- USDA Cropland Data Layeri andmed
- WorldCereali andmed
Sentinel-1 pakub radariinfot, Sentinel-2 ja Landsat aga multispektraalseid vaatlusi. Täiendavad kaardi- ja keskkonnakihid võivad eeltreenimise ajal toimida juhendavate signaalidena või pakkuda täiendavat geograafilist teavet. Täpne ettevalmistusprotsess on oluline: andmed tuleb esitada mudeli eeldatud modaalsusspetsiifilistes vormingutes, ribade järjekorras ja normaliseerimisskeemi järgi.
Konfiguratsioon toetab kuni 12 ajasammu pikkuseid jadasid. See on toetatud Maa vaatluste jada piirang, mitte keelemudeli kontekstiakna suurus. Seda tuleks seega mõista piltvaatluste ajalise sisendipiirina, mitte tekstimärkide arvuna. Esitatud spetsifikatsioonid ei määratle tavapärast märgipõhist konteksti pikkust ega genereeritava väljundi maksimaalset pikkust.
Kuidas mudel töötab?
OlmoEarth-v1_2-Nano kasutab ViT-Nano visioonitransformerit kodeerija-dekodeerija ülesehituses. Visioonitransformer jagab pildiinfo märkideks ja töötleb nendevahelisi seoseid. Selles mudelis esindavad märgid georuumiliste vaatluste osi, sealhulgas eri ribade ja ajasammude teavet.
Eeltreenimisel kasutatakse varjatud pildimodelleerimist varjatud märgiruumis. Lihtsustatult öeldes peidetakse osa sisendist ning mudel õpib puuduvat teavet taastama või esitama. Treenimisviis ühendab multimodaalsed ja ajalised sisendid rekonstrueerimis- ning kontrastiivsete eesmärkidega. Kontrastiivne õppimine suunab mudelit seostama seotud vaatluste esitusi sisuliselt, eristades samal ajal vähem seotud näiteid.
Versioon 1.2 sisaldab mitmeid dokumenteeritud muudatusi, mille eesmärk on parandada tõhusust ja esituste kvaliteeti. Nende hulka kuuluvad üks ribakomplekt modaalsuse kohta, juhuslik ribade eemaldamine Sentinel-2 ja Landsati puhul, mittelineaarne projektsioonikiht, ajas muutunud maskeerimine, täiendatud kontrastiivse kao käsitlemine ning pöörlevad positsioonikodeeringud. Ai2 tehnilistes materjalides kirjeldatakse, et need muudatused aitavad lahendada varasemates esitustes täheldatud triibulisi artefakte.
Väljundid ja järgmise etapi ülesanded
Peamine väljund on õpitud georuumiline esitus ehk embedding. Embedding on arvuline kokkuvõte, mida järgmise etapi süsteem saab kasutada, ilma et algne mudel peaks ise genereerima lõpliku inimesele arusaadava vastuse.
Mudeli ülesehitus toetab muu hulgas järgmisi võimalikke kasutusviise:
- Maakattetüüpide klassifitseerimine
- Viljaliikide klassifitseerimine
- Semantiline segmenteerimine ja georuumiline kaardistamine
- Keskkonna seire
- Muutuste tuvastamine eri kuupäevadel tehtud piltide vahel
- Kaugseireandmete otsing ja sarnasuspõhine otsing
- Satelliidistseenide või geograafiliste piirkondade klasterdamine
- Suurte alade tunnuste eraldamine hilisemaks statistiliseks analüüsiks
OlmoEarth-v1_2-Nano ei väljasta algupäraselt teksti, heli, videot ega genereeritud pilte. Selle väljundit on kõige parem mõista embedding’ute ja rekonstrueerimisega seotud esitustena. Kaardi, märgise, aruande või muu lõppkasutaja tulemuse loomiseks on vaja täiendavat tarkvara ja tavaliselt ka ülesandespetsiifilist mudelikomponenti.
Tugevused ja kompromissid
Kompaktne järeldamine
Kõige olulisem praktiline eripära on mudeli väike maht. Ligikaudu 1,7 miljoni kodeerija parameetri ja 800 000 dekodeerija parameetriga on see mõeldud suuremate alusmudelitega võrreldes väiksemate järeldamiskulude jaoks. See võib olla väärtuslik paljude stseenide töötlemisel, ideede katsetamisel tagasihoidlikul riistvaral või mudeli juurutamisel andmeallika lähedale.
Mitme allika ja ajaline analüüs
Mudel on loodud rohkem kui ühe satelliidiallika jaoks ning suudab töödelda kuni 12 ajasammuga pildijadasid. Seetõttu sobib see hooajaliste või keskkonnamuutuste jälgimiseks paremini kui süsteem, mida on treenitud ainult üksikute kuupäevade piltidel — eeldusel, et sisendandmed on õigesti ette valmistatud.
Avatud juurdepääs mudelile
Ai2 avaldab kontrollpunkti Hugging Face’i kaudu ning pakub sellega seotud treenimis- ja järeldamisressursse. See annab tehnilistele kasutajatele juurdepääsu allalaaditavatele kaaludele ja uurimiskoodile, ilma et oleks vaja kasutada varalist majutatud lõpp-punkti. Mudelit levitatakse Ai2 OlmoEarth Artifact License’i alusel ning enne selle kasutamist ärilises või muus piirangutega keskkonnas peaksid kasutajad tutvuma selle litsentsi ja Ai2 Responsible Use Guidelines’iga.
Olulised piirangud
Nano ei ole üldotstarbeline tehisintellektiassistent. Sellel puuduvad dokumenteeritud teksti genereerimise, programmeerimise, veebist otsimise, funktsioonikutsete ja tööriistade kasutamise võimekused. Mudelikataloogis esitatud arutlus- ja programmeerimistulemusi ei tohiks tõlgendada võrdlustulemuste ega pakkuja väidetena; need võimekused lihtsalt ei kuulu mudeli kavandatud kasutusvaldkonda.
Mudel ei kõrvalda ka georuumiliste andmete eeltöötlemise vajadust. Anduri kalibreerimise, geograafilise katvuse, pilvisuse, puuduvate ribade, koordinaatsüsteemide, ajalise joondamise ja normaliseerimise erinevused võivad mõjutada järgmise etapi jõudlust. Esitatud uurimused ei määra universaalset täpsusskoori iga klassifitseerimis- või segmenteerimisülesande jaoks, mistõttu tuleks tulemusi valideerida sihtpiirkonnas ja sihtrakenduses.
Hinnakujundus ja juurutamine
OlmoEarth-v1_2-Nano jaoks ei ole määratud ametlikku märgipõhist hinda, majutatud järeldamise hinda ega korduvat tellimustasu. Peamine juurdepääsumudel on avatud kontrollpunkti allalaadimine ja selle käitamine kasutaja hallatavas taristus, kuigi Ai2 laiema platvormi ja projektide kättesaadavus võib aja jooksul muutuda. Taristukulud sõltuvad seetõttu kasutaja riistvarast, majutusteenuse pakkujast, töötlemismahust ja eeltöötluskonveierist.
Kuna tegemist ei ole keelemudeli lõpp-punktiga, ei kohaldu tavalised API-mõõdikud, nagu sisendmärgid, väljundmärgid, voogedastus ja JSON-režiim. Olulised juurutamisaspektid on piltide ja aegridade töötlemise läbilaskevõime, mälukasutus, salvestusruum, andmeedastuse kulud ning mis tahes järgmise etapi ennustuspea jaoks vajalik arvutusvõimsus.
Millal valida OlmoEarth-v1_2-Nano?
Vali OlmoEarth-v1_2-Nano siis, kui vajad tõhusat allalaaditavat alusmudelit satelliidi- või georuumiliste andmete esituste õppimiseks. See on mõistlik lähtekoht meeskondadele, kes soovivad töödelda suuri pildikogumeid, katsetada Sentineli või Landsati andmetega, ehitada eeltreenitud tunnuste peale klassifikaatorit või vähendada Maa seire töövoo arvutuskulusid.
Selle kompaktne suurus on eriti oluline siis, kui läbilaskevõime ja kasutuskulud on tähtsamad kui suurima saadaoleva esitusmudeli kasutamine. See võib sobida ka uurimisrühmadele, kes hindavad avatud kaalusid, avaldatud treenimisressursse ja võimalust mudelit kohandada, selle asemel et tugineda teenusepakkuja hallatavale suletud lahendusele.
Muu lahendus võib olla sobivam juhul, kui ülesanne nõuab vestluslikke selgitusi, koodi genereerimist, dokumentide analüüsi, kõnetöötlust, piltide genereerimist või väliseid tööriistu kasutavat agenti. Suurem või spetsialiseeritum kaugseire mudel võib olla eelistatav ka siis, kui ülesande maksimaalne täpsus on kompaktsest järeldamisest olulisem, kuid esitatud uurimused ei paku otsest võrdlust nimeliselt välja toodud alternatiividega.
Kokkuvõte
OlmoEarth-v1_2-Nano on spetsialiseeritud ja kompaktne Maa seire kodeerija-dekodeerija, mitte üldotstarbeline generatiivne mudel. Selle väärtus seisneb eri allikatest pärinevate ja eri aegadel kogutud satelliidiandmete teisendamises taaskasutatavateks embedding’uteks suhteliselt väikese mudeli abil. Georuumilistele meeskondadele, kes suudavad hallata eeltöötlust ja lisada oma järgmise etapi ülesandekomponendid, pakub see tõhusat avatud kaaludega alust klassifitseerimiseks, kaardistamiseks, seireks ja ulatuslikuks kaugseireanalüüsiks.