Mis on OlmoEarth-v1_2-Small?
OlmoEarth-v1_2-Small on Allen Institute for Artificial Intelligence'i ehk üldtuntud nimega Ai2 pakutav Maa seire alusmudel. Alusmudel on eeltreenitud mudel, mida saab kasutada lähtekohana paljude spetsialiseeritud ülesannete jaoks, selle asemel et treenida mudel algusest peale ainult ühe rakenduse tarbeks.
Selle mudeli peamine väljund on õpitud representatsioon ehk sageli embedding'uks nimetatav vektor-esitus. Embedding on sisendpildi või pildijada arvuline kirjeldus, mida järgnevad tarkvarasüsteemid saavad kasutada klassifitseerimiseks, segmenteerimiseks, otsinguks, seireks või prognoosimiseks. Seetõttu on mudel mõeldud georuumiliste ja kaugseire töövoogude, mitte vestluse, teksti genereerimise või üldotstarbelise arutlemise jaoks.
Small-variant sisaldab visioonitransformaatoril põhinevas kodeerijas ligikaudu 36 miljonit parameetrit. Ai2 dokumentatsioon kirjeldab eraldi ka dekoodrit, milles on ligikaudu 7,4 miljonit parameetrit. Mudel kuulub OlmoEarth v1.2 perekonda ning seda esitletakse tõhusa võimalusena Maa seire andmetest tunnuste eraldamiseks.
Milliseid andmeid see töödelda suudab?
OlmoEarth-v1_2-Small on loodud töötama mitut tüüpi Maa seire sisendiga. Dokumentatsioonis nimetatud allikad hõlmavad Sentinel-1 radarpilte, Sentinel-2 optilisi pilte ja Landsati pilte. Mudel suudab töödelda ka piltide aegridu, võimaldades tarkvaral kirjeldada piirkonnas toimunud muutusi mitme vaatluse põhjal, selle asemel et käsitleda iga pilti eraldiseisva hetkepildina.
Laiem OlmoEarthi treenimisseadistus hõlmab täiendavaid geograafilisi ja keskkonnakihte, sealhulgas OpenStreetMapi, WorldCoverit, USDA Cropland Data Layerit, SRTMi kõrgusandmeid, WRI Canopy Height Map'i ja WorldCerealit. Need kihid annavad teavet, mida satelliidipikslid üksi ei pruugi sisaldada, näiteks maakattetüübid, kõrgus, teed, põllukultuuride kategooriad või taimkatte struktuur.
Praktilises mõttes toetab mudel multimodaalset sisendit, mis põhineb erinevatel kaugseire- ja georuumiliste andmete allikatel. Seda ei tohiks segi ajada tarbijatele mõeldud multimodaalse assistendiga, mis võtab vastu suvalisi fotosid, dokumente ja suuliselt esitatud küsimusi. Esitatud spetsifikatsioonides on nimetatud pildisisend, kuid selle kontrollpunkti puhul ei ole tuvastatud teksti-, heli- ega videosisendit.
Arhitektuur ja v1.2 muudatused
OlmoEarth-v1_2-Small kasutab ViT-Smalli konfiguratsiooni. ViT ehk Vision Transformer on visiooniarhitektuur, mis jagab pildid väiksemateks piirkondadeks ja õpib nendevahelisi seoseid. Selles mudelis on arhitektuur kohandatud kaugseireandmete ja pildijadade, mitte tavalise tarbijafotograafia jaoks.
Väljalase v1.2 kasutab absoluutsete positsioonikodeeringute asemel pöörlevaid positsioonikodeeringuid. Positsioonikodeeringud aitavad mudelil mõista, kus pildilaigud üksteise suhtes paiknevad. Ai2 kirjeldab v1.2 muudatust tõhususe parandamisena, mis eemaldab varasemate versioonide embedding'utes esinenud triibulised artefaktid. See on teenusepakkuja dokumenteeritud arhitektuurimuudatus, mitte selle lehega kaasnev sõltumatu võrdlustesti tulemus.
Smalli konfiguratsioon vahetab mudeli väiksema suuruse väiksemate ressursinõuete vastu võrreldes suurema alusmudeliga. Olemasolev uurimismaterjal ei sisalda selle konkreetse kontrollpunkti täielikku riistvaratestide võrdlust, latentsustabelit ega täpsuse võrdlustulemust. Seetõttu sõltub juurutamise kiirus pildi mõõtmetest, aegridade pikkusest, pakisuurusest, riistvarast, eeltöötlusest ja järgnevast ülesandest.
Milleks seda mudelit kasutatakse?
Mudeli keskne kasutusala on representatsiooniõpe: satelliidi- ja georuumiliste sisendite teisendamine tunnusteks, mida saab kasutada mõni teine mudel või analüüsitoru. Need tunnused võivad olla kasulikud siis, kui märgendatud andmeid on vähe ja meeskond soovib kaugseiremudeli algusest ülesehitamise asemel kohandada eeltreenitud kodeerijat.
- Satelliidiandmete embedding'ute eraldamine: Arvuliste tunnuste loomine piltide, asukohtade või piltide aegridade jaoks.
- Maakattetüüpide klassifitseerimine: Tugi mudelitele, mis määravad kategooriaid, näiteks mets, põllumaa, vesi või hoonestatud maa.
- Segmenteerimine: Tunnuste pakkumine mudelitele, mis märgendavad üksikuid piksleid või piirkondi.
- Põllumajandusanalüüs: Abi järgnevatele süsteemidele põllumaa, hooajaliste mustrite või keskkonnatingimuste uurimisel.
- Keskkonnaseire: Tugi taimkatte, maakasutuse, kõrgusega seotud mustrite ja ajas toimuvate muutuste analüüsile.
- Kaugseireuuringud: Avatud lähtekoha pakkumine optiliste, radari-, ajaliste ja kaardipõhiste andmetega tehtavateks katseteks.
Esitatud mudelikirje kohaselt toetatakse peenhäälestamist. Selles kontekstis tähendab peenhäälestamine eeltreenitud representatsiooni kohandamist konkreetse märgendatud andmestiku või ülesandega. Mudel ei ole iseenesest täielik segmenteerimis- ega klassifitseerimisrakendus; kasutajad peavad üldjuhul ise looma või valima järgneva ülesande kihi, eeltöötlustoru, hindamisprotsessi ja juurutussüsteemi.
Väljundid, arutlemine, kodeerimine ja tööriistad
OlmoEarth-v1_2-Small toodab peamiselt embedding'eid ja õpitud pildirepresentatsioone. See ei genereeri teksti, pilte, videot, heli, muusikat ega kõnet. Seetõttu ei sobi see loomulikus keeles küsimuste esitamiseks ja kirjaliku vastuse saamiseks, isegi kui selle sisenditoru suudab ühendada mitut tüüpi Maa seire teavet.
Tavapärase keelemudeli võimekused ei ole selle mudeli puhul asjakohased. Esitatud mudelikirje hindab kataloogi tarbeks arutlemis- ja kodeerimisvõimekuse minimaalseks, kuid neid väärtusi ei tohiks tõlgendada teenusepakkuja avaldatud võrdlustestide tulemustena. See kontrollpunkt ei ole arutlusmudel ega koodi genereeriv mudel. Samuti ei ole dokumenteeritud tööriistade kasutamise, funktsioonikutsete, veebotsingu, voogedastuse, partiiliidese, vahemällu salvestamise ega JSON-režiimi võimekust.
Selle mudeli kohta ei ole avaldatud kontekstiakent ega väljundi maksimaalset tokenite arvu. Need väljad on mõeldud peamiselt generatiivsete keelemudelite jaoks ega sobitu sujuvalt embedding-mudeliga. Tegelikud sisendipiirangud sõltuvad hoopis mudeli teostusest, toetatud pildimõõtmetest, ajaliste vaatluste arvust, saadaolevast mälust, eeltöötlusnõuetest ja laadimiskoodi konfiguratsioonist.
Kättesaadavus, litsents ja hinnastus
Ai2 avaldab mudeli kaalud Hugging Face'is OlmoEarth Artifact License'i alusel. Ametlik olmoearth_pretraini repositoorium pakub avatud lähtekoodiga koodi ja mudeli laadimise utiliite embedding'ute eraldamiseks ning järgnevaks peenhäälestamiseks. Ai2 märgib ka, et OlmoEarthi mudelid on juurutatavad OlmoEarth Platformi kaudu, kuigi platvormile juurdepääs ja partnerite kättesaadavus võivad erineda allalaaditavate kaalude kasutamise võimalustest.
OlmoEarth-v1_2-Smalli ametlikku avalikku majutatud järeldusteenuse hinda ei ole täpsustatud. Seetõttu ei ole teada ega kinnitatud mudeli sisend- või väljundtokeni hinda, kuutellimuse hinda ega standardset majutatud API tariifi. Kaalude allalaadimine ja käitamine võib siiski kaasa tuua taristukulusid, näiteks GPU-aega, salvestusruumi, andmeedastuse ja arendustöö kulusid. Need kulud on teenusepakkuja avaldatud mudelihinnast eraldi ning varieeruvad juurutuse põhjal märkimisväärselt.
Enne mudeli kommertskasutust või tootmissüsteemis kasutamist peaksid kasutajad tutvuma OlmoEarth Artifact License'i ja Ai2 vastutustundliku kasutuse nõuetega. Avaliku kontrollpunkti olemasolu ei tähenda iseenesest, et kõigil andmestikel, järgnevatel kasutusviisidel või juurutusstsenaariumidel oleksid ühesugused õigused.
Tugevused ja piirangud
OlmoEarth-v1_2-Smalli peamine tugevus on spetsialiseeritus. See on loodud Maa seire jaoks ning suudab esitada radar- ja optiliste satelliidipiltide, ajaliste vaatluste ning seotud geograafiliste kihtide teavet. Seetõttu sobib see kaugseire töövoogudesse paremini kui üldine arvutinägemis- või keelemudel, mida ei ole nende andmetüüpide põhjal treenitud.
Ligikaudu 36 miljoni parameetriga kodeerija muudab selle alusmudelipõhises töövoos suhteliselt kompaktseks valikuks. Väiksemat mudelit võib olla lihtsam salvestada, peenhäälestada ja juurutada kui suuremat alternatiivi, kuigi esitatud uurimismaterjal ei tõesta universaalset kiiruse- ega täpsuseelist. V1.2 positsioonikodeeringute muudatused on samuti nimetatud eelis, eelkõige tõhususe parandamise ja varasemate triibuliste artefaktide eemaldamise tõttu.
Piirangud on sama olulised. Mudel ei paku valmisrakendust, vestlusliidest, genereeritud aruannet ega ülesandespetsiifilist prognoosi ilma täiendava tarkvarata. Tulemused sõltuvad sensori valikust, ajalise katvuse ulatusest, geograafilisest jaotusest, eeltöötlusest, märgenditest ja peenhäälestamisest. Ühe piirkonna jaoks treenitud või kohandatud mudel ei pruugi teises piirkonnas või teistsugustes hooajalistes ja atmosfääritingimustes sama hästi toimida.
Selle kontrollpunkti kohta ei ole ka tavapärast keelemudeli teadmiste lõppkuupäeva, kontekstiakent, genereeritavate tokenite maksimaalse arvu seadistust ega avalikku majutatud API hinnastust. Need puuduvad väljad ei tähenda vestlusfunktsioonide puudulikku kirjeldust, vaid peegeldavad asjaolu, et OlmoEarth-v1_2-Small on Maa seire representatsioonimudel, mitte teksti genereerimise süsteem.
Millal valida OlmoEarth-v1_2-Small?
Valige OlmoEarth-v1_2-Small siis, kui projekt vajab satelliidipiltide või piltide aegridade jaoks avatud ja kaugseirele spetsialiseerunud kodeerijat ning meeskond on valmis mudelit kohapeal käitama või uurimistöövoogu integreerima. See sobib eriti hästi juhul, kui soovitud tulemuseks on embedding, mida kasutatakse hiljem klassifitseerimiseks, segmenteerimiseks, otsinguks või georuumiliseks prognoosimiseks.
Smalli konfiguratsioon võib olla praktiline lähtekoht siis, kui juurutusressursid on piiratud või kiire katsetamine on tähtsam kui suurima saadaoleva representatsioonimudeli kasutamine. Avatud kaalud ja laadimisutiliidid võivad olla kasulikud ka teadlastele, kes vajavad kontrollitavaid artefakte ja võimalust mudelit peenhäälestada, selle asemel et toetuda suletud majutatud teenusele.
Teistsugune lahendus võib olla sobivam siis, kui nõutakse loomuliku keele analüüsi, koodi genereerimist, interaktiivset küsimustele vastamist, piltide genereerimist, kõnet või hallatud API-t, mille teenusetaseme hinnastus on avaldatud. Kaugseirele spetsialiseerunud mudel võib olla eelistatav ka juhul, kui projekt vajab täpselt määratletud väljundit, dokumenteeritud piirkondlikku täpsust või tootmisvalmis segmenteerimis- ja klassifitseerimisteenust. Sellistel juhtudel tuleks OlmoEarth-v1_2-Smalli käsitleda aluskomponendina, mitte kogu rakendusena.
Kokkuvõte
OlmoEarth-v1_2-Small on kompaktne Ai2 Maa seire alusmudel, mis teisendab satelliidi- ja georuumilised vaatlused taaskasutatavateks tunnusteks. Selle väärtus seisneb kaugseirele spetsialiseerumises, mitme Maa seire allika toetamises, avatud levitamises ja sobivuses järgnevaks peenhäälestamiseks. Seda tuleks hinnata embedding'u- ja representatsioonimudelina, mitte vestlusroboti või generatiivse tehisintellekti süsteemina. Mudelit valivad meeskonnad peaksid kavandama ise vajaliku eeltöötluse, järgneva ülesande, taristu, hindamise ja litsentsi ülevaatamise.