Step 3.7 Flash

Mis on Step 3.7 Flash?

Step 3.7 Flash on vision-keelemudel, mille on loonud Hiinas tegutsev tehisintellektiettevõte Shanghai StepFun Intelligence Co., Ltd. Praktikas suudab see lugeda teksti, analüüsida pilte, arutleda nähtu üle ja anda tekstivastuseid, mida rakendus või agent saab kasutada. Selle eesmärk ei ole piltide genereerimine ega üldotstarbeline meedialoome. StepFun esitleb seda kiire mudelina süsteemidele, mis peavad teavet mõistma ning seejärel kasutama tööriistu, otsingut, koodi või muud tarkvara.

Mudel kasutab hõredat ekspertide segu ehk Mixture-of-Expertsi (MoE) arhitektuuri. Sellel on kokku ligikaudu 198 miljardit parameetrit, millest iga märgi ehk tokeni puhul on aktiivsed umbes 11 miljardit. See lahendus võimaldab mudelil omada suurt koguvõimekust, ilma et iga vastuse iga osa puhul tuleks läbi arvutada kõik parameetrid. Praktikas on mudel suunatud laiaulatusliku arutlusvõime ühendamisele suhteliselt suure teenindusläbilaskevõimega.

Step 3.7 Flash kuulub StepFuni praegusesse mudelivalikusse koos teiste teenustega, nagu Step 5 Preview ja Step 3.5 Flash. Need nimetused annavad kataloogile konteksti, kuid siin käsitletakse Step 3.7 Flashi: selle eripära on kiire, multimodaalne ja tööriistu kasutav töö, mitte visuaal- või helisisu loomine otse mudeli abil.

Põhispetsifikatsioonid ja toetatud modaalsused

256 000 tokeni suurune kontekstiaken on üks mudeli kasulikumaid spetsifikatsioone. Kontekstiaken näitab teksti ja muu toetatud sisendi hulka, mida mudel saab ühe päringu jooksul arvesse võtta, sealhulgas vestlust ja rakenduse edastatud materjali. See muudab Step 3.7 Flashi sobivaks suuremate koodihoidlate, pikkade tehniliste dokumentide, otsingutulemuste kogumike ja pikemate agendiseansside jaoks. Kontekstipiiri ei tohiks segi ajada vastuse maksimaalse pikkusega: StepFuni esitatud dokumentatsioon ei määra selle mudeli väljundtokenite maksimaalset arvu.

Step 3.7 Flash toetab piltide mõistmist, kuid selle loomulikku pildi-, video-, heli-, muusika- ega kõneväljundit ei ole kinnitatud. Seetõttu tuleks seda käsitleda tekstiväljundiga mudelina, mille sisend võib olla multimodaalne. Rakendus võib edastada ekraanipildi, skannitud dokumendi, diagrammi või muu toetatud pildi ning saada selle kohta tekstilise tõlgenduse, kuid esitatud uuringud ei kinnita, et mudel ise looks valmis pildi-, video- või helifaili.

Arutlus, kodeerimine ja tööriistade kasutamine

StepFun dokumenteerib kolm valitavat arutlustaset: madal, keskmine ja kõrge. Need seaded võimaldavad rakendusel tasakaalustada vastuse töötlemiseks kuluvat pingutust ja tõenäolist latentsust ülesande keerukusega. Madalam tase võib sobida tavapäraseks andmete eraldamiseks või lihtsaks klassifitseerimiseks, kõrgem tase aga mitmeastmeliseks analüüsiks, keerukateks kodeerimisülesanneteks või agendile, kes peab otsustama, kuidas mitme tööriistakutse kaudu edasi liikuda. Esitatud uuringutes ei täpsustata iga tasemega seotud täpset sisemist käitumist ega tokenieelarvet, mistõttu ei tohiks neid seadeid tõlgendada standardiseeritud arutlusskooridena.

Mudel on eelkõige suunatud kodeerimisagentidele. Seda saab kasutada lähtekoodi uurimiseks, vea selgitamiseks, muudatuste pakkumiseks, kasutajaliidese ekraanipildi tõlgendamiseks või automatiseeritud süsteemi abistamiseks programmeerimisülesande kavandamisel. Tööriistade kasutamisele suunatus muudab selle asjakohaseks ka agentidele, mis kutsuvad otsinguteenuseid, koodi täitmiskeskkondi, dokumendisüsteeme või muid väliseid funktsioone. Mudel ei soorita neid väliseid toiminguid iseseisvalt; integreeriv rakendus peab tööriistad kättesaadavaks tegema, kutsed täitma ja tulemused mudelile tagastama.

StepFun ja sõltumatud tehnilised ülevaated positsioneerivad Step 3.7 Flashi otsingumahukate ja agentsete töövoogude jaoks. See hõlmab visuaalse mõistmise ühendamist veebi- või visuaalse otsinguga, leitud tõendite uurimist ja järgmise tegevuse määramist. Seetõttu on tööriistade tugi mudeli olemuse seisukohast olulisem kui lihtsalt sellele pildi kohta küsimuste esitamine. Täieliku agendi kvaliteet sõltub siiski ka ümbritsevate tööriistade määratlustest, õigustest, otsingusüsteemist ja kaitsemeetmetest.

Kiiruse ja hinna kompromissid

StepFuni ametlikud materjalid kirjeldavad läbilaskevõimet kuni 400 tokenit sekundis. Tegemist on pakkuja väitega, mitte iga konto või juurutuse puhul garanteeritud tulemusega. Tegelik kiirus võib varieeruda sõltuvalt riistvarast, samaaegsete päringute arvust, viiba pikkusest, arutlustasemest, pilditöötlusest, võrguoludest ning sellest, kas mudelit kasutatakse API kaudu või kohapeal.

Loetletud API-hinnad on järgmised:

• Sisendi vahemälupuudujääk: 0,20 dollarit 1 miljoni tokeni kohta.
• Sisendi vahemälutabamus: 0,04 dollarit 1 miljoni tokeni kohta.
• Väljund: 1,15 dollarit 1 miljoni tokeni kohta.

Vahemällu salvestatud sisendi hind on oluline rakenduste puhul, mis saadavad korduvalt samu pikki juhiseid, skeeme, dokumentatsiooni või agendi konteksti. Vahemälutabamus on vahemälupuudujäägist märgatavalt odavam, kuid arendajad ei tohiks eeldada, et iga korduv päring sellele tingimusele vastab. Väljundi hind on mõlemast sisendi hinnast kõrgem, seega peaksid pikki selgitusi või mahukat koodi genereerivad süsteemid jälgima väljundi mahtu.

Esitatud ametliku hoidla ja mudelikaardi teabe kohaselt on mudel saadaval ka avatud kaaludega väljalaskena BF16-, FP8-, NVFP4- ja GGUF-vormingus Apache 2.0 litsentsi alusel. Kohapealne juurutus võib pakkuda andmekäitluse ja taristu üle suuremat kontrolli, kuid 198 miljardi parameetriga mudel nõuab endiselt märkimisväärseid riistvara- ja käitamisressursse, isegi kui iga tokeni puhul on aktiivsed vaid osa parameetreid. Uuringutes ei esitata minimaalset riistvarakonfiguratsiooni, mistõttu ei tohiks eeldada, et mõni konkreetne laua- või serveriarvuti suudab seda tõhusalt käitada.

Peamised tugevused

• Kiire töö agentidele: Mudel on selgelt suunatud suure läbilaskevõimega kasutuseks ning pakkuja väitel võib selle kiirus ulatuda kuni 400 tokenini sekundis.
• Pikk kontekst: 256 000 tokeni suurune kontekstiaken on kasulik suurte dokumentide, koodibaaside, otsingutulemuste ja pikemate töövoogude puhul.
• Piltide mõistmine: Mudel suudab ühendada visuaalse sisendi teksti põhise arutlusega, mis on kasulik ekraanipiltide, dokumentide, diagrammide ja kasutajaliideste puhul.
• Tööriistade ja otsingu kasutamine: See on mõeldud süsteemidele, mis hangivad teavet, kutsuvad funktsioone ja täidavad mitmeastmelisi ülesandeid, mitte ainult vestluslike vastuste koostamiseks.
• Paindlik juurutus: Kasutajad pääsevad mudelile ligi StepFuni API-ökosüsteemi kaudu või saavad iseseisvalt hallatava juurutuse jaoks hinnata avatud kaaludega väljalaskeid.
• Reguleeritav arutlus: Madal, keskmine ja kõrge arutlustase pakuvad praktilise võimaluse kohandada töötlemisvõimsust eri töökoormuste järgi.

Need tugevused muudavad mudeli eriti sobivaks kodeerimisabilistele, visuaalsetele tarkvaraagentidele, dokumenditöötluse töövoogudele, uurimissüsteemidele ja rakendustele, mis peavad töötlema suurt hulka päringuid kontrollitud kuludega.

Piirangud ja vastuseta küsimused

Step 3.7 Flash ei ole universaalne meediamudel. Esitatud dokumentatsioon kinnitab piltide mõistmist ja tekstiväljundit, kuid mitte loomulikku pildi-, video-, heli-, muusika- ega kõne genereerimist. Toode, mis peab mudeli abil looma valmismeediat, peaks kasutama spetsiaalset generatiivset mudelit või eraldi mudelit laiemas töövoos.

Selle väljundi maksimaalset tokenite arvu ei ole esitatud allikates autoriteetselt dokumenteeritud. See on oluline rakenduste puhul, mis peavad tagama kindla vastuse suuruse, eriti koodi genereerimisel ja pikkade aruannete koostamisel. Arendajad peaksid kontrollima platvormi ajakohast dokumentatsiooni ja kehtestama oma rakenduse tasandil piirangud, mitte eeldama, et 256 000 tokeni suurune kontekstiaken kirjeldab vastuse maksimaalset pikkust.

Esitatud uuringud ei kinnita ka mudeli peenhäälestuse, partiilise API, struktureeritud väljundi ega JSON-režiimi tuge. Mudelit võib olla võimalik struktureeritud rakenduste töövoogudes kasutada viipade või platvormifunktsioonide abil, kuid ilma ajakohase dokumentatsioonita ei tohiks neid võimalusi käsitleda kinnitatud mudelispetsifikatsioonidena.

Lõpuks ei muuda avatud kaaludega kättesaadavus juurutust lihtsaks. Mudeli parameetrite koguarv on suur ning sobivaim vorming, kvantimise tase, riistvaralahendus ja teeninduskiht sõltuvad kasutaja vajadustest. API kaudu kasutamine on tõenäoliselt lihtsam meeskondadele, kes ei soovi järeldustaristut hallata.

Millal valida Step 3.7 Flash?

Vali Step 3.7 Flash siis, kui töökoormus saab kasu kiire tekstigeneratsiooni, piltide mõistmise, pika konteksti, kodeerimise ja väliste tööriistade kombinatsioonist. Sobivad näited on agent, mis vaatab üle ekraanipilte ja muudab koodi; uurimisabiline, mis otsib teavet ja teeb kokkuvõtteid suurtest tõendikogumitest; dokumenditöövoog, mis loeb lehti ja eraldab otsuseid; või tarkvaraagent, mis peab funktsioone kutsudes säilitama mahukat töökon­teksti.

See on tugev kandidaat ka siis, kui oluline on sisendi hind ja konteksti korduvkasutamine. Vahemälutabamuse hind on vahemälupuudujäägi hinnast madalam, mis võib olla kasulik rakendustele, mis kasutavad uuesti pikki süsteemiviipasid või lähtematerjale. Avatud kaaludega väljalasked võivad sobida organisatsioonidele, kes vajavad suuremat kontrolli juurutuse üle, eeldusel et neil on võimalik pakkuda sobivat taristut.

Mõni teine võimalus võib olla sobivam siis, kui ülesanne on peamiselt pildi-, video-, heli-, muusika- või kõne genereerimine; kui odavaks kohapealseks käitamiseks on vaja väikest mudelit; või kui rakendus sõltub dokumenteeritud väljundi maksimaalsest pikkusest, peenhäälestusest, partiitöötlusest või struktureeritud väljundi garantiist, mida Step 3.7 Flashi puhul ei ole kinnitatud. Lihtsam tekstimudel võib olla eelistatav ka tavapärase klassifitseerimise või andmete eraldamise puhul, kui piltide mõistmine ja agentne arutlus lisaksid tarbetut kulu või keerukust.

Kokkuvõte

Step 3.7 Flashi on kõige mõistlikum käsitleda kiire, avatud kaaludega vision-keelemudelina tööriistu kasutavatele süsteemidele. Selle ligikaudu 198 miljardi parameetri suurune kogumaht, 11 miljardi aktiivse parameetriga arhitektuur, 256 000 tokeni suurune kontekstiaken, valitavad arutlustasemed, pildisisend ja keskendumine kodeerimisagentidele annavad sellele selge rolli pika kontekstiga automatiseerimises. Peamine kompromiss seisneb selles, et mudeli võimekus keskendub mõistmisele ja tekstipõhiste töövoogude kaudu tegutsemisele, mitte tekstivälise meedia loomisele. Enne tootmislahenduse kavandamise otsust peaksid meeskonnad kontrollima ka platvormi ajakohaseid andmeid väljundipiirangute, struktureeritud vastuste, peenhäälestuse ja partiilise juurdepääsu kohta.