Mis on Qwen3.5-397B-A17B?
Qwen3.5-397B-A17B on Alibaba Qweni meeskonna välja töötatud natiivne visuaal-keelemudel. Praktilises kasutuses suudab see töödelda teksti koos piltide ja videoga ning vastata tekstina. Mudel on mõeldud üldiseks keele mõistmiseks, süvendatud arutlemiseks, programmeerimiseks, visuaalseks analüüsiks, video mõistmiseks, graafilise kasutajaliidesega suhtlemiseks, funktsioonikutseteks ja agentpõhisteks töövoogudeks.
Mudelil on kokku 397 miljardit parameetrit ning iga järeldussammu ajal aktiveeritakse ligikaudu 17 miljardit parameetrit. Parameetrid on õpitud arvulised väärtused, mis talletavad mudeli võimeid. Kuna Qwen3.5-397B-A17B kasutab hõredat ekspertide segu arhitektuuri, töötlevad iga tokenit kogu parameetrikomplekti asemel ainult valitud ekspertkomponendid. See vähendab aktiivset arvutuskoormust võrreldes tiheda 397 miljardi parameetriga mudeliga, kuid ei muuda mudelit väikeseks ega hõlpsasti kohapeal käitatavaks.
Qwen3.5-397B-A17B paikneb praeguse Qwen3.5 mudelivaliku suure ja võimekusele keskenduva otsa lähedal. Selle avatud kaaludega versioon on mõeldud arendajatele ja organisatsioonidele, kes vajavad juurutamisel suuremat kontrolli, samal ajal kui Alibaba Cloud Model Studio pakub hallatud lahendust kasutajatele, kes ei soovi taristut ise hallata.
Sisendviisid, väljund ja põhivõimed
Mudel toetab kolme sisenditüüpi: teksti, pilte ja videot. Selle natiivne väljund on tekst. See erinevus on oluline, sest Qweni ökosüsteemi kuuluvad ka tooted ja mudelid, mis suudavad luua pilte või videot, kuid Qwen3.5-397B-A17B ise ei genereeri natiivselt pildi-, video- ega helifaile.
- Tekst: keele mõistmine, genereerimine, arutlemine, kokkuvõtete tegemine ja analüüs.
- Pildid: visuaalsetele küsimustele vastamine ja pildipõhine arutlemine.
- Video: videosisu ja ajas laieneva visuaalse teabe analüüs.
- Kood: koodi genereerimine, selgitamine, ülevaatamine ja analüüs.
- Tööriistad: funktsioonikutsed ja agentidele suunatud töövood.
- Struktureeritud vastused: Alibaba Cloud Model Studio loetleb hallatud versiooni puhul struktureeritud väljundid toetatud funktsioonina.
- Veebiotsing: saadaval Model Studio teenuse kaudu, mitte avatud kaaludega kontrollpunkti loomupärase võrguühenduseta väljundiviisina.
Näiteks võib juurutus võtta vastu ekraanipildi ja kirjaliku juhise, tuvastada kasutajaliidese elemendid, selgitada nähtut ning tagastada tekstilise vastuse või funktsioonikutse järgmisele rakendusele. Videoanalüüsi töövoos võib mudelil paluda kirjeldada sündmusi või vastata salvestist puudutavatele küsimustele. Esitatud dokumentatsioon toetab selliseid kasutusviise, kuid tegelik jõudlus sõltub teenindusraamistikust, viibast, sisendi kvaliteedist ja juurutuse konfiguratsioonist.
Arutlemise ja programmeerimise jõudlus
Qwen3.5-397B-A17B on loodud loogiliseks ja süvendatud arutlemiseks, mitte ainult lühikesteks vestlusvastusteks. Selle suur maht ja multimodaalne ülesehitus muudavad selle sobivaks ülesannetele, mis ühendavad mitu tõlgendamisetappi, näiteks visuaalse dokumendi uurimise, asjakohase teabe väljavõtmise, tõendite võrdlemise ja struktureeritud vastuse koostamise.
Programmeerimine on teine oluline kasutusvaldkond. Mudel suudab koodi genereerida ja analüüsida, selgitada rakendusotsuseid ning osaleda tööriistapõhistes arendustöövoogudes. Funktsioonikutsed võimaldavad rakendusel teha mudelile kättesaadavaks toiminguid, mida see võib taotleda, näiteks andmete hankimine või välise teenuse kasutamine. Funktsioonikutsed ei ole siiski automaatselt alati usaldusväärsed. Rakendused peaksid argumente valideerima, õigusi jõustama ning käsitlema genereeritud koodi ja toiminguid kontrollimata sisendina, kuni need on üle vaadatud.
Uurimuses antakse arutlemisele ja programmeerimisele toimetuse hinnanguks 9 punkti 10-st. Need on selle kataloogi hindamisele suunatud hinnangud, mitte Alibaba avaldatud tulemused ega üheainsa võrdlustesti põhjal saadud skoorid. Need näitavad, et mudel kuulub neis valdkondades suure jõudlusega valikute hulka, kuid tegelikud tulemused sõltuvad ülesandest.
Arhitektuur ja kontekstiaken
Mudel ühendab visioonikodeerija hübriidarhitektuuriga, mis põhineb väravatega delta-võrkudel ja väravatega tähelepanul. Samuti kasutab see hõredat ekspertide segu marsruutimist. Ametliku mudeliteabe kohaselt on mudelil 512 eksperti, millest iga tokeni puhul aktiveeritakse 10 marsruuditud eksperti ja üks jagatud ekspert.
Selle natiivne kontekstiaken on 262 144 tokenit. Kontekstiaken tähistab ühes päringus töödeldava sisendi ja genereeritud vestlussisu mahtu, mida mõõdetakse sõnade asemel tokenites. See on piisavalt suur pikkade dokumentide, mahukate koodibaaside, pikkade vestluste ja multimodaalse analüüsi jaoks, arvestades konkreetse juurutuse piiranguid.
Hostitud Model Studio teenuse puhul on dokumenteeritud sisendi maksimaalne pikkus 260 096 tokenit ja väljundi maksimaalne pikkus 65 536 tokenit. Avatud kaaludega versiooni dokumentatsioon kirjeldab ka võimalikku laiendust ligikaudu 1,01 miljoni tokenini. Seda suuremat näitajat ei tohiks käsitleda vaikeseadena: selleks on vaja ühilduvat teenindusvirna ja konfiguratsiooni ning seda tuleb kavandatud keskkonnas valideerida. Praktiline lähtekoht on seega natiivne 262 144 tokeni suurune kontekst.
Ise hostimine ja hallatud kättesaadavus
Kanooniline avatud kaaludega hoidla asub Hugging Face'is aadressil Qwen/Qwen3.5-397B-A17B. Mudel on välja antud Apache 2.0 litsentsi alusel, mis võimaldab laialdast kasutust, järgides litsentsi tingimusi ning kohaldatavaid õiguslikke või kasutusnõudeid. Dokumentatsioon nimetab ühilduvust Transformers'i, vLLM-i, SGLang-i ja nendega seotud teenindusraamistikega.
Ise hostimine annab kontrolli taristu, juurutuse käitumise ja andmekäitluse üle. Sellega kaasnevad aga märkimisväärsed kulud. Hoidla suurus on ligikaudu 807 GB ning praktiliseks täpsusarvutuseks või kvaliteetseks järeldamiseks on vaja spetsiaalset mitme GPU-ga riistvara, piisavalt salvestusruumi, elektrit, jahutust ja haldusalast pädevust. Kvantimine ja käitusaegsed seaded võivad ressursinõudeid muuta, kuid esitatud uuring ei määra kindlaks universaalset minimaalset riistvarakonfiguratsiooni.
Alibaba Cloud Model Studio pakub hallatud hostitud versiooni identifikaatoriga qwen3.5-397b-a17b. Hostitud teenus toetab juurutusi Pekingis, Singapuris, Frankfurdis ja Virginias, arvestades piirkondlikku kättesaadavust ja teenusepõhiseid piiranguid. Hallatud hostimine vähendab suurt osa taristukoormusest, kuid toob kaasa teenusepakkuja hinnastamise, piirkondliku teenusesõltuvuse ja konkreetse Model Studio pakkumise piirangud.
Hostitud kasutuse hinnad ja kulude kompromissid
Alibaba avaldab Model Studio tokenipõhise hinnastamise. Pekingi, Frankfurdi ja Virginia piirkonnas maksavad kuni 128K sisendtokeniga päringud 0,172 dollarit miljoni sisendtokeni ja 1,032 dollarit miljoni väljundtokeni kohta. Sisendite puhul, mille pikkus ületab 128K tokenit, kuid jääb kuni 256K tokeni piiresse, tõusevad hinnad vastavalt 0,43 dollarini miljoni sisendtokeni ja 2,58 dollarini miljoni väljundtokeni kohta.
Singapur on loetletud eraldi hinnaga 0,60 dollarit miljoni sisendtokeni ja 3,60 dollarit miljoni väljundtokeni kohta. Need on kasutuspõhised hinnad, mitte korduv tellimustasu, ning kogumaksumust mõjutavad oluliselt piirkond ja sisendi pikkuse hinnatase. Sisenditase põhineb päringu suurusel; väljundi hind kehtib genereeritud tokenitele.
Ise hostimine väldib Alibaba tokenipõhiseid järeldamistasusid, kuid ei ole tasuta. Riistvara ostu või rentimise, salvestusruumi, elektri, võrguühenduse, hoolduse ja arendustöö kulud võivad väikese või ebaregulaarse koormuse puhul ületada hostitud tokenite maksumuse. Seevastu organisatsioonid, kellel on sobiv kiirendiriistvara ja suur, prognoositav kasutus, võivad väärtustada avatud kaaludega mudeli ise käitamisega kaasnevat kontrolli ja majanduslikku kasu.
Olulised piirangud ja hostitud versiooni toetamata funktsioonid
Peamine piirang on mudeli suurus. Qwen3.5-397B-A17B ei ole praktiline valik tavalise sülearvuti ega vähese mäluga kohaliku serveri jaoks. Kuigi iga tokeni puhul aktiveeritakse ainult osa mudelist, on kogu mudeli kaalud ja käitusaja mälunõuded endiselt väga suured.
Mudel väljastab ainult teksti. Seda ei tohiks valida juhul, kui vaja on natiivset pildi-, video- või heligeneratsiooni. Selliste väljundite jaoks oleks vaja eraldi genereerivat mudelit või laiemat rakenduse töövoogu.
Täpselt selle hostitud Model Studio mudeli puhul märgib esitatud loetelu konteksti vahemällu salvestamise, pakktöötluse ja peenhäälestuse toetamata funktsioonideks. Need piirangud kehtivad sellele hostitud pakkumisele ega tõesta tingimata, et kõik kolmandate osapoolte või ise hostitud töövood oleksid võimatud. Need tähendavad siiski, et nende funktsioonide vajajad peaksid enne hallatud lõpp-punktiga liitumist alternatiivid üle kontrollima.
Pika konteksti tuge tuleb samuti hoolikalt tõlgendada. Natiivne kontekst on 262 144 tokenit, samas kui ligikaudu 1,01 miljoni tokeni suurune laiendus nõuab juurutusepõhist konfiguratsiooni. Pikem kontekst võib suurendada mälu- ja latentsusnõudeid ning uuring ei garanteeri laiendatud piirmäära juures sama kvaliteeti ega kättesaadavust.
Millal valida Qwen3.5-397B-A17B?
See mudel sobib hästi siis, kui ülesanne õigustab suurt multimodaalset arutlusmudelit ning juurutusmeeskond suudab katta selle taristu- või hostimiskulud. Kaaluge seda järgmiste kasutusviiside puhul:
- Keerukas pildi- ja video mõistmine koos keelepõhise arutlemisega.
- Pikkade dokumentide või koodi analüüs natiivse kontekstiakna piires.
- Multimodaalsed programmeerimisabilised ja graafilise kasutajaliidese agendid.
- Funktsioonikutsed, mille puhul suure võimekusega mudel peab tööriistu valima ja kasutama.
- Organisatsioonid, kes otsivad Apache 2.0 litsentsiga avatud kaaludega mudelit ise hostitud katseteks või tootmiseelseks hindamiseks.
- Töökoormused, mille puhul on kasulikud hallatud Model Studio funktsioonid, nagu struktureeritud väljundid ja veebiotsing.
Väiksem mudel on tõenäoliselt sobivam siis, kui väiksem latentsus, väiksem mälukasutus või odav suure mahuga genereerimine on maksimaalsest võimekusest olulisem. Kui vajalik tulemus on tekstilise selgituse asemel pildi-, video- või helifail, on parem valida natiivse meediageneratsiooniga mudel. Model Studio kaudu vahemällu salvestamist, pakktöötlust või peenhäälestust vajavate töövoogude puhul võib eelistada ka mõnda muud hostitud mudelit või teeninduslahendust.
Mudeli toimetuse kiiruseskoor on 6 punkti 10-st ja kuluskoor 8 punkti 10-st. Need on subjektiivsed kataloogihinnangud, mitte teenusepakkuja avaldatud mõõtmised. Need peegeldavad keskset kompromissi: hõre aktiveerimine võib parandada arvutuslikku tõhusust võrreldes sama kogusuurusega tiheda mudeliga, kuid 397 miljardi parameetriga kontrollpunkt nõuab siiski märkimisväärselt rohkem taristut kui väiksemad alternatiivid.
Kokkuvõte
Qwen3.5-397B-A17B on suur avatud kaaludega multimodaalne mudel kasutajatele, kes vajavad teksti, piltide ja video mõistmist koos arutlemise, programmeerimise ja tööriistade kasutamisega. Selle 397 miljardit parameetrit kokku, ligikaudu 17 miljardit aktiivset parameetrit, 262K suurune natiivne kontekst, Apache 2.0 litsents ja kättesaadavus hallatud Model Studio teenusena annavad sellele nii teadus- kui ka juurutuspaindlikkuse.
Selle tugevused on kõige olulisemad nõudlikes multimodaalsetes ja agentpõhistes töökoormustes. Puudused on sama selged: suured taristunõuded, ainult tekstiline väljund, piirkonnast sõltuv hostitud hinnastamine ning hostitud vahemällu salvestamise, pakktöötluse ja peenhäälestuse puudumine selle konkreetse mudeli puhul. Parim valik sõltub sellest, kas prioriteediks on maksimaalne multimodaalne võimekus ja kontroll juurutuse üle või väiksem, kiirem ja lihtsam mudel igapäevaste ülesannete jaoks.