Qwen3.5-35B-A3B

Mis on Qwen3.5-35B-A3B?

Qwen3.5-35B-A3B on Alibaba Qweni meeskonna avatud kaaludega multimodaalne mudel. See on natiivne visioon-keele mudel, mis tähendab, et pildi- ja videomõistmine on osa mudeli ülesehitusest, mitte ainult eraldi lisasüsteemi ülesanne. Mudel võtab sisendina vastu teksti, pilte ja videot ning genereerib tekstipõhiseid vastuseid.

Nimi kirjeldab selle segu ekspertidest (mixture-of-experts) ülesehituse mahtu: mudel sisaldab ligikaudu 35 miljardit parameetrit, kuid iga märgi puhul on aktiivsed ainult umbes 3 miljardit parameetrit. Praktikas on selle hõreda ülesehituse eesmärk pakkuda palju suurema mudeliga seostatavaid võimeid, vähendades samal ajal iga genereerimissammu jaoks vajalikku arvutustööd. 3B ei tähista mudeli kogumahtu; lokaalse juurutamise korral tuleb endiselt mahutada kogu kontrollpunkt ja arvestada selle käitusaja nõuetega.

Mudelit pakub Alibaba Qweni organisatsioon ning see on saadaval kahel peamisel kujul. Arendajad võivad kontrollpunkti Apache 2.0 litsentsi alusel alla laadida või kasutada hostitud versiooni Alibaba Cloud Model Studio kaudu. Allalaaditav ja hostitud versioon kuuluvad samasse mudeliperre, kuid juurutusnõuded, hinnastus, konfiguratsioon ja kasutamisega seotud vastutus on erinevad.

Arhitektuur ja kontekstiaken

Qwen3.5-35B-A3B kasutab hübriidarhitektuuri, milles on ühendatud Gated DeltaNeti lineaarne tähelepanu, väravastatud täistähelepanu ja hõre segu ekspertidest marsruutimine. Lineaarne tähelepanu on mõeldud pikkade järjestuste tõhusaks töötlemiseks, samal ajal kui täistähelepanu säilitatakse olukordadeks, kus üksikasjalikud märgi-märgi suhted on olulised. Segu ekspertidest suunab iga märgi väikese hulga saadaolevate ekspertide juurde, selle asemel et aktiveerida kõik parameetrid.

Ametlik mudeliteave kirjeldab 256 eksperti, millest iga märgi puhul aktiveeritakse kaheksa marsruuditavat eksperti ja üks jagatud ekspert. See arhitektuur selgitab mudeli suhteliselt väikest aktiivsete parameetrite arvu, kuid ei taga, et iga töökoormuse korral oleks kiirus või mäluprofiil samasugune.

Natiivne kontekst on 262 144 märki ehk 256K märki. Sellest piisab suurte dokumentide, ulatuslike koodibaaside, pikkade vestluste ja multimodaalse analüüsi jaoks, kui sisend jääb teenindussüsteemi toetatud piiridesse. Mudelikaart kirjeldab ka YaRN-i konfiguratsiooni, millega saab konteksti laiendada ligikaudu 1 010 000 märgini. See laiendus nõuab ühilduvat teeninduskonfiguratsiooni ning seda ei tohiks pidada iga hostitud lõpp-punkti või lokaalse paigalduse automaatseks piiriks.

Dokumenteeritud maksimaalne väljundi pikkus on 65 536 märki. Tegelikult kasutatav väljund võib siiski sõltuda valitud juurutusest, päringu seadetest, allesjäänud konteksti mahust ja teenusepoolsest piirangust.

Sisendid, väljundid ja põhivõimed

Selle multimodaalne võimekus on seega peamiselt mõistmisega seotud. Näiteks saab mudel analüüsida pilti, uurida video sisu, selgitada diagrammi või ühendada visuaalsed tõendid pika tekstipõhise juhisega. See ei genereeri natiivselt pilte, videot, heli, muusikat ega kõnet. Meediat genereeriva töövoo jaoks on vaja eraldi mudelit või teenust.

Arutlemine ja programmeerimine

Qwen3.5-35B-A3B on mõeldud arutlemiseks, programmeerimiseks ja tööriistu kasutavate agentide jaoks. Programmeerimise töövoos saab see aidata olemasolevat koodi selgitada, muudatusi välja pakkuda, uut koodi genereerida, teostuse üksikasju üle vaadata ja töötada pika tehnilise kontekstiga. Tööriistade kutsumise tugi muudab selle sobivaks ka rakendustele, kus mudel saab kasutada otsingut, andmeotsingut, andmebaase või muid määratletud funktsioone.

Mudeli arutlemisvõime on kasulik näiteks mitmeastmelise analüüsi, planeerimise, dokumentide võrdlemise ja silumise puhul. Arutlemisvõime ei tähenda siiski, et järeldused oleksid automaatselt õiged. Genereeritud koodi tuleb testida ning faktilisi või töökorralduslikke otsuseid kontrollida usaldusväärsete allikate põhjal.

Struktureeritud väljundid on dokumenteeritud hostitud Model Studio teenuse jaoks. See võib aidata rakendustel nõuda vastuseid kindlaksmääratud skeemi alusel, selle asemel et eraldada välju vabatekstist. Täpsed skeemireeglid ja ühilduvus sõltuvad teenindusliidesest, mistõttu peaksid arendajad väljundeid tootmiskeskkonnas valideerima ega eeldama, et iga vastus vastab skeemile täiuslikult.

Kiiruse, kulude ja juurutamise kompromissid

Mudeli peamine tõhususargument tuleneb kogu- ja aktiivsete parameetrite erinevusest. Kuna iga märgi puhul on aktiivsed ligikaudu 3 miljardit parameetrit, võib see pakkuda väiksema arvutuskoormusega võimalust multimodaalseks arutlemiseks kui sarnase koguvõimekuse eesmärgiga tihe mudel. Selle profiili toimetuslik hinnang peab mudeli kiirust ja kulutõhusust kõrgeks, kuid need on võrdlevad hinnangud, mitte Alibaba avaldatud hinded.

Lokaalne juurutamine annab kontrolli andmete, teeninduskonfiguratsiooni ja kasutusökonoomika üle pärast taristukulude arvestamist. Samuti on vaja piisavalt mälu ja ühilduvat järeldustarkvara, et 35 miljardi parameetriga kontrollpunkt laadida ja käivitada. Hõre marsruutimine vähendab aktiivset arvutustööd, kuid ei kaota kogu mudeliga seotud mälunõuet. Ametlikud mudelimaterjalid nimetavad juurutusraamistikke ja teeninduskonfiguratsioone, kuid tegelik riistvaranõue sõltub kvantimisest, täpsusest, samaaegsusest ja käitusaegsetest valikutest.

Hostitud Model Studio kasutus välistab kontrollpunkti ja taristu haldamise vajaduse, kuid kasutuse eest arvestatakse tasu märkide põhjal ning teenusele kehtivad piirkondlikud ja kasutustingimused. Dokumenteeritud lõpp-punkt ei toeta selle mudeli puhul konteksti vahemällu salvestamist, pakktöötlust ega peenhäälestust. Need piirangud on olulised suure mahuga võrguühenduseta töötlemise, korduvate algusosadega töökoormuste või meeskondade puhul, kes soovivad mudelit otse enda varaliste treeningandmete põhjal kohandada.

Qwen3.5-35B-A3B hinnastus

Alibaba Cloudi dokumenteeritud globaalse juurutuse hinnastus kasutab sisendi pikkuse astmeid. Kuni 128K sisendmärgiga päringute puhul on hind 0,057 USA dollarit 1 miljoni sisendmärgi ja 0,459 USA dollarit 1 miljoni väljundmärgi eest. Kui sisendis on rohkem kui 128K ja kuni 256K märki, on hind 0,229 USA dollarit 1 miljoni sisendmärgi ja 1,835 USA dollarit 1 miljoni väljundmärgi eest.

Dokumenteeritud rahvusvaheline kindel hinnastus on 0,25 USA dollarit 1 miljoni sisendmärgi ja 2 USA dollarit 1 miljoni väljundmärgi eest. Need on kasutuspõhised hinnad, mitte kuutellimuse tasud, ning neid ei tohiks segi ajada allalaaditavate kaalude lokaalse käitamise kuludega. Rakenduv hind sõltub valitud juurutuse ulatusest ja Alibaba Cloudi kehtivast hinnadokumentatsioonist.

Pika kontekstiga päringud võivad seega maksta lühikese kontekstiga päringutest märgatavalt rohkem, eriti juhul, kui genereeritakse ka pikki vastuseid. Rakendused peaksid vältima ebavajaliku vestlusajaloo või terviklike dokumentide saatmist, kui vajaliku konteksti saab anda otsingu või sihitud väljavõtetega.

Peamised tugevused ja piirangud

Tugevused

• Tõhus hõre arhitektuur: ligikaudu 3B aktiivset parameetrit märgi kohta ja 35B parameetrit kokku pakuvad kasulikku võimekuse ja arvutuskoormuse kompromissi.
• Natiivne multimodaalne mõistmine: teksti-, pildi- ja videosisendit saab töödelda ühe mudeli töövoos.
• Pikk kontekst: natiivne 262 144 märgi aken toetab mahukaid dokumente, koodi ja multimodaalseid juhiseid.
• Avatud kaalude kättesaadavus: Apache 2.0 litsentsiga kontrollpunkt sobib organisatsioonidele, kes vajavad rohkem juurutuskontrolli, kui ainult hostitud mudel võimaldaks.
• Agendifunktsioonid: tööriistade kutsumine, struktureeritud väljundid, voogedastus ja hostitud veebiotsingu tugi sobivad rakenduspõhiste töövoogudega.
• Lai ülesannete valik: arutlemine, programmeerimine, dokumentide analüüs, visioonipõhine mõistmine ja pika kontekstiga töö on kõik olulised kasutusjuhud.

Piirangud

• Ainult tekstiväljund: mudel ei saa otse genereerida pilte, videot, heli, muusikat ega kõnet.
• Dokumenteeritud helisisendi puudumine: helikesksed rakendused vajavad teist mudelit või eraldi transkribeerimisetappi.
• Juurutuse maht: 35 miljardi parameetriga kontrollpunkt võib väikestele seadmetele sobimatuks osutuda, kuigi iga märgi puhul on aktiivsed vaid osa parameetreid.
• Hostitud funktsioonide piirangud: dokumenteeritud lõpp-punkt ei paku selle mudeli jaoks konteksti vahemällu salvestamist, pakktöötlust ega peenhäälestust.
• Laiendatud kontekst on tingimuslik: ligikaudu 1,01 miljoni märgi kasutamine nõuab YaRN-i ja ühilduvat teeninduskonfiguratsiooni; see ei ole tavaline natiivne kontekstipiir.
• Erinev kasutuskogemus: lokaalne kiirus sõltub riistvarast ja käitusaja konfiguratsioonist, hostitud juurdepääs aga piirkonnast, lõpp-punktist, hinnast ja teenuse kättesaadavusest.

Millal valida Qwen3.5-35B-A3B?

Vali Qwen3.5-35B-A3B siis, kui vajad üht avatud kaaludega mudelit teksti, piltide ja video mõistmiseks, eriti juhul, kui pikk kontekst, programmeerimine, arutlemine ja tööriistade kasutamine on meedia genereerimisest olulisemad. See sobib hästi dokumendianalüüsi süsteemidele, visuaalsetele küsimustele vastamisele, programmeerimisabilistele, multimodaalsetele uurimistööriistadele ja agentidele, kes peavad kutsuma väliseid funktsioone.

See on mõistlik valik ka siis, kui aktiivse arvutuskoormuse profiil on oluline. Võrreldes sarnase võimekusega tiheda mudeliga võib selle hõre segu ekspertidest pakkuda paremat kiiruse või kulude kompromissi, kuigi tulemus sõltub riistvarast, teenindustarkvarast, kvantimisest ja töökoormusest. Hostitud märgipõhised hinnad on eriti olulised rakendustele, mille sisendid jäävad alla 128K märgi; suurte dokumentidega töötamisel tuleb kulude planeerimisel arvestada kõrgema pika sisendi hinnatasemega.

Teine võimalus võib olla sobivam, kui rakendus vajab natiivset pildi-, video-, heli- või kõnegenereerimist, heli mõistmist, peenhäälestust, pakktöötlust või viiba- ja konteksti vahemällu salvestamist. Väiksem mudel võib olla eelistatavam ka vähese mäluga lokaalsetes seadmetes või lihtsate suure mahuga ülesannete puhul, kus multimodaalset arutlemist pole vaja. Samas peaksid kasutajad, kes vajavad Alibaba hostitud tootmiskeskselle Qwen3.5-Flashi kirjeldatud laiendatud funktsioonistikku, hindama seda eraldi mudelina ega eeldama, et selle võimed on selle kontrollpunktiga vahetatavad.

Kokkuvõte

Qwen3.5-35B-A3B on praktiline kesktee kompaktsete mudelite ja palju suuremate tihedate süsteemide vahel. Selle iseloomulik kombinatsioon on 35B parameetriga hõre segu ekspertidest mudel, mille puhul on aktiivsed ligikaudu 3B parameetrit, natiivne teksti-pildi-video sisend, 262K märgi suurune kontekstiaken, avatud Apache 2.0 kaalud ning tööriistade kasutamisele suunatud hostitud juurdepääs. Need omadused muudavad selle eriti atraktiivseks multimodaalse analüüsi, programmeerimise, pika kontekstiga töö ning lokaalse või kontrollitud juurutamise jaoks.

Kompromissid on sama olulised: mudel genereerib meedia asemel teksti, dokumenteeritud helisisend puudub, lokaalne juurutamine nõuab märkimisväärseid ressursse ning dokumenteeritud hostitud lõpp-punkt ei toeta vahemällu salvestamist, pakktöötlust ega peenhäälestust. Nende piirangute hindamine koos märgipõhise hinnastuse ja juurutusnõuetega aitab otsustada, kas see sobib paremini kui väiksem spetsialiseeritud mudel, meediat genereeriv mudel või täielikumalt hallatud hostitud alternatiiv.