Mis on NVIDIA Nemotron 3.5 Super VL 120B-A12B
NVIDIA Nemotron 3.5 Super VL 120B-A12B on NVIDIA avatud kaaludega multimodaalne mudel. See kuulub Nemotron 3.5 Superi mudeliperre ja on mõeldud töökoormustele, mis ühendavad keele mõistmise visuaalse analüüsiga. Mudel suudab töödelda teksti, pilte, videost eraldatud kaadreid ning piltidena esitatud dokumendilehekülgi koos kaasneva tekstiga. Selle väljund on tekst, mitte genereeritud pildid, video, heli ega kõne.
Mudelil on kokku 120 miljardit parameetrit, millest segu ekspertidest ehk MoE-arhitektuuri kaudu on iga märgi puhul aktiivsed ligikaudu 12 miljardit. Praktikas võimaldab see mudelil säilitada väga suure kogumahu, aktiveerimata iga päringu iga osa töötlemisel kõiki parameetreid. Mudelit on siiski üsna nõudlik juurutada, eriti BF16-vormingus, mistõttu ei tohiks selle arhitektuuri põhjal eeldada, et see sobib vähese mäluga riistvarale.
NVIDIA avaldas mudeli 15. oktoobril 2026. Mudeli kanooniline identifikaator on nvidia/nemotron-3.5-super-vl-120b-a12b. NVIDIA teeb selle kättesaadavaks Build.NVIDIA.com-i ja NVIDIA NIM-i kaudu, avalikud BF16- ja NVFP4-kontrollpunkti variandid on saadaval NVIDIA Hugging Face’i organisatsioonis.
Arhitektuur ja kontekstiaken
Nemotron 3.5 Super VL ühendab vaheldumisi paiknevad Mamba-2 kihid, Transformeri tähelepanu- ja segu ekspertidest kihid. Mamba-2 on jadade modelleerimise arhitektuur, mis on mõeldud pikkade jadade tõhusaks töötlemiseks, samal ajal kui Transformeri tähelepanu aitab mudelil päringu eri osade vahelist infot seostada. Mudel kasutab ka NVIDIA C-RADIO nägemisinderaatorit, mis teisendab visuaalse info esitusteks, mida saab töödelda koos tekstiga.
Üks olulisemaid näitajaid on kuni 1 048 576 märgi pikkune kontekst. Kontekst on sisendi ja vestluse jaoks saadaolev tööruum, mistõttu võimaldab see piir töödelda väga suuri tekstikogumeid, pikki dokumente või ulatuslikku multimodaalset tõendusmaterjali, kui juurutuse konfiguratsioon seda toetab. Miljon märki ei tähenda, et iga päring oleks sama kiire või odav: tööks vajalik riistvara, visuaalne eeltöötlus, arutlusrežiim ja genereeritud väljund mõjutavad kõik töö käitamise maksumust ja viivitust.
Mudel toetab natiivset mitme märgi ennustamist. See tehnika võib aidata spekulatiivse dekodeerimise süsteemidel ühe järeldusetapi jooksul ennustada mitut märki, parandades võimalik, et genereerimise tõhusust, kui teeninduskiht on selle kasutamiseks seadistatud. NVIDIA pakub NIM-i kaudu ka mudelipõhiseid seadeid video dekodeerimiseks, multimodaalseks töötlemiseks, arutlemiseks, tööriistakutseteks ja spekulatiivseks dekodeerimiseks.
Sisendid, väljundid ja arutlemise käitumine
Kontrollitud sisendmodaliteedid on tekst, pildid ja video. Videopäringuid saab töödelda valitud kaadrite kaudu, mis võimaldab mudelil analüüsida visuaalset sisu ajas, mitte käsitleda päringut ühe liikumatu pildina. Dokumendianalüüs võib ühendada lehekülgede pildid tekstiga. See on kasulik küljenduste, graafikute, vormide ja muu sellise info puhul, mis võib lihtsa tekstieralduse käigus kaduma minna.
Dokumenteeritud BF16- ja NVFP4-kontrollpunktid helisisendit ei toeta. Samuti ei paku mudel natiivset pildi-, video-, heli-, muusika- ega kõneväljundit. Selle vastus on tekst, sealhulgas selgitused, eraldatud info, kood, klassifikatsioonid ja tööriistakutsete argumendid, kui teenindusliides neid toetab.
Arutlemine on seadistatav. Kasutajad saavad mõtlemise sisse või välja lülitada ning valida eri arutlustasemeid. See loob praktilise kompromissi: põhjalikum arutlemine võib aidata keerukate visuaalsete küsimuste, mitmeastmelise analüüsi, programmeerimise või tööriistade abil tehtavate ülesannete korral, kuid võib suurendada viivitust ja kasutatavate märkide arvu. Kui arutlemine on sisse lülitatud, võivad videopäringud vajada suuremat väljundmärkide limiiti, kuigi NVIDIA ei ole kaasasolevas dokumentatsioonis selle täpse mudeli maksimaalset kontrollitud väljundmärkide limiiti avaldanud.
NVIDIA NIM toetab struktureeritud masinloetavaid vastuseid. JSON-objekti väljund on mõeldud korrektse JSON-i tootmiseks, samas kui JSON Schema struktureeritud väljund on sobivam siis, kui vastus peab sisaldama kindlaid nõutud välju. Need garantiid sõltuvad NIM-i liidesest ja konfiguratsioonist; neid ei tohiks automaatselt eeldada iga võimaliku kohaliku kontrollpunkti integratsiooni puhul.
Programmeerimine, tööriistad ja agenttöövood
Nemotron 3.5 Super VL on mõeldud nii programmeerimiseks kui ka multimodaalseks arutlemiseks. See võib olla kasulik siis, kui koodi genereerimine või silumine sõltub visuaalsest teabest, näiteks kasutajaliidese ekraanipildist, skeemist, tehnilisest dokumendist või salvestatud töövoost. Samuti suudab see pika kontekstiakna piires analüüsida dokumentatsiooni ja programmeerimisega seotud materjali.
Mudel toetab tööriistakutseid NVIDIA NIM-i liidese kaudu. See võimaldab rakendusel pakkuda funktsioone või väliseid toiminguid, mida mudel saab taotleda, näiteks andmeallika otsimine, dokumendi hankimine, ärilise toimingu käivitamine või info edastamine teisele teenusele. Mudel ei tee neid toiminguid iseseisvalt: ümbritsev rakendus peab tööriistad määratlema, heakskiidetud kutsed täitma ja tulemused mudelile tagastama.
Need võimalused muudavad mudeli sobivaks agentsetele süsteemidele, mis uurivad korduvalt infot, arutlevad järgmise sammu üle, kutsuvad tööriista ja koostavad lõpuks tekstivastuse. Pikk kontekst võib aidata sellistel süsteemidel säilitada dokumente, varasemaid vaatlusi ja vahetulemusi, kuid arendajad vajavad endiselt tööriistaõiguste, valideerimise, ajalõppude ja potentsiaalselt tundlike visuaalsete andmete kontrollimehhanisme.
Juurutusvõimalused ja kättesaadavus
NVIDIA pakub hostitud juurdepääsu Build.NVIDIA.com-i kaudu ja juurutustuge NVIDIA NIM-i kaudu. NIM pakub OpenAI-ga ja Anthropicuga ühilduvaid liideseid, samuti voogedastust ning multimodaalse töötlemise, video dekodeerimise, arutlemise, tööriistakutsete ja spekulatiivse dekodeerimise eriseadeid. See võib vähendada integratsioonitööd rakendustes, mis on juba ühilduvate API-de ümber üles ehitatud, kuid täpne käitumine sõltub siiski valitud NIM-i juurutusest ja konfiguratsioonist.
Ise hallatavate juurutuste jaoks avaldab NVIDIA BF16- ja NVFP4-kontrollpunkti variandid. BF16 on suurema täpsusega vorming, mida kasutatakse tavaliselt siis, kui prioriteediks on mudeli kvaliteedi säilitamine, samas kui NVFP4 on mõeldud optimeeritud NVIDIA järelduste tegemisel mälunõuete vähendamiseks. Kumbki valik ei muuda mudelit kergeks juurutada: riistvara kavandamisel on tähtsad mudeli kogumaht, visuaalne kodeerija, käituskeskkonna lisakulu, konteksti pikkus ja samaaegsete kasutajate arv.
BF16-kontrollpunkti saab peenhäälestada, sealhulgas dokumenteeritud LoRA-töövoogude abil. LoRA ehk madala astme kohandamine võimaldab kohandada mudeli valitud käitumist ilma kõiki mudeli parameetreid uuendamata. See võib olla kasulik organisatsioonidele, kellel on spetsiaalsed dokumendivormingud, visuaalsed protseduurid või valdkonnapõhised vastusenõuded, kuid ka selleks on vaja sobivat treeningu- ja järeldustaristut.
Tugevused ja piirangud
- Pikk kontekst: Dokumenteeritud maksimaalne konteksti pikkus on 1 048 576 märki, mistõttu sobib mudel suurte dokumendikogumite ja pikaajaliste multimodaalsete ülesannete jaoks.
- Multimodaalne mõistmine: Teksti, pilte ja videot töötleb üks mudel, toetades dokumendi-, visuaalse ja ajalise analüüsi töövooge.
- Agentide tugi: NIM-i kaudu on saadaval tööriistakutsed, voogedastus, seadistatav arutlemine ja struktureeritud vastuste võimalused.
- Paindlik juurutus: NVIDIA pakub hostitud ja NIM-i põhist juurdepääsu ning BF16- ja NVFP4-vormingus avatud kontrollpunkti variante.
- Suur taristuvajadus: 120 miljardi parameetriga MoE-mudelit on endiselt nõudlik käitada, eriti BF16-järelduste, pikkade kontekstide või mitme samaaegse kasutaja korral.
- Ainult tekstiväljund: Mudel tõlgendab visuaalseid sisendeid, kuid ei genereeri natiivseid pilte, videot, heli ega kõnet.
- Helisisend puudub: Kõnevestlustele või helianalüüsile keskenduvad rakendused vajavad teistsugust mudelit või täiendavat helitöötlussüsteemi.
- Kontrollimata teeninduspiirangud: Selle täpse mudeli ametlikku avalikku märgipõhist hostitud hinda, maksimaalset väljundmärkide limiiti, päringu vahemällu salvestamise spetsifikatsiooni ega partiiliidese spetsifikatsiooni ei õnnestunud kontrollida.
Arutlemise, programmeerimise, kiiruse ja maksumuse kohta esitatud toimetuse hinnangud on võrdlevad hinnangud, mitte NVIDIA avaldatud tulemused. Need viitavad mudelile, mis on optimeeritud pigem võimekuse ja keeruka multimodaalse töö kui minimaalse viivituse või taristukulu jaoks. Tegelik kiirus ja maksumus varieeruvad oluliselt sõltuvalt riistvarast, kvantimisest, konteksti suurusest, videotöötlusest, samaaegsusest ja arutlemisseadetest.
Hind ja käitamise maksumus
Nemotron 3.5 Super VL 120B-A12B kohta ei ole esitatud kontrollitud avalikku märgipõhist hinda, mistõttu puudub usaldusväärne hind või arveldusperiood, millest teatada. Avatud kaaludega kättesaadavus ei tähenda, et mudeli käitamine oleks tasuta: ise majutamisega kaasnevad GPU-de või kiirendite, salvestusruumi, võrgu, arenduse ja hoolduse kulud, samas kui NIM-i või hostitud juurdepääsuga võivad kaasneda teenusepakkuja infrastruktuuri- või kasutuspõhised tasud.
Eelarvestamisel on tõenäoliselt kõige olulisemad muutujad valitud kontrollpunkt, riistvaravorming, samaaegsete päringute arv, sisendkonteksti suurus, videokaadrite arv, genereeritud arutlusmärkide arv ja see, kas spekulatiivne dekodeerimine on sisse lülitatud. Seetõttu ei piisa täielikuks võrdluseks ainult parameetrite arvust või mudeli nimihinnast.
Parimad kasutusjuhud
See mudel sobib hästi olukordadesse, kus süsteem peab arutlema suure visuaalse ja tekstilise tõendusmaterjali hulga üle ning andma seejärel tekstivastuse või tegema tööriista abil toimingu. Sobivad näited on:
- Küsimustele vastamine pikkade tehniliste dokumentide, skannitud lehekülgede, graafikute ja skeemide põhjal.
- Videomõistmine valitud kaadrite põhjal, sealhulgas sündmuste ülevaatamine ja visuaalne uurimine.
- Multimodaalne programmeerimisabi, mis hõlmab ekraanipilte, dokumentatsiooni, kasutajaliidese olekuid või tehnilisi skeeme.
- Pika kontekstiga uurimis- ja analüüsiülesanded, kus tõendusmaterjal peab kogu suure päringu vältel kättesaadavaks jääma.
- Agendid, mis uurivad dokumente või pilte, kutsuvad heakskiidetud tööriistu ja tagastavad struktureeritud tulemusi.
- BF16-kontrollpunkti abil LoRA-ga kohandatud erirakendused.
Millal seda mudelit valida
Vali Nemotron 3.5 Super VL siis, kui multimodaalne mõistmine, pikk kontekst, seadistatav arutlemine ja avatud kaaludega juurutus on tähtsamad kui võimalikult väike teeninduse jalajälg. See on eriti huvipakkuv meeskondadele, kes soovivad ühe mudeliga ühendada dokumendi-, pildi-, video-, programmeerimis- ja tööriistakasutuse ülesanded või vajavad NVIDIA ökosüsteemi kaudu juurutamist ja BF16-kontrollpunkti kohandamist.
Väiksem või ainult tekstipõhine mudel võib olla sobivam lühikeste vestluspäringute, suure mahu ja väikese viivitusega töökoormuste või juurutuste puhul, kus GPU-mälu ja käitamise kulud on rangelt piiratud. Kui rakenduse keskmes on kõne või heli, on eelistatav spetsiaalne helivõimekusega mudel. Kui vajalik väljund on teksti asemel pilt, video, heliklipp või kõne, tuleks valida natiivse meediageneratsiooni võimekusega mudel.
Seega on Nemotron 3.5 Super VL-i kõige parem käsitleda suure võimekusega multimodaalse arutlemise komponendina, mitte universaalse meediamudeli ega kerge vestlusrobotina. Selle väärtus seisneb pika kontekstiga visuaalse mõistmise ühendamises programmeerimise ja agentide tööriistadega; peamised kompromissid on suur taristuvajadus, ebakindel hostitud hind, ainult tekstiväljund ja helisisendi puudumine.
Kättesaadavus ja mudeli identifikaatorid
Kanooniline identifikaator on nvidia/nemotron-3.5-super-vl-120b-a12b. Avalike kontrollpunktide variantide hulka kuuluvad NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16 ja NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4. NVIDIA dokumenteeritud levikanalid hõlmavad Build.NVIDIA.com-i, NVIDIA NIM-i ja NVIDIA Hugging Face’i organisatsiooni. Neid identifikaatoreid tuleb teenindussüsteemi seadistamisel hoolikalt kontrollida, sest kontrollpunkti vorming ja juurutustee võivad mõjutada toetatud funktsioone ning ressursinõudeid.