Mis on Voxtral Small?
Voxtral Small on Mistral AI 24 miljardi parameetriga multimodaalne heli-keele mudel. Selle peamine ülesanne on kõneheli mõistmine ning tekstiliste või struktureeritud tekstivastuste genereerimine. Erinevalt tavapärasest kõne tekstiks teisendamise süsteemist, mis toodab ainult transkriptsiooni, suudab Voxtral Small kasutada salvestise tähendust küsimustele vastamiseks, arutelude kokkuvõtmiseks, kõne tõlkimiseks ja suuliste juhiste põhjal funktsioonide käivitamiseks.
Mudel avaldati 15. juulil 2025 ning see on saadaval avatud kaaludega kontrollpunktina Apache 2.0 litsentsi alusel. See muudab mudeli sobivaks organisatsioonidele, kes soovivad uurida kohapealset juurutamist või mudeli põhjal otse edasi arendada. Mistral pakub majutatud juurdepääsu ka oma API kaudu. Majutatud mudeli identifikaator on voxtral-small-2507.
Mistrali mudelite valikus on Voxtral Small keskendunud helile, mitte üldotstarbelisele pildi- või videosüsteemile. See ühendab helisisendi Mistral Small 3.1 alusmudelist pärinevate teksti-keelemudeli võimekustega, andes sellele laiema rolli kui eraldiseisval transkriptsioonimootoril.
Mida Voxtral Small teha suudab?
Voxtral Small võtab vastu heli- ja tekstisisendeid. Heli saab kasutada transkriptsiooniks või tõlgendamiseks, tekst aga juhiste andmiseks, näiteks kokkuvõtte küsimiseks, koosolekul tehtud otsuste tuvastamiseks või salvestise tõlkimiseks. Mistrali dokumentatsiooni kohaselt toetab mudel automaatset keele tuvastamist ja mitmekeelset kõne mõistmist.
- Transkriptsioon: teisendab kõneheli tekstiks.
- Heli kohta küsimustele vastamine: vastab salvestises sisalduvate faktide, teemade, kõnelejate või sündmuste kohta esitatud küsimustele.
- Kokkuvõtete loomine: võtab kokku koosolekuid, intervjuusid, kõnesid, loenguid ja muid pikki salvestisi.
- Kõne tõlkimine: tõlgib kõneldud sisu tekstiväljundi kaudu teise keelde.
- Mitmekeelne mõistmine: töötleb kõnet toetatud keeltes ja tuvastab keele automaatselt.
- Funktsioonide kutsumine: teisendab suulise taotluse tööriista- või funktsioonikutsungiks, võimaldades rakendusel ühendada audiojuhised äriliste tegevustega.
- Struktureeritud vastused: tagastab Mistrali API kaudu teksti rakenduse määratud struktureeritud vormingus.
Funktsioonide kutsumine on eriti kasulik siis, kui mudel paikneb kasutaja ja rakenduse vahel. Näiteks võib kalendritoimingu tegemise või süsteemist kirje otsimise suulist juhist tõlgendada kavatsusena ja edastada välisele funktsioonile. Mudel ei vii välist tegevust iseseisvalt lõpule; ühendatud rakendus vastutab endiselt funktsiooni käivitamise ja valideerimise eest.
Heli- ja konteksti piirangud
Voxtral Smallil on dokumenteeritud 32 000 märgi suurune kontekstiaken. Kontekst on esitatud juhiste, transkriptsiooniga seotud sisu ja genereeritud vastuse ühine tööruum. Suurem kontekst võib aidata pikkade salvestiste ja üksikasjalike jätkuküsimuste korral, kuid tegelik piirang sõltub ka sellest, kuidas heli esitatakse, ning konkreetsest API-st või juurutuskonfiguratsioonist.
Mistrali sõnul suudab Voxtral Small töödelda transkriptsiooniks ligikaudu 30 minuti pikkust heli või heli mõistmiseks ligikaudu 40 minuti pikkust heli, sõltuvalt ülesandest ja sisendi konfiguratsioonist. Need on teenusepakkuja kirjeldatud ülesandepõhised piirangud, mitte garantii, et iga salvestise tulemused on sama täpsed. Pikkade salvestiste puhul võib siiski olla kasulik need osadeks jagada, eeltöödelda või rakenduse tasandil kontrollida.
Mistrali praegune mudelidokumentatsioon ei määra selle konkreetse mudeli kohta kindlat teadmiste lõppkuupäeva ega maksimaalset väljundmärkide arvu. Seetõttu tuleb neid väärtusi käsitleda teadmata suurustena, mitte tuletada neid kontekstiakna suurusest. 32 000 märgi suurune kontekstiaken ei tähenda tingimata, et mudel suudab genereerida 32 000 väljundmärki.
Toetatud sisendid ja väljundid
Mudel toetab heli- ja tekstisisendit. Selle väljund on tekst, sealhulgas tavapärased loomuliku keele vastused, transkriptsioonid, kokkuvõtted, tõlked ja struktureeritud tekst. Mudel ei genereeri algupäraselt heli, pilte ega videot.
| Võimekus | Voxtral Small |
|---|---|
| Helisisend | Jah |
| Tekstisisend | Jah |
| Tekstiväljund | Jah |
| Struktureeritud väljund | Toetatud Mistrali API kaudu |
| Funktsioonide või tööriistade kasutamine | Jah |
| Pildi- või videosisend või -väljund | Ei |
| Algupärane heli- või kõneväljund | Ei |
See erinevus on häälerakenduste puhul oluline. Voxtral Small suudab mõista kõnesisendit ja koostada tekstilise või struktureeritud vastuse, kuid see ei ole kõnesünteesi ega kõnest kõneks mudel. Rakendus, mis vajab suulisi vastuseid, vajab eraldi tekst-kõneks komponenti.
Hinnakujundus ja juurutusvõimalused
Mistrali majutatud API hinnakiri on 0,004 dollarit audio minuti kohta, millele lisandub 0,10 dollarit miljoni sisendmärgi kohta ja 0,40 dollarit miljoni väljundmärgi kohta. Helitasu ja märgitasud kirjeldavad kasutuse eri osi, mistõttu kogukulu sõltub salvestise kestusest, juhistest, transkriptsiooniga seotud kontekstist ja vastuse pikkusest.
Mudel on saadaval ka avatud kaaludega kontrollpunktina kohapealseks juurutamiseks. Kohapealne kasutamine võib anda andmetöötluse ja taristu üle suurema kontrolli, kuid Voxtral Smalli 24 miljardi parameetri tõttu on seda märksa nõudlikum käitada kui Voxtrali perekonna väiksemaid mudeleid. Esitatud uurimismaterjal ei määratle nõutavat riistvarakonfiguratsiooni, seega tuleks juurutusnõudeid hinnata konkreetse kontrollpunkti, kvantimise, teenindusmootori ja töökoormuse põhjal.
Apache 2.0 litsents on kommertskasutuse hindamisel meeskondade jaoks oluline võimalus, kuid litsents ei välista vajadust hinnata taristukulusid, andmehaldust, mudeli täpsust ega ümbritseva rakendusega seotud kohustusi.
Arutlus, programmeerimine ja tööriistade kasutamine
Voxtral Small on eelkõige mõeldud heli mõistmiseks, mitte täiustatud eraldiseisvaks arutluseks või tarkvaraarenduseks. See suudab järgida helifaili puudutavaid tekstijuhiseid, võrrelda salvestises sisalduvat teavet, korrastada tulemusi ja koostada struktureeritud vastuseid. Need on kasulikud ülesandepõhise arutluse vormid, kuid Mistral ei esita selle mudeli kohta kindlat arutlusvõimekuse võrdlustesti tulemust ega eraldi maksimaalset arutluse eelarvet.
Selle tekstivõimekused pärinevad Mistral Small 3.1 alusmudelist, mistõttu suudab mudel töödelda tavalisi tekstijuhiseid ning koodilaadset või struktureeritud sisu. Esitatud uurimismaterjal ei tõesta siiski, et Voxtral Small oleks spetsialiseerunud programmeerimismudel, ega esita programmeerimise võrdlusteste. Selle valimise peamine põhjus on kõnesisendi ja tekstipõhise arutluse kombinatsioon, mitte üksnes tarkvaraarenduse jõudlus.
Tööriistade tugi on selgemalt määratletud. Voxtral Small saab funktsioonide kutsumise abil esitada kõne kaudu taotletud tegevust. See võib toetada hääle abil juhitavaid töövooge, näiteks koosolekult ülesande eraldamist, klienditoe taotluse suunamist, sisesüsteemist otsimist või struktureeritud käsu edastamist teisele teenusele. Arendajad peaksid funktsiooni argumendid ja õigused siiski väljaspool mudelit valideerima, sest genereeritud funktsioonikutse on rakendusele antud juhis, mitte tõend selle kohta, et tegevus on ohutu või korrektne.
Peamised tugevused ja kompromissid
Mudeli peamine tugevus on transkriptsiooni, heli tõlgendamise ja keelemudeli vastuste ühendamine üheks helist tekstiks töövooguks. Eraldi kõnetuvastuse etapp, millele järgneb tekstimudel, võib samuti hästi toimida, kuid see lisab veel ühe komponendi ning võib nõuda transkriptsiooni edastamise, ajastuse, vigade ja integratsiooniloogika haldamist. Voxtral Small on mõeldud nende etappide otsesemaks käsitlemiseks.
Selle mitmekeelsed helivõimekused, pikkade salvestiste töötlemine, funktsioonide kutsumine, struktureeritud API-vastused ja avatud kaaludega kättesaadavus on samuti kasulikud tootmissüsteemides, mis vajavad enamat kui toortranskriptsiooni. Apache 2.0 litsents võib olla atraktiivne meeskondadele, kes otsivad mudelit, mida saab uurida või juurutada väljaspool täielikult hallatud teenust.
Sellel on ka olulisi kompromisse. 24 miljardi parameetriga mudel vajab kohapealseks juurutamiseks rohkem ressursse kui väiksemad alternatiivid. Majutatud API kasutamine on helitöötluse jaoks konkurentsivõimelise hinnaga, kuid lõpparve sõltub endiselt nii heliminutitest kui ka märkide mahust. Mudel tagastab ka heli asemel teksti, mistõttu vajab vestluslik häälerakendus täiendavat kõnesünteesi.
Lihtsa transkriptsiooni jaoks võib spetsialiseeritud kõnetuvastusteenus olla lihtsam või odavam. Pildirohkete, video- või üldiste multimodaalsete rakenduste puhul on heli-keele mudel vale valik. Piiratud ressurssidega kohapealsetes keskkondades võib väiksem Voxtrali variant või mõni muu kompaktne kõnemudel olla praktilisem, kuigi esitatud uurimismaterjal ei paku otsest jõudluse võrdlust.
Millal valida Voxtral Small?
Vali Voxtral Small siis, kui heli mõistmine on rakenduse keskne osa ja süsteem vajab enamat kui sõna-sõnalist transkriptsiooni. See sobib hästi järgmisteks kasutusjuhtudeks:
- koosolekute, intervjuude, loengute ja kõnede kokkuvõtete loomine;
- salvestatud heli põhjal otsimine ja küsimustele vastamine;
- mitmekeelne transkriptsioon ja kõne tõlkimine;
- funktsioonikutseid vajavad hääle abil juhitavad ärilised töövood;
- rakendused, mis vajavad kõneldud sisust struktureeritud kirjete eraldamist;
- meeskonnad, kes hindavad avatud kaaludega helimudelit kohapealseks või kontrollitud juurutamiseks.
See sobib vähem siis, kui peamine vajadus on algupärane kõnesüntees, reaalajas kõnest kõneks vestlus, pildi- või video mõistmine või töötamine väga piiratud riistvaral. Samuti võib see olla üleliigne lihtsa transkriptsioonitöövoo puhul, mis ei vaja salvestise põhjal küsimustele vastamist, kokkuvõtteid, tõlkimist ega tegevusi.
Mida enne tootmiskasutust kontrollida?
Enne juurutamist testi mudelit sihttöökoormuses kasutatavate keelte, aktsentide, salvestustingimuste, kõnelejate kattuva kõne ja terminoloogiaga. Heli kvaliteet ja valdkonna sõnavara võivad mõjutada nii transkriptsiooni kui ka järgnevaid kokkuvõtteid ning salvestise kohta antud usutav vastus võib siiski sisaldada viga.
Funktsioonide kutsumist kasutavad rakendused peaksid valideerima mudeli valitud funktsiooni, argumendid, õigused ja kõrvalmõjud. Tundlike koosolekute, kliendikõnede või reguleeritud teabe puhul tuleb hinnata nii majutatud API kasutamise kui ka kohapealse juurutamise mõju andmehaldusele. Lõpuks mõõda kogu kasutuskulu tegelike salvestiste pikkuste ja vastusemustrite põhjal, mitte ainult minuti kohta arvestatava helitasu järgi.
Üldjoontes võib Voxtral Smalli käsitleda avatud kaaludega heli-tekstiks arutlusmudelina: see teisendab kõneldud sisu transkriptsioonideks, vastusteks, kokkuvõteteks, tõlgeteks ja struktureeritud tegevusteks. Selle väärtus tuleneb nende ülesannete ühendamisest ühes mudelis, samas kui mudeli suurus, algupärase kõneväljundi puudumine ja täpsustamata maksimaalne väljundipiirang peaksid olema iga juurutusotsuse osa.