Mis on GPT-4o Mini Audio?
GPT-4o Mini Audio oli OpenAI väiksem eelvaatemudel rakendustele, mis pidid heli mõistma ja genereerima. Selle kanooniline API-identifikaator oli gpt-4o-mini-audio-preview ning OpenAI dokumenteeris ka kuupäevaga hetktõmmise nimega gpt-4o-mini-audio-preview-2024-12-17.
Mudel oli mõeldud arendajatele, kes ehitasid hääleassistente, vestluslikke heliliideseid, heli mõistmise tööriistu ja rakendusi, mis vajasid üksnes teksti asemel suulisi vastuseid. See toetas nii teksti- kui ka helisisendit ning suutis genereerida teksti- või heliväljundit. See muutis mudeli tekstipõhisest keelemudelist erinevaks, samal ajal kui selle väiksemale mudelile omane positsioneerimine oli suunatud sobivate helitöötluskoormuste kulude vähendamisele.
GPT-4o Mini Audio ei ole uute juurutuste jaoks enam ajakohane ega soovitatav mudel. OpenAI märgib selle aegunuks ja on teatanud, et gpt-4o-mini-audio mudelite perekond eemaldatakse API-st 20. jaanuaril 2027. Olemasolevat integratsiooni haldavad arendajad peaksid kavandama migratsiooni, mitte käsitlema seda mudelit pikaajalise alusena.
Heli- ja tekstivõimalused
Mudel toetas järgmisi sisendi- ja väljundikombinatsioone:
| Võimekus | Tugi |
|---|---|
| Tekstisisend | Jah |
| Helisisend | Jah |
| Tekstiväljund | Jah |
| Heliväljund | Jah |
| Pildi sisend või väljund | Ei |
| Video sisend või väljund | Ei |
Praktikas võis rakendus saata suulise päringu ja saada vastuseks kas kirjaliku vastuse või heli. Samuti võis sisendina kasutada teksti ja taotleda helivastust. Seetõttu sobis mudel hästi vestluslike häälekogemuste loomiseks, kuid see ei olnud üldotstarbeline pilti ja videot toetav multimodaalne mudel.
OpenAI dokumenteeris voogedastuse toe, mis võimaldas osalisi tulemusi edastada vastuse genereerimise ajal, selle asemel et oodata kogu vastuse valmimist. See oli hääleliideste puhul eriti oluline, sest terve vastuse valmimise ootamine enne selle esitamist võib muuta vestluse aeglaseks. Mudel toetas ka funktsioonikutseid, mis võimaldasid rakendusel arendaja määratud funktsioonide kaudu toiminguid algatada või teavet hankida. Funktsioonikutsed ei muutnud mudelit autonoomseks süsteemiks; ümbritsev rakendus pidi need funktsioonid endiselt käivitama ja valideerima.
API lõpp-punktid ja integratsiooni ulatus
OpenAI loetles GPT-4o Mini Audio laias API-pindade valikus, sealhulgas Chat Completionsi, Responsesi, Realtime'i, Live-sessioonid, Realtime'i tõlke, Realtime'i transkriptsioonisessioonid, Assistantsi ja Batchi. Heli genereerimise ja voogedastuse täpne käitumine võis lõpp-punktiti erineda, seega tuleks olemasolevat integratsiooni enne migratsiooni või hooldustöid kontrollida vastava lõpp-punkti dokumentatsiooni põhjal.
Mudeli dokumenteeritud funktsioonide hulka ei kuulunud Structured Outputs ega peenhäälestus. Structured Outputs on loodud selleks, et piirata vastus kindlaksmääratud skeemiga; selle toe puudumine on oluline rakenduste puhul, mis vajavad usaldusväärselt vormindatud masinloetavaid tulemusi. Arendajad võisid siiski kasutada tavalisi tekstivastuseid ja vajaduse korral rakendusepoolset valideerimist, kuid seda ei tohiks segi ajada Structured Outputsi loomuliku toega.
Kontekstiaken ja väljundipiirang
GPT-4o Minil oli 128 000 märgi suurune kontekstiaken ja maksimaalne väljund 16 384 märki. Kontekstiaken näitab materjali hulka, mida mudel saab ühe päringu käigus arvesse võtta, sealhulgas vestlust ja muud edastatud sisu. Piirang oli piisavalt suur pikkade vestluste või mahuka tekstikonteksti jaoks, kuid see ei kõrvaldanud vajadust hallata pikki helisessioone ja vestlusajalugu hoolikalt.
Maksimaalne väljund on märgipiirang, mitte suulise heli garanteeritud kestus. Heli tegelik pikkus sõltub päringust, valitud väljundist ja lõpp-punkti käitumisest. Mudeli dokumenteeritud teadmiste lõpptähtaeg oli 1. oktoober 2023, mistõttu ei tohiks eeldada, et selle sisseehitatud teadmised hõlmavad pärast seda kuupäeva toimunud sündmusi, välja arvatud juhul, kui rakendus edastas ajakohase teabe mõne muu mehhanismi kaudu.
GPT-4o Mini Audio hinnakujundus
OpenAI dokumenteeris teksti- ja helimärkidele eraldi hinnad. Esitatud eelvaatehinnad olid järgmised:
| Kasutuse tüüp | Hind 1 miljoni märgi kohta |
|---|---|
| Tekstisisend | $0.15 |
| Tekstiväljund | $0.60 |
| Helisisend | $10.00 |
| Heliväljund | $20.00 |
Need on API-märkide hinnad, mitte tarbijatele mõeldud ChatGPT tellimuste hinnad. Oluline kuluerinevus seisneb teksti ja heli vahel: helisisend ja -väljund olid miljoni märgi kohta märksa kallimad kui tekstisisend ja -väljund. Rakenduse kuluprofiil võib seetõttu olla väga erinev sõltuvalt sellest, kas iga suhtlus teisendatakse heliks või kasutatakse heli ainult kasutaja kõne jaoks ja tagastatakse tekst.
Kuna mudel on aegunud, peaksid arendajad enne migratsioonikulude prognoosimist kontrollima kehtivaid hindu ja lõpp-punktide saadavust. Eespool toodud arvud kirjeldavad GPT-4o Mini Audio dokumenteeritud eelvaatehindu ning neid ei tohiks eeldada kehtivat GPT-Audio-1.5 või mõne muu asendusmudeli puhul.
Tugevused ja kompromissid
Mudeli peamine tugevus oli keskendumine suhteliselt säästlikele helivõimekusega suhtlustele. Võrreldes suurema helimudeli kasutamisega iga päringu puhul pakkus selle dokumenteeritud positsioneerimine soodsamat võimalust lihtsate hääleliideste ja heli arvestavate rakenduste jaoks. Samuti ühendas see ühes mudeliperekonnas helisisendi, heliväljundi, voogedastuse ja funktsioonikutsed, mis võis lihtsustada vestluslike rakenduste kavandamist.
Sama olulised olid ka mudeli piirangud. Tegemist oli eelvaatemudeliga, mis ei toetanud pilte ega videot, Structured Outputsi ega peenhäälestust ning mille teadmiste lõpptähtaeg oli 2023. aastal. Mudel on ka aegunud, mistõttu kaalub elutsükliga seotud risk nüüd enamiku uute projektide puhul üles selle algse kulueelise. Madal hind märgi kohta ei õigusta uut integratsioonitööd, kui teenusepakkuja on juba teatanud eemaldamise kuupäeva.
Uurimisandmed ei sisalda teenusepakkuja avaldatud võrdlustulemusi arutlusvõime, programmeerimise, kiiruse ega üldise kvaliteedi kohta. Toimetuse võrdlevad hinnangud andsid arutlusvõimele hindeks 3 punkti 10-st, programmeerimisele 4 punkti 10-st, kiirusele 8 punkti 10-st ja kulule 8 punkti 10-st. Need on subjektiivsed toimetuse hinnangud, mitte OpenAI võrdlustulemused. Need viitavad mudelile, mis oli mõeldud kiireks ja säästlikuks helisuhtluseks, mitte täiustatud arutlemiseks või nõudlikeks tarkvaraarenduse ülesanneteks, kuid neid ei tohiks tõlgendada ametlike jõudlusmõõtmistena.
Millal valida GPT-4o Mini Audio?
Uue rakenduse puhul on GPT-4o Mini Audiot üldiselt raske põhjendada, sest see on aegunud ja selle sulgemisest on teatatud. See võib siiski olla asjakohane olemasoleva integratsiooni uurimisel või hooldamisel, kui see sõltub juba mudeli konkreetsest API-käitumisest. Sellisel juhul võivad selle heli sisend ja väljund, voogedastus ning funktsioonikutsed selgitada, miks see algselt valiti.
Selle ajaloolised kasutusjuhtumid hõlmasid järgmist:
- Hääleassistendid, mis vajasid suulist sisendit ja suulisi vastuseid.
- Vestluslikud heliliidesed voogedastusega suhtluseks.
- Rakendused, mis teisendasid helivestlused tekstiks või genereerisid tekstist heli.
- Soodsama hinnaga prototüübid, mille puhul polnud vaja täiustatud arutlusvõimet, pilditöötlust ega struktureeritud vastuste genereerimist.
- Heli arvestavad töövood, mis kasutasid funktsioonikutseid vestluse ühendamiseks rakenduse toimingutega.
Teine valik on sobivam, kui projekt vajab toetatud ja pikema elutsükliga mudelit, natiivset struktureeritud vastuste tuge, peenhäälestust, pildi- või videotöötlust, täiustatud arutlusvõimet või ajakohast hinnapoliitikat. OpenAI soovitab migratsiooni sihtmärgiks GPT-Audio-1.5. Seda soovitust tuleks hinnata rakenduse lõpp-punkti, latentsuse, helikvaliteedi, funktsioonikutsumise käitumise ja kogukulu põhjal, mitte eeldada, et tegemist on otsese asendusega.
Saadavus ja migratsiooniga seotud kaalutlused
OpenAI teatas, et gpt-4o-mini-audio mudeliperekond eemaldatakse API-st 20. jaanuaril 2027. Enne rakenduse üleviimist peaksid arendajad üle vaatama mudeliidentifikaatorid, lõpp-punktid, helivormingud, voogedastuse käitumise, funktsioonimääratlused, veakäsitluse ja märkide arvestuse. Kuupäevaga hetktõmmise identifikaatorit ei tohiks pidada kindlasti kättesaadavaks lihtsalt seetõttu, et mõni vanem integratsioon sellele endiselt viitab.
Mõistlik migratsiooniprotsess hõlmab asendusmudeli katsetamist tüüpiliste vestlustega, sealhulgas lühikeste päringute, pika konteksti, katkestuste, funktsioonikutsete ja helivastustega. Võrrelda tuleks lisaks vastuste kvaliteedile ka latentsust ning heli- ja tekstisisendi ning heli- ja tekstiväljundi eraldi kulusid. Kui rakendus ei vaja tegelikult suulist väljundit, võib tekstipõhisel lahendusel olla ka teistsugune kulu- ja integratsiooniprofiil.
Kokkuvõte
GPT-4o Mini Audio oli OpenAI kompaktne eelvaatemudel teksti- ja helipõhisteks vestlusteks. Helisisendi ja -väljundi, voogedastuse, funktsioonikutsete, 128 000 märgi suuruse kontekstiakna ning madalama tekstimärgi hinna kombinatsioon muutis selle kasulikuks varasema põlvkonna häälerakendustes. Tänapäeval on aga selle peamised praktilised omadused aegunud staatus ja eemaldamise kuupäev 20. jaanuar 2027. Mudel on eelkõige oluline olemasolevate juurutuste mõistmiseks või migreerimiseks, samal ajal kui uued projektid peaksid hindama teenusepakkuja soovitatud järeltulijat või mõnda muud praegu toetatud helivõimekusega lahendust.