GPT-4o

Mis on GPT-4o?

GPT-4o on OpenAI üldotstarbeline mudel teksti genereerimiseks ja piltide mõistmiseks. „o” tähistab sõna „omni”, mis peegeldab OpenAI käsitlust sellest mudelist kui laiemate võimekustega GPT-süsteemist. OpenAI tutvustas GPT-4o-d 13. mail 2024, kirjeldades seda lipulaevamudelina, mille intelligentsus on GPT-4 tasemel, mitmekeelne jõudlus parem, nägemisvõimekus tugevam ja API-hind madalam kui GPT-4 Turbol.

Praeguses API-kasutuses võtab kanooniline gpt-4o mudel vastu teksti- ja pildisisendeid ning genereerib teksti. See tekst võib olla tavaline loomulikus keeles väljund või struktureeritud väljund, mis järgib toetatud JSON-skeemi. GPT-4o võime pilte tõlgendada muudab selle sobivaks näiteks dokumentide analüüsimiseks, diagrammide kohta küsimustele vastamiseks, ekraanipiltidelt teabe eraldamiseks ning kirjalike juhiste ja visuaalse materjali ühendamiseks.

GPT-4o ei ole piltide genereerimise mudel ning praegusel standardmudeli lehel ei ole seda kirjeldatud heli või video sisendit ja väljundit toetava mudelina. Piltide genereerimiseks, kõne töötlemiseks, transkribeerimiseks ja videote loomiseks on vajaduse korral vaja eraldi mudeleid või teenuseid.

GPT-4o spetsifikatsioonid lühidalt

Kontekstiaken näitab, kui palju sisendit ja genereeritud sisu suudab mudel ühe päringu käigus töödelda, arvestades konkreetse lõpp-punkti ja rakenduse piiranguid. Maksimaalse väljundi piirang on sellest eraldi: päring võib sisaldada suurt hulka konteksti, kuid toetatud konfiguratsiooni korral ei saa GPT-4o genereerida rohkem kui 16 384 väljundtokenit.

Võimekused ja toetatud modaalsused

GPT-4o peamine API-võimekus on teksti genereerimine teksti- või pildisisendi põhjal. See toetab tavalist vestlust, kokkuvõtete koostamist, klassifitseerimist, teabe eraldamist, ümberkirjutamist, programmeerimisabi, mitmekeelset genereerimist ja visuaalsetele küsimustele vastamist. Näiteks võib rakendus anda mudelile foto tootest ja paluda seda kirjeldada, esitada diagrammi tõlgendamiseks või edastada skannitud dokumendi struktureeritud väljade eraldamiseks.

Piltide mõistmine ei tähenda piltide genereerimist

GPT-4o suudab pilte analüüsida, kuid ei loo neid otse. Töövoos, mis vajab nii visuaalset analüüsi kui ka piltide loomist, kasutatakse GPT-4o-d tavaliselt tõlgendamiseks ja väljundpildi jaoks eraldi OpenAI pildimudelit või piltide genereerimise lõpp-punkti. Sama eristus kehtib heli ja video puhul: standardset GPT-4o mudelit ei tohiks käsitleda algupärase kõne-, heli- või videogenereerimise süsteemina.

Teadmiste lõppkuupäev ja värske teave

OpenAI määratleb GPT-4o teadmiste lõppkuupäevaks 1. oktoobri 2023. See on mudeli aluseks oleva treeningu lõppkuupäev ega muutu, kui rakendus annab mudelile täiendavat konteksti. Baasmudelit ei tohiks samuti käsitleda ajakohase veebiotsingu mudelina. Kui rakendus vajab värsket teavet, peaks see andma mudelile hangitud materjali või kasutama eraldi toetatud otsingutöövoogu, mitte eeldama, et GPT-4o sisseehitatud teadmised on ajakohased.

Arendajatele mõeldud funktsioonid ja tööriistade tugi

GPT-4o toetab funktsioonikutseid, voogedastust, struktureeritud väljundeid ja pakktöötlust. Funktsioonikutsed võimaldavad rakendusel kirjeldada väliseid toiminguid, näiteks kontoandmete otsimist, andmebaasist päringu tegemist või ülesande loomist, ning lubavad mudelil taotleda üht neist toimingutest kindlaksmääratud vormingus. Funktsiooni täitmise ja selle argumentide valideerimise eest vastutab endiselt rakendus.

Voogedastus edastab genereeritud väljundi järk-järgult, selle asemel et oodata kogu vastuse valmimist. See võib muuta assistendi reageerimisvõimelisemaks, eriti pika vastuse genereerimisel. Pakktöötlus on mõeldud töökoormustele, mida saab käsitleda asünkroonselt ega pea töötlema kohe interaktiivse vastusena.

Struktureeritud väljundid võivad piirata vastuse toetatud JSON-skeemi järgimisele, mis on kasulik usaldusväärseks teabe eraldamiseks ja järgnevaks tarkvaratöötluseks. See erineb JSON-režiimist. JSON-režiim võib aidata tagastada korrektset JSON-i, kuid üksi ei taga see, et vastus järgib kindlat skeemi. Rakendused peaksid mudeli väljundit endiselt valideerima ning käsitlema keeldumisi, puuduvaid välju ja ootamatuid väärtusi.

OpenAI loetleb GPT-4o puhul toetatud funktsioonina ka peenhäälestust. Peenhäälestusplatvormi kasutamist aga järk-järgult lõpetatakse: uutel kasutajatel puudub sellele ligipääs, samal ajal kui mõnel olemasoleval kasutajal võib ülemineku ajal säilida piiratud juurdepääs treenimisele. Olemasolevad peenhäälestatud mudelid jäävad järelduste tegemiseks kättesaadavaks seni, kuni nende aluseks olevad baasmudelid aeguvad. Seetõttu tuleb peenhäälestust käsitleda mudeli elutsükliga seotud asjaoluna, mitte eeldusena, et iga uus projekt saab alustada kohandatud GPT-4o mudeli treenimist.

GPT-4o hinnad ja kulude kompromissid

Praegune API tavahind on 2,50 dollarit 1 miljoni sisendtokeni kohta ja 10 dollarit 1 miljoni väljundtokeni kohta. Puhverdatud sisendtokenite hind on 1,25 dollarit 1 miljoni tokeni kohta. Need hinnad muudavad sisendi taaskasutamise soodsamaks, kui rakendus saadab sobivat viiba sisu korduvalt, kuid tegelikud kulud sõltuvad lõpp-punktist, tokenite kasutusest, puhverdamise tingimustest ja töökoormusest.

Loetletud hindade põhjal on väljund tokeni kohta neli korda kallim kui tavapärane sisend. Rakendused saavad seega kulusid vähendada, vältides tarbetult pikki vastuseid, piirates vajaduse korral väljundi pikkust, kasutades püsiva viiba sisu puhul puhverdamist ning valides vähem võimeka või odavama mudeli, kui ülesanne ei vaja GPT-4o piltide mõistmise võimekust ega üldist võimekustaset.

GPT-4o praktiline kompromiss seisneb võimekuse ja spetsialiseeritud optimeerimise vahel. See on laiema kasutusalaga kui kitsalt keskendunud teabe eraldamise või klassifitseerimise süsteem, kuid korduvate ja lihtsate ülesannete puhul võib spetsiaalne väiksem mudel olla ökonoomsem. Seevastu keerukate mitmeastmeliste arutlusülesannete korral võib sobida paremini uuem või spetsialiseeritud arutlusmudel, isegi kui selle kiiruse või hinna omadused on teistsugused. Esitatud uuring ei anna nende alternatiividega otsest hinna- ega võrdlusnäitajate võrdlust, mistõttu tuleks selliseid võrdlusi kontrollida teenusepakkuja värskest dokumentatsioonist.

Arutlemine, programmeerimine ja jõudlus

GPT-4o on loodud üldotstarbelise, mitte spetsiaalselt pikendatud arutluseks mõeldud mudelina. See suudab probleeme selgitada, järgida mitmeastmelisi juhiseid, genereerida ja üle vaadata koodi ning aidata silumisprobleemide uurimisel, kuid olemasolevad uuringud ei paku standardiseeritud võrdlust, mis tõestaks, et see on iga arutlusülesande puhul tugevaim valik. Keerukate probleemide korral, kus läbimõeldud arutluse kvaliteet on kiirusest tähtsam, võib spetsiaalne arutlusmudel paremini sobida.

Programmeerimisel on GPT-4o kasulik funktsioonide genereerimiseks, tundmatu koodi selgitamiseks, andmevormingute teisendamiseks, testide kirjutamiseks ja vigade uurimisel abistamiseks. Funktsioonikutsed ja struktureeritud väljundid muudavad selle sobivaks ka tarkvaratöövoogudesse, kus mudel peab tagastama prognoositavad argumendid, mida rakendus saab valideerida. Genereeritud kood tuleb endiselt üle vaadata ja läbi testida, eriti juhul, kui see muudab andmeid, pääseb ligi välissüsteemidele või töötleb turvatundlikku teavet.

OpenAI mudeliinfo iseloomustab GPT-4o-d suhteliselt kiire mudelina. Esitatud toimetuslik hinnang hindab selle kiirust kõrgelt ning arutlus- ja programmeerimisvõimekust tugevaks, kuid need on hinnangud, mitte teenusepakkuja avaldatud tulemused. Jõudlus varieerub sõltuvalt viiba ülesehitusest, sisendi suurusest, pildi keerukusest, väljundi pikkusest, lõpp-punktist ja töökoormusest.

Kättesaadavus ja mudeli elutsükkel

GPT-4o eemaldati ChatGPT-st 13. veebruaril 2026. See puudutab tarbijatele mõeldud ChatGPT toodet ega tähenda esitatud uuringu kohaselt, et kanooniline API-mudel oleks eemaldatud. Alias gpt-4o on endiselt loetletud OpenAI API mudelina.

Arendajad peaksid eristama aliast kuupäevastatud hetktõmmistest. Hetktõmmise gpt-4o-2024-05-13 API kasutamine on kavas lõpetada 23. oktoobril 2026. Teised kuupäevastatud identifikaatorid, sealhulgas gpt-4o-2024-08-06 ja gpt-4o-2024-11-20, on eraldi hetktõmmised, mitte omavahel asendatavad nimed. Tootmislahendus peaks talletama täpse mudeli ID, lõpp-punkti ja elutsükli teabe, selle asemel et eeldada ChatGPT ja API kättesaadavuse samasust.

Mudelit ei tohiks segi ajada ka seotud spetsialiseeritud toodetega, nagu GPT-4o Search Preview, GPT-4o Realtime või GPT-4o Audio. Need nimed tähistavad erinevaid mudeli- või tootemääratlusi, mille võimekused ja elutsükli tingimused on erinevad.

GPT-4o parimad kasutusjuhud

GPT-4o on praktiline valik, kui üks API-mudel peab suutma käsitleda mitut tüüpi üldotstarbelisi ülesandeid:

• Pilte mõistvad assistendid: vastata küsimustele fotode, ekraanipiltide, diagrammide, graafikute ja muude toetatud visuaalsete sisendite kohta.
• Dokumentide töötlemine: eraldada välju, klassifitseerida dokumente, teha sisust kokkuvõtteid või teisendada visuaalne ja tekstiline materjal struktureeritud kirjeteks.
• Äriprotsesside automatiseerimine: ühendada loomulikus keeles päringud sisemiste süsteemide funktsioonikutsetega ja tagastada prognoositavaid struktureeritud tulemusi.
• Programmeerimisabi: genereerida näiteid, selgitada koodi, pakkuda parandusi ning aidata luua teste või andmeteisendusi.
• Mitmekeelsed rakendused: luua ja teisendada teksti eri keeltes, kui rakendus vajab laia kasutusalaga üldotstarbelist mudelit.
• Viivitustundlikud töövood: kasutada laia võimekusega mudelit, valimata iga päringu puhul automaatselt aeglasemat spetsiaalset arutlusmudelit.

Millal valida GPT-4o?

Vali GPT-4o, kui rakendus vajab ühes suhteliselt kiires API-mudelis teksti genereerimist koos piltide mõistmise, struktureeritud teabe eraldamise või funktsioonikutsetega või nende kombinatsiooniga. See sobib eriti hästi siis, kui ülesanne on piisavalt keerukas, et GPT-4 klassi mudelist kasu saada, kuid ei vaja kõige võimekamat saadaolevat spetsiaalset arutlussüsteemi.

Kaalu muud võimalust, kui peamine nõue on teistsugune:

• Kasuta spetsiaalset arutlusmudelit, kui keerukas mitmeastmeline arutlemine on tähtsam kui üldotstarbeline kiirus ja modaalsuste tugi.
• Kasuta eraldi pildimudelit, kui rakendus peab pilte looma või töötlema.
• Kasuta spetsiaalseid heli-, kõne- või videosüsteeme, kui need modaalsused on sisendi või väljundi keskmes.
• Kasuta ajakohast otsingu või veebiotsingu töövoogu, kui vastused sõltuvad 1. oktoobrist 2023 uuemast teabest.
• Kasuta lihtsate ja suure mahuga ülesannete puhul odavamat või väiksemat mudelit, kui need ei vaja GPT-4o piltide mõistmise võimekust ega laiemat võimekust.
• Kasuta uuemat mudelit, näiteks GPT-4.1, kui selle dokumenteeritud võimekused ja elutsükkel vastavad rakenduse nõuetele paremini.

GPT-4o peamine eelis on lai kasutusala: see ühendab teksti genereerimise, pildisisendi, arendajatele mõeldud juhtimisvõimalused ja suhteliselt kiire reageerimise. Sama olulised on ka selle piirangud: ainult tekstiline väljund, värske teabe garantii puudumine ilma otsinguta, piiratud teadmiste lõppkuupäev, ChatGPT ja API erinev elutsükkel ning vajadus enne juurutamist kontrollida täpset mudelit ja hetktõmmise olekut.