Arendaja platvorm

Meta Model API

Meta AI ülevaade arendajatele, mis hõlmab API-juurdepääsu, hinnastust, SDK-tuge, lõppunkte, võimekusi ja platvormi reegleid.

Dokumentatsioon API juhend

API võti Nõutud

Peamine API Responses API

SDK tugi Ametlik Pythoni pakett llama-api-client ja ametlik TypeScripti pakett llama-api-client; Meta dokumenteerib ka ühilduvuse OpenAI SDK ja Anthropic SDK-ga.

Päringupiirangud Meeskonna kohta kehtivad limiidid. Standardne Muse Spark: 3000 RPM-i ja 4 000 000 TPM-i. Contributor: 100 RPM-i ja 3 000 000 TPM-i. Muse Image: 150 RPM-i. Taustal vastuste esitamine: vaikimisi 600 minutis. Muse Voice Transcribe: 128 samaaegset voogu ja 16

Platvorm

API ülevaade

Lõppunktid (endpoints)

API ligipääs

Juuraadress (Base URL)


					https://api.meta.ai/v1

Peamine API Responses API

Hinnad

API Hinnad

Hinnakujundusmudel Kasutuspõhine hinnastus

Muse Spark Standard: 1,25 $ / 1 miljon sisendtokenit, 0,15 $ / 1 miljon vahemällu salvestatud sisendtokenit, 4,25 $ / 1 miljon väljundtokenit. Contributor: 0,10 $ / 1 miljon sisendtokenit, 0,002 $ / 1 miljon vahemällu salvestatud sisendtokenit, 0,20 $ / 1 miljon väljundtokenit. Muse Image: 0,01 $ pildi kohta. Voice Transcribe: 0,18 $ tunni kohta. SAM 3.1: 2,50 $ / 1000 pildi kohta või 0,20 $ / 1

Arendaja töömugavus

SDK info

SDK Ametlik Pythoni pakett llama-api-client ja ametlik TypeScripti pakett llama-api-client; Meta dokumenteerib ka ühilduvuse OpenAI SDK ja Anthropic SDK-ga.

Kasutusmugavus Kõrge OpenAI-ühilduvate või Anthropicuga ühilduvate API-dega tuttavate arendajate jaoks; määrake baasaadress ja bearer-võti ning kasutage vormingut Responses, Chat Completions või Messages.

Dokumentatsioon Hea ja pidevalt täienev; praegune dokumentatsioon sisaldab kiirjuhendeid, API viiteid, võimaluste juhendeid, hinnainfot, päringupiiranguid, SDK juhiseid, praktilisi näiteid ja abikeskuse artikleid.

Viivitus Läbi vaadatud dokumentatsioonis ei leitud universaalset avalikku latentsuse SLA-d ega võrdlusnäitajat. Toetatud on voogedastus, mis võib lühendada aega esimese nähtava väljundini; latentsus sõltub mudelist, viiba suurusest, arutluse põhjalikkusest, töörii

Allikad

Viited arendajale

Dokumentatsioon ↗ API juhend ↗ Liivakast ↗

Featuurid

API võimekused

✓ Voogedastus

✓ Funktsioonide kasutamine

✓ Assistants API

✓ Failide üleslaadimine

✓ Veebiotsing

✓ Pildi sisend

✓ Struktureeritud väljund

✓ Liivakast

Lühikirjeldus

Meta Model API-d dokumenteeritakse praegu avalikus eelvaates oleva iseteenindusplatvormina, millele on laiendatud üleilmne juurdepääs. Responses API on uute agentipõhiste ja mitmeetapiliste rakenduste jaoks soovitatav vaikevalik, sest see toetab arutluse järjepidevust, serveri hallatavat eelmise vastuse olekut, otsingul põhinevat konteksti, taustal täitmist, failiviiteid ja laiemat funktsioonide valikut. Chat Completions on OpenAI-ga ühilduvate rakenduste jaoks endiselt toetatud ning Messages API-d toetavad Anthropicuga ühilduvad kliendid. Hostitud võimaluste hulka kuuluvad Muse Spark, Muse Image, Muse Voice Transcribe ja SAM 3.1. Muse Spark toetab tööriistakutseid, paralleelseid tööriistakutseid, voogedastatavaid tööriistakutse argumente, struktureeritud väljundeid, veebipõhist otsingukonteksti, piltide ja videote mõistmist, arutluse juhtnuppe, viipade vahemällu salvestamist, tokenite loendamist ja failide käsitlemist. Piltide sisestamine, failiviited ja muud multimodaalsed funktsioonid sõltuvad valitud mudelist ja lõpp-punktist. Peenhäälestust ei õnnestunud praegusest hostitud API dokumentatsioonist kontrollida ning seetõttu on see jäetud teadmata. Universaalset latentsuse SLA-d ei tuvastatud.

Näited

API Näited

curl -sS https://api.meta.ai/v1/responses \
  -H "Authorization: Bearer ${MODEL_API_KEY}" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "muse-spark-1.3",
    "instructions": "You are a concise technical assistant.",
    "input": "Explain why API clients should use exponential backoff.",
    "stream": false
  }' | jq -r '.output[]?.content[]?.text // .output_text // empty'

# Streaming request
curl -N -sS https://api.meta.ai/v1/responses \
  -H "Authorization: Bearer ${MODEL_API_KEY}" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "muse-spark-1.3",
    "input": "Write three short tips for designing reliable API clients.",
    "stream": true
  }'

# Install: pip install openai
import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.meta.ai/v1",
    api_key=os.environ["MODEL_API_KEY"],
)

try:
    response = client.responses.create(
        model="muse-spark-1.3",
        instructions="You are a concise technical assistant.",
        input=[
            {"role": "user", "content": "Give one practical Python retry tip."},
            {"role": "user", "content": "Now give a second tip focused on HTTP 429 responses."},
        ],
    )
    print(response.output_text)

    stream = client.responses.create(
        model="muse-spark-1.3",
        input="Stream a short explanation of structured JSON output.",
        stream=True,
    )
    for event in stream:
        if getattr(event, "type", None) == "response.output_text.delta":
            print(event.delta, end="", flush=True)
    print()
except Exception as exc:
    print(f"Meta Model API request failed: {exc}")

// Install: npm install openai
import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.meta.ai/v1",
  apiKey: process.env.MODEL_API_KEY,
});

try {
  const response = await client.responses.create({
    model: "muse-spark-1.3",
    instructions: "You are a concise technical assistant.",
    input: [
      { role: "user", content: "Explain API retries in one sentence." },
      { role: "user", content: "Now give one example of a safe retry condition." },
    ],
  });
  console.log(response.output_text);

  const stream = await client.responses.create({
    model: "muse-spark-1.3",
    input: "Stream three short API reliability tips.",
    stream: true,
  });
  for await (const event of stream) {
    if (event.type === "response.output_text.delta") {
      process.stdout.write(event.delta);
    }
  }
  process.stdout.write("\n");
} catch (error) {
  console.error("Meta Model API request failed:", error);
  process.exitCode = 1;
}

<?php
$apiKey = getenv('MODEL_API_KEY');
if (!$apiKey) {
    fwrite(STDERR, "MODEL_API_KEY is not set\n");
    exit(1);
}

$url = 'https://api.meta.ai/v1/responses';
$payload = [
    'model' => 'muse-spark-1.3',
    'instructions' => 'You are a concise technical assistant.',
    'input' => 'Explain one best practice for handling HTTP 429 responses.',
    'stream' => false,
];

$ch = curl_init($url);
curl_setopt_array($ch, [
    CURLOPT_POST => true,
    CURLOPT_HTTPHEADER => [
        'Authorization: Bearer ' . $apiKey,
        'Content-Type: application/json',
        'Accept: application/json',
    ],
    CURLOPT_POSTFIELDS => json_encode($payload, JSON_THROW_ON_ERROR),
    CURLOPT_RETURNTRANSFER => true,
    CURLOPT_TIMEOUT => 120,
]);

$body = curl_exec($ch);
if ($body === false) {
    $error = curl_error($ch);
    curl_close($ch);
    throw new RuntimeException('Network error: ' . $error);
}

$status = curl_getinfo($ch, CURLINFO_HTTP_CODE);
curl_close($ch);
$data = json_decode($body, true, 512, JSON_THROW_ON_ERROR);

if ($status < 200 || $status >= 300) {
    $message = $data['error']['message'] ?? $body;
    throw new RuntimeException('Meta Model API HTTP ' . $status . ': ' . $message);
}

$text = $data['output_text'] ?? '';
if ($text === '' && isset($data['output']) && is_array($data['output'])) {
    foreach ($data['output'] as $item) {
        foreach (($item['content'] ?? []) as $content) {
            if (isset($content['text'])) {
                $text .= $content['text'];
            }
        }
    }
}

echo $text . PHP_EOL;

Põhimõtted

Andmete kasutus

Dokumentatsiooni kohaselt ei kasutata Standard-taseme Muse Sparki päringuid ega vastuseid Meta mudelite treenimiseks. Contributor-taseme mudelid pakuvad märkimisväärselt soodsamat hinda vastutasuks loa eest kasutada päringuid ja vastuseid tulevaste Meta mudelite treenimiseks. Arendajad peaksid kasutama Standard-taset, kui esitatud andmeid ei tohi dokumenteeritud poliitika kohaselt mudelite täiustamiseks kasutada.

Andmete säilitamine

Läbi vaadatud avalikus dokumentatsioonis ei ole Meta Model API kõigi päringute ja otspunktide jaoks sätestatud ühtset säilitamisperioodi. API kasutajad peaksid enne tundlike või reguleeritud andmete saatmist kontrollima kehtivaid konto-, privaatsus-, kustutamis-, säilitamis- ja lepingutingimusi.

Päringupiirangud

Meeskonna kohta kehtivad limiidid. Standardne Muse Spark: 3000 RPM-i ja 4 000 000 TPM-i. Contributor: 100 RPM-i ja 3 000 000 TPM-i. Muse Image: 150 RPM-i. Taustal vastuste esitamine: vaikimisi 600 minutis. Muse Voice Transcribe: 128 samaaegset voogu ja 16

Arendaja juhend

Meta Model API: algaja juhend hindade, SDK-de ja funktsioonide kohta

Meta Model API on Meta iseteeninduslik arendajaplatvorm majutatud Muse’i mudelite ja nendega seotud meediateenuste kasutamiseks. See pakub soovitatud Responses API-t, OpenAI-ga ühilduvat Chat Completionsi API-t, Anthropicuga ühilduvat Messages API-t, bearer-token’i põhist autentimist, voogedastust, tööriistade kutsumist, struktureeritud väljundeid, failiviiteid, veebotsingu abil konteksti lisamist, multimodaalset sisendit, piltide genereerimist, kõne transkribeerimist ja agentidele suunatud töövooge.

Meta Model API võimaldab arendajatel lisada rakendustesse Meta hostitud mudelid ja meediavõimalused HTTP API-de või ühilduvate SDK-de kaudu. Praegune platvorm on mõeldud nii lihtsaks teksti genereerimiseks kui ka täiustatud agentidele, mis kasutavad tööriistu, faile, veebiotsingut, struktureeritud JSON-i, vastuse püsivat olekut või taustal käivitamist. Selles juhendis selgitatakse, kuidas juurdepääs toimib, milline API-liides valida, kuidas hinnakujundus ja piirangud on korraldatud ning kuidas teha esimene päring.

Meta Model API on Meta iseteenindusplatvorm majutatud Muse’i mudelite ja meediateenuste kasutamiseks. See toetab Responses-, Chat Completionsi ja Messagesi API-sid koos Bearer-autentimise, kasutuspõhise hinnastuse, voogedastuse, tööriistade kutsumise, struktureeritud väljundite, failide, veebiotsingul põhineva konteksti, multimodaalse sisendi, piltide genereerimise, kõne transkribeerimise ja agenditöövoogudega.

Mis on Meta Model API ja kellele see on mõeldud?

Meta Model API on Meta praegune iseteeninduslik arendajaplatvorm, mille kaudu saab hostitud Meta mudeleid HTTP kaudu kasutada. Peamine hostitud mudelite perekond on Muse Spark, lisaks on saadaval piltide genereerimise, kõne transkribeerimise ja meedia segmenteerimise teenused. Platvorm on mõeldud arendajatele, kes loovad rakendusi, abilisi, automatiseeritud töövooge ja agente, mitte tavakasutajatele vestlemiseks.

API peamine baas-URL on https://api.meta.ai/v1. Uute rakenduste puhul tasub üldjuhul alustada Responses API-st, sest see on loodud agentidele ja mitmeetapilistele töövoogudele. See toetab arutluse järjepidevust, serveri hallatavat vastuse olekut, otsinguga seotud konteksti, taustal töötavaid vastuseid, failiviiteid ja laiemat praegust funktsioonide valikut.

Meta toetab ka kahte ühilduvusele suunatud liidest:

Responses API: soovitatav valik uute rakenduste ja agendipõhiste töövoogude jaoks.
Chat Completions: otse kasutatav võimalus rakendustele, mis juba kasutavad OpenAI sõnumimassiivi vormingut.
Messages API: Anthropicuga ühilduv liides klientidele ja tööriistadele, mis põhinevad sellel protokollil.

Kõik kolm kasutavad bearer-tokeniga autentimist ja pääsevad ligi platvormi toetatud mudelitele, kuid konkreetsed võimalused sõltuvad valitud mudelist ja lõpp-punktist.

Ligipääsu hankimine ja API-võtme loomine

Meta Model API-d kirjeldatakse avaliku eelversiooni iseteenindusliku platvormina, millel on laiendatud üleilmne ligipääs. Arendajad kasutavad Meta arendaja juhtpaneeli ja Playgroundi ligipääsu loomiseks või haldamiseks, saadaolevate võimaluste vaatamiseks ning päringute testimiseks.

Autentimiseks kasutatakse bearer-tokenit. Hoidke tokenit keskkonnamuutujas, näiteks MODEL_API_KEY, mitte otse lähtekoodis, brauserirakenduses või avalikus repositooriumis. Päringud sisaldavad tokenit HTTP Authorization päises:

Authorization: Bearer ${MODEL_API_KEY}

Enne tootmisandmete saatmist kontrollige kehtivaid konto-, privaatsus-, kustutamis-, säilitamis- ja lepingutingimusi. Läbivaadatud dokumentatsioon ei määra kõigi lõpp-punktide ja päringutüüpide jaoks ühtset säilitamisperioodi.

API-liidese ja mudeli valimine

Kasutage Responses API-t uue projekti alustamisel, eriti juhul, kui rakendus võib vajada tööriistu, veebiotsingut, faile, taustal töötavaid toiminguid või mitmevoorulist arutlust. Välja previous_response_id abil saab uue päringu siduda varasema vastusega ja säilitada voorude vahel serveri hallatavat konteksti.

Valige Chat Completions siis, kui teil on juba OpenAI-ga ühilduv rakendus ja soovite baas-URL-i ning mandaadi vahetamisega teha võimalikult vähe muudatusi. See on endiselt toetatud, kuid väliste API-võtmete puhul ei paku see samasugust arutluse järjepidevust.

Valige Messages API siis, kui teie rakendus või raamistik eeldab Anthropicule omaseid päringu- ja vastusekonventsioone.

Praeguses dokumentatsioonis kirjeldatud hostitud võimaluste hulka kuuluvad Muse Spark, Muse Image, Muse Voice Transcribe ja Segment Anything Model 3.1. Muse Glimmer on teistsugune: see on avatud kaaludega mudel, mis on mõeldud ise hostitud järeldamiseks, ning seda ei tohiks käsitleda hostitud Meta Model API lõpp-punktina.

Esimese päringu tegemine

Järgmine päring kasutab soovitatavat Responsesi lõpp-punkti. Enne käivitamist määrake API-võti:

export MODEL_API_KEY="your-api-key"

curl -sS https://api.meta.ai/v1/responses 
  -H "Authorization: Bearer ${MODEL_API_KEY}" 
  -H "Content-Type: application/json" 
  -d '{
    "model": "muse-spark-1.3",
    "instructions": "You are a concise technical assistant.",
    "input": "Explain why API clients should use exponential backoff.",
    "stream": false
  }'

Päring määrab mudeli, üldise juhise, kasutaja sisendi ja selle, kas vastus tuleb voona edastada. Lihtsa rakenduse puhul saab tagastatud vastuse kasutajale kuvada või edastada programmi järgmisele osale.

Sama päring OpenAI Pythoni SDK-ga

Meta dokumentatsioon kirjeldab ühilduvust OpenAI SDK-ga. Selles näites kasutatakse ühtset tänapäevast SDK mustrit ja suunatakse klient Meta baas-URL-ile:

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.meta.ai/v1",
    api_key=os.environ["MODEL_API_KEY"],
)

response = client.responses.create(
    model="muse-spark-1.3",
    instructions="You are a concise technical assistant.",
    input="Give one practical tip for handling HTTP 429 responses.",
)

print(response.output_text)

Meta pakub ka ametlikke Pythoni ja TypeScripti teeke. OpenAI-ga ühilduv lahendus võib olla kasulik siis, kui olemasolev rakendus kasutab juba OpenAI kliendi mustrit, samas kui Meta enda SDK-d võivad olla eelistatud juhul, kui vajate platvormipõhist dokumentatsiooni ja tüüpe.

Vastuse mõistmine

Responses API tagastab vastuseobjekti, mis võib sisaldada üht või mitut väljundüksust. Tavalise teksti genereerimise korral pakuvad SDK-d mugavat väärtust output_text. Madalama taseme integratsioonid saavad väljundüksusi ja nende sisuosi otse uurida.

Ärge eeldage, et iga vastus sisaldab ainult teksti. Tööriistakutsed, viited, struktureeritud andmed, arutlusega seotud üksused ja muud toetatud väljunditüübid võivad nõuda vastuse struktuuri uurimist ühe stringi lugemise asemel.

Mitmevooruliste töövoogude puhul salvestage vastuse identifikaator, kui soovite suhtlust jätkata. Hilisem päring saab kasutada välja previous_response_id varasemale vastusele viitamiseks ja serveri hallatava oleku säilitamiseks, kui seda toetatakse.

Kuidas Meta Model API hinnastamine toimib?

Meta Model API kasutab kasutuspõhist hinnastamist. Muse Sparki tokenihinnad eristavad sisendtokeneid, vahemällu salvestatud sisendtokeneid ja väljundtokeneid. Token on väike tekstiosa, mida mudel töötleb; väljundtokenid genereerib mudel.

Võimalus või tase	Dokumenteeritud hind
Muse Spark Standardi sisend	1,25 dollarit miljoni tokeni kohta
Muse Spark Standardi vahemällu salvestatud sisend	0,15 dollarit miljoni tokeni kohta
Muse Spark Standardi väljund	4,25 dollarit miljoni tokeni kohta
Contributori sisend	0,10 dollarit miljoni tokeni kohta
Contributori vahemällu salvestatud sisend	0,002 dollarit miljoni tokeni kohta
Contributori väljund	0,20 dollarit miljoni tokeni kohta
Muse Image	0,01 dollarit edukalt genereeritud pildi kohta
Muse Voice Transcribe	0,18 dollarit töödeldud helitunni kohta
Segment Anything Model 3.1	2,50 dollarit 1000 pildi kohta või 0,20 dollarit 1000 videokaadri kohta

Contributori hinnad on madalamad, kuid viipasid ja lõpetusi võidakse kasutada tulevaste Meta mudelite treenimiseks. Standardtaseme Muse Sparki viipasid ja lõpetusi ei kasutata dokumentatsiooni kohaselt Meta mudelite treenimiseks. Kui see erinevus on teie andmete puhul oluline, hinnake enne juurutamist valitud taset ja kehtivaid tingimusi.

Arendajatele saadaolevad võimalused

Vastuste voogedastus

Voogedastus saadab väljundi järk-järgult serveri saadetud sündmustena, selle asemel et oodata täieliku vastuse valmimist. See võib lühendada aega, enne kui kasutaja näeb esimest genereeritud teksti, ning on kasulik vestlusliideste puhul. Voogedastus on saadaval ka voogedastatavate tööriistakutse argumentide ja kõne transkribeerimise korral.

const stream = await client.responses.create({
  model: "muse-spark-1.3",
  input: "Stream three short API reliability tips.",
  stream: true,
});

for await (const event of stream) {
  if (event.type === "response.output_text.delta") {
    process.stdout.write(event.delta);
  }
}

Funktsioonide ja tööriistade kutsumine

Tööriistakutsed võimaldavad mudelil taotleda teie rakenduselt toimingut, näiteks tellimuse andmete otsimist või sisemise teenuse päringut. Teie server vastutab endiselt funktsiooni käivitamise, argumentide valideerimise, õiguste kontrollimise ja tulemuse tagasisaatmise eest. Meta dokumentatsioon kirjeldab funktsioonitööriistu, paralleelseid tööriistakutseid, tööriistaotsingut ja agentidele suunatud tsükleid.

Kuna tööriistakutsed võivad põhjustada tegelikus maailmas tagajärgi, käsitlege mudeli genereeritud argumente ebausaldusväärse sisendina. Valideerige skeeme ja autoriseerimist rakenduse koodis, selle asemel et lubada mudelil tundlikele süsteemidele otse ligi pääseda.

Struktureeritud väljundid

Struktureeritud väljundid piiravad vastuse arendaja määratud JSON-skeemiga. See on kasulik siis, kui tulemust peab kasutama tarkvara, näiteks arveandmete eraldaja, klassifikaator või töövoo suunaja. Skeem vähendab vormindamise ebaselgust, kuid rakendus peaks endiselt tagastatud andmeid valideerima ning käsitlema keeldumisi, puuduvaid välju ja API-tõrkeid.

Failid ja multimodaalne sisend

Toetatud mudelid ja lõpp-punktid võivad vastu võtta pildi-, dokumendi-, video- ja muid failisisendeid. Faile saab üles laadida ja päringute vahel failitunnuse abil viidata, mis on kasulik dokumendianalüüsi ja mitmeetapiliste töövoogude puhul. Piltide ja videote mõistmine, failiviited ning muud multimodaalsed funktsioonid sõltuvad valitud mudelist ja lõpp-punktist.

Veebiotsing ja meediateenused

Responses API toetab veebist otsitud teabe sidumist vastusega koos tekstisiseste viidetega. Nii saab rakendus küsida ajakohast teavet ja samal ajal näidata vastuse töövoos toetavaid allikaid. Meta dokumentatsioon kirjeldab ka Muse Image'i piltide genereerimiseks ja muutmiseks, Muse Voice Transcribe'i failide ja reaalajas WebSocketi kaudu tehtava transkribeerimise jaoks ning Segment Anything Model 3.1 mudelit piltide ja videote segmenteerimiseks.

Täiustatud päringumustrid

Mitmeetapilise agendi tüüpiline töövoog on saata kasutaja päring Responses API-le, lubada mudelil taotleda heakskiidetud tööriista kasutamist, käivitada see tööriist serveris ja jätkata vastust tööriista tulemusega. Töövoo voorudevahelise järjepidevuse tagamiseks saab kasutada ka varasemate vastuste viiteid.

Taustal töötavad vastused on mõeldud toimingutele, mis peaksid jätkuma ilma interaktiivset päringut avatuna hoidmata. Responsesi töövoog toetab ka krüptitud arutluse taasesitamist ja serveri hallatavat olekut. Need funktsioonid on kasulikud pikemate agenditööde puhul, kuid neid tuleks testida realistlike töökoormustega, sest järjekorrad, tööriistade käivitamine ja arutluse põhjalikkus mõjutavad latentsust.

Playground, SDK-d ja arendajatööriistad

Meta Model API juhtpaneel sisaldab brauseripõhist Playgroundi, kus saab vestlust, voogedastust, tööriistu, struktureeritud väljundit ja failisisendeid testida ilma rakendust esmalt kirjutamata. See on kasulik viipade kontrollimiseks, päringuvormide võrdlemiseks ja selle kinnitamiseks, et valitud mudel toetab soovitud võimalust.

Meta pakub ametlikke Pythoni ja TypeScripti pakette. Platvormi dokumentatsioon kirjeldab ka ühilduvust OpenAI ja Anthropic SDK-dega. Ükskõik millise kliendi valite, hoidke baas-URL, autentimisviis, mudelitunnus ja API-meetod omavahel kooskõlas. Vältige eri SDK-põlvkondadest pärit näidete segamist.

Kiirusepiirangud ja tootmiskasutuse kaalutlused

Piirangud kehtivad meeskonna tasemel, mitte iga API-võtme kohta eraldi. Dokumenteeritud piirangud hõlmavad järgmist:

Valdkond	Piirang
Standard Muse Spark	3000 päringut minutis ja 4 000 000 tokenit minutis
Contributor Muse Spark	100 päringut minutis ja 3 000 000 tokenit minutis
Muse Image	150 päringut minutis
Taustavastuste esitamine	Vaikimisi 600 esitamist minutis meeskonna kohta
Muse Voice Transcribe	128 samaaegset voogu ja 16 000 voogu tunnis

Eduka tokenipõhise vastusega kaasnevad kiirusepiirangu päised, näiteks x-ratelimit-limit-tokens, x-ratelimit-remaining-tokens, x-ratelimit-limit-requests ja x-ratelimit-remaining-requests. Jälgige neid väärtusi ja rakendage HTTP 429 vastuste järel eksponentsiaalset taandust koos juhusliku hajutusega.

Meta ei avalda läbivaadatud dokumentatsioonis universaalset latentsusgarantiid. Voogedastus võib lühendada esimese nähtava väljundini kuluvat aega, kuid kogulatentsus sõltub mudelist, päringu suurusest, arutluse põhjalikkusest, tööriistadest, järjekordadest ja meedia töötlemisest.

Tootmissüsteemides hoidke võtmeid saladuste halduris, määrake päringutele ajalõpud, proovige uuesti ainult sobivate ajutiste tõrgete korral, logige päringute identifikaatorid ja olekukoodid, jälgige tokenikasutust, valideerige tööriistade argumendid ning vältige tundlike andmete saatmist, kuni teie organisatsioon on kohaldatavad andmekäitlustingimused üle vaadanud.

Millal on Meta Model API hea või halb valik?

Meta Model API sobib hästi siis, kui soovite praegust Meta hostitud mudelite platvormi, millel on agentidele suunatud Responses API, OpenAI ja Anthropicuga ühilduvad päringuliidesed, multimodaalne sisend, tööriistad, struktureeritud väljundid, veebist otsitud teabe sidumine vastusega, failiviited ja eraldi meediateenused. See on eriti mugav meeskondadele, kes tunnevad juba üht neist ühilduvatest SDK-mustritest.

See võib olla halb valik juhul, kui vajate avaliku eelversiooni ajal küpset ja täielikult stabiilset tootmislepingut, universaalset latentsuse SLA-d, iga lõpp-punkti jaoks selgelt dokumenteeritud säilitamisperioodi või kõigi võimaluste jaoks ühtset fikseeritud hinnamudelit. Läbivaadatud hostitud API dokumentatsioonis ei õnnestunud peenhäälestuse tuge kinnitada. Contributori taseme treeningutingimused võivad muuta selle taseme sobimatuks rakendustele, mis ei saa lubada viipade ja lõpetuste kasutamist mudeli täiustamiseks.

Enne platvormiga lõplikult liitumist testige täpselt seda mudelit ja lõpp-punkti, mida kavatsete kasutada, mõõtke realistlike päringute abil latentsust ja tokenikulu, kontrollige piirkondlikku saadavust ning vaadake üle kehtiv hinnastamise, privaatsuse ja säilitamise dokumentatsioon.

Allikad 13

dev.meta.ai ↗ dev.meta.ai/products/meta-model-api ↗ dev.meta.ai/docs/overview ↗ dev.meta.ai/docs/quickstart ↗ dev.meta.ai/docs/protocols ↗ dev.meta.ai/docs/protocols/responses ↗ dev.meta.ai/docs/api-reference/responses/create-response ↗ dev.meta.ai/docs/pricing-rate-limits ↗ dev.meta.ai/help/playground/what-is-the-playground ↗ dev.meta.ai/help/playground/playground-settings-and-limits ↗ github.com/meta-llama/llama-api-python ↗ github.com/meta-llama/llama-api-typescript ↗ www.meta.com/about/company-info/ ↗