Arendaja platvorm

Mistral API

Mistral AI ülevaade arendajatele, mis hõlmab API-juurdepääsu, hinnastust, SDK-tuge, lõppunkte, võimekusi ja platvormi reegleid.

Dokumentatsioon API juhend

API võti Nõutud

Peamine API Chat Completions API

SDK tugi Ametlik Pythoni SDK-pakett mistralai ning ametlik TypeScripti/JavaScripti SDK-pakett @mistralai/mistralai. Teiste programmeerimiskeelte jaoks on saadaval kolmandate osapoolte SDK-d.

Päringupiirangud Piirangud varieeruvad organisatsiooni, paketi, mudeli, API ja piirkonna lõikes. Dokumenteeritud piirangud võivad hõlmata päringuid sekundis, tokeneid minutis, helisekundeid minutis, OCR-lehekülgi minutis, dokumentide üleslaadimise piiranguid ja igakuist k

Platvorm

API ülevaade

Lõppunktid (endpoints)

API ligipääs

Juuraadress (Base URL)


					https://api.mistral.ai/v1

Peamine API Chat Completions API

Hinnad

API Hinnad

Hinnakujundusmudel Mudeli- ja teenusepõhine kasutuspõhine hinnastamine; enamiku tekstimudelite puhul tokenipõhine, eraldi hinnastamisühikutega OCR-i, heli, tööriistade, partiitöötluse, prioriteetse töötlemise, vahemällu salvestatud sisendi ja peenhäälestustoodete jaoks.

Tekstimudelite hinnad on üldjuhul esitatud miljoni sisend- ja väljundtokeni kohta. Partiiviisilise töötlemise hind on 50% tavahinnast, vahemällu salvestatud sisendi puhul võib allahindlus ulatuda 90%-ni ning piirkondlik järeldamine lisab hinnale 10%. Kehtivad hinnad erinevad mudeli ja teenuse lõikes.

Arendaja töömugavus

SDK info

SDK Ametlik Pythoni SDK-pakett mistralai ning ametlik TypeScripti/JavaScripti SDK-pakett @mistralai/mistralai. Teiste programmeerimiskeelte jaoks on saadaval kolmandate osapoolte SDK-d.

Kasutusmugavus Standardsete vestluspäringute puhul on kasutusmugavus kõrge, sest REST API järgib tuttavat vestluse lõpetamise struktuuri ning saadaval on ametlikud Python- ja TypeScripti SDK-d. Täiustatud agendid, teegid, piirkondlik marsruutimine ja tööriistapõhised tö

Dokumentatsioon Hea ja põhjalik dokumentatsioon, mis sisaldab ajakohaseid kiirstardijuhendeid, API viitedokumentatsiooni lehti, SDK-dokumentatsiooni, praktilisi näiteid, teavet mudelite elutsükli kohta, juhiseid piirkondliku inferentsi kasutamiseks ning selgeid teateid a

Viivitus Sõltub mudelist, viiba pikkusest, väljundi pikkusest, järjekorra tingimustest, piirkonnast ja teenusetasemest. Voogedastus lühendab aega esimese nähtava märgini. Prioriteetne inferents on mõeldud prognoositavama mahu ja kiirema teeninduse tagamiseks. Piir

Allikad

Viited arendajale

Dokumentatsioon ↗ API juhend ↗ Liivakast ↗

Featuurid

API võimekused

✓ Voogedastus

✓ Funktsioonide kasutamine

✓ Assistants API

✓ Failide üleslaadimine

✓ Peenhäälestamine

✓ Veebiotsing

✓ Pildi sisend

✓ Struktureeritud väljund

✓ Liivakast

Lühikirjeldus

Mistral Studio on praegune arendajaplatvorm. Olekuta teksti- ja multimodaalsete päringute puhul on soovitatav üldotstarbeline lähtekoht Chat Completions. Platvorm pakub ka OCR-i ja Document AI-d, manuseid ja teeke (Files and Libraries), agente ja vestlusi (Agents and Conversations), sisseehitatud veebiotsingut, koodi käivitamist, piltide genereerimist, sisu modereerimist, paketttöötlust, piirkondlikku inferentsi ning halduslikke kasutus-API-sid. Nägemisvõimekus on valitud mudelitel Chat Completionsi kaudu saadaval, kasutades pildi URL-e või base64-andmeid. Ühilduvad mudelid ja lõpp-punktid toetavad struktureeritud JSON-väljundeid ja JSON Schema väljundeid. Tööriistakutsed võivad olla kasutaja määratud funktsioonikutsed või sisseehitatud agenditööriistad. Agents and Conversations pakuvad arendaja hallatavat püsivat olekut, kuid piirkondliku inferentsi lõpp-punktid ei toeta olekuga agente, Batchi ega Files API funktsioone. Varasema peenhäälestuse dokumentatsioon on sõnaselgelt aegunuks märgitud; praeguses hinnakirjas on loetletud valitud klassifikaatorite peenhäälestustooted, seega tuleb peenhäälestuse sobivus kavandatud mudeli ja töövoo jaoks eraldi üle kontrollida. Mistral kirjeldab standardset, pakett-, prioriteetset, vahemällu salvestatud sisendi ja piirkondliku inferentsi võimalust. Globaalne lõpp-punkt ei ole seotud kindla piirkonnaga, samas kui EL-i ja USA lõpp-punktid pakuvad toetatud mudelite puhul piirkondlikku inferentsi. Ajutiste tõrgete ja päringumäärade piirangute korral kasuta eksponentsiaalse tagasilöögiga korduskatseid ning valideeri enne käivitamist kõik mudeli genereeritud tööriistaargumendid.

Näited

API Näited

curl --fail-with-body --silent --show-error https://api.mistral.ai/v1/chat/completions \
  -H "Authorization: Bearer ${MISTRAL_API_KEY}" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "mistral-large-latest",
    "messages": [
      {"role": "system", "content": "You are a concise technical assistant."},
      {"role": "user", "content": "Explain API rate limits in one paragraph."}
    ],
    "temperature": 0.2,
    "max_tokens": 200
  }' | jq -r '.choices[0].message.content'

# Streaming example
curl --fail-with-body --silent --show-error https://api.mistral.ai/v1/chat/completions \
  -H "Authorization: Bearer ${MISTRAL_API_KEY}" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "mistral-large-latest",
    "messages": [{"role": "user", "content": "Give three uses for structured outputs."}],
    "stream": true
  }'

# Install: pip install -U mistralai
import json
import os
from mistralai.client import Mistral

api_key = os.environ["MISTRAL_API_KEY"]
client = Mistral(api_key=api_key)

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "system", "content": "You are a concise technical assistant."},
        {"role": "user", "content": "Return two practical uses of an API gateway."},
    ],
    temperature=0.2,
)
print(response.choices[0].message.content)

# Streaming
for event in client.chat.stream(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Explain retries with exponential backoff."}],
):
    if event.data.choices and event.data.choices[0].delta.content:
        print(event.data.choices[0].delta.content, end="", flush=True)
print()

# Function calling
weather_tool = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Get current weather for a city.",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"]
        }
    }
}]

tool_response = client.chat.complete(
    model="mistral-medium-latest",
    messages=[{"role": "user", "content": "What is the weather in Paris?"}],
    tools=weather_tool,
)
message = tool_response.choices[0].message
if message.tool_calls:
    call = message.tool_calls[0]
    arguments = json.loads(call.function.arguments)
    print({"tool": call.function.name, "arguments": arguments})

// Install: npm install @mistralai/mistralai
import { Mistral } from "@mistralai/mistralai";

const apiKey = process.env.MISTRAL_API_KEY;
if (!apiKey) throw new Error("MISTRAL_API_KEY is not set");

const client = new Mistral({ apiKey });

try {
  const response = await client.chat.complete({
    model: "mistral-large-latest",
    messages: [
      { role: "system", content: "You are a concise technical assistant." },
      { role: "user", content: "Explain why API clients should use timeouts." }
    ],
    temperature: 0.2,
    maxTokens: 200
  });
  console.log(response.choices[0].message.content);

  const toolResponse = await client.chat.complete({
    model: "mistral-medium-latest",
    messages: [{ role: "user", content: "What is the weather in Paris?" }],
    tools: [{
      type: "function",
      function: {
        name: "get_weather",
        description: "Get current weather for a city.",
        parameters: {
          type: "object",
          properties: { city: { type: "string" } },
          required: ["city"]
        }
      }
    }]
  });

  const toolCalls = toolResponse.choices[0].message.toolCalls ?? [];
  for (const call of toolCalls) {
    console.log(call.function.name, JSON.parse(call.function.arguments));
  }
} catch (error) {
  console.error(error);
  process.exitCode = 1;
}

<?php
$apiKey = getenv('MISTRAL_API_KEY');
if (!$apiKey) {
    throw new RuntimeException('MISTRAL_API_KEY is not set');
}

$url = 'https://api.mistral.ai/v1/chat/completions';
$payload = [
    'model' => 'mistral-large-latest',
    'messages' => [
        ['role' => 'system', 'content' => 'You are a concise technical assistant.'],
        ['role' => 'user', 'content' => 'Explain the purpose of structured JSON output.']
    ],
    'temperature' => 0.2,
    'max_tokens' => 200
];

$ch = curl_init($url);
curl_setopt_array($ch, [
    CURLOPT_POST => true,
    CURLOPT_RETURNTRANSFER => true,
    CURLOPT_HTTPHEADER => [
        'Authorization: Bearer ' . $apiKey,
        'Content-Type: application/json'
    ],
    CURLOPT_POSTFIELDS => json_encode($payload, JSON_THROW_ON_ERROR),
    CURLOPT_TIMEOUT => 60
]);

$body = curl_exec($ch);
if ($body === false) {
    throw new RuntimeException('cURL error: ' . curl_error($ch));
}
$status = curl_getinfo($ch, CURLINFO_HTTP_CODE);
curl_close($ch);

$data = json_decode($body, true);
if ($status < 200 || $status >= 300) {
    $message = $data['message'] ?? $body;
    throw new RuntimeException('Mistral API HTTP ' . $status . ': ' . $message);
}

$content = $data['choices'][0]['message']['content'] ?? null;
if ($content === null) {
    throw new RuntimeException('The response did not contain message content');
}
echo $content . PHP_EOL;
?>

Põhimõtted

Andmete kasutus

Mistrali täpsed andmekasutuse tingimused sõltuvad kohaldatavast paketist, lepingust, tootest ja API funktsioonist. API kliendid peaksid eelduste tegemise asemel tutvuma kehtivate äriliste tingimuste ja privaatsusdokumentatsiooniga, sest kõigi Studio funktsioonide andmekäitlus ei pruugi olla ühesugune. Tasulised organisatsioonid võivad toetatud olekuta API-kutsete puhul taotleda või sisse lülitada andmete säilitamiseta režiimi. Olekuga Agents, Conversations ja Libraries ning üles laaditud dokumendid võivad funktsionaalsuse pakkumiseks vajada salvestamist.

Andmete säilitamine

Nullandmete säilitamine on saadaval sobilikele tasulistele organisatsioonidele ja toetatud olekuta API lõpp-punktidele. Kui see on sisse lülitatud, ei salvestata ega logita hõlmatud sisendeid ja väljundeid kauem, kui vastuse genereerimiseks vajalik. ZDR ei hõlma automaatselt kõiki olekuga API-sid, faile, teeke, agente, operatiivseid metaandmeid, konto seadeid, arveldusandmeid ega kasutusanalüütikat. Uue vestlusajaloo automaatse salvestamise vältimiseks saab vestluse loomisel kasutada väärtust store=false.

Päringupiirangud

Piirangud varieeruvad organisatsiooni, paketi, mudeli, API ja piirkonna lõikes. Dokumenteeritud piirangud võivad hõlmata päringuid sekundis, tokeneid minutis, helisekundeid minutis, OCR-lehekülgi minutis, dokumentide üleslaadimise piiranguid ja igakuist k

Arendaja juhend

Mistral AI API juhend: Studio, mudelid, agendid, hinnad ja SDK-d

Mistral Studio ja Mistral API võimaldavad REST-lõpp-punktide ning ametlike Pythoni ja TypeScripti SDK-de kaudu kasutada Mistrali mudeleid pilveteenusena. Arendajad saavad luua vestlus- ja multimodaalseid rakendusi, edastada vastuseid voona, taotleda struktureeritud JSON-väljundit, kutsuda väliseid funktsioone, töödelda dokumente, genereerida embedinguid, luua püsivaid agente ja vestlusi, otsida teekidest ning kasutada sisseehitatud tööriistu, näiteks veebiotsingut ja koodi käivitamist.

Mistral AI arendajaplatvorm põhineb Mistral Studiol ja Mistral API-l. Algaja saab alustada ühe autentitud Chat Completionsi päringuga, samas kui suuremad rakendused saavad kasutada agente, vestlusi, dokumentide töötlemist, teeke, piirkondlikku inferentsi ja halduslikke kasutuskontrolle. Selles juhendis selgitatakse, kuidas juurdepääs toimib, kuidas teha esimene päring, mida platvorm toetab, kuidas hinnakujundus on korraldatud ning milliseid piiranguid tuleb tootmiskasutuses arvestada.

Mistral Studio pakub REST API-sid ning ametlikke Pythoni ja TypeScripti SDK-sid vestluste, multimodaalse inferentsi, voogedastuse, struktureeritud väljundite, funktsioonikutsete, agentide, vestluste, OCR-i, vektor-esituste, dokumenditeekide ja veebiotsingu jaoks. Hinnastus põhineb kasutusel, kuid piirangud, piirkondlik tugi, andmete säilitamise tingimused ja mudelite saadavus erinevad teenuseti.

Mis on Mistral API ja millal seda kasutada?

Mistral API on majutatud arendajaliides, mille kaudu saab Mistrali mudelitele päringuid saata ja genereeritud tulemusi vastu võtta. Mistral Studio pakub selle ümber tööruumi API-võtmete, mudelite katsetamise, Playble'i, kasutuse jälgimise, organisatsiooni halduse ja muude arendajateenuste jaoks. Peamine üleilmne API lõpp-punkt on https://api.mistral.ai/v1.

Kõige lihtsam lähtekoht on Chat Completions API. See võtab vastu mudeli nime ja sõnumite jada ning tagastab mudeli vastuse. See lähenemine sobib vestlusrakenduste, teksti genereerimise, toetatud mudelite multimodaalsete päringute, voogedastuse, struktureeritud väljundi ja rakenduse hallatava tavapärase tööriistakutsumise jaoks.

Kasuta Agents and Conversations API-sid, kui vajad korduvkasutatavaid juhiseid, püsivat arendaja hallatavat olekut, salvestatud suhtlusajalugu, sisseehitatud tööriistu või mitmeastmelisi töövooge. Agendid määratlevad korduvkasutatavad konfiguratsioonid, mis sisaldavad mudelit, juhiseid, tööriistu, lõpetamise parameetreid ja valikulisi turvapiiranguid. Vestlused võivad kasutada agenti või baasmudelit ning neid saab konfigureerida väärtusega store=false, kui uue vestlusajaloo automaatset salvestamist ei soovita.

Kellele API on mõeldud?

API on mõeldud arendajatele, kes loovad vestlusrakendusi, otsinguga täiendatud genereerimise süsteeme, dokumenditöötluse töövooge, kodeerimistööriistu, siseabilisi, autonoomseid või poolautonoomseid agente ning muud tarkvara, mis vajab mudeli inferentsi. See on oluline ka organisatsioonidele, kes vajavad juurdepääsu mudelitele, piirkondlikke töötlemisvõimalusi, kasutuse juhtimist või privaatse ja ettevõtetele mõeldud juurutamise valikuid.

See sobib halvemini juhul, kui projekt vajab piiranguteta suure mahuga kasutust ilma kvootideta, järjepidevalt deterministlikke vastuseid, loomulikku tarbijatele mõeldud videote genereerimist või küpset pluginate turuplatsi. Mudelite vastused on endiselt tõenäosuslikud, seega tuleb olulised väljundid ja tööriistade argumendid valideerida.

Juurdepääsu saamine ja API-võtme loomine

Loo Mistral Studio konto või logi olemasolevale kontole sisse ning loo Studios või halduslikus API-võtmete jaotises API-võti. Rakendused saadavad võtme tavaliselt Beareri tunnusena HTTP Authorization päises. Hoia võtit keskkonnamuutujas või hallatavas saladuste hoidlas, mitte lähtekoodis.

Allolevates näidetes kasutatakse keskkonnamuutujat MISTRAL_API_KEY. API-päringute tegemiseks on võti vajalik ning API kasutab kasutuspõhist arveldamist, mitte üht universaalset tellimushinda.

API ja mudeli valimine

Esimese integratsiooni jaoks vali praegu saadaval olev vestlusmudel ja kasuta Chat Completions API-t. Mudelite identifikaatorid, saadavus, hinnad ja elutsükli olek võivad muutuda, seega kontrolli enne juurutamist Mistrali ajakohast dokumentatsiooni ja hinnakirju. Mudeli alias on mugav, kui automaatsed mudelivärskendused on vastuvõetavad. Kasuta kuupäevaga mudeliidentifikaatorit, kui korratavus on automaatsetest uuendustest olulisem.

Nõue	Soovituslik lähtekoht
Üks päring ja üks vastus	Chat Completions
Genereeritava väljundi kuvamine selle loomise ajal	Chat Completions koos voogedastusega
Usaldusväärsed masinloetavad väljad	Struktureeritud väljund või JSON Schema ühilduva mudeli ja lõpp-punkti korral
Rakendus peab käivitama välise toimingu	Kasutaja määratud funktsiooni kutsumine
Korduvkasutatavad juhised ja salvestatud töövoo olek	Agents and Conversations
Dokumentide eraldamine või küsimustele vastamine	Document AI ja OCR
Semantiline otsing või otsingupõhine hankimine	Embeddings, Files ja Libraries

Nägemisvõimekusega mudelid saavad Chat Completionsi kaudu vastu võtta piltide URL-e või base64-kodeeritud pilte. Enne nägemisvõimekusele või muudele erifunktsioonidele tuginemist kontrolli mudeli ühilduvust.

Esimese API-päringu tegemine

Standardpäring on POST aadressile /v1/chat/completions. See sisaldab mudelit ja sõnumite massiivi. Vastus paigutab genereeritud teksti tavaliselt väljale choices[0].message.content.

Esimene päring cURL-iga

curl --fail-with-body --silent --show-error https://api.mistral.ai/v1/chat/completions 
  -H "Authorization: Bearer ${MISTRAL_API_KEY}" 
  -H "Content-Type: application/json" 
  -d '{
    "model": "mistral-large-latest",
    "messages": [
      {"role": "system", "content": "You are a concise technical assistant."},
      {"role": "user", "content": "Explain API rate limits in one paragraph."}
    ],
    "temperature": 0.2,
    "max_tokens": 200
  }' | jq -r '.choices[0].message.content'

Süsteemisõnum määrab üldise käitumise, kasutajasõnum aga sisaldab ülesannet. Parameetrid, nagu temperature ja max_tokens, mõjutavad genereerimise käitumist ja väljundi pikkust. Kasuta ainult valitud mudeli ja API ajakohase dokumentatsiooni toetatud parameetreid.

Esimene päring Pythoni SDK-ga

# Install: pip install -U mistralai
import os
from mistralai.client import Mistral

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "system", "content": "You are a concise technical assistant."},
        {"role": "user", "content": "Return two practical uses of an API gateway."},
    ],
    temperature=0.2,
)

print(response.choices[0].message.content)

Vastuse mõistmine

Tavaline vestlusvastus sisaldab valikute loendit. Lihtsa päringu korral on esimese valiku sõnumi sisu genereeritud vastus. Tööriistu või struktureeritud väljundit kasutavad rakendused peaksid uurima vastavaid vastusevälju, mitte eeldama, et iga vastus on lihttekst.

Kui mudel tagastab funktsioonikutse, peab rakendus lugema funktsiooni nime ja argumendid, need valideerima, heakskiidetud kohaliku või välise toimingu käivitama ning saatma tulemuse järelpäringuga tagasi. Mudel ei anna automaatselt luba toimingu tegemiseks. Käsitle genereeritud argumente ebausaldusväärse sisendina.

Kuidas Mistral API hinnastamine toimib?

Mistral API hinnastamine põhineb peamiselt kasutusel. Tekstimudelite puhul arveldatakse sisend- ja väljundtokenite eest üldjuhul eraldi ning hinnad esitatakse miljoni tokeni kohta. Täpne summa sõltub valitud mudelist ja võib muutuda API-liidesest sõltumatult.

Muud teenused kasutavad teistsuguseid arvestusühikuid. OCR-i hinnastatakse tuhande lehekülje kaupa, kõneteenuste hind võib põhineda heliminutil ning mõne sisseehitatud tööriista puhul kõnel või tuhande kõne kohta. Partiitöötlus on sobilike asünkroonsete töökoormuste puhul tavahinnast ligikaudu poole odavam. Vahemällu salvestatud sisend võib saada märkimisväärseid allahindlusi ning uuringus tuvastati sobilike korduvate viipade puhul kuni 90% allahindlusi. Prioriteetne inferents on mõeldud töökoormustele, mis vajavad prognoositavamat või kiiremat mahtu.

Toetatud töökoormuste piirkondlik inferents kasutab EL-i või USA lõpp-punkte ja lisab hinnakirjahinnale 10% lisatasu. Enne tootmiskulude hindamist kontrolli Mistral API ajakohaselt hinnalehelt täpset mudelit, teenust, piirkonda ja arvestusühikut, mida kavatsed kasutada.

Mida saavad arendajad API-ga luua?

Vastuste voogedastus

Chat Completions toetab serveri saadetud sündmuste voogedastust väärtusega stream=true. Täieliku vastuse ootamise asemel saab rakendus järkjärgulisi sündmusi vastu võtta ja teksti selle saabumise ajal kuvada. Voogedastus parandab tavaliselt esimese nähtava väljundi saamise aega, kuid ei pruugi vähendada kogu genereerimisaega.

curl --fail-with-body --silent --show-error https://api.mistral.ai/v1/chat/completions 
  -H "Authorization: Bearer ${MISTRAL_API_KEY}" 
  -H "Content-Type: application/json" 
  -d '{
    "model": "mistral-large-latest",
    "messages": [{"role": "user", "content": "Give three uses for structured outputs."}],
    "stream": true
  }'

Funktsioonikutsed ja sisseehitatud tööriistad

Funktsioonikutsed võimaldavad mudelil taotleda rakenduse kirjeldatud toimingut. Näiteks võid pakkuda get_weather funktsiooni, mille argument on linn. Rakendus vastutab endiselt argumentide kontrollimise, ilmateenuse kutsumise, vigade käsitlemise ja tulemuse mudelile tagastamise eest.

Agendid toetavad ka sisseehitatud tööriistu, sealhulgas veebiotsingut, tasulist veebiotsingut, koodi käivitamist, piltide genereerimist ja dokumenditeegi otsingut. Veebiotsingu eest arveldatakse mudeli tokenikasutusest eraldi. Piirkondlikul inferentsil on praegu olulised piirangud: olekuga agendid, Batch ja Files API funktsioonid ei ole piirkondlikes lõpp-punktides saadaval ning funktsioonikutsed on ainus kaasasolevas dokumentatsioonis tuvastatud piirkondlik tööriist.

Struktureeritud väljundid

Ühilduvates päringutes saab vastuse vormingu konfiguratsiooni kaudu kasutada JSON-režiimi või JSON Schema režiimi. Struktureeritud väljund on kasulik, kui järgnev programm vajab prognoositavaid välju, näiteks klassifitseerimistulemust, eraldatud arveobjekti või toimingute loendit. JSON Schema on eelistatav siis, kui rakendus vajab määratletud struktuuri, kuid valitud mudel ja lõpp-punkt peavad taotletud režiimi toetama.

Nägemisvõimekus, dokumendid, failid ja teegid

Valitud nägemisvõimekusega mudelid võtavad pilte vastu URL-ide või base64-kodeeritud andmete kaudu. Document AI ja OCR toetavad eraldamist, märkuseid, struktureeritud väljundit ning dokumentide kohta küsimustele vastamist. Faile saab üles laadida ja püsivatesse Libraries-teekidesse indekseerida, et agendid saaksid neid otsingupõhistes täiendatud töövoogudes kasutada.

Files ja Libraries on olekuga teenused: nende toimimiseks võib olla vaja salvestusruumi. Ära eelda, et nullandmete säilitamise seadistus hõlmab automaatselt üleslaaditud dokumente, teeke, agente või kõiki muid API funktsioone.

Embeddingud ja seotud teenused

Embeddingumudelid teisendavad teksti arvulisteks esitusteks, mida kasutatakse semantilises otsingus ja info hankimisel. Laiem platvorm hõlmab ka modereerimist, heliteenuseid, piltide genereerimist, partiitöötlust, piirkondlikku inferentsi ja halduslikke kasutus-API-sid. Saadavus ja hinnad sõltuvad teenusest ja mudelist.

Agentide ja vestluste kasutamine püsivate töövoogude jaoks

Chat Completions on üldjuhul selgeim valik siis, kui rakendus haldab ise vestlusajalugu ja tööriistade orkestreerimist. Agents and Conversations sobivad paremini siis, kui soovid, et Mistrali platvorm haldaks korduvkasutatavat agendikonfiguratsiooni, püsivat suhtlusolekut, sisseehitatud tööriistu või agentidevahelisi üleandmisi.

Vestluse saab luua agendi või baasmudeliga. Kui sa ei soovi uue vestlusajaloo automaatset pilvesalvestust, toetab API vestluse loomisel väärtust store=false. See seadistus ei muuda kõiki seotud teenuseid olekuta teenusteks ning seda tuleks hinnata organisatsiooni tasandi säilitusjuhtelementidest eraldi.

SDK-d, Playground ja arendajatööriistad

Mistral toetab ametlikult Pythoni ja TypeScripti SDK-sid. Pythoni pakett on mistralai; TypeScripti või JavaScripti pakett on @mistralai/mistralai. Muud keeled saavad REST API-t otse kutsuda ning saadaval võivad olla ka kolmandate osapoolte teegid, kuid need ei ole samaväärsed esimese osapoole SDK-de toega.

Mistral Studio sisaldab Playgroundi, kus saab enne rakenduse koodi kirjutamist mudeleid ja viipasid katsetada. Samuti pakub see API-võtmete haldust, organisatsiooni juhtimist, kasutuse jälgimist, limiitide teavet ja muid haldustööriistu. Kodeerimistöövoogude jaoks kuuluvad laiemasse Mistrali ökosüsteemi Vibe Code'i kaudu CLI, VS Code ja kaugveebiseansi võimalused, kuid need tarbija- ja kodeerimistooted on siin kirjeldatud põh-API integratsioonist eraldi.

Piirangud, privaatsus ja tootmiskasutuse kaalutlused

Kasutuspiirangud ja latentsus

Piirangud sõltuvad organisatsioonist, paketist, mudelist, API-st ja piirkonnast. Need võivad hõlmata päringuid sekundis, tokeneid minutis, helisekundeid minutis, OCR-i lehekülgi minutis, dokumentide üleslaadimise piiranguid ja igakuist kasutust. Kontrolli Studios oma kontole kehtivaid piiranguid. Suuremaid piiranguid saab taotleda, kirjeldades eeldatavat päringumäära, tokenite läbilaset, kuumahtu ja kasutusjuhtu.

Latentsus sõltub mudeli suurusest, viiba ja väljundi pikkusest, järjekorra olukorrast, piirkonnast ja teenusetasemest. Voogedastus lühendab aega esimese nähtava väljundini. Prioriteetne inferents on mõeldud prognoositavama mahu ja kiirema teenuse jaoks, samas kui piirkondlik inferents võib täita geograafilise töötlemise nõudeid, kui valitud mudel ja funktsioon on toetatud.

Privaatsus, treenimine ja säilitamine

Andmete käsitlemine sõltub kohaldatavast paketist, lepingust, tootest, API funktsioonist ja organisatsiooni seadistustest. Sobivad tasulised organisatsioonid võivad taotleda või lubada nullandmete säilitamise juhtimise toetatud olekuta API-kõnede jaoks. Kui see on lubatud, ei salvestata hõlmatud sisendeid ja väljundeid vastuse genereerimiseks vajalikust ajast kauem ega logita neid pikemalt.

Nullandmete säilitamine ei hõlma automaatselt olekuga agente, vestlusi, teeke, üleslaaditud dokumente, operatiivseid metaandmeid, konto seadistusi, arveldusandmeid ega kasutusanalüütikat. Enne tundlike andmete saatmist vaata üle Mistrali ajakohased ärilised tingimused, privaatsusdokumentatsioon ja organisatsiooni konfiguratsioon.

Usaldusväärsuse ja ohutuse tavad

Hoia API-võtmed versioonihaldusest eemal ning kasuta tootmises hallatavat saladuste hoidlat.
Rakenda ajakatkestusi, korduskatseid ja eksponentsiaalset tagasipöördumist ajutiste tõrgete ning kiiruspiirangu vastuste korral.
Määra selged väljundipiirangud ja jälgi tokenikasutust.
Valideeri iga mudeli loodud tööriistaargument enne selle käivitamist.
Kasuta struktureeritud väljundeid, kui järgnevad süsteemid vajavad prognoositavaid välju, kuid valideeri tagastatud andmed sellest hoolimata.
Kinnista kuupäevaga mudeliidentifikaator, kui korratavus on oluline, ning jälgi mudeli elutsükli teateid.
Kontrolli piirkondliku lõpp-punkti tuge enne agentidele, Batchile, Filesile või muudele olekuga funktsioonidele tuginemist.
Vaata iga teenuse säilitus- ja treenimisseaded eraldi üle, mitte ära rakenda kogu platvormile üht eeldatavat poliitikat.

Millal on Mistral API hea või halb valik?

Mistral API on hea valik, kui soovid tuttavat chat-completions-liidest, ametlikke Pythoni ja TypeScripti SDK-sid, kiiret juurdepääsu Mistrali mudelitele, mitmekeelseid võimalusi, multimodaalset sisendit, dokumenditöötlust, struktureeritud väljundit, funktsioonikutsed, embeddinguid või võimalust liikuda lihtsatelt päringutelt püsivate agentide ja sisseehitatud tööriistadeni. Piirkondlik inferents ja ettevõtetele suunatud juhtimisvõimalused võivad samuti olla olulised, kui töötlemise asukoht ja haldusnõuded on tähtsad.

See võib olla halb valik, kui rakendus sõltub kasutusest sõltumatust fikseeritud hinnast, piiranguteta läbilaskevõimest, garanteeritult deterministlikest vastustest, kõigi funktsioonide universaalsest piirkondlikust toest või küpsest tarbijatele mõeldud pluginate turuplatsist. Ka peenhäälestus nõuab erilist tähelepanu: pärand-peenhäälestuse dokumentatsioon on märgitud aegunuks, samas kui praeguses hinnakirjas on loetletud valitud klassifikaatorite peenhäälestuse tooted. Enne peenhäälestusele ülesehitamist kontrolli, kas soovitud mudel ja töövoog on praegu toetatud.

Põhifaktid

Teenusepakkuja: Mistral AI
Platvorm: Mistral Studio
Peamine API: Chat Completions
Globaalne baas-URL: https://api.mistral.ai/v1
Piirkondlikud lõpp-punktid: toetatud töökoormuste jaoks mõeldud ELi ja USA inferentsi lõpp-punktid
Autentimine: API-võti koos Beareri autentimisega
Ametlikud SDK-d: Python ja TypeScript
Põhitööriistad: funktsioonikutsed, veebiotsing, koodi käivitamine, piltide genereerimine ja dokumenditeegist otsimine
Andmeteenused: Vision, OCR, Document AI, embeddings, Files ja Libraries
Hinnastamine: kasutuspõhine, mudeli- ja teenusepõhiste ühikutega

Oluline tähelepanek

Mudelite nimed, hinnad, piirangud, funktsioonide saadavus, andmete säilitamise juhtimise võimalused ja elutsükli olek võivad muutuda. Enne tootmises juurutamist kontrollige Mistrali ajakohast dokumentatsiooni ja Studio konto seadeid.

Allikad 20