Arendaja platvorm

Qwen API

Qwen ülevaade arendajatele, mis hõlmab API-juurdepääsu, hinnastust, SDK-tuge, lõppunkte, võimekusi ja platvormi reegleid.

API võti Nõutud
Peamine API OpenAI-ühilduvad Responses API ja Chat Completions API-d koos DashScope SDK toega
SDK tugi Ametlik DashScope SDK ning ühilduvus Pythoni ja JavaScripti/TypeScripti ametlike OpenAI SDK-dega kohandatud baas-URL-i kaudu. Toetatud on ka otse HTTP-päringute saatmine.
Päringupiirangud RPM-i ja TPM-i piirangud varieeruvad mudeli ja piirkonna järgi. Piirangud koondatakse tavaliselt Alibaba Cloudi konto ja mudeli tasandil. Mõne mudeli puhul kasutatakse kuutarbimisel põhinevaid dünaamilisi TPM-i tasemeid; samuti võidakse konfigureerida töö
Platvorm

API ülevaade

Lõppunktid (endpoints)

API ligipääs

Juuraadress (Base URL) https://{WorkspaceId}.{region}.maas.aliyuncs.com/compatible-mode/v1
Peamine API OpenAI-ühilduvad Responses API ja Chat Completions API-d koos DashScope SDK toega
Hinnad

API Hinnad

Hinnakujundusmudel Peamiselt kasutuspõhine arveldamine tokenite alusel; sobilike teenuste puhul on saadaval ka pakettöötluse hinnastus, ettemaksu- või tellimuspaketid ning spetsiaalse juurutuse arveldamine.

Hinnad sõltuvad mudelist, piirkonnast, juurutamise ulatusest, konteksti pikkusest, vahemällu salvestamisest ja mõtlemisrežiimist. Praeguste näidete hulka kuulub Qwen3.8-Max, mille hind Singapuri rahvusvahelises piirkonnas on 2 dollarit 1 miljoni sisendtokeni ja 6 dollarit 1 miljoni väljundtokeni eest. Pakktöötlus Qwen3.8-Maxile

Arendaja töömugavus

SDK info

SDK Ametlik DashScope SDK ning ühilduvus Pythoni ja JavaScripti/TypeScripti ametlike OpenAI SDK-dega kohandatud baas-URL-i kaudu. Toetatud on ka otse HTTP-päringute saatmine.
Kasutusmugavus Hea. OpenAI-ga ühilduvad lõpp-punktid võimaldavad olemasolevaid OpenAI integratsioone kohandada, muutes API-võtit, baasaadressi ja mudeli nime. Piirkondliku tööruumi seadistamine ja mudelite kättesaadavus nõuavad täiendavat konfigureerimist.
Dokumentatsioon Hea ja aktiivselt hooldatav. Dokumentatsioon hõlmab kiirkäivitusi, OpenAI-ga ühilduvaid API-sid, DashScope’i, mudelipõhiseid viiteid, hinnakujundust, piirkondi, tööriistu, struktureeritud väljundeid, faile, peenhäälestust, privaatsust ja migratsiooniteema
Viivitus Latentsus varieerub olenevalt mudelist, piirkonnast, juurutuse ulatusest, viiba suurusest, väljundi pikkusest, tööriistadest ja liiklusest. Lähedalasuvate piirkondade kasutamine vähendab võrgu latentsust. Töökohapõhised spetsiaalsed tootmisotspunktid taga
Allikad

Viited arendajale

Featuurid

API võimekused

✓ Voogedastus
✓ Funktsioonide kasutamine
✓ Assistants API
✓ Failide üleslaadimine
✓ Peenhäälestamine
✓ Veebiotsing
✓ Pildi sisend
✓ Struktureeritud väljund
✓ Liivakast
Lühikirjeldus

Model Studio toetab piirkondlikke API-võtmeid, tööruumipõhiseid tootmise lõpp-punkte, OpenAI-ga ühilduvaid Responsesi ja Chat Completionsi API-sid, DashScope SDK-d, voogedastust, funktsioonikutsungeid, struktureeritud JSON-väljundit, mitmeliigilisi sisendeid, failipõhiseid töövooge, pakktöötlust, peenhäälestust, seiret ning agendi- ja rakendusvõimalusi. Responses API lisab sisseehitatud tööriistad, nagu veebotsing, veebisisu väljavõte, kooditõlgend, piltide genereerimine ja teadmistebaasiotsing, kui valitud mudel ja piirkond neid toetavad. JSON Objecti režiim on saadaval paljude mudelite puhul; range JSON Schema režiim on piiratud valitud mudelitega. Piltide, heli ja video võimalused erinevad mudeliti. Agendirakenduste API-dele ja mõnele rakenduste arendamise funktsioonile võivad kehtida piirkonnast, konto ajaloost või eelvaatestaatuse tõttu piirangud. Pärand-DashScope'i domeene toetatakse teatud juhtudel endiselt, kuid Alibaba Cloud soovitab tootmisintegratsioonid üle viia tööruumipõhistele piirkondlikele domeenidele. Alibaba Cloudi sõnul ei toeta DashScope'i domeen pärast 30. septembrit 2026 uusi funktsioone.

Näited

API Näited

curl -X POST "https://${WORKSPACE_ID}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1/chat/completions" \
  -H "Authorization: Bearer ${DASHSCOPE_API_KEY}" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen3.8-max",
    "messages": [
      {"role": "system", "content": "You are a concise technical assistant."},
      {"role": "user", "content": "Explain what an API key is in one paragraph."}
    ],
    "stream": false
  }' | jq -r '.choices[0].message.content'

curl -N -X POST "https://${WORKSPACE_ID}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1/chat/completions" \
  -H "Authorization: Bearer ${DASHSCOPE_API_KEY}" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen3.8-max",
    "messages": [{"role": "user", "content": "List three secure API-key practices."}],
    "stream": true
  }'
# Install: pip install -U openai
import json
import os
from openai import OpenAI

api_key = os.environ["DASHSCOPE_API_KEY"]
workspace_id = os.environ["WORKSPACE_ID"]

client = OpenAI(
    api_key=api_key,
    base_url=f"https://{workspace_id}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1",
)

try:
    response = client.chat.completions.create(
        model="qwen3.8-max",
        messages=[
            {"role": "system", "content": "You are a helpful technical assistant."},
            {"role": "user", "content": "Give me two practical API security recommendations."},
        ],
    )
    print(response.choices[0].message.content)

    stream = client.chat.completions.create(
        model="qwen3.8-max",
        messages=[
            {"role": "user", "content": "Explain streaming responses in simple terms."},
        ],
        stream=True,
    )
    for chunk in stream:
        text = chunk.choices[0].delta.content
        if text:
            print(text, end="", flush=True)
    print()

    structured = client.chat.completions.create(
        model="qwen3.7-plus",
        messages=[
            {"role": "system", "content": "Return the requested data as JSON."},
            {"role": "user", "content": "Return a JSON object with name and category for the product Qwen API."},
        ],
        response_format={"type": "json_object"},
    )
    print(json.loads(structured.choices[0].message.content))
except Exception as exc:
    print(f"Qwen API request failed: {exc}")
    raise
// Install: npm install openai
import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.DASHSCOPE_API_KEY,
  baseURL: `https://${process.env.WORKSPACE_ID}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1`,
});

try {
  const response = await client.chat.completions.create({
    model: "qwen3.8-max",
    messages: [
      { role: "system", content: "You are a helpful technical assistant." },
      { role: "user", content: "Explain the difference between RPM and TPM." },
    ],
  });
  console.log(response.choices[0].message.content);

  const tools = [
    {
      type: "function",
      function: {
        name: "lookup_status",
        description: "Look up the status of a service.",
        parameters: {
          type: "object",
          properties: { service: { type: "string" } },
          required: ["service"],
          additionalProperties: false,
        },
      },
    },
  ];

  const toolResponse = await client.chat.completions.create({
    model: "qwen3.8-max",
    messages: [{ role: "user", content: "Check the status of the payments service." }],
    tools,
    tool_choice: "auto",
  });

  const toolCall = toolResponse.choices[0].message.tool_calls?.[0];
  if (toolCall) {
    const args = JSON.parse(toolCall.function.arguments);
    console.log({ function: toolCall.function.name, arguments: args });
  } else {
    console.log(toolResponse.choices[0].message.content);
  }

  const stream = await client.chat.completions.create({
    model: "qwen3.8-max",
    messages: [{ role: "user", content: "Summarize the benefits of regional endpoints." }],
    stream: true,
  });
  for await (const chunk of stream) {
    process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
  }
  process.stdout.write("\n");
} catch (error) {
  console.error("Qwen API request failed:", error);
  process.exitCode = 1;
}
<?php
$apiKey = getenv('DASHSCOPE_API_KEY');
$workspaceId = getenv('WORKSPACE_ID');
$url = "https://{$workspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1/chat/completions";

if (!$apiKey || !$workspaceId) {
    fwrite(STDERR, "DASHSCOPE_API_KEY and WORKSPACE_ID are required\n");
    exit(1);
}

$payload = [
    'model' => 'qwen3.8-max',
    'messages' => [
        ['role' => 'system', 'content' => 'You are a helpful technical assistant.'],
        ['role' => 'user', 'content' => 'Explain how to handle API rate limits.'],
    ],
];

$ch = curl_init($url);
curl_setopt_array($ch, [
    CURLOPT_POST => true,
    CURLOPT_HTTPHEADER => [
        'Authorization: Bearer ' . $apiKey,
        'Content-Type: application/json',
    ],
    CURLOPT_POSTFIELDS => json_encode($payload, JSON_THROW_ON_ERROR),
    CURLOPT_RETURNTRANSFER => true,
    CURLOPT_TIMEOUT => 120,
]);

$body = curl_exec($ch);
$curlError = curl_error($ch);
$httpCode = curl_getinfo($ch, CURLINFO_HTTP_CODE);
curl_close($ch);

if ($body === false || $curlError !== '') {
    throw new RuntimeException('Network error: ' . $curlError);
}

$data = json_decode($body, true);
if ($httpCode < 200 || $httpCode >= 300) {
    $message = $data['error']['message'] ?? $body;
    throw new RuntimeException("Qwen API HTTP {$httpCode}: {$message}");
}

$content = $data['choices'][0]['message']['content'] ?? null;
if ($content === null) {
    throw new RuntimeException('The response did not contain assistant content.');
}

echo $content . PHP_EOL;
Põhimõtted

Andmete kasutus

Andmete kasutus

Alibaba Cloud Model Studio kinnitab, et klientide andmeid ei kasutata kunagi mudelite treenimiseks. Rakenduste loomise ja mudelite treenimise ajal edastatavad andmed krüpteeritakse AES-256 abil. Kliendid peaksid siiski tutvuma kohaldatavate Alibaba Cloudi teenusetingimuste, piirkondlike vastavusnõuete, tööruumiõiguste ja logimise konfiguratsiooniga.

Andmete säilitamine

Alibaba Cloud märgib, et Model Studio salvestab mudeli- ja rakendusekutsete käigus genereeritud andmeid kooskõlas kehtivate seaduste ja eeskirjadega. Auditilogid on vaikimisi lubatud ning neis säilitatakse päringu metaandmeid, näiteks päringu ID-d, mudelit, tokenite kasutust, latentsust ja olekut. Vaikimisi auditilogid ei sisalda viipade ega vastuste sisu. Täielikud järelduslogid, mis sisaldavad viipasid, vastuseid ja vahepealseid samme, tuleb eraldi lubada ning need edastatakse kliendi Simple Log Service'i Logstore'i. Avalikus dokumentatsioonis, mida vaadati, ei ole kõigi API-päringuandmete jaoks sätestatud ühtset säilitamisperioodi.

Päringupiirangud

RPM-i ja TPM-i piirangud varieeruvad mudeli ja piirkonna järgi. Piirangud koondatakse tavaliselt Alibaba Cloudi konto ja mudeli tasandil. Mõne mudeli puhul kasutatakse kuutarbimisel põhinevaid dünaamilisi TPM-i tasemeid; samuti võidakse konfigureerida töö

Arendaja juhend

Qwen API: Alibaba Cloudi Model Studio arendajajuhend

Qweni API-le pääseb ligi Alibaba Cloud Model Studio kaudu, mis pakub piirkonnapõhiseid OpenAI-ga ühilduvaid Responsesi ja Chat Completionsi API-sid ning ametlikku DashScope'i SDK-d. Arendajad saavad API-võtmete abil kasutada Qweni mudeleid teksti- ja multimodaalseks järeldamiseks, voogedastuseks, funktsioonikutseteks, struktureeritud JSON-väljundiks, failitöötluseks, sisseehitatud tööriistadeks, pakktöötluseks, peenhäälestuseks ja agendirakendusteks. Hinnastus põhineb peamiselt kasutuspõhisel tasul ning sõltub mudelist, piirkonnast, juurutuse ulatusest, konteksti pikkusest, vahemällu salvestamisest ja mõtlemisrežiimist.
Qweni API on arendajatele mõeldud liides Qweni mudelite kasutamiseks Alibaba Cloud Model Studio kaudu. See on suunatud rakendustele, mis vajavad hallatud mudeliinference’it, mitte tarbijatele mõeldud vestlusliidest. Kasutusvaldkondade hulka kuuluvad vestlusrobotid, dokumenditöötluse töövood, programmeerimistööriistad, multimodaalsed rakendused, teadussüsteemid ja tootmiskeskkonna teenused. Paljude arendajate jaoks on kõige lihtsam üleminekutee OpenAI-ga ühilduv API: seadistage piirkondlik Model Studio lõpp-punkt, sisestage piirkondlik API-võti ning muutke olemasolevas OpenAI SDK integratsioonis mudeli nime ja baas-URL-i.
Alibaba Cloud Model Studio pakub Qweni API-sid OpenAI-ga ühilduvate Responsesi ja Chat Completionsi liideste ning DashScope SDK kaudu. Arendajad saavad kasutada piirkonnapõhiseid API-võtmeid tokenipõhise hinnastusega teksti- ja multimodaalseks inferentsiks, voogedastuseks, funktsioonikutseteks, struktureeritud JSON-i, failide, sisseehitatud tööriistade, pakettöötluste, agentide ja peenhäälestuse jaoks. Võimalused ja piirangud varieeruvad mudeli ning piirkonna järgi.

Mis on Qwen API ja millal seda kasutada

Qweni praegune tootmiskeskkonna API-platvorm on Alibaba Cloud Model Studio. See pakub hallatud juurdepääsu Qweni mudelitele Alibaba Cloudi piirkondlike lõpp-punktide kaudu. Mudeleid saab kasutada OpenAI-ga ühilduvate Responses- ja Chat Completions-API-de kaudu, ametliku DashScope'i SDK-ga või töötlemata HTTP-päringuid saates.

Kasutage API-t siis, kui teie rakendus vajab Qwenile korduvat programmilist juurdepääsu, mitte interaktiivset kasutamist Qwen Studios. Tüüpilised kasutusjuhud on vestlusabilised, sisu loomine, kodeerimistööriistad, dokumentide ja failide töötlemine, piltide või muu multimodaalse sisu mõistmine, struktureeritud andmete eraldamine, tööriistu kasutavad agendid ja pakktöötlus.

Responses API on üldjuhul parem valik uute rakenduste jaoks, mis vajavad sisseehitatud tööriistu, vastuseüksusi, lihtsustatud vestlusseisundit, konteksti vahemällu salvestamist või teksti ja tööriistatulemuste kombineerimist. Chat Completions on endiselt kasulik tavapäraste sõnumipõhiste rakenduste, olemasolevate OpenAI-ga ühilduvate integratsioonide, voogedastuse, multimodaalsete päringute ja standardse funktsioonikutse jaoks.

Juurdepääsu saamine ja autentimisandmete hankimine

Looge Alibaba Cloudi konto või logige sellele sisse, avage Model Studio, valige toetatud piirkond, looge tööruum ja genereerige selle piirkonna ning tööruumi jaoks API-võti. API-võtmed on piirkonnapõhised: ühes piirkonnas loodud võtit ei saa automaatselt kasutada teise piirkonna lõpp-punktiga.

Salvestage võti keskkonnamuutujasse või saladuste haldurisse. Ärge paigutage seda otse brauserikoodi, lähtekoodihoidlasse ega rakenduse logidesse. Allolevates näidetes kasutatakse väärtusi DASHSCOPE_API_KEY ja WORKSPACE_ID.

Tootmiskasutuse korral soovitab Alibaba Cloud tööruumipõhist piirkondlikku lõpp-punkti. Levinud OpenAI-ga ühilduvate lõpp-punktide mustrid on järgmised:

  • https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1 Singapuri jaoks
  • https://{WorkspaceId}.us-east-1.maas.aliyuncs.com/compatible-mode/v1 USA Virginia jaoks
  • https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1 Hiina Pekingi jaoks

Valitud piirkond mõjutab mudelite saadavust, andmete salvestuskohta, juurutuse ulatust, päringupiiranguid ja toetatud funktsioone. Enne lõpp-punkti kasutuselevõttu tutvuge kehtiva piirkondliku dokumentatsiooniga.

API ja mudeli valimine

Alustage rakendusele sobiva liidese valimisest, mitte eeldusest, et kõik Qweni mudelid toetavad kõiki platvormi funktsioone.

VajadusSobiv lähtepunkt
Olemasolev OpenAI-laadne vestlusintegratsioonChat Completions koos ühilduva mudeliga
Sisseehitatud veebi-, koodi-, faili- või teadmistebaasi tööriistadResponses API, kui valitud mudel ja piirkond neid toetavad
Standardne teksti genereerimine või andmete eraldamineKaasaegne Qweni tekstimudel kummagi ühilduva API kaudu
Pildid, heli või video sisendinaÜhilduv Qwen-VL-, Qwen-Omni- või muu multimodaalne mudel
Alibaba-spetsiifilised töövoodDashScope'i SDK või asjakohane Model Studio API

Mudelite identifikaatorid, võimalused, hinnad ja saadavus muutuvad aja jooksul. Kui reprodutseeritavus on oluline, lukustage konkreetne toetatud mudel ning jälgige Alibaba Cloudi teateid mudelite kasutuselt kõrvaldamise kohta, selle asemel et toetuda määramata ajaks muutuvale aliasele. Pildi-, heli-, video-, tööriista- ja struktureeritud väljundi tugi tuleb üle kontrollida konkreetse mudeli ja piirkonna puhul.

Esimese päringu tegemine

Järgmises näites kasutatakse praegust OpenAI Pythoni SDK-d koos tööruumipõhise Singapuri lõpp-punktiga. Installige SDK käsuga pip install -U openai, määrake kaks keskkonnamuutujat ja asendage mudeli identifikaator, kui kehtiv piirkondlik mudelite loend nõuab mõnda muud toetatud mudelit.

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["DASHSCOPE_API_KEY"],
    base_url=f"https://{os.environ['WORKSPACE_ID']}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1",
)

response = client.chat.completions.create(
    model="qwen3.8-max",
    messages=[
        {"role": "system", "content": "You are a concise technical assistant."},
        {"role": "user", "content": "Explain what an API key is in one paragraph."},
    ],
)

print(response.choices[0].message.content)

Samaväärne töötlemata HTTP-päring on kasulik lõpp-punkti testimiseks SDK-st sõltumatult:

curl -X POST "https://${WORKSPACE_ID}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1/chat/completions" 
  -H "Authorization: Bearer ${DASHSCOPE_API_KEY}" 
  -H "Content-Type: application/json" 
  -d '{
    "model": "qwen3.8-max",
    "messages": [
      {"role": "user", "content": "Explain what an API key is in one paragraph."}
    ],
    "stream": false
  }'

Vastuse mõistmine

Voogedastuseta Chat Completionsi vastus sisaldab tavaliselt massiivi choices. Assistendi genereeritud tekst on saadaval asukohas choices[0].message.content. Tagastatud kasutusteavet saab kasutada sisend- ja väljundtokenite jälgimiseks kulude ning kvoodi seire eesmärgil.

Kui voogedastus on lubatud, saadab server kogu vastuse ootamise asemel järk-järgult sündmusi. See vähendab tajutavat ooteaega, kuid klient peab osalise teksti kokku panema ning käsitlema katkestusi, ajalõppe ja lõpetamata väljundit.

Hinnad, kvoodid ja arveldamine

Model Studio järeldamine põhineb peamiselt kasutuspõhisel arveldamisel. Tasud sõltuvad üldjuhul sisend- ja väljundtokenite kasutusest, kuid tegelik hind võib erineda ka mudeli, piirkonna, juurutuse ulatuse, konteksti pikkuse, vahemällu salvestamise, mõtlemisrežiimi ja pakktöötluse kasutamise põhjal.

Ühe dokumenteeritud näitena on Qwen3.8-Max Singapuri rahvusvahelises ulatuses hinnastatud 2 dollarile 1 miljoni sisendtokeni ja 6 dollarile 1 miljoni väljundtokeni eest. See on näide, mitte kõigi Qweni mudelite universaalne hind; kontrollige täpset mudelit, piirkonda ja teenuserežiimi kehtivalt hinnalehelt. Toetatud pakktöötluse töökoormused võivad maksta ligikaudu 50% reaalaja järeldamise hinnast. Sobivad kasutajad võivad Singapuris saada ka ajaliselt piiratud uue kasutaja kvoote, kuid neid ei tohiks käsitleda püsiva tasuta API-juurdepääsuna.

Päringupiiranguid väljendatakse tavaliselt päringutes minutis ja tokenites minutis. Piirangud erinevad mudeli ja piirkonna järgi ning mõned mudelid kasutavad igakuise tarbimise astmetel põhinevaid dünaamilisi tokenipiiranguid. Samuti võivad olla konfigureeritavad tööruumipõhised piirangud. Käsitlege hindu ja kvoote juurutuse konfiguratsioonina, mitte Qweni brändi muutumatute omadustena.

Arendajatele kättesaadavad võimalused

Vastuste voogedastus

Chat Completions toetab järkjärgulise väljundi voogedastust selliste protokollide kaudu nagu serveri saadetud sündmused. Kasutage seda interaktiivsete liideste või pikkade vastuste puhul, kuid rakendage vajaduse korral tühistamist, taasühendamise või uuesti proovimise poliitikat ning käsitlege osalisi vastuseid turvaliselt.

stream = client.chat.completions.create(
    model="qwen3.8-max",
    messages=[
        {"role": "user", "content": "Explain streaming responses in simple terms."}
    ],
    stream=True,
)

for chunk in stream:
    text = chunk.choices[0].delta.content
    if text:
        print(text, end="", flush=True)
print()

Funktsioonide ja tööriistade kutsumine

Funktsioonikutse võimaldab mudelil taotleda rakenduses määratletud toimingut, näiteks tellimuse andmete otsimist või teenuse kontrollimist. Mudel ei käivita funktsiooni ise. Teie rakendus valideerib genereeritud argumendid, teeb toimingu ära ja saadab tulemuse lõpliku vastuse koostamiseks mudelile tagasi.

Paljud Qweni teksti- ja multimodaalsed mudelid toetavad funktsioonikutseid ühilduvate API-de kaudu. Hoidke tööriistade ulatus kitsana, valideerige kõik argumendid, rakendage autoriseerimist mudelist sõltumatult ning ärge käsitlege tööriistakutset loata teha kontrollimata kõrvaltoimega toimingut.

Struktureeritud JSON-väljund

Model Studio toetab struktureeritud väljundi funktsioone, kuid tugi erineb mudeli ja režiimi järgi. JSON-objekti režiim on toetatud mudelite seas laialdaselt saadaval, samas kui range JSON Schema režiim on piiratud valitud mudelite ja režiimidega. Multimodaalne struktureeritud väljund võib taanduda JSON-objekti käitumisele.

import json

structured = client.chat.completions.create(
    model="qwen3.7-plus",
    messages=[
        {"role": "system", "content": "Return the requested data as JSON."},
        {"role": "user", "content": "Return a JSON object with name and category for Qwen API."},
    ],
    response_format={"type": "json_object"},
)

result = json.loads(structured.choices[0].message.content)
print(result)

Valideerige parsitud tulemus oma rakenduses. Ainuüksi korrektne JSON-süntaks ei taga, et kohustuslikud väljad, tüübid või ärireeglid oleksid õiged.

Multimodaalne sisend ja failid

Ühilduvad Qwen-VL-, Qwen-Omni- ja muud mudelid võivad vastu võtta toetatud kombinatsioone tekstist, piltidest, helist ja videost. Sisendvormingud võivad hõlmata pildi URL-e, Base64-andme-URL-e või mudelipõhiseid sisustruktuure. Ärge eeldage, et pildisisendit toetav mudel toetab ka kõiki heli-, video-, väljundi- või tööriistafunktsioone.

Failide üleslaadimine on saadaval toetatud andmete eraldamise, pakktöötluse ja peenhäälestuse töövoogude jaoks. Model Studio dokumenteerib Responses API kaudu ka failipõhiseid tööriistu ja töövooge. Enne tootmisprotsessi kavandamist kontrollige faili tüüpi, suurust, säilitusaega, piirkonda ja mudeli tuge.

Sisseehitatud tööriistad, agendid ja peenhäälestus

Kui valitud mudel ja piirkond neid toetavad, võib Responses API pakkuda sisseehitatud tööriistu, nagu veebiotsing, veebiandmete eraldamine, koodi tõlgendamine, piltide genereerimine ja teadmistebaasist otsimine. Model Studio sisaldab ka agentide ja rakenduste võimalusi, teadmistebaasist otsimist, pluginaid, pakktöötlust ning peenhäälestuse töövooge, nagu juhendatud peenhäälestus, DPO ja CPT, mis on sobivate mudelite ja piirkondade puhul saadaval.

Neid kõrgema taseme funktsioone võivad piirata piirkond, konto ajalugu, mudeli saadavus või eelvaateolek. Enne nende muutmist rakenduse vältimatuks sõltuvuseks kontrollige juurdepääsu praeguses konsoolis ja dokumentatsioonis.

SDK-d, mänguväljad ja arendajatööriistad

Ametlikud integratsioonivõimalused hõlmavad DashScope'i SDK-d, OpenAI Pythoni ning JavaScripti või TypeScripti SDK-sid, mis on konfigureeritud Model Studio baasaadressiga, ja töötlemata HTTP-d. OpenAI-ga ühilduv lahendus on mugav meeskondadele, kellel on juba OpenAI-laadsed kliendiabstraktsioonid, samas kui DashScope võib olla eelistatav Alibaba-spetsiifiliste näidete ja võimaluste puhul.

Model Studio pakub konsooli ja mänguväljale suunatud arenduskeskkonda mudelite testimiseks, tööruumide ja API-võtmete haldamiseks, kvootide ülevaatamiseks ning rakenduste konfigureerimiseks. Esitatud uuringus ei täpsustatud avalikku mänguväljale suunatud URL-i, seega tuleks konsoolijuurdepääsu ja piirkondlikku saadavust kontrollida otse.

Praktiline tööriistakutse muster

Turvalisel tööriistakutse töövool on neli etappi: saatke kasutaja päring ja tööriistade määratlused, uurige tagastatud tööriistakutset, valideerige ja täitke taotletud toiming rakendusekoodis ning saatke tööriista tulemus mudelile tagasi. Hoidke mandaadid ja autoriseerimine rakendusekihis, mitte tööriistaargumentides.

tools = [
    {
        "type": "function",
        "function": {
            "name": "lookup_status",
            "description": "Look up the status of a service.",
            "parameters": {
                "type": "object",
                "properties": {"service": {"type": "string"}},
                "required": ["service"],
                "additionalProperties": False,
            },
        },
    }
]

response = client.chat.completions.create(
    model="qwen3.8-max",
    messages=[{"role": "user", "content": "Check the status of the payments service."}],
    tools=tools,
    tool_choice="auto",
)

tool_call = response.choices[0].message.tool_calls[0]
if tool_call:
    arguments = json.loads(tool_call.function.arguments)
    # Validate arguments and call your own service here.
    print(tool_call.function.name, arguments)

Koodilõik demonstreerib ainult kontrollimist. Täielik rakendus peab tagastama tööriista tulemuse valitud API nõutud sõnumivormingus ja seejärel taotlema mudelilt lõplikku vastust.

Piirangud ja tootmiskasutuse kaalutlused

  • Piirkondlik sõltuvus: lõpp-punkt, võti, mudeli saadavus, andmete asukoht, piirangud ja funktsioonide tugi sõltuvad piirkonnast ning tööruumist.
  • Muutuv mudelite kataloog: Alibaba Cloud eemaldab vananenud mudeleid kasutuselt ja muudab aliaseid. Jälgige kasutuselt kõrvaldamise teateid ning säilitage migratsioonitee.
  • Päringupiirangud: käsitlege HTTP 429 vastuseid piiratud eksponentsiaalse taustaoote abil, vältige piiramatuid korduskatseid ning jälgige päringuid minutis, tokeneid minutis, latentsust ja tokenikasutust.
  • Funktsioonide erinevused: teenusepakkuja taseme võimalused ei ole saadaval iga mudeli kaudu. Testige multimodaalset sisendit, tööriistu, struktureeritud väljundit ja sisseehitatud tööriistu täpselt selle tootmismudeliga, mida kasutate.
  • Töökindlus ja latentsus: latentsus sõltub mudelist, piirkonnast, viiba suurusest, väljundi pikkusest, tööriistadest, liiklusest ja juurutuse ulatusest. Lähedal asuvad piirkonnad võivad võrgulist viivitust vähendada. Toetatud spetsiaalsed ja standardsed piirkondlikud lõpp-punktid pakuvad dokumenteeritud 99,9% SLA-katet, prooviversiooni lõpp-punktid aga SLA-d ei paku.
  • Privaatsus ja logid: Alibaba Cloudi sõnul ei kasutata Model Studio klientide andmeid mudelite treenimiseks. Vaikimisi auditilogid sisaldavad päringu metaandmeid, nagu mudel, tokenikasutus, latentsus, olek ja päringu ID, kuid mitte viiba ega vastuse sisu. Täielikud järeldamislogid nõuavad eraldi lubamist ja edastatakse kliendi Simple Log Service'i Logstore'i.
  • Säilitamine: esitatud avalikus dokumentatsioonis ei ole kõigi API-päringuandmete jaoks määratud üht universaalset säilitusaega, seega tutvuge kohaldatavate teenusetingimuste ja piirkondlike nõuetega.

Millal on Qwen API hea või halb valik

Qwen API sobib hästi siis, kui soovite kasutada Qweni mudeleid hallatud Alibaba Cloudi platvormi kaudu, vajate OpenAI-ga ühilduvaid migratsioonivõimalusi, tegutsete toetatud Alibaba Cloudi piirkonnas või vajate teksti, multimodaalse sisendi, tööriistade, failide, pakktöötluse ja peenhäälestuse kombinatsiooni. Selle piirkondlik tööruumimudel on kasulik ka siis, kui lõpp-punkti asukoht ja pilvekonto kontrollid on olulised.

See võib olla halb valik siis, kui teie sihtkasutajad või taristu asuvad piirkondades, kus usaldusväärne juurdepääs puudub, kui vajate ühtset ülemaailmset mudelite kataloogi ja funktsioonide komplekti või kui teie rakendus sõltub konkreetsest võimalusest, mis on saadaval ainult eelvaates või ühes piirkonnas. Samuti ei asenda see rakenduse taseme valideerimist: genereeritud sisu, tööriistaargumendid ja struktureeritud andmed vajavad enne kasutamist endiselt asjakohast kontrolli.

Allikad 17