Mis on Qwen API ja millal seda kasutada
Qweni praegune tootmiskeskkonna API-platvorm on Alibaba Cloud Model Studio. See pakub hallatud juurdepääsu Qweni mudelitele Alibaba Cloudi piirkondlike lõpp-punktide kaudu. Mudeleid saab kasutada OpenAI-ga ühilduvate Responses- ja Chat Completions-API-de kaudu, ametliku DashScope'i SDK-ga või töötlemata HTTP-päringuid saates.
Kasutage API-t siis, kui teie rakendus vajab Qwenile korduvat programmilist juurdepääsu, mitte interaktiivset kasutamist Qwen Studios. Tüüpilised kasutusjuhud on vestlusabilised, sisu loomine, kodeerimistööriistad, dokumentide ja failide töötlemine, piltide või muu multimodaalse sisu mõistmine, struktureeritud andmete eraldamine, tööriistu kasutavad agendid ja pakktöötlus.
Responses API on üldjuhul parem valik uute rakenduste jaoks, mis vajavad sisseehitatud tööriistu, vastuseüksusi, lihtsustatud vestlusseisundit, konteksti vahemällu salvestamist või teksti ja tööriistatulemuste kombineerimist. Chat Completions on endiselt kasulik tavapäraste sõnumipõhiste rakenduste, olemasolevate OpenAI-ga ühilduvate integratsioonide, voogedastuse, multimodaalsete päringute ja standardse funktsioonikutse jaoks.
Juurdepääsu saamine ja autentimisandmete hankimine
Looge Alibaba Cloudi konto või logige sellele sisse, avage Model Studio, valige toetatud piirkond, looge tööruum ja genereerige selle piirkonna ning tööruumi jaoks API-võti. API-võtmed on piirkonnapõhised: ühes piirkonnas loodud võtit ei saa automaatselt kasutada teise piirkonna lõpp-punktiga.
Salvestage võti keskkonnamuutujasse või saladuste haldurisse. Ärge paigutage seda otse brauserikoodi, lähtekoodihoidlasse ega rakenduse logidesse. Allolevates näidetes kasutatakse väärtusi DASHSCOPE_API_KEY ja WORKSPACE_ID.
Tootmiskasutuse korral soovitab Alibaba Cloud tööruumipõhist piirkondlikku lõpp-punkti. Levinud OpenAI-ga ühilduvate lõpp-punktide mustrid on järgmised:
https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1Singapuri jaokshttps://{WorkspaceId}.us-east-1.maas.aliyuncs.com/compatible-mode/v1USA Virginia jaokshttps://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1Hiina Pekingi jaoks
Valitud piirkond mõjutab mudelite saadavust, andmete salvestuskohta, juurutuse ulatust, päringupiiranguid ja toetatud funktsioone. Enne lõpp-punkti kasutuselevõttu tutvuge kehtiva piirkondliku dokumentatsiooniga.
API ja mudeli valimine
Alustage rakendusele sobiva liidese valimisest, mitte eeldusest, et kõik Qweni mudelid toetavad kõiki platvormi funktsioone.
| Vajadus | Sobiv lähtepunkt |
|---|---|
| Olemasolev OpenAI-laadne vestlusintegratsioon | Chat Completions koos ühilduva mudeliga |
| Sisseehitatud veebi-, koodi-, faili- või teadmistebaasi tööriistad | Responses API, kui valitud mudel ja piirkond neid toetavad |
| Standardne teksti genereerimine või andmete eraldamine | Kaasaegne Qweni tekstimudel kummagi ühilduva API kaudu |
| Pildid, heli või video sisendina | Ühilduv Qwen-VL-, Qwen-Omni- või muu multimodaalne mudel |
| Alibaba-spetsiifilised töövood | DashScope'i SDK või asjakohane Model Studio API |
Mudelite identifikaatorid, võimalused, hinnad ja saadavus muutuvad aja jooksul. Kui reprodutseeritavus on oluline, lukustage konkreetne toetatud mudel ning jälgige Alibaba Cloudi teateid mudelite kasutuselt kõrvaldamise kohta, selle asemel et toetuda määramata ajaks muutuvale aliasele. Pildi-, heli-, video-, tööriista- ja struktureeritud väljundi tugi tuleb üle kontrollida konkreetse mudeli ja piirkonna puhul.
Esimese päringu tegemine
Järgmises näites kasutatakse praegust OpenAI Pythoni SDK-d koos tööruumipõhise Singapuri lõpp-punktiga. Installige SDK käsuga pip install -U openai, määrake kaks keskkonnamuutujat ja asendage mudeli identifikaator, kui kehtiv piirkondlik mudelite loend nõuab mõnda muud toetatud mudelit.
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["DASHSCOPE_API_KEY"],
base_url=f"https://{os.environ['WORKSPACE_ID']}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1",
)
response = client.chat.completions.create(
model="qwen3.8-max",
messages=[
{"role": "system", "content": "You are a concise technical assistant."},
{"role": "user", "content": "Explain what an API key is in one paragraph."},
],
)
print(response.choices[0].message.content)Samaväärne töötlemata HTTP-päring on kasulik lõpp-punkti testimiseks SDK-st sõltumatult:
curl -X POST "https://${WORKSPACE_ID}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1/chat/completions"
-H "Authorization: Bearer ${DASHSCOPE_API_KEY}"
-H "Content-Type: application/json"
-d '{
"model": "qwen3.8-max",
"messages": [
{"role": "user", "content": "Explain what an API key is in one paragraph."}
],
"stream": false
}'Vastuse mõistmine
Voogedastuseta Chat Completionsi vastus sisaldab tavaliselt massiivi choices. Assistendi genereeritud tekst on saadaval asukohas choices[0].message.content. Tagastatud kasutusteavet saab kasutada sisend- ja väljundtokenite jälgimiseks kulude ning kvoodi seire eesmärgil.
Kui voogedastus on lubatud, saadab server kogu vastuse ootamise asemel järk-järgult sündmusi. See vähendab tajutavat ooteaega, kuid klient peab osalise teksti kokku panema ning käsitlema katkestusi, ajalõppe ja lõpetamata väljundit.
Hinnad, kvoodid ja arveldamine
Model Studio järeldamine põhineb peamiselt kasutuspõhisel arveldamisel. Tasud sõltuvad üldjuhul sisend- ja väljundtokenite kasutusest, kuid tegelik hind võib erineda ka mudeli, piirkonna, juurutuse ulatuse, konteksti pikkuse, vahemällu salvestamise, mõtlemisrežiimi ja pakktöötluse kasutamise põhjal.
Ühe dokumenteeritud näitena on Qwen3.8-Max Singapuri rahvusvahelises ulatuses hinnastatud 2 dollarile 1 miljoni sisendtokeni ja 6 dollarile 1 miljoni väljundtokeni eest. See on näide, mitte kõigi Qweni mudelite universaalne hind; kontrollige täpset mudelit, piirkonda ja teenuserežiimi kehtivalt hinnalehelt. Toetatud pakktöötluse töökoormused võivad maksta ligikaudu 50% reaalaja järeldamise hinnast. Sobivad kasutajad võivad Singapuris saada ka ajaliselt piiratud uue kasutaja kvoote, kuid neid ei tohiks käsitleda püsiva tasuta API-juurdepääsuna.
Päringupiiranguid väljendatakse tavaliselt päringutes minutis ja tokenites minutis. Piirangud erinevad mudeli ja piirkonna järgi ning mõned mudelid kasutavad igakuise tarbimise astmetel põhinevaid dünaamilisi tokenipiiranguid. Samuti võivad olla konfigureeritavad tööruumipõhised piirangud. Käsitlege hindu ja kvoote juurutuse konfiguratsioonina, mitte Qweni brändi muutumatute omadustena.
Arendajatele kättesaadavad võimalused
Vastuste voogedastus
Chat Completions toetab järkjärgulise väljundi voogedastust selliste protokollide kaudu nagu serveri saadetud sündmused. Kasutage seda interaktiivsete liideste või pikkade vastuste puhul, kuid rakendage vajaduse korral tühistamist, taasühendamise või uuesti proovimise poliitikat ning käsitlege osalisi vastuseid turvaliselt.
stream = client.chat.completions.create(
model="qwen3.8-max",
messages=[
{"role": "user", "content": "Explain streaming responses in simple terms."}
],
stream=True,
)
for chunk in stream:
text = chunk.choices[0].delta.content
if text:
print(text, end="", flush=True)
print()Funktsioonide ja tööriistade kutsumine
Funktsioonikutse võimaldab mudelil taotleda rakenduses määratletud toimingut, näiteks tellimuse andmete otsimist või teenuse kontrollimist. Mudel ei käivita funktsiooni ise. Teie rakendus valideerib genereeritud argumendid, teeb toimingu ära ja saadab tulemuse lõpliku vastuse koostamiseks mudelile tagasi.
Paljud Qweni teksti- ja multimodaalsed mudelid toetavad funktsioonikutseid ühilduvate API-de kaudu. Hoidke tööriistade ulatus kitsana, valideerige kõik argumendid, rakendage autoriseerimist mudelist sõltumatult ning ärge käsitlege tööriistakutset loata teha kontrollimata kõrvaltoimega toimingut.
Struktureeritud JSON-väljund
Model Studio toetab struktureeritud väljundi funktsioone, kuid tugi erineb mudeli ja režiimi järgi. JSON-objekti režiim on toetatud mudelite seas laialdaselt saadaval, samas kui range JSON Schema režiim on piiratud valitud mudelite ja režiimidega. Multimodaalne struktureeritud väljund võib taanduda JSON-objekti käitumisele.
import json
structured = client.chat.completions.create(
model="qwen3.7-plus",
messages=[
{"role": "system", "content": "Return the requested data as JSON."},
{"role": "user", "content": "Return a JSON object with name and category for Qwen API."},
],
response_format={"type": "json_object"},
)
result = json.loads(structured.choices[0].message.content)
print(result)Valideerige parsitud tulemus oma rakenduses. Ainuüksi korrektne JSON-süntaks ei taga, et kohustuslikud väljad, tüübid või ärireeglid oleksid õiged.
Multimodaalne sisend ja failid
Ühilduvad Qwen-VL-, Qwen-Omni- ja muud mudelid võivad vastu võtta toetatud kombinatsioone tekstist, piltidest, helist ja videost. Sisendvormingud võivad hõlmata pildi URL-e, Base64-andme-URL-e või mudelipõhiseid sisustruktuure. Ärge eeldage, et pildisisendit toetav mudel toetab ka kõiki heli-, video-, väljundi- või tööriistafunktsioone.
Failide üleslaadimine on saadaval toetatud andmete eraldamise, pakktöötluse ja peenhäälestuse töövoogude jaoks. Model Studio dokumenteerib Responses API kaudu ka failipõhiseid tööriistu ja töövooge. Enne tootmisprotsessi kavandamist kontrollige faili tüüpi, suurust, säilitusaega, piirkonda ja mudeli tuge.
Sisseehitatud tööriistad, agendid ja peenhäälestus
Kui valitud mudel ja piirkond neid toetavad, võib Responses API pakkuda sisseehitatud tööriistu, nagu veebiotsing, veebiandmete eraldamine, koodi tõlgendamine, piltide genereerimine ja teadmistebaasist otsimine. Model Studio sisaldab ka agentide ja rakenduste võimalusi, teadmistebaasist otsimist, pluginaid, pakktöötlust ning peenhäälestuse töövooge, nagu juhendatud peenhäälestus, DPO ja CPT, mis on sobivate mudelite ja piirkondade puhul saadaval.
Neid kõrgema taseme funktsioone võivad piirata piirkond, konto ajalugu, mudeli saadavus või eelvaateolek. Enne nende muutmist rakenduse vältimatuks sõltuvuseks kontrollige juurdepääsu praeguses konsoolis ja dokumentatsioonis.
SDK-d, mänguväljad ja arendajatööriistad
Ametlikud integratsioonivõimalused hõlmavad DashScope'i SDK-d, OpenAI Pythoni ning JavaScripti või TypeScripti SDK-sid, mis on konfigureeritud Model Studio baasaadressiga, ja töötlemata HTTP-d. OpenAI-ga ühilduv lahendus on mugav meeskondadele, kellel on juba OpenAI-laadsed kliendiabstraktsioonid, samas kui DashScope võib olla eelistatav Alibaba-spetsiifiliste näidete ja võimaluste puhul.
Model Studio pakub konsooli ja mänguväljale suunatud arenduskeskkonda mudelite testimiseks, tööruumide ja API-võtmete haldamiseks, kvootide ülevaatamiseks ning rakenduste konfigureerimiseks. Esitatud uuringus ei täpsustatud avalikku mänguväljale suunatud URL-i, seega tuleks konsoolijuurdepääsu ja piirkondlikku saadavust kontrollida otse.
Praktiline tööriistakutse muster
Turvalisel tööriistakutse töövool on neli etappi: saatke kasutaja päring ja tööriistade määratlused, uurige tagastatud tööriistakutset, valideerige ja täitke taotletud toiming rakendusekoodis ning saatke tööriista tulemus mudelile tagasi. Hoidke mandaadid ja autoriseerimine rakendusekihis, mitte tööriistaargumentides.
tools = [
{
"type": "function",
"function": {
"name": "lookup_status",
"description": "Look up the status of a service.",
"parameters": {
"type": "object",
"properties": {"service": {"type": "string"}},
"required": ["service"],
"additionalProperties": False,
},
},
}
]
response = client.chat.completions.create(
model="qwen3.8-max",
messages=[{"role": "user", "content": "Check the status of the payments service."}],
tools=tools,
tool_choice="auto",
)
tool_call = response.choices[0].message.tool_calls[0]
if tool_call:
arguments = json.loads(tool_call.function.arguments)
# Validate arguments and call your own service here.
print(tool_call.function.name, arguments)Koodilõik demonstreerib ainult kontrollimist. Täielik rakendus peab tagastama tööriista tulemuse valitud API nõutud sõnumivormingus ja seejärel taotlema mudelilt lõplikku vastust.
Piirangud ja tootmiskasutuse kaalutlused
- Piirkondlik sõltuvus: lõpp-punkt, võti, mudeli saadavus, andmete asukoht, piirangud ja funktsioonide tugi sõltuvad piirkonnast ning tööruumist.
- Muutuv mudelite kataloog: Alibaba Cloud eemaldab vananenud mudeleid kasutuselt ja muudab aliaseid. Jälgige kasutuselt kõrvaldamise teateid ning säilitage migratsioonitee.
- Päringupiirangud: käsitlege HTTP 429 vastuseid piiratud eksponentsiaalse taustaoote abil, vältige piiramatuid korduskatseid ning jälgige päringuid minutis, tokeneid minutis, latentsust ja tokenikasutust.
- Funktsioonide erinevused: teenusepakkuja taseme võimalused ei ole saadaval iga mudeli kaudu. Testige multimodaalset sisendit, tööriistu, struktureeritud väljundit ja sisseehitatud tööriistu täpselt selle tootmismudeliga, mida kasutate.
- Töökindlus ja latentsus: latentsus sõltub mudelist, piirkonnast, viiba suurusest, väljundi pikkusest, tööriistadest, liiklusest ja juurutuse ulatusest. Lähedal asuvad piirkonnad võivad võrgulist viivitust vähendada. Toetatud spetsiaalsed ja standardsed piirkondlikud lõpp-punktid pakuvad dokumenteeritud 99,9% SLA-katet, prooviversiooni lõpp-punktid aga SLA-d ei paku.
- Privaatsus ja logid: Alibaba Cloudi sõnul ei kasutata Model Studio klientide andmeid mudelite treenimiseks. Vaikimisi auditilogid sisaldavad päringu metaandmeid, nagu mudel, tokenikasutus, latentsus, olek ja päringu ID, kuid mitte viiba ega vastuse sisu. Täielikud järeldamislogid nõuavad eraldi lubamist ja edastatakse kliendi Simple Log Service'i Logstore'i.
- Säilitamine: esitatud avalikus dokumentatsioonis ei ole kõigi API-päringuandmete jaoks määratud üht universaalset säilitusaega, seega tutvuge kohaldatavate teenusetingimuste ja piirkondlike nõuetega.
Millal on Qwen API hea või halb valik
Qwen API sobib hästi siis, kui soovite kasutada Qweni mudeleid hallatud Alibaba Cloudi platvormi kaudu, vajate OpenAI-ga ühilduvaid migratsioonivõimalusi, tegutsete toetatud Alibaba Cloudi piirkonnas või vajate teksti, multimodaalse sisendi, tööriistade, failide, pakktöötluse ja peenhäälestuse kombinatsiooni. Selle piirkondlik tööruumimudel on kasulik ka siis, kui lõpp-punkti asukoht ja pilvekonto kontrollid on olulised.
See võib olla halb valik siis, kui teie sihtkasutajad või taristu asuvad piirkondades, kus usaldusväärne juurdepääs puudub, kui vajate ühtset ülemaailmset mudelite kataloogi ja funktsioonide komplekti või kui teie rakendus sõltub konkreetsest võimalusest, mis on saadaval ainult eelvaates või ühes piirkonnas. Samuti ei asenda see rakenduse taseme valideerimist: genereeritud sisu, tööriistaargumendid ja struktureeritud andmed vajavad enne kasutamist endiselt asjakohast kontrolli.
