MPT

MPT-7B

by Databricks Data + AI Platform · Avatud kaalud; pärandmudel

MPT-7B on esitatud andmetes seotud ettevõttega Databricks, kuid spetsiaalset mudeliuuringut ei ole esitatud. Seetõttu on selle võimalused, konteksti- ja väljundipiirangud, modaalsused, hinnakujundus, litsentsimine ning praegune kättesaadavus endiselt kinnitamata.

Tekst Arutlusvõime Programmeerimine
MPT-7B on siin loetletud Databricksiga seotud mudelina, kuid esitatud uurimismaterjal ei anna piisavalt mudelipõhist teavet, et kirjeldada usaldusväärselt selle arhitektuuri, võimekusi, piiranguid, hinnastust või praegust kohta tootekataloogis. Selle asemel et esitada üldist keelemudelitega seotud teavet faktina, eristab see ülevaade piiratud ulatuses kinnitatud taustateavet üksikasjadest, mis on endiselt kinnitamata.
Väljundid

Mida MPT-7B suudab teha

Tekst
Sisendid

Mida see mõistab

Tekst
Võimekused

Abifunktsioonid

Voogedastus Peenhäälestamine
Mudeli profiil

Jõudlusnäitajad

5/10 Arutlusvõime
5/10 Programmeerimine
6/10 Kiirus
9/10 Kulutõhusus
Detailid

Tehnilised andmed

Mudeliseeria MPT
Tüüp üldotstarbeline
Konteksti maht 66K märki/tokenit
Välja antud 2023-05-05
Olek Avatud kaalud; pärandmudel
Mudeli selgitused

MPT-7B avaldas MosaicML, mille omandas Databricks. See on ainult dekooderiga keelemudel, millel on Apache 2.0 litsents ja dokumenteeritud konteksti pikkus kuni 65 536 tokenit. Mudelit kasutatakse peamiselt avatud lähtekoodiga inferentsi- ja peenhäälestusraamistike kaudu, mitte Databricksi praeguse eraldiseisva API lõpp-punkti kaudu. Voogedastus- ja pakkinferents sõltuvad teenindusraamistikust.

Mudeli juhend

MPT-7B: mida saab selle mudeli kohta kontrollida

Selle lehe teema on MPT-7B, kuid esitatud lähtematerjal ei sisalda kontrollitud, konkreetselt selle mudeli kohta käivaid andmeid, dokumentatsiooni, hinnateavet, konteksti piiranguid, toetatud modaalsusi, võrdlustulemusi ega ajakohast teavet saadavuse kohta. Olemasolev kontekst nimetab emaorganisatsioonina Databricksi, kuid kirjeldab pigem Databricksi platvormi üldiselt, mitte MPT-7B-d ennast.

Mida MPT-7B kohta on kinnitatud

Esitatud lehekülje kontekstis on praeguseks vaadeldavaks mudeliks märgitud MPT-7B ning emaüksuse kirje seostab selle Databricksiga. Olemasolevas uurimismaterjalis ei ole aga MPT-7B kohta eraldi allikat, tehnilist kirjeldust, mudelikaarti, hinnalehte, API viidet ega väljalaske dokumentatsiooni.

Seetõttu ei saa esitatud materjali põhjal kinnitada järgmisi olulisi üksikasju: mudeli täpset arhitektuuri, väljalaskekuupäeva, litsentsi, treeningandmeid, parameetrite seadistust peale nimes sisalduva teabe, kontekstiakent, väljundi maksimaalset pikkust, toetatud sisendi- ja väljundvorminguid, järeldusmeetodeid, testide tulemusi, ohutusomadusi ega praegust saadavust.

Pakkuja ja koht kataloogis

Esitatud kontekstis on emaorganisatsioonina nimetatud Databricks. Selle laiem andmete ja tehisintellekti platvorm toetab andmetöötlust, analüütikat, masinõpet, mudelite teenindamist, alusmudelite kasutamist ja tehisintellektirakendusi. Platvormi taseme teave ei kinnita, et MPT-7B on praegu igas Databricksi juurutuses majutatud, soovitatud, kommertskasutuseks saadaval või toetatud.

Olemasolev materjal ei näita ka, milline on MPT-7B koht Databricksi praeguses mudelikataloogis: kas tegemist on esimese osapoole mudeli, välisest allikast pärit mudeli, pärandkirje või üksnes konkreetse teenindus- või integratsioonitee kaudu kättesaadava mudeliga. Need erinevused on olulised, sest majutatud, välised ja iseseisvalt hallatavad mudelid võivad erineda saadavuse, hinnastamise, juurdepääsukontrollide ja kasutuspiirangute poolest.

Kinnitamata võimekused ja piirangud

MPT-7B arutlus-, programmeerimis-, juhiste järgimise, mitmekeelsuse, otsingu abil täiendamise, tööriistade kasutamise ega funktsioonikutsete võimekuse kohta ei ole esitatud mudelipõhiseid tõendeid. Databricksi platvormi kirje ütleb, et platvorm toetab koodi genereerimist, failide analüüsi, mudelite teenindamist, REST API-sid, SDK-sid, OpenAI-ga ühilduvaid liideseid ja järeldustöövooge, kuid need on platvormi võimekused, mitte MPT-7B kinnitatud omadused.

Samuti ei saa platvormi üldist multimodaalsuse staatust sellele mudelile üle kanda. Esitatud teave ei kinnita, kas MPT-7B suudab vastu võtta pilte, heli, videot või faile ega seda, kas see suudab genereerida midagi peale teksti. Ka mudeli konteksti- ja väljundipiirangud on teadmata, mistõttu ei tohiks kasutajad viipade või genereeritud vastuste kavandamisel eeldada kindlat tokenipiirangut.

Hinnastamine ja juurdepääs

Esitatud uurimismaterjalis ei ole MPT-7B konkreetset hinda. Databricks kirjeldab oma laiemat platvormi üldiselt nii, et see pakub sobivatele kasutajatele tasuta võimalust isiklikuks õppimiseks ja katsetamiseks, ajaliselt piiratud ärilist prooviperioodi ning kasutuspõhiseid või lepingulisi tasulisi lahendusi. Need platvormi taseme võimalused ei tõesta, et MPT-7B on tasuta pakkumises saadaval või et sellel on kindel tokeni-, päringu-, tunni- või kuutasu.

Võimalikud kulud võivad sõltuda mudelile juurdepääsu viisist, näiteks hallatud mudeliteeninduse lõpp-punkti, välise mudeli ühenduse või kasutaja hallatava taristu kaudu, kuid esitatud allikad ei täpsusta, milline lahendus MPT-7B puhul kehtib. Seetõttu tuleks enne juurutamiskulude hindamist kontrollida praegust Databricksi kontot, mudelikataloogi kirjet või ametlikku mudelidokumentatsiooni.

Millal valida MPT-7B

Esitatud tõendite põhjal ei saa vastutustundlikku valikusoovitust anda. MPT-7B võib olla asjakohane juhul, kui lugejal on selle konkreetse mudeli jaoks kinnitatud Databricksi juurutustee ning ta on veendunud, et mudeli kvaliteet, latentsus, litsents, konteksti suurus ja hind vastavad kavandatud töökoormusele. Ilma nende kontrollideta oleks selle valimine mõne teise keelemudeli asemel spekulatiivne.

Tootmiskasutuse korral võrrelge mudeli ametlikku dokumentatsiooni rakenduse nõuetega. Eelkõige kontrollige toetatud keeli, programmeerimiskvaliteeti, viiba pikkust, väljundi pikkust, läbilaskevõimet, andmekäitluse kontrolle, tööriistade integreerimist ja juurutuspiirkonda. Kui ülesanne nõuab piltide või heli mõistmist, ärge valige MPT-7B-d, välja arvatud juhul, kui multimodaalne sisend on dokumentatsioonis sõnaselgelt kirjeldatud. Kui ülesanne nõuab struktureeritud tööriistakutseid või funktsioonikutseid, eeldage toe olemasolu ainult dokumenteeritud liidese põhjal, mitte Databricksi platvormi funktsioonidest tuletades.

Praktiline kontrollnimekiri

  • Kontrollige MPT-7B ametlikku mudelikaarti või dokumentatsiooni.
  • Kontrollige, kas mudel on praegu asjakohases Databricksi kataloogis või teenindusliideses loetletud.
  • Kontrollige litsentsi ja võimalikke piiranguid kommertskasutusele, edasilevitamisele või peenhäälestusele.
  • Pange kirja dokumenteeritud kontekstiaken ja väljundi maksimaalne pikkus.
  • Katsetage esinduslike viipadega arutlus-, programmeerimis- ja juhiste järgimise võimekust ning vajalikke keeli.
  • Kontrollige, kas toetatud on tööriistakutsed, struktureeritud väljund, voogedastus ja pakktöötlusena järeldamine.
  • Hankige valitud juurutusviisi kohta kehtiv hind.
  • Enne tundliku teabe saatmist tutvuge andmete säilitamise, treenimise, privaatsuse ja piirkondliku töötlemise tingimustega.

Kokkuvõte

Esitatud kirjes on MPT-7B nimetatud ning Databricks on märgitud selle emaorganisatsiooniks, kuid esitatud tõenditest ei piisa faktipõhiseks mudeliülevaateks. Kõige turvalisem järeldus on, et selle praegused võimekused, piirangud, hinnastamine ja saadavus on siinses materjalis kinnitamata. Enne mudeli hindamiseks või tootmises kasutamiseks rakendamist peaksid lugejad tuginema MPT-7B värskele ametlikule mudelikaardile või Databricksi kataloogikirjele.


KKK - vastused sinu küsimustele

Mida on MPT-7B kohta kinnitatud?
Esitatud teave tuvastab mudeli MPT-7B-na ja seostab selle emaüksuse kirje kaudu ettevõttega Databricks. Kuna eraldi mudelikaarti, tehnilist spetsifikatsiooni, väljalaskedokumentatsiooni, hinnalehte ega API viidet ei esitatud, on enamik mudelipõhiseid üksikasju endiselt kontrollimata.
Kas MPT-7B on praegu Databricksi kaudu saadaval?
Olemasolev materjal ei kinnita, et MPT-7B on praegu Databricksi mudelikataloogis majutatud või loetletud, kaubanduslikult saadaval või toetatud kõigis Databricksi juurutustes. Selle täpne asukoht kataloogis ja juurutusviis tuleb üle kontrollida Databricksi ajakohasest ametlikust dokumentatsioonist.
Millised on MPT-7B võimekused, kontekstiakna suurus ja toetatud modaalsused?
Esitatud uurimismaterjali põhjal ei ole MPT-7B arutlus-, kodeerimis-, mitmekeelsuse, teabeotsingu, tööriistade kasutamise, funktsioonikutsete, kontekstiakna ega väljundipikkuse võimekust kontrollitud. Samuti puudub kinnitus, et see toetab pildi-, heli-, video- või failisisendit, mistõttu ei tohiks kasutajad neid funktsioone Databricksi platvormi üldiste võimaluste põhjal eeldada.
Kui palju MPT-7B maksab ja kuidas seda tuleks hinnata?
MPT-7B kohta eraldi hinda ei ole esitatud. Kulud võivad sõltuda sellest, kas mudelit kasutatakse hallatava mudeliteenuse, välise mudeliühenduse või kasutaja hallatava taristu kaudu. Enne selle valimist kontrollige ametlikku mudelikaarti või kataloogikirjet, litsentsi, piiranguid, jõudlust, toetatud liideseid, andmekäitluse tingimusi, juurutuspiirkonda ja kehtivat hinnastust.


Allikad 3
AI ettevõte

Info Databricks Data + AI Platform kohta