Uncensored llm api -dokumentaatio

Perus-URL ja todennus

Yhdistä välittömästi osoittamalla asiakasohjelmasi base URL:iimme ja välittämällä avaimesi otsikossa. Todennus on suoraviivaista: sisällytä Authorization: Bearer YOUR_API_KEY jokaista pyyntöä kohti. Saat avaimen välittömästi rekisteröitymisen jälkeen Google- tai sähköpostitunnuksella. Puhelinnumeroa ei tarvita, ja avain näkyy näytöllä heti. Tämä toimii minkä tahansa vakio OpenAI-yhteensopivan SDK:n kanssa, koska noudatamme samaa käyttöliittymärakennetta. Sinun ei tarvitse hallita monimutkaisia kirjautumissessioita tai selviytyä sessioiden vanhenemisesta, jotka vaivaavat muita alustoja. Avain on ainoa todennustiedot, jota tarvitset kaikkiin päätepisteisiin. Tämä yksinkertaisuus tarkoittaa, että voit integroida API:n skripteihisi tai sovelluksiisi huolehtimatta tokenien päivityssykleistä tai OAuth-virtoista. Palvelu on suunniteltu kehittäjille, jotka haluavat suoran pääsyn ilman byrokraattisia esteitä. Tarjoamme siistin, ennakoitavan käyttöliittymän, joka käyttäytyy täsmälleen kuten teollisuuden standardi. Tämä lyhentää integrointiaikaa merkittävästi verrattuna omien kirjautumisjärjestelmien kanssa taisteluun.

Chat Completions Endpoint

Lähetä viestit uncensored-malliin käyttämällä standardia chat-täydennyspäätepistettä. Päätepiste hyväksyy POST-pyyntöjä osoitteeseen /v1/chat/completions JSON-ruumiilla, joka sisältää viestisi. Sinun on määritettävä mallin tunnus arvona uncensored käyttämään omaa suurta kielimalliamme. Järjestelmä palauttaa tekstivastauksia, joita voit käsitellä tai näyttää. Tämä on teksti sisään, teksti ulos -API ilman kuvien tai äänen luomiskykyä. Hallitset sävyä ja tyyliä säätämällä parametreja kuten lämpötilaa tai top_p. Vastausmuoto on johdonmukainen ja ennustettava, mikä tekee siitä helpon jäsentää millä tahansa kielellä. Voit lähettää useita vuoroja yhdessä pyynnössä keskusteluhistorian ylläpitämiseksi. Tämä lähestymistapa jäljittelee suurten tarjoajien käyttäytymistä tarjoten samalla oman spesifin uncensored-mallimme. Se on ydinominaisuus chatbotien, avustajien tai sisältögeneraattorien rakentamisessa. Päätepiste on optimoitu nopeuteen ja luotettavuuteen.

Python SDK -integraatio

Integroituminen nopeasti käyttämällä virallista Python SDK:ta vähäisellä määrityksellä. Sinun tarvitsee vain asettaa perus-URL ja API-avain asiakkaan alustuksessa. Alla oleva koodipätkä näyttää, kuinka luot yksinkertaisen chat-päätepistepyyntö. Tämä menetelmä toimii saumattomasti olemassa olevien OpenAI-koodikantojen kanssa, koska käyttöliittymä on identtinen. Voit välittää listan viesteistä rooleilla, kuten system, user, tai assistant. Vastausobjekti antaa sinun päästä käsiksi luotuun tekstiin ja token-käyttöön. Tämä tekee sovelluksesi vianetsinnästä ja valvonnasta suoraviivaista. Sinun ei tarvitse kirjoittaa omia HTTP-asiakkaita tai käsitellä JSON-sarjallistusta manuaalisesti. SDK hoitaa raskaan työn puolestasi. Tämä vähentää boilerplate-koodia ja nopeittaa kehitysykliä merkittävästi. Voit aloittaa prototyyppien luonnin minuuteissa ja skaalata myöhemmin tarpeen mukaan. Kirjasto on hyvin dokumentoitu ja aktiivisesti ylläpidetty.

Node SDK -integraatio

Käytä Node.js SDK integroidaksesi API:n JavaScript- tai TypeScript-projekteihisi. Asennus on samanlainen kuin Pythonissa: määritä base URL ja avain kerran. Koodiesimerkki näyttää yksinkertaisen pyynnön chat-päätepisteeseen. Voit käyttää samoja viestirakenteita kuin Pythonissa, varmistaen johdonmukaisuuden koko koodikannassasi. Vastausolio tarjoaa täydennystekstin ja käyttötilastot. Tämä on hyödyllistä tokeninkulutuksen seurannassa Node-sovelluksissasi. SDK käsittelee virtauksen ja virheenkäsittelyn sisäisesti, yksinkertaistaen koodiasi. Voit integroida tämän Express-reitteihin, serverless-funktioihin tai taustatyöohjelmiin. Liittymä on tuttu kenelle tahansa, joka on käyttänyt OpenAI Node -kirjastoa. Tämä tarkoittaa, että voit käyttää olemassa olevaa logiikkaa ja malleja oppimatta uutta API-rakennetta. Se sopii luontevasti moderniin JavaScript-ekosysteemiin. Saat hyödyn standardoidusta liitännäisestä ja meidän spesifeistä malliominaisuuksistamme. Tämä vähentää kognitiivista kuormaa vaihdettaessa sovelluksesi eri osien välillä.

Streamausvastaukset

Ota käyttöön reaaliaikainen tuloste asettamalla stream-parametri arvoon true pyynnössäsi. API palauttaa palikoiden suoratoiston yhden kokonaisvastauksen sijaan. Tämä on ihanteellinen keskustelujärjestelyille, joissa haluat näyttää tekstin sen generoitumisen aikana. Jokainen palikka sisältää osittaisen vastauksen, mikä mahdollistaa käyttöliittymän päivityksen vaiheittain. Viimeinen palikka sisältää pyynnön kokonaistokenkäytön. Tämä ominaisuus toimii sekä Python- että Node-SDK:ssa vähäisillä koodimuutoksilla. Käsittelet suoratoistoa iteroimalla palikoiden läpi ja liittämällä tekstin. Tämä luo sujuvamman käyttökokemuksen verrattuna odottamiseen koko vastauksen valmistumista. Se on erityisen hyödyllistä pitkän sisällön generointiin tai monimutkaisiin päättelytehtäviin. Suoratoisto-ominaisuus on yleinen nykyaikaisissa LLM-API:issä ja se tuetaan täysin täällä. Voit hallita virtaa hallitsemalla suoratoiston kulutusnopeutta. Tämä antaa sinulle hienojakoisen hallinnan siitä, miten tuloste näytetään käyttäjälle.

Rajoitukset, virheet ja konteksti

Kontekstiluukku tukee jopa 100 000 tokenia promptin ja completionin yhteensä. Voit lähettää enintään 8 samanaikaista pyyntöä avainta kohden ja 300 pyyntöä minuutissa. Jos ylität nämä rajat, saat 429 rate limit -virheen. Todennusvirheet palauttavat 401-tilakoodin, jos avaintasi ei ole voimassa. 402-tilakoodi tarkoittaa, että esimaksukreditisi on loppu. Voit täydentää saldoa kryptorahalla milloin tahansa palvelun jatkamiseksi. Virheet eivät kuluta krediittiasi, joten epäonnistuneet pyynnöt ovat ilmaisia. Tulostuksen enimmäismäärä pyyntöä kohden on 16 000 tokenia tai 2 048, jos et määritä rajaa. Pyyntöjen runko on rajoitettu 8 Mt:iin. Nämä rajat on suunniteltu varmistamaan reilu käyttöjärjestelmän vakauden. Voit seurata käyttöäsi vastausotsikoiden tai SDK-olioiden kautta. Tämä läpinäkyvyys auttaa sinua hallinnoimaan budjettiasi ja suunnittelemaan sovellusarkitektuuriasi tehokkaasti. Esimaksumalli tarkoittaa, että maksat vain käytetystä määrästä ilman piilokuluja.

cURL

Copycurl https://api.mistralapilogin.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix my token expiry error"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralapilogin.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralapilogin.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Virtaus

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)