Uncensored llm api документація

Базова URL-адреса та аутентифікація

Підключіться миттєво, вказавши вашому клієнту базовий URL та передавши ваш ключ у заголовку. Аутентифікація проста: включіть Authorization: Bearer YOUR_API_KEY з кожним запитом. Ви отримуєте ключ миттєво після реєстрації через Google або електронну пошту. Номер телефону не потрібен, і ключ одразу з’являється на екрані. Ця конфігурація працює з будь-яким стандартним SDK, сумісним з OpenAI, оскільки ми дотримуємося тієї ж структури інтерфейсу. Вам не потрібно керувати складними сесіями входу або стикатися з закінченням терміну дії сесій, що характерно для інших платформ. Ваш ключ — єдина облікова дана, необхідна для всіх ендпоінтів. Ця простота означає, що ви можете інтегрувати API у свої скрипти або додатки, не турбуючись про цикли оновлення токенів або потоки OAuth. Сервіс створено для розробників, які хочуть отримати прямий доступ без бюрократичних перешкод. Ми надаємо чистий, передбачуваний інтерфейс, який поводиться точно так само, як галузевий стандарт. Це значно скорочує час інтеграції порівняно з боротьбою з пропрієтарними системами входу.

Ендпоінт Chat Completions

Надсилайте повідомлення до моделі без цензури за допомогою стандартного ендпоінту завершення чату. Ендпоінт приймає POST-запити на /v1/chat/completions з JSON тілом, що містить ваші повідомлення. Ви повинні вказати id моделі як uncensored використовувати нашу специфічну велику мовну модель. Система повертає текстові відповіді, які ви можете обробляти або відображати. Це API типу «текст у, текст вихід» без можливості генерації зображень або аудіо. Ви контролюєте тон і стиль, регулюючи параметри, такі як temperature або top_p. Формат відповіді є послідовним і передбачуваним, що полегшує парсинг будь-якою мовою. Ви можете надсилати кілька ходів в одному запиті, щоб підтримувати історію розмови. Цей підхід імітує поведінку провідних постачальників, пропонуючи нашу специфічну uncensored модель. Це основна функціональність для створення чат-ботів, асистентів або генераторів контенту. Точка доступу оптимізована за швидкістю та надійністю.

Інтеграція SDK Python

Швидка інтеграція за допомогою офіційного Python SDK з мінімальними налаштуваннями. Вам потрібно лише встановити базовий URL і API-ключ під час ініціалізації клієнта. Наведений нижче фрагмент коду показує, як створити простий запит на завершення чату. Цей метод бездоганно працює з існуючими кодовими базами OpenAI, оскільки інтерфейс ідентичний. Ви можете передати список повідомлень із ролями, такими як system, user, або assistant. Об'єкт відповіді надає вам доступ до згенерованого тексту та статистики використання токенів. Це спрощує налагодження та моніторинг вашого додатку. Вам не потрібно писати власні HTTP-клієнти або вручну серіалізувати JSON. SDK бере на себе всю важку роботу. Це зменшує кількість шаблонного коду та значно прискорює цикли розробки. Ви можете почати прототипування за хвилини та масштабувати пізніше, коли це буде потрібно. Бібліотека добре документована та активно підтримується.

Інтеграція Node SDK

Використовуйте Node.js SDK для інтеграції API у ваші проекти на JavaScript або TypeScript. Налаштування аналогічне до Python: налаштуйте базовий URL та ключ один раз. Приклад коду демонструє простий запит до кінцевої точки чату. Ви можете використовувати ту ж структуру повідомлень, що й у Python, забезпечуючи узгодженість у всій вашій стековій архітектурі. Об’єкт відповіді надає текст завершення та статистику використання. Це корисно для відстеження споживання токенів у ваших Node-додатках. SDK внутрішньо обробляє потокову передачу та обробку помилок, спрощуючи ваш код. Ви можете інтегрувати це в маршрути Express, безсерверні функції або фонові завдання. Інтерфейс знайомий будь-якому, хто використовував бібліотеку OpenAI Node. Це означає, що ви можете повторно використовувати існуючу логіку та шаблони, не вивчаючи нову структуру API. Вона природно вписується в сучасні екосистеми JavaScript. Ви отримуєте переваги стандартизованого інтерфейсу з нашими специфічними можливостями моделі. Це зменшує когнітивне навантаження при перемиканні між різними частинами вашого додатка.

Потокові відповіді

Увімкнути вивід у реальному часі, встановивши параметр stream у true у вашому запиті. API повертає потік фрагментів замість однієї повної відповіді. Це ідеально підходить для інтерфейсів чату, де ви хочете показувати текст по мірі його генерації. Кожен фрагмент містить часткову відповідь, дозволяючи поступово оновлювати інтерфейс користувача. Останній фрагмент містить загальне використання токенів для запиту. Ця функція працює з SDK Python та Node з мінімальними змінами в коді. Ви обробляєте потік, перебираючи фрагменти та додаючи текст. Це створює більш плавний досвід користувача порівняно з очікуванням повної відповіді. Це особливо корисно для генерації довгого контенту або складних задач міркування. Можливість потокової передачі є стандартною в сучасних API LLM і повністю підтримується тут. Ви можете керувати потоком, керуючи швидкістю споживання потоку. Це дає вам тонкий контроль над тим, як вивід відображається користувачеві.

Ліміти, помилки та контекст

Вікно контексту підтримує до 100 000 токенів для сумарного запиту та відповіді. Ви можете надсилати до 8 одночасних запитів на ключ та 300 запитів за хвилину. Якщо ви перевищите ці ліміти, ви отримаєте помилку ліміту частоти 429. Помилки автентифікації повертають статус 401, якщо ваш ключ недійсний. Статус 402 вказує на вичерпання попередньо оплаченого кредиту. Ви можете поповнити баланс криптовалютою в будь-який час, щоб відновити службу. Помилки не споживають ваш кредит, тому невдалі запити є безкоштовними. Максимальний об’єм відповіді за запит становить 16 000 токенів, або 2 048, якщо ви не вкажете ліміт. Тіла запитів обмежені розміром 8 МБ. Ці обмеження розроблені для забезпечення справедливого використання та стабільності системи. Ви можете відстежувати своє використання через заголовки відповіді або об’єкти SDK. Ця прозорість допомагає керувати бюджетом та ефективно планувати архітектуру вашого додатка. Попередня модель оплати означає, що ви платите лише за те, що використовуєте, без прихованих комісій.

cURL

Copycurl https://api.mistralapilogin.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix my token expiry error"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralapilogin.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralapilogin.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потокова передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)