Tài liệu API llm không kiểm duyệt

Base URL và Xác thực

Kết nối ngay lập tức bằng cách trỏ máy khách của bạn đến URL cơ sở và chuyển khóa của bạn trong tiêu đề. Xác thực rất đơn giản: bao gồm Authorization: Bearer YOUR_API_KEY với mọi yêu cầu. Bạn nhận được khóa ngay lập tức sau khi đăng ký bằng Google hoặc email. Không cần số điện thoại, và khóa xuất hiện trên màn hình ngay lập tức. Thiết lập này hoạt động với bất kỳ SDK tương thích OpenAI tiêu chuẩn nào vì chúng tôi tuân theo cấu trúc giao diện giống nhau. Bạn không cần quản lý các phiên đăng nhập phức tạp hoặc đối mặt với việc hết hạn phiên thường gặp ở các nền tảng khác. Khóa của bạn là thông tin xác thực duy nhất bạn cần cho tất cả các điểm cuối. Sự đơn giản này có nghĩa là bạn có thể tích hợp API vào các tập lệnh hoặc ứng dụng của mình mà không phải lo lắng về chu kỳ làm mới token hoặc luồng OAuth. Dịch vụ được thiết kế cho các nhà phát triển muốn truy cập trực tiếp mà không có rào cản quan liêu. Chúng tôi cung cấp một giao diện sạch, có thể dự đoán được, hoạt động chính xác như tiêu chuẩn ngành. Điều này giảm đáng kể thời gian tích hợp so với việc vật lộn với các hệ thống đăng nhập độc quyền.

Endpoint Hoàn thành Trò chuyện

Gửi tin nhắn đến mô hình không kiểm duyệt bằng cách sử dụng endpoint hoàn thành chat tiêu chuẩn. Endpoint chấp nhận các yêu cầu POST đến /v1/chat/completions với một đối tượng JSON chứa các tin nhắn của bạn. Bạn phải chỉ định id mô hình là uncensored để sử dụng mô hình ngôn ngữ lớn cụ thể của chúng tôi. Hệ thống trả về các phản hồi văn bản mà bạn có thể xử lý hoặc hiển thị. Đây là một API văn bản vào, văn bản ra mà không có khả năng tạo hình ảnh hoặc âm thanh. Bạn kiểm soát tông giọng và phong cách bằng cách điều chỉnh các tham số như nhiệt độ hoặc top_p. Định dạng phản hồi nhất quán và dự đoán được, giúp dễ dàng phân tích cú pháp trong bất kỳ ngôn ngữ nào. Bạn có thể gửi nhiều lượt trong một yêu cầu để duy trì lịch sử hội thoại. Cách tiếp cận này mô phỏng hành vi của các nhà cung cấp lớn trong khi cung cấp mô hình không kiểm duyệt cụ thể của chúng tôi. Đây là chức năng cốt lõi để xây dựng bot trò chuyện, trợ lý hoặc trình tạo nội dung. Điểm cuối được tối ưu hóa về tốc độ và độ tin cậy.

Tích hợp SDK Python

Tích hợp nhanh chóng bằng SDK Python chính thức với cấu hình tối thiểu. Bạn chỉ cần đặt base URL và API key trong quá trình khởi tạo client của mình. Đoạn mã bên dưới cho thấy cách tạo một yêu cầu hoàn thành trò chuyện đơn giản. Phương pháp này hoạt động liền mạch với các cơ sở mã OpenAI hiện có vì giao diện giống hệt nhau. Bạn có thể truyền một danh sách các tin nhắn với các vai như system, user, hoặc assistant. Đối tượng phản hồi cho phép bạn truy cập vào văn bản được tạo và mức sử dụng token. Điều này giúp việc gỡ lỗi và giám sát ứng dụng của bạn trở nên đơn giản. Bạn không cần phải viết các máy khách HTTP tùy chỉnh hoặc xử lý tuần tự hóa JSON thủ công. SDK xử lý tất cả các công việc nặng nhọc cho bạn. Điều này giảm mã boilerplate và tăng tốc đáng kể chu kỳ phát triển. Bạn có thể bắt đầu tạo nguyên mẫu trong vài phút và mở rộng sau đó khi cần. Thư viện được tài liệu hóa tốt và được duy trì tích cực.

Tích hợp SDK Node

Sử dụng SDK Node.js để tích hợp API vào các dự án JavaScript hoặc TypeScript của bạn. Thiết lập tương tự như Python: cấu hình URL cơ sở và khóa một lần. Ví dụ mã minh họa một yêu cầu đơn giản đến điểm cuối chat. Bạn có thể sử dụng cùng cấu trúc tin nhắn như trong Python, đảm bảo tính nhất quán trên toàn bộ ngăn xếp của bạn. Đối tượng phản hồi cung cấp văn bản hoàn thành và thống kê sử dụng. Điều này hữu ích cho việc theo dõi tiêu thụ token trong các ứng dụng Node của bạn. SDK xử lý phát trực tiếp và xử lý lỗi nội bộ, đơn giản hóa mã của bạn. Bạn có thể tích hợp điều này vào các tuyến Express, các hàm serverless hoặc các công việc nền. Giao diện quen thuộc với bất kỳ ai đã sử dụng thư viện Node OpenAI. Điều này có nghĩa là bạn có thể tái sử dụng logic và mẫu hiện có mà không cần học một cấu trúc API mới. Nó phù hợp tự nhiên với các hệ sinh thái JavaScript hiện đại. Bạn nhận được lợi ích của một giao diện tiêu chuẩn hóa với các khả năng mô hình cụ thể của chúng tôi. Điều này giảm tải nhận thức khi chuyển đổi giữa các phần khác nhau của ứng dụng của bạn.

Phản hồi luồng

Bật đầu ra thời gian thực bằng cách đặt tham số stream thành true trong yêu cầu của bạn. API trả về một luồng các chunk thay vì một phản hồi hoàn chỉnh duy nhất. Điều này lý tưởng cho các giao diện trò chuyện nơi bạn muốn hiển thị văn bản khi nó được tạo. Mỗi chunk chứa một phản hồi một phần, cho phép bạn cập nhật giao diện người dùng một cách gia tăng. Chunk cuối cùng bao gồm tổng mức sử dụng token cho yêu cầu. Tính năng này hoạt động với cả SDK Python và Node với ít thay đổi mã nhất. Bạn xử lý luồng bằng cách lặp qua các chunk và nối văn bản. Điều này tạo ra trải nghiệm người dùng mượt mà hơn so với việc chờ đợi phản hồi đầy đủ. Nó đặc biệt hữu ích cho việc tạo nội dung dài hoặc các nhiệm vụ suy luận phức tạp. Khả năng phát trực tiếp là tiêu chuẩn trong các API LLM hiện đại và được hỗ trợ đầy đủ tại đây. Bạn có thể kiểm soát luồng bằng cách quản lý tốc độ tiêu thụ luồng. Điều này cho phép bạn kiểm soát chi tiết cách đầu ra được hiển thị cho người dùng.

Giới hạn, Lỗi và Ngữ cảnh

Cửa sổ ngữ cảnh hỗ trợ tối đa 100.000 token cho prompt và completion kết hợp. Bạn có thể gửi tối đa 8 yêu cầu đồng thời mỗi khóa và 300 yêu cầu mỗi phút. Nếu vượt quá các giới hạn này, bạn sẽ nhận được lỗi giới hạn tỷ lệ 429. Lỗi xác thực trả về mã trạng thái 401 nếu khóa của bạn không hợp lệ. Mã trạng thái 402 cho biết số dư trả trước của bạn đã hết. Bạn có thể nạp thêm bằng tiền điện tử bất cứ lúc nào để tiếp tục dịch vụ. Lỗi không tiêu thụ số dư của bạn, vì vậy các yêu cầu thất bại đều miễn phí. Đầu ra tối đa cho mỗi yêu cầu là 16.000 token, hoặc 2.048 nếu bạn không chỉ định giới hạn. Thân yêu cầu được giới hạn ở 8 MB. Các giới hạn này được thiết kế để đảm bảo sử dụng công bằng và ổn định hệ thống. Bạn có thể theo dõi việc sử dụng thông qua các tiêu đề phản hồi hoặc đối tượng SDK. Sự minh bạch này giúp bạn quản lý ngân sách và lên kế hoạch kiến trúc ứng dụng hiệu quả. Mô hình trả trước có nghĩa là bạn chỉ trả tiền cho những gì bạn sử dụng, không có phí ẩn.

cURL

Copycurl https://api.mistralapilogin.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Fix my token expiry error"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralapilogin.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralapilogin.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phát trực tiếp

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)