Tích hợp API LLM Uncensored
Tích hợp API LLM không kiểm duyệt với mã SDK OpenAI tiêu chuẩn. Hướng dẫn này bao gồm xác thực, hoàn thành trò chuyện, streaming và sử dụng công cụ cho các ứng dụng AI thế hệ tiếp theo của bạn.
Xác thực và Base URL
Bắt đầu bằng cách đặt URL cơ sở và khóa API. API nằm tại https://api.unrestrictedgemini.com/v1. Tạo khóa của bạn trên bảng điều khiển và chuyển nó trong Authorization header.
- Base URL:
https://api.unrestrictedgemini.com/v1 - Tiêu đề:
Authorization: Bearer YOUR_API_KEY
curl https://api.unrestrictedgemini.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "list the top ten python libraries"}]
}'
Endpoint Hoàn thành Trò chuyện
Gửi tin nhắn đến /v1/chat/completions endpoint. Sử dụng ID mô hình uncensored để đầu ra không giới hạn. API chấp nhận các định dạng trò chuyện chuẩn của OpenAI.
from openai import OpenAI
client = OpenAI(base_url="https://api.unrestrictedgemini.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Phản hồi luồng (SSE)
Bật phát trực tiếp bằng cách đặt stream: true. Bạn nhận được các sự kiện gửi bởi máy chủ để cập nhật token theo thời gian thực. Theo dõi chunk cuối cùng để lấy dữ liệu sử dụng token.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.unrestrictedgemini.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Function Calling và các công cụ
Định nghĩa các công cụ trong yêu cầu của bạn. API hỗ trợ các tham số gọi hàm chuẩn. Truyền các định nghĩa công cụ của bạn và để mô hình quyết định khi nào gọi chúng.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Cấu hình Chế độ JSON
Buộc đầu ra có cấu trúc bằng cách đặt response_format để {"type": "json_object"}. Điều này đảm bảo việc phân tích cú pháp nhất quán cho các dịch vụ backend của bạn. Lý tưởng cho các quy trình tự động hóa.
Giới hạn Token và các tham số
Cửa sổ ngữ cảnh hỗ trợ tối đa 100,000 token. Lượng output tối đa là 16,000 token. Xử lý các lỗi 401, 402 và 429 một cách phù hợp. Giới hạn tốc độ là 300 yêu cầu mỗi phút.
Câu hỏi thường gặp
URL gốc cho API gemini không hạn chế là gì?
URL cơ sở là HTTPS://api.unrestrictedgemini.com/v1. Bạn phải cập nhật cấu hình SDK của mình để trỏ đến địa chỉ này thay vì điểm cuối OpenAI mặc định.
Làm thế nào để xử lý các phản hồi phát trực tuyến?
Đặt tham số stream thành true trong yêu cầu của bạn. API trả về các sự kiện gửi máy chủ chứa các chunk token. Phân tích các sự kiện này để hiển thị đầu ra theo thời gian thực cho người dùng của bạn.
Điều gì xảy ra nếu tôi vượt quá giới hạn tốc độ?
Bạn sẽ nhận được lỗi 429 Too Many Requests. Giới hạn là 300 yêu cầu mỗi phút mỗi khóa. Hãy triển khai cơ chế backoff theo cấp số nhân trong mã máy khách của bạn để xử lý các lần thử lại một cách mượt mà.
Tạo khóa API
Đăng ký, lấy token và cập nhật endpoint. Đó là toàn bộ quy trình.