Integrasikan API LLM Tanpa Sensor
Integrasi API LLM tanpa sensor dengan kod SDK OpenAI standard. Panduan ini merangkumi pengesahan, penyelesaian sembang, penstriman, dan penggunaan alat untuk aplikasi AI generasi seterusnya anda.
Pengesahan dan URL Asas
Mulakan dengan menetapkan URL asas dan kunci API. API terletak di https://api.unrestrictedgemini.com/v1. Jana kunci anda di papan pemuka dan hantar dalam Authorization header.
- URL Asas:
https://api.unrestrictedgemini.com/v1 - Header:
Authorization: Bearer YOUR_API_KEY
curl https://api.unrestrictedgemini.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "list the top ten python libraries"}]
}'
Hujung Sambungan Penyelesaian Sembang
Hantar mesej ke /v1/chat/completions endpoint. Gunakan ID model uncensored untuk output tanpa had. API menerima format chat OpenAI standard.
from openai import OpenAI
client = OpenAI(base_url="https://api.unrestrictedgemini.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Respons Streaming (SSE)
Aktifkan aliran dengan menetapkan stream: true. Anda menerima acara yang dihantar oleh pelayan untuk kemas kini token secara masa nyata. Pantau potongan terakhir untuk data penggunaan token.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.unrestrictedgemini.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Panggilan Fungsi dan Alat
Takrifkan alat dalam permintaan anda. API menyokong parameter panggilan fungsi piawai. Hantar takrifan alat anda dan biarkan model memutuskan bila untuk memanggilnya.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Konfigurasi Mod JSON
Paksa output terstruktur dengan menetapkan response_format ke {"type": "json_object"}. Ini memastikan penguraian yang konsisten untuk perkhidmatan backend anda. Sesuai untuk aliran kerja automatik.
Had Token dan Parameter
Tingkap konteks menyokong 100,000 token. Output maksimum ialah 16,000 token. Tangani ralat 401, 402, dan 429 dengan sewajarnya. Had kadar ialah 300 permintaan setiap minit.
Soalan lazim
Apakah URL asas untuk API gemini tanpa sekatan?
URL asas ialah HTTPS://api.unrestrictedgemini.com/v1. Anda mesti mengemas kini konfigurasi SDK anda untuk menunjuk ke alamat ini sebagai ganti hujung akhir OpenAI lalai.
Bagaimana cara mengendalikan respons aliran?
Tetapkan parameter stream kepada true dalam permintaan anda. API mengembalikan acara yang dihantar pelayan yang mengandungi chunk token. Uraikan acara ini untuk memaparkan output masa nyata kepada pengguna anda.
Apa yang berlaku jika saya melebihi had kadar?
Anda akan menerima ralat 429 Too Many Requests. Hadnya ialah 300 permintaan setiap minit setiap kunci. Laksanakan backoff eksponen dalam kod klien anda untuk mengendalikan cuba semula ini dengan baik.
Jana kunci API anda
Daftar, dapatkan token anda, dan kemas kini endpoint. Itu keseluruhan prosesnya.