Xác thực và Base URL
Sử dụng https://api.ollamaendpointurl.com/v1 làm URL cơ sở của bạn và bao gồm khóa API của bạn trong Authorization header.
- Base URL:
https://api.ollamaendpointurl.com/v1 - Tiêu đề:
Authorization: Bearer YOUR_API_KEY
Tạo khóa của bạn ngay lập tức qua Google hoặc email trên bảng điều khiển. Không cần số điện thoại. URL này hoạt động với bất kỳ SDK OpenAI tiêu chuẩn nào bằng cách ghi đè URL cơ sở.
Yêu cầu đầu tiên
Gửi yêu cầu POST đến /v1/chat/completions với ID mô hình uncensored và các tin nhắn của bạn.
curl https://api.ollamaendpointurl.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "What is the default port for Ollama?"}]
}'Điều này trả về phản hồi JSON chứa văn bản được tạo. Nếu bạn nhận được lỗi 401, khóa API của bạn không hợp lệ. Lỗi 402 cho biết tín dụng trả trước không đủ.
Tích hợp SDK Python
Khởi tạo client với khóa và URL cơ sở tùy chỉnh để gửi các yêu cầu theo chương trình.
from openai import OpenAI
client = OpenAI(base_url="https://api.ollamaendpointurl.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Đặt max_tokens để kiểm soát độ dài đầu ra; nếu không có, giá trị mặc định là 2,048 token. Mô hình chấp nhận các tham số tiêu chuẩn như temperature và top_p để tinh chỉnh hành vi tạo văn bản.
Tích hợp SDK Node
Cấu hình client Node.js để trỏ đến điểm cuối của chúng tôi cho việc tích hợp liền mạch vào các kịch bản của bạn.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.ollamaendpointurl.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);SDK tự động xử lý tuần tự hóa. Đảm bảo bạn đang sử dụng phiên bản SDK OpenAI gần đây hỗ trợ URL cơ sở tùy chỉnh. Lỗi được ném ra dưới dạng ngoại lệ API tiêu chuẩn.
Phản hồi luồng
Bật phát trực tiếp bằng cách đặt stream: true để nhận các token qua Server-Sent Events (SSE).
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Chi tiết sử dụng token xuất hiện trong chunk cuối cùng của luồng. Điều này giảm độ trễ cảm nhận được cho các đầu ra dài. Điểm cuối hỗ trợ định dạng SSE tiêu chuẩn tương thích với hầu hết các thư viện máy khách.
Giới hạn tốc độ và Cửa sổ ngữ cảnh
Mỗi khóa API bị giới hạn ở 300 yêu cầu mỗi phút và 8 yêu cầu đồng thời. Cửa sổ ngữ cảnh là 100,000 token tổng cộng. Đầu ra tối đa mỗi yêu cầu là 16,000 token. Các yêu cầu có phần thân vượt quá 8 MB sẽ bị từ chối. Lỗi 429 cho biết bạn đã chạm giới hạn tốc độ. Hãy đợi một lát trước khi thử lại. Lỗi và từ chối không tiêu tốn số dư. Số dư không bao giờ hết hạn. Sử dụng tiền mã hóa để nạp thêm. Bắt đầu với số dư dùng thử $0.50. Lấy khóa của bạn ngay bây giờ.
