การตรวจสอบสิทธิ์และ Base URL
ใช้ https://api.ollamaendpointurl.com/v1 เป็น URL พื้นฐานของคุณและรวมคีย์ API ของคุณใน Authorization header
- URL ฐาน:
https://api.ollamaendpointurl.com/v1 - ส่วนหัว:
Authorization: Bearer YOUR_API_KEY
สร้างคีย์ของคุณทันทีผ่าน Google หรืออีเมลบนแดชบอร์ด ไม่ต้องใช้หมายเลขโทรศัพท์ URL นี้ใช้งานได้กับ SDK ของ OpenAI มาตรฐานใดๆ โดยการทำทับ URL พื้นฐาน
คำขอครั้งแรก
ส่งคำขอ POST ไปยัง /v1/chat/completions ด้วยรหัสโมเดล uncensored และข้อความของคุณ
curl https://api.ollamaendpointurl.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "What is the default port for Ollama?"}]
}'สิ่งนี้ส่งคืนการตอบสนอง JSON ที่มีข้อความที่สร้างขึ้น หากคุณได้รับข้อผิดพลาด 401 คีย์ API ของคุณไม่ถูกต้อง ข้อผิดพลาด 402 บ่งชี้ว่าเครดิตล่วงหน้าไม่เพียงพอ
การผสานรวม SDK Python
เริ่มต้นใช้งานไคลเอนต์ด้วยคีย์และ URL ฐานที่กำหนดเองเพื่อส่งคำขอแบบโปรแกรม
from openai import OpenAI
client = OpenAI(base_url="https://api.ollamaendpointurl.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)ตั้งค่า max_tokens เพื่อควบคุมความยาวของผลลัพธ์ หากไม่มีค่าเริ่มต้นคือ 2,048 โทเค็น โมเดลยอมรับพารามิเตอร์มาตรฐานเช่น temperature และ top_p สำหรับการปรับแต่งพฤติกรรมการสร้างข้อความ
การผสานรวม Node SDK
กำหนดค่าไคลเอนต์ Node.js ให้ชี้ไปยังเอนด์พอยต์ของเราเพื่อการผสานรวมที่ราบรื่นลงในสคริปต์ของคุณ
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.ollamaendpointurl.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);SDK จัดการ serialization โดยอัตโนมัติ ตรวจสอบให้แน่ใจว่าคุณกำลังใช้ OpenAI SDK เวอร์ชันล่าสุดที่รองรับ custom base URLs ข้อผิดพลาดจะถูก throw เป็น API exceptions มาตรฐาน
การตอบกลับแบบสตรีมมิ่ง
เปิดใช้งานการสตรีมโดยตั้งค่า stream: true เพื่อรับโทเค็นผ่าน Server-Sent Events (SSE)
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)รายละเอียดการใช้งานโทเค็นปรากฏในชิ้นสุดท้ายของสตรีม สิ่งนี้ช่วยลดความล่าช้าที่รับรู้สำหรับการเอาต์พุตที่ยาวนาน จุดปลายรองรับรูปแบบ SSE มาตรฐานที่เข้ากันได้กับไลบรารีไคลเอนต์ส่วนใหญ่
อัตราจำกัดและหน้าต่างบริบท
คีย์ API แต่ละตัวจำกัดอยู่ที่ 300 คำขอต่อนาที และ 8 คำขอพร้อมกัน หน้าต่างบริบทคือ 100,000 tokens รวมกัน output สูงสุดต่อคำขอคือ 16,000 tokens คำขอที่มี body ขนาดเกิน 8 MB จะถูกปฏิเสธ ข้อผิดพลาด 429 บ่งชี้ว่าคุณถึงขีดจำกัดอัตราการใช้งาน รอสักครู่ก่อนลองใหม่ ข้อผิดพลาดและการปฏิเสธไม่ใช้เครดิต เครดิตไม่มีวันหมดอายุ ใช้คริปโตเพื่อเติมเงิน เริ่มต้นด้วยเครดิตทดลอง $0.50 รับคีย์ของคุณตอนนี้