th ▾
Ollama Endpoint URL

API LLM แบบไม่มีเซนเซอร์, จ่ายตามจำนวน token

https://api.ollamaendpointurl.com/v1ไม่มีการเซ็นเซอร์

เอกสาร API Ollama สำหรับนักพัฒนา

เริ่มสร้างข้อความด้วย API ที่รองรับมาตรฐาน OpenAI ของเราได้ในไม่กี่นาที ใช้ไลบรารีไคลเอนต์มาตรฐานเพื่อเรียกใช้ endpoint ไร้การเซ็นเซอร์ของเราโดยตรง

การตรวจสอบสิทธิ์และ Base URL

ใช้ https://api.ollamaendpointurl.com/v1 เป็น URL พื้นฐานของคุณและรวมคีย์ API ของคุณใน Authorization header

  • URL ฐาน: https://api.ollamaendpointurl.com/v1
  • ส่วนหัว: Authorization: Bearer YOUR_API_KEY

สร้างคีย์ของคุณทันทีผ่าน Google หรืออีเมลบนแดชบอร์ด ไม่ต้องใช้หมายเลขโทรศัพท์ URL นี้ใช้งานได้กับ SDK ของ OpenAI มาตรฐานใดๆ โดยการทำทับ URL พื้นฐาน

คำขอครั้งแรก

ส่งคำขอ POST ไปยัง /v1/chat/completions ด้วยรหัสโมเดล uncensored และข้อความของคุณ

curl https://api.ollamaendpointurl.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the default port for Ollama?"}]
  }'

สิ่งนี้ส่งคืนการตอบสนอง JSON ที่มีข้อความที่สร้างขึ้น หากคุณได้รับข้อผิดพลาด 401 คีย์ API ของคุณไม่ถูกต้อง ข้อผิดพลาด 402 บ่งชี้ว่าเครดิตล่วงหน้าไม่เพียงพอ

การผสานรวม SDK Python

เริ่มต้นใช้งานไคลเอนต์ด้วยคีย์และ URL ฐานที่กำหนดเองเพื่อส่งคำขอแบบโปรแกรม

from openai import OpenAI

client = OpenAI(base_url="https://api.ollamaendpointurl.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

ตั้งค่า max_tokens เพื่อควบคุมความยาวของผลลัพธ์ หากไม่มีค่าเริ่มต้นคือ 2,048 โทเค็น โมเดลยอมรับพารามิเตอร์มาตรฐานเช่น temperature และ top_p สำหรับการปรับแต่งพฤติกรรมการสร้างข้อความ

การผสานรวม Node SDK

กำหนดค่าไคลเอนต์ Node.js ให้ชี้ไปยังเอนด์พอยต์ของเราเพื่อการผสานรวมที่ราบรื่นลงในสคริปต์ของคุณ

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaendpointurl.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

SDK จัดการ serialization โดยอัตโนมัติ ตรวจสอบให้แน่ใจว่าคุณกำลังใช้ OpenAI SDK เวอร์ชันล่าสุดที่รองรับ custom base URLs ข้อผิดพลาดจะถูก throw เป็น API exceptions มาตรฐาน

การตอบกลับแบบสตรีมมิ่ง

เปิดใช้งานการสตรีมโดยตั้งค่า stream: true เพื่อรับโทเค็นผ่าน Server-Sent Events (SSE)

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

รายละเอียดการใช้งานโทเค็นปรากฏในชิ้นสุดท้ายของสตรีม สิ่งนี้ช่วยลดความล่าช้าที่รับรู้สำหรับการเอาต์พุตที่ยาวนาน จุดปลายรองรับรูปแบบ SSE มาตรฐานที่เข้ากันได้กับไลบรารีไคลเอนต์ส่วนใหญ่

อัตราจำกัดและหน้าต่างบริบท

คีย์ API แต่ละตัวจำกัดอยู่ที่ 300 คำขอต่อนาที และ 8 คำขอพร้อมกัน หน้าต่างบริบทคือ 100,000 tokens รวมกัน output สูงสุดต่อคำขอคือ 16,000 tokens คำขอที่มี body ขนาดเกิน 8 MB จะถูกปฏิเสธ ข้อผิดพลาด 429 บ่งชี้ว่าคุณถึงขีดจำกัดอัตราการใช้งาน รอสักครู่ก่อนลองใหม่ ข้อผิดพลาดและการปฏิเสธไม่ใช้เครดิต เครดิตไม่มีวันหมดอายุ ใช้คริปโตเพื่อเติมเงิน เริ่มต้นด้วยเครดิตทดลอง $0.50 รับคีย์ของคุณตอนนี้

FAQ

URL เอนด์พอยต์ของ ollama สำหรับ API ที่ไม่มีเซนเซอร์คืออะไร

URL ฐานคือ HTTPS://api.ollamaendpointurl.com/v1 จุดปลายนี้รองรับไคลเอนต์ที่เข้ากันได้กับ OpenAI มาตรฐาน คุณสามารถใช้ SDK ใดๆ ที่อนุญาตให้กำหนดค่า URL ฐานแบบกำหนดเองได้

ฉันจะรับคีย์ API สำหรับ LLM แบบไม่มีเซนเซอร์ได้อย่างไร?

สมัครโดยใช้ Google หรืออีเมลบนแดชบอร์ด คีย์ API ของคุณจะถูกแสดงทันที ไม่ต้องใช้การยืนยันหมายเลขโทรศัพท์ คีย์ใช้งานได้ทันทีสำหรับคำขอ

ขอบเขตบริบทของโมเดล AI แบบไม่เซ็นเซอร์มีอะไรบ้าง?

โมเดลรองรับหน้าต่างบริบทขนาด 100,000 token ซึ่งรวมจำนวน token ของ prompt และ completion เข้าด้วยกัน Output สูงสุดต่อ request คือ 16,000 token ตั้งค่า max_tokens เพื่อควบคุมความยาวของ output

รับคีย์ API ของคุณ

ลงทะเบียน รับคีย์ของคุณ และอัปเดต URL พื้นฐานของคุณ แค่นี้เอง