Dokumentasi API Ollama untuk Pengembang

Autentikasi dan URL Dasar

Gunakan https://api.ollamaendpointurl.com/v1 sebagai URL dasar Anda dan sertakan kunci API Anda di Authorization header.

• URL Dasar: https://api.ollamaendpointurl.com/v1
• Header: Authorization: Bearer YOUR_API_KEY

Buat kunci Anda secara instan melalui Google atau email di dasbor. Tidak perlu nomor telepon. URL ini kompatibel dengan SDK OpenAI standar mana pun dengan menimpa URL dasar.

Permintaan Pertama

Kirim permintaan POST ke /v1/chat/completions dengan ID model uncensored dan pesan Anda.

Copycurl https://api.ollamaendpointurl.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the default port for Ollama?"}]
  }'

Ini mengembalikan respons JSON yang berisi teks yang dihasilkan. Jika Anda menerima error 401, kunci API Anda tidak valid. Error 402 menunjukkan kredit prabayar tidak cukup.

Integrasi SDK Python

Inisialisasi klien dengan kunci Anda dan URL dasar kustom untuk mengirim permintaan secara terprogram.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaendpointurl.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Atur max_tokens untuk mengontrol panjang output; tanpa itu, nilai defaultnya adalah 2.048 token. Model menerima parameter standar seperti temperature dan top_p untuk penyetelan perilaku generasi.

Integrasi SDK Node

Konfigurasi klien Node.js untuk mengarah ke endpoint kami untuk integrasi mulus ke dalam skrip Anda.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaendpointurl.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

SDK menangani serialisasi secara otomatis. Pastikan Anda menggunakan versi SDK OpenAI terbaru yang mendukung URL kustom. Kesalahan dilemparkan sebagai pengecualian API standar.

Respons Streaming

Aktifkan streaming dengan mengatur stream: true untuk menerima token melalui Server-Sent Events (SSE).

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Detail penggunaan token muncul di potongan terakhir aliran. Ini mengurangi latensi yang dirasakan untuk output panjang. Endpoint mendukung format SSE standar yang kompatibel dengan sebagian besar pustaka klien.

Batas Laju dan Jendela Konteks

Setiap kunci API dibatasi pada 300 permintaan per menit dan 8 permintaan simultan. Jendela konteks adalah 100.000 token secara total. Output maksimum per permintaan adalah 16.000 token. Permintaan dengan badan lebih dari 8 MB akan ditolak. Error 429 menunjukkan Anda telah mencapai batas laju. Tunggu sebentar sebelum mencoba lagi. Error dan penolakan tidak mengonsumsi kredit. Kredit tidak pernah kedaluwarsa. Gunakan kripto untuk isi ulang. Mulai dengan kredit trial $0.50. Dapatkan kunci Anda sekarang.