Geliştiriciler İçin Ollama API Dokümantasyonu

Kimlik Doğrulama ve Temel URL

Kullan https://api.ollamaendpointurl.com/v1 temel URL'niz olarak ve API anahtarınızı Authorization header.

• Temel URL: https://api.ollamaendpointurl.com/v1
• Başlık: Authorization: Bearer YOUR_API_KEY

Anahtarınızı kontrol panelinde Google veya e-posta ile anında oluşturun. Telefon numarası gerekmez. Bu URL, temel URL'yi geçersiz kılarak herhangi bir standart OpenAI SDK ile çalışır.

İlk İstek

Şuraya bir POST isteği gönderin /v1/chat/completions model kimliği ile uncensored ve mesajlarınızı.

Copycurl https://api.ollamaendpointurl.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the default port for Ollama?"}]
  }'

Bu, oluşturulan metni içeren bir JSON yanıtı döndürür. 401 hatası alırsanız API anahtarınız geçersizdir. 402 hatası, yetersiz ön ödemeli kredi olduğunu gösterir.

Python SDK Entegrasyonu

İstemciyi anahtarınız ve özel temel URL ile başlatarak istekleri programlı olarak gönderin.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaendpointurl.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Ayarla max_tokens çıktı uzunluğunu kontrol etmek için. Belirtilmezse varsayılan değer 2.048 token'dir. Model şu standart parametreleri kabul eder: temperature ve top_p üretim davranışını ince ayarlamak için.

Node SDK Entegrasyonu

Node.js istemcisini komut dosyalarınıza sorunsuz entegrasyon için uç noktamıza işaret ettirin.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaendpointurl.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

SDK, serileştirmeyi otomatik olarak yönetir. Özel temel URL'leri destekleyen güncel bir OpenAI SDK sürümü kullandığınızdan emin olun. Hatalar, standart API özel durumları olarak atılır.

Akış Yanıtları

Ayarlayarak akışı etkinleştirin stream: true Sunucu Tarafından Gönderilen Etkinlikler (SSE) aracılığıyla belirteç almak için.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Token kullanım detayları akışın son chunk'ında görünür. Bu, uzun çıktılar için algılanan gecikmeyi azaltır. Uç nokta, çoğu istemci kitaplığıyla uyumlu standart SSE biçimlendirmesini destekler.

Saniye Başına İstek Limitleri ve Bağlam Penceresi

Her API anahtarı dakikada 300 istek ve 8 eşzamanlı istek ile sınırlıdır. Bağlam penceresi toplamda 100.000 token'dır. İstek başına maksimum çıktı 16.000 token'dır. Gövdesi 8 MB'ı aşan istekler reddedilir. Bir 429 hatası, hız sınırına ulaştığınızı gösterir. Yeniden denemeden önce kısa bir süre bekleyin. Hatalar ve reddetmeler krediden düşülmez. Kredi süresi dolmaz. Yükleme için kripto kullanın. $0.50 deneme kredisi ile başlayın. Anahtarınızı şimdi alın.