Ollama API-dokumentation för utvecklare

Autentisering och bas-URL

Använd https://api.ollamaendpointurl.com/v1 som din bas-URL och inkludera din API-nyckel i Authorization header.

• Bas URL: https://api.ollamaendpointurl.com/v1
• Huvud: Authorization: Bearer YOUR_API_KEY

Generera din nyckel direkt via Google eller e-post på kontrollpanelen. Inget telefonnummer krävs. Denna URL fungerar med alla standard OpenAI SDK:er genom att ändra bas-URL:en.

Första förfrågan

Skicka en POST-förfrågan till /v1/chat/completions med modell-ID:t uncensored och dina meddelanden.

Copycurl https://api.ollamaendpointurl.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the default port for Ollama?"}]
  }'

Detta returnerar ett JSON-svar som innehåller den genererade texten. Om du får ett 401-fel är din API-nyckel ogiltig. Ett 402-fel indikerar otillräckligt förbetalt kredit.

Python SDK-integration

Initiera klienten med din nyckel och den anpassade bas-URL:en för att skicka begäranden programmatiskt.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaendpointurl.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Ställ in max_tokens för att styra utmatningslängd. Utan det är standardvärdet 2 048 tokens. Modellen accepterar standardparametrar som temperature och top_p för att finjustera genereringsbeteendet.

Node SDK-integration

Konfigurera Node.js-klienten att peka mot vår slutpunkt för sömlös integration i dina skript.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaendpointurl.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

SDK:n hanterar serialisering automatiskt. Se till att du använder en nyare version av OpenAI SDK som stödjer anpassade bas-URL:er. Fel kastas som standard API-undantag.

Strömningsresponser

Aktivera strömning genom att ställa in stream: true för att ta emot tokens via Server-Sent Events (SSE).

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Tokenanvändningsdetaljer visas i den sista delen av strömmen. Detta minskar den upplevda latensen för långa utdata. Slutpunkten stöder standardiserad SSE-formatering som är kompatibel med de flesta klientbibliotek.

Begränsningar för begäranderänta och kontextfönster

Varje API-nyckel är begränsad till 300 förfrågningar per minut och 8 samtidiga förfrågningar. Kontextfönstret är 100,000 tokens totalt. Max output per förfrågan är 16,000 tokens. Förfrågningar som överstiger 8 MB i bodystorlek avvisas. Ett 429-fel indikerar att du har träffat rate limitet. Vänta kort innan du försöker igen. Fel och avslag äter inte upp kredit. Kredit löper aldrig ut. Använd krypto för att ladda upp. Börja med $0.50 testkredit. Skaffa din nyckel nu.