Ollama API Dokumentation für Entwickler

Authentifizierung und Base URL

Verwenden https://api.ollamaendpointurl.com/v1 als Ihre Basis-URL und fügen Sie Ihren API-Schlüssel in den Authorization header.

• Basis-URL: https://api.ollamaendpointurl.com/v1
• Header: Authorization: Bearer YOUR_API_KEY

Generieren Sie Ihren key sofort über Google oder E-Mail im Dashboard. Keine Telefonnummer ist erforderlich. Diese URL funktioniert mit jedem Standard-OpenAI-SDK, indem die Basis-URL überschrieben wird.

Erste Anfrage

Senden Sie eine POST-Anfrage an /v1/chat/completions mit der Modell-ID uncensored und Ihre Nachrichten.

Copycurl https://api.ollamaendpointurl.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the default port for Ollama?"}]
  }'

Dies gibt eine JSON-Antwort zurück, die den generierten Text enthält. Wenn Sie einen 401-Fehler erhalten, ist Ihr API-Schlüssel ungültig. Ein 402-Fehler deutet auf unzureichendes prepaid-Guthaben hin.

Python SDK-Integration

Initialisieren Sie den Client mit Ihrem Schlüssel und der benutzerdefinierten Basis-URL, um Anfragen programmatisch zu senden.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaendpointurl.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Festlegen max_tokens um die Ausgabelänge zu steuern. Ohne ihn beträgt der Standardwert 2.048 Token. Das Modell akzeptiert Standardparameter wie temperature und top_p zur Feinabstimmung des Generierungsverhaltens.

Node SDK-Integration

Konfigurieren Sie den Node.js-Client, um auf unseren Endpunkt zu verweisen, für eine nahtlose Integration in Ihre Skripte.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaendpointurl.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Das SDK verarbeitet Serialisierung automatisch. Stellen Sie sicher, dass Sie eine aktuelle Version des OpenAI SDK verwenden, die benutzerdefinierte Base-URLs unterstützt. Fehler werden als Standard-API-Ausnahmen ausgelöst.

Streaming-Antworten

Aktivieren Sie Streaming, indem Sie stream: true um Tokens über Server-Sent Events (SSE) zu empfangen.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Die Token-Nutzungsdetails erscheinen im letzten Chunk des Streams. Dies reduziert die wahrgenommene Latenz bei langen Ausgaben. Der Endpunkt unterstützt standardmäßige SSE-Formatierung, die mit den meisten Client-Bibliotheken kompatibel ist.

Ratenbegrenzungen und Kontextfenster

Jeder API-Schlüssel ist auf 300 Anfragen pro Minute und 8 gleichzeitige Anfragen beschränkt. Das Kontextfenster beträgt insgesamt 100.000 Tokens. Die maximale Ausgabe pro Anfrage beträgt 16.000 Tokens. Anfragen mit einem Körper, der 8 MB überschreitet, werden abgelehnt. Ein 429-Fehler zeigt an, dass Sie das Rate-Limit erreicht haben. Warten Sie kurz, bevor Sie es erneut versuchen. Fehler und Ablehnungen verbrauchen kein Guthaben. Guthaben verfällt nie. Laden Sie mit Kryptowährung auf. Starten Sie mit 0,50 $ Testguthaben. Holen Sie sich jetzt Ihren Schlüssel.