Documentație API Ollama pentru Dezvoltatori

Autentificare și URL de bază

Utilizare https://api.ollamaendpointurl.com/v1 ca URL-ul tău de bază și include-ți cheia API în Authorization header.

• URL de bază: https://api.ollamaendpointurl.com/v1
• Header: Authorization: Bearer YOUR_API_KEY

Generează-ți instantaneu cheia prin Google sau email pe panoul de control. Nu este necesar numărul de telefon. Acest URL funcționează cu orice SDK standard OpenAI prin suprascrierea URL-ului de bază.

Prima cerere

Trimite o cerere POST la /v1/chat/completions cu ID-ul modelului uncensored și mesajele tale.

Copycurl https://api.ollamaendpointurl.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the default port for Ollama?"}]
  }'

Acesta returnează un răspuns JSON care conține textul generat. Dacă primiți eroarea 401, cheia dvs. API este invalidă. O eroare 402 indică un credit preplătit insuficient.

Integrare SDK Python

Inițializați clientul cu cheia și URL-ul de bază personalizat pentru a trimite cereri în mod programatic.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaendpointurl.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Setează max_tokens pentru a controla lungimea outputului. Fără acesta, implicit este de 2.048 de tokeni. Modelul acceptă parametri standard precum temperature și top_p pentru ajustarea comportamentului de generare.

Integrare SDK Node

Configurează clientul Node.js pentru a indica către punctul nostru final pentru o integrare perfectă în scripturile tale.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaendpointurl.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

SDK-ul gestionează automat serializarea. Asigură-te că utilizezi o versiune recentă a SDK-ului OpenAI care suportă URL-uri de bază personalizate. Erorile sunt aruncate ca excepții standard API.

Răspunsuri în streaming

Activați streaming-ul setând stream: true pentru a primi token-uri prin Server-Sent Events (SSE).

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Detaliile de consum de tokenuri apar în ultimul fragment al fluxului. Acest lucru reduce latența percepută pentru ieșirile lungi. Endpoint-ul suportă formatarea SSE standard, compatibilă cu majoritatea bibliotecilor client.

Limite de rată și fereastră de context

Fiecare cheie API este limitată la 300 de cereri pe minut și 8 cereri concurente. Fereastra de context este de 100.000 de tokeni în total. Outputul maxim per cerere este de 16.000 de tokeni. Cererile cu un corp de peste 8 MB sunt respinse. Un error 429 indică faptul că ați atins limita de rată. Așteptați puțin înainte de a reîncerca. Erorile și refuzurile nu consumă credit. Creditul nu expiră niciodată. Utilizați criptomonede pentru reîncărcare. Începeți cu creditul de probă de $0.50. Obțineți-vă cheia acum.