Документація API Ollama для розробників

Аутентифікація та базовий URL

Використовувати https://api.ollamaendpointurl.com/v1 як вашу базову URL-адресу та додайте свій API-ключ до Authorization header.

• Базова URL-адреса: https://api.ollamaendpointurl.com/v1
• Заголовок: Authorization: Bearer YOUR_API_KEY

Згенеруйте свій ключ миттєво через Google або електронну пошту на панелі керування. Номер телефону не потрібен. Цей URL працює з будь-яким стандартним SDK OpenAI шляхом перевизначення базового URL.

Перший запит

Надішліть POST-запит на /v1/chat/completions за допомогою ідентифікатора моделі uncensored і ваші повідомлення.

Copycurl https://api.ollamaendpointurl.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the default port for Ollama?"}]
  }'

Це повертає відповідь JSON, що містить згенерований текст. Якщо ви отримуєте помилку 401, ваш API-ключ недійсний. Помилка 402 вказує на недостатність попередньо оплаченого кредиту.

Інтеграція SDK Python

Ініціалізуйте клієнта, вказавши свій ключ та кастомний базовий URL для програмної відправки запитів.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaendpointurl.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Встановити max_tokens для контролю довжини виводу. Без нього значення за замовчуванням становить 2 048 токенів. Модель приймає стандартні параметри, такі як temperature та top_p для налаштування поведінки генерації.

Інтеграція Node SDK

Налаштуйте клієнт Node.js для вказівки на наш кінцевий пункт для безперешкодної інтеграції у ваші скрипти.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaendpointurl.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

SDK автоматично обробляє серіалізацію. Переконайтеся, що ви використовуєте останню версію OpenAI SDK, яка підтримує користувацькі базові URL. Помилки викидаються як стандартні винятки API.

Потокові відповіді

Увімкніть потокову передачу, встановивши stream: true отримувати токени через Server-Sent Events (SSE).

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Деталі використання токенів з'являються у фінальному чанку потоку. Це зменшує сприйняту затримку для довгих виводів. Ендпоінт підтримує стандартний формат SSE, сумісний із більшістю бібліотек клієнтів.

Ліміти частоти та контекстне вікно

Кожний API-ключ обмежений 300 запитами на хвилину та 8 паралельними запитами. Контекстне вікно становить 100,000 токенів загалом. Максимальний обсяг виводу на запит — 16,000 токенів. Запити з тілом більше 8 МБ відхиляються. Помилка 429 вказує на досягнення ліміту швидкості. Зачекайте трохи перед повторною спробою. Помилки та відмови не споживають кредит. Кредит ніколи не закінчується. Використовуйте криптовалюту для поповнення. Почніть з пробного кредиту $0.50. Отримайте свій ключ зараз.