प्रमाणीकरण और बेस यूआरएल
उपयोग करें https://api.ollamaendpointurl.com/v1 अपने बेस URL के रूप में और अपनी API कुंजी को Authorization हेडर।
- बेस URL:
https://api.ollamaendpointurl.com/v1 - हेडर:
Authorization: Bearer YOUR_API_KEY
डैशबोर्ड पर Google या ईमेल के माध्यम से तुरंत अपनी कुंजी जनरेट करें। फ़ोन नंबर की आवश्यकता नहीं। यह URL किसी भी मानक OpenAI SDK के साथ काम करता है बेस URL ओवरराइड करके।
पहला अनुरोध
एक POST अनुरोध भेजें /v1/chat/completions मॉडल ID के साथ uncensored और आपकी संदेश।
curl https://api.ollamaendpointurl.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "What is the default port for Ollama?"}]
}'यह जनरेटेड टेक्स्ट युक्त एक JSON प्रतिक्रिया लौटाता है। यदि आपको 401 त्रुटि मिलती है, तो आपका API की अमान्य है। एक 402 त्रुटि अपर्याप्त प्रीपेड क्रेडिट को इंगित करती है।
Python SDK इंटीग्रेशन
अपने कुंजी और कस्टम बेस URL के साथ क्लाइंट को इनिशियलाइज़ करें ताकि अनुरोध प्रोग्रामेटिक रूप से भेजे जा सकें।
from openai import OpenAI
client = OpenAI(base_url="https://api.ollamaendpointurl.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)सेट करें max_tokens आउटपुट की लंबाई को नियंत्रित करने के लिए। इसके बिना, डिफ़ॉल्ट 2,048 टोकन है। मॉडल मानक पैरामीटर स्वीकार करता है जैसे कि temperature और top_p जनरेशन व्यवहार को ट्यून करने के लिए।
Node SDK एकीकरण
Node.js क्लाइंट को हमारे एंडपॉइंट पर इंगित करने के लिए कॉन्फ़िगर करें ताकि आपके स्क्रिप्ट्स में सहज एकीकरण हो सके।
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.ollamaendpointurl.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);SDK सीरियलाइजेशन को स्वचालित रूप से संभालता है। सुनिश्चित करें कि आप एक हालिया OpenAI SDK का उपयोग कर रहे हैं जो कस्टम बेस यूआरएल का समर्थन करता है। त्रुटियां मानक API अपवाद के रूप में फेंकी जाती हैं।
स्ट्रीमिंग रिस्पॉन्सेस
सेटिंग करके स्ट्रीमिंग सक्षम करें stream: true सर्वर-सेंट इवेंट्स (SSE) के माध्यम से टोकन प्राप्त करें।
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)टोकन उपयोग विवरण स्ट्रीम के अंतिम चंक में दिखाई देते हैं। यह लंबे आउटपुट के लिए अनुपलब्ध विलंबता को कम करता है। एंडपॉइंट अधिकांश क्लाइंट लाइब्रेरी के साथ संगत मानक SSE फॉर्मेटिंग का समर्थन करता है।
रेट लिमिट्स और संदर्भ विंडो
प्रत्येक API कुंजी प्रति मिनट 300 अनुरक्ष और 8 समवर्ती अनुरक्ष तक सीमित है। संदर्भ विंडो कुल मिलाकर 100,000 टोकन की है। प्रति अनुरक्ष अधिकतम आउटपुट 16,000 टोकन है। बॉडी आकार 8 MB से अधिक वाले अनुरक्ष अस्वीकृत कर दिए जाते हैं। 429 त्रुटि दर्शाती है कि आपने दर सीमा पर पहुंच गए हैं। पुन: प्रयास करने से पहले कुछ देर प्रतीक्षा करें। त्रुटियां और अस्वीकृतियां क्रेडिट का उपभोग नहीं करती हैं। क्रेडिट कभी समाप्त नहीं होता है। टॉप अप करने के लिए क्रिप्टो का उपयोग करें। $0.50 ट्रायल क्रेडिट के साथ शुरू करें। अभी अपनी कुंजी प्राप्त करें।
