인증 및 Base URL
사용 https://api.ollamaendpointurl.com/v1 베이스 URL로 사용하고 API 키를 Authorization 헤더입니다.
- Base URL:
https://api.ollamaendpointurl.com/v1 - 헤더:
Authorization: Bearer YOUR_API_KEY
대시보드에서 Google 또는 이메일을 통해 즉시 키를 생성하세요. 전화번호가 필요하지 않습니다. 이 URL은 기본 URL을 재정의하여 모든 표준 OpenAI SDK와 함께 작동합니다.
첫 번째 요청
POSTリクエストを送信 /v1/chat/completions 모델 ID uncensored 메시지를 사용합니다.
curl https://api.ollamaendpointurl.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "What is the default port for Ollama?"}]
}'이것은 생성된 텍스트를 포함하는 JSON 응답을 반환합니다. 401 오류가 발생하면 API 키가 잘못되었습니다. 402 오류는 미충전된 크레딧이 부족함을 나타냅니다.
Python SDK 통합
프로그래밍 방식으로 요청을 보내기 위해 사용자 지정 기본 URL과 키로 클라이언트를 초기화합니다.
from openai import OpenAI
client = OpenAI(base_url="https://api.ollamaendpointurl.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)設定 max_tokens 출력 길이를 제어합니다. 생략 시 기본값은 2,048 토큰입니다. 모델은 다음 표준 매개변수를 허용합니다. temperature 및 top_p 생성 동작을 조정하기 위해 사용합니다.
Node SDK 통합
Node.js 클라이언트를 엔드포인트로 설정하여 스크립트에 원활하게 통합하세요.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.ollamaendpointurl.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);SDK는 직렬화를 자동으로 처리합니다. 사용자 지정 기본 URL을 지원하는 최신 버전의 OpenAI SDK를 사용하고 있는지 확인하세요. 오류는 표준 API 예외로 throw됩니다.
스트리밍 응답
stream을 true로 설정하여 스트리밍 활성화 stream: true 서버 전송 이벤트(SSE)를 통해 토큰을 수신합니다.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)토큰 사용량 세부 정보는 스트림의 마지막 청크에 표시됩니다. 이는 긴 출력에 대한 지각된 지연 시간을 줄여줍니다. 엔드포인트는 대부분의 클라이언트 라이브러리와 호환되는 표준 SSE 형식을 지원합니다.
속도 제한 및 컨텍스트 윈도우
각 API 키는 분당 300개의 요청과 8개의 동시 요청으로 제한됩니다. 컨텍스트 윈도우는 총 100,000 토큰입니다. 요청당 최대 출력은 16,000 토큰입니다. 본문 크기가 8 MB를 초과하는 요청은 거부됩니다. 429 오류는 속도 제한에 도달했음을 나타냅니다. 잠시 후 다시 시도하세요. 오류와 거부는 크레딧을 소모하지 않습니다. 크레딧은 만료되지 않습니다. 암호화폐로 충전하세요. $0.50 트라이얼 크레딧으로 시작하세요. 지금 키를 받으세요.
