無審查推理的成本
Uncensored 推理定價完全取決於您的基礎設施策略。自行託管 Ollama 意味著您需要為 GPU 運算、電力和維護付費。託管網關按令牌收費,將硬體風險轉移給供應商。
當使用 ollama api 結構下,您必須區分原生端點與 OpenAI 相容層。原生 API 使用類似 /api/generate. 相容層使用 /v1/chat/completions. 此區別會影響您如何設定 SDK。
託管服務通常分別對輸入和輸出令牌收費。我們的預付模式收費 每 100 萬個輸入 token 費用為 $0.15 和 每 100 萬個輸出 token 費用為 $0.50. 錯誤不會消耗信用額度。這種透明度有助於您在進行大量推理時精確計算成本,且無隱藏的訂閱費用。
Token 計價與訂閱模式比較
訂閱制會帶來固定的經常性成本,無論使用量為何。基於 Token 的計費讓價格直接與運算消耗掛鉤。這種結構非常適合運行波動性工作負載的開發者。
- 預付信用額 永不過期。您只需為使用的內容付費。
- 無月費 eliminate the risk of paying for idle capacity.
- 額外額度 充值時適用。加值 $50 可獲得 +5% 額外額度。加值 $200 可獲得 +15% 額外額度。
當您可以預測 token 用量時,此計費模式效果最佳。如果您的使用量不穩定,預付帳戶可避免在未使用的月度配額上浪費金錢。
Ollama API 與管理式閘道器比較
託管閘道器通常會將流量路由至多個模型或增加抽象層。Ollama API 提供對單一模型實例的直接存取。這可降低延遲並簡化除錯。
當連接到 ollama endpoint url, 您必須確保客戶端發送正確的標頭。託管服務有時會將回應包裝在其他中繼資料中。直接端點回傳原始 JSON。這對於嚴格解析回應主體的自動化腳本至關重要。
我們的服務提供單一端點,用於專門設計的 uncensored 模型。您能獲得一致的行為表現,不會出現意外的模型切換。請查閱供應商文件以了解特定閘道的怪癖。我們提供直接且與 OpenAI 相容的介面。
NSFW 與非限制使用情境
無審查模型不套用與標準商業模型相同的拒絕政策。它們會回答爭議性話題、生成成人內容,並在處理小眾領域時不會觸發安全過濾器。
此功能帶有特定限制。我們的模型拒絕涉及未成年人的性內容。所有其他合法的成人內容均獲允許。此政策在所有請求中一致適用。
使用 uncensored llm 用於創意寫作或角色扮演,可從無任意拒絕機制的優勢中獲益。該模型根據機率而非政策生成文本。這使其成為高容量內容生成的理想選擇,在此類場景中,一致性比品牌安全性更重要。
單一模型的技術取捨
運行單一模型可簡化您的技術架構,但會失去在不同架構間路由的能力。您無法即時切換至較小模型以獲取速度,或切換至較大模型以提升準確性。
我們的 API 提供單一無審查大型語言模型。它支援透過伺服器發送事件 (SSE) 進行串流。函數呼叫和 JSON 模式可用。這些功能與 OpenAI SDK 標準一致。
如果您需要多模態功能,此端點將無法運作。它僅處理文本輸入和文本輸出。無嵌入功能、無圖像生成、無音頻處理。這種限制是為降低複雜性和加快整合速度所做的權衡。
上下文視窗和輸出限制
上下文視窗定義了您在一次請求中能處理的 token 總數。我們的模型支援 100,000 tokens 用於提示和補全的總和。這允許進行廣泛的文檔分析或長對話歷史。
最大輸出上限為 16,000 tokens 每次請求。如果您沒有設定 max_tokens, 預設值為 2,048 個 token。此限制可防止失控的生成消耗過多的運算資源。
| 參數 | 限制 |
|---|---|
| 上下文視窗 | 100,000 tokens |
| 最大輸出 | 16,000 tokens |
| 預設輸出 | 2,048 tokens |
加密貨幣支付與帳戶簡化
帳戶建立只需要電子郵件或 Google 登入。不需要電話號碼。這減少了重視隱私的開發者的摩擦。您的電子郵件是唯一的識別碼。
付款僅透過加密貨幣處理。我們接受 USDT (TRC20) 和 USDC (Base). 您可以充值 $20 and $500. 信用額度永不過期。錯誤可透過支援頁面修復。
每個新帳戶均可獲得 $0.50 體驗額度 for 7 天。這允許您在承諾購買更大額度之前測試端點。加密貨幣支付的簡便性與許多 AI 開發者社群的去中心化性質相符。
切換時要避免的錯誤
許多開發者混淆原生 Ollama API 與 OpenAI 相容端點。原生 API 使用 /api/generate. 相容的 API 使用 /v1/chat/completions. 使用錯誤的路徑會導致認證錯誤。
請確保更新 SDK 設定中的基礎 URL。將您的客戶端指向 https://api.ollamaendpointurl.com/v1. 在授權標頭中設定 API 金鑰。不要混用其他供應商的標頭。
在將其整合到您的主流程之前測試連線。使用簡單的 curl 請求驗證回應格式。這可避免在問題僅是端點配置錯誤時浪費數小時除錯。
最終結論:誰應切換
此 API 適合需要可靠無審查文字生成且無需管理硬體的管理者。它非常適合自動化、內容生成和角色扮演應用。
如果您需要模型路由、嵌入或多模態功能,請另尋他處。如果您偏好可預測的基於 token 的定價並使用加密貨幣付款,此服務符合您的需求。
大上下文視窗、嚴格的輸出限制以及贈送信用額度,使其成為高用量用戶的強勁選項。如果您已使用與 OpenAI 相容的客戶端,切換所需的程式碼變更極少。