錯誤 1:假設所有 'uncensored' 模型的約束程度相同
「無審查 AI」一詞常被聚合器鬆散地用來描述具有放鬆過濾器的模型。某些模型仍保留特定主題的硬分類器,而其他模型則是真正開放權重並針對最小拒絕進行調優。這種差異意味著您的整合可能與一個模型完美運作,但與另一個模型卻會遇到意外的拒絕。始終驗證您路由到的特定模型的行為。
我們提供單一、真正無審查的模型,不會拒絕合法的成人或爭議性話題。這消除了模型路由的猜測。您可以獲得每次請求的一致性行為,無需擔心隱藏的防護機制。
錯誤 2:忽略 100k token 上下文視窗限制
當提示中的總 token 數加上完成結果超過模型限制時,您的整合會失敗。許多開發人員將其客戶端配置為發送 100k token,但忘記模型需要空間來生成回應。如果上下文視窗為 100,000 token,您必須為輸出保留空間。發送過大的提示會導致立即錯誤或截斷。
我們支援提示和補全合計 100,000 個 token 的上下文視窗。這允許大量的歷史記錄或長文件。請確保您的程式碼在每次請求前正確計算剩餘的 token 數量。超出此限制會導致請求被拒絕,從而浪費資金。
錯誤 3:混淆 max_tokens 與上下文長度
上下文長度定義模型可讀取的歷史內容量。最大 token 數定義模型可寫入的文字量。這兩者是獨立的限制。你可以擁有巨大的上下文視窗,但輸出較小。若將 max_tokens 設得太低,會截斷你的回答。設得太高則可能因模型生成廢話而導致不必要的計費。
我們的無審查 LLM 每次請求的最大輸出為 16,000 token。如果您未設定 max_tokens,它將預設為 2,048 token。此預設值對於複雜的推理任務來說通常太短。請明確設定參數以匹配您預期的回應長度。這可防止 JSON 被截斷或程式碼區塊不完整。
錯誤 4:忽略串流與非串流的 token 計數差異
串流回應會逐步交付 Token。非串流回應會等待整個完成。Token 使用量通常會在串流的最後一個片段中報告。如果您的客戶端忽略最後一個片段,您將失去準確的計費資料。這使得調試昂貴的請求變得困難。
我們透過 SSE 提供串流傳輸,Token 用量包含在最後一個區塊中。請確保您的解析器能捕捉此最終事件。非串流請求也會在回應主體中包含用量資料。使用串流可獲得更好的使用者體驗,但請正確追蹤用量。遺失最終區塊會導致成本報表偏低。
錯誤 5:預期所有內容類型都不會遭到拒絕
Uncensored 不代表無限。大多數模型仍然對涉及未成年人的色情內容實施硬性限制。這是開放權重模型中的標準安全基線。如果你發送違反此規則的提示,API 將返回拒絕。這不是錯誤;這是政策執行。
我們的 API 會拒絕包含未成年人性內容的請求。所有其他合法的成人內容均獲允許。此硬性限制適用於所有提示風格。不要假設每次拒絕都表示模型問題。請先根據此特定限制檢查您的內容。
錯誤 6:為創意與程式碼設定錯誤的溫度參數
溫度控制隨機性。高值會增加創造力但降低精確度。低值則使輸出更具決定性和精確度。在程式碼生成中使用高溫度會引入語法錯誤。在創意寫作中使用低溫度則會使文本變得重複且乏味。
根據您的任務調整溫度。對於函數調用或 JSON 模式使用較低的值。對於故事生成或腦力激盪使用較高的值。我們的無審查 LLM 對這些調整反應良好。測試不同的值以找到適合您使用案例的平衡點。
錯誤 7:未早期測試 JSON 模式輸出結構
LLM 不是資料庫。它們產生看起來像 JSON 的文字。當模型輸出額外文字或無效語法時就會出錯。如果您沒有驗證輸出,解析就會失敗。依賴模型每次都產生完美的 JSON 是有風險的。請務必為無效的 JSON 實作重試機制。
我們透過 response_format json_object 支持 JSON 模式。這會強制模型輸出有效的 JSON。它仍可能產生空物件或缺少欄位。請在使用數據之前驗證結構。這可以節省後續管道中的除錯時間。
錯誤 8:假設信用額度像訂閱一樣過期
許多 API 供應商收取會過期的月費。我們的模式不同。您為使用的內容付費。預付信用額度永不過期。如果您充值 $100,該餘額將無限期保留。這非常適合間歇性專案或長期儲存。您不會因等待而虧損。
我們根據實際 token 使用量計費。錯誤和拒絕請求免費。這意味著您只需為成功的完成內容付費。僅限加密貨幣充值。沒有月費意味著沒有意外收費。使用預付模式以獲得可預測的長期成本。