繁中 ▾
取得 API 金鑰

給開發者的 OpenAI 替代方案:金鑰與 SDK 設定

即插即用的無審查 OpenAI API 替代方案

給開發者的 OpenAI 替代方案最多只需你一個下午的時間,而非重寫程式。此方案相容於標準 OpenAI SDK:你只需更改 Base URL、貼上新金鑰,並呼叫名為 uncensored 的模型。

已更新

一條發光電纜連接終端機與單一方塊,說明開發者如何替換 Base URL

重點摘要

從零到成功呼叫的五個步驟

如果你想今天就能測試 OpenAI 替代方案,這就是完整的路徑。大約需要十分鐘。

  1. 使用 Google 或電子郵件與密碼建立帳戶。
  2. 開啟 API 金鑰頁面並按下領取試用額度的按鈕。你將獲得 $0.50,有效期 7 天,每人限領一次,無需信用卡。
  3. 複製金鑰。請將其視為密碼,並避免將其提交至 git。
  4. 在 SDK 或客戶端中,將 base URL 設為 https://api.openaiapialternative.com/v1。
  5. 發送請求,並將 model 設為 uncensored。

其餘一切(包括訊息格式、串流輸出與工具呼叫)均與你已使用的 OpenAI chat completions 格式相同。服務提供 POST /v1/chat/completions 與 GET /v1/models。沒有更多功能,因此學習成本很低。

Python 搭配官方 SDK

使用 pip install openai 安裝套件。客戶端會將基礎 URL 和金鑰作為建構子參數,因此不會觸及全域狀態,您可以在同一個程序中保留另一個供應商的第二个客戶端。

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.openaiapialternative.com/v1",
    api_key=os.environ["UNCENSORED_API_KEY"],
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "Answer briefly and directly."},
        {"role": "user", "content": "List three edge cases for a date parser."},
    ],
    max_tokens=300,
)
print(resp.choices[0].message.content)
print(resp.usage)

max_tokens 為選填。若未指定,補全可能會消耗掉 100,000 token 上下文視窗中剩餘的所有 token,因此若希望成本可預測,請設定上限。

聊天模型本身沒有記憶。每個請求都必須包含你希望模型看見的歷史紀錄,因此多輪對話助手只是你持續追加的列表:

from openai import OpenAI

client = OpenAI(base_url="https://api.openaiapialternative.com/v1", api_key="YOUR_KEY")
history = [{"role": "system", "content": "You are a patient pair-programming partner."}]

while True:
    user = input("you> ")
    if not user:
        break
    history.append({"role": "user", "content": user})
    r = client.chat.completions.create(model="uncensored", messages=history)
    answer = r.choices[0].message.content
    history.append({"role": "assistant", "content": answer})
    print(answer)

輸入 token 會隨著每一輪對話增加,因為每次都會傳送整個列表。雖然 100,000-token 上下文視窗提供了大量空間,但每次呼叫都會為歷史紀錄付費,因此當列表變長時,請刪除舊的對話輪次或將其摘要化。

Node 和 curl

Node SDK 遵循相同的模式。使用 npm install openai 安裝,並傳遞 baseURL。

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.openaiapialternative.com/v1",
  apiKey: process.env.UNCENSORED_API_KEY,
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Write a haiku about stack traces." }],
  stream: true,
});

for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}

若要從終端機快速檢查,請列出模型。你應該會看到一筆 ID 為 uncensored 的項目。

# expect one entry with id "uncensored"
curl https://api.openaiapialternative.com/v1/models \
  -H "Authorization: Bearer $UNCENSORED_API_KEY"

串流請求會佔用一個並行請求槽位,直到串流結束為止,若用戶端在未完成時中斷串流且未關閉連線,這將產生影響。當使用者導航離開時,請在您的端點側關閉連線。

編輯器、代理程式與其他客戶端

許多開發者工具允許你覆寫 OpenAI Base URL。例如 Cursor 等編輯器有模型設定畫面,你可以輸入自訂的 OpenAI 相容 Base URL 與金鑰;SillyTavern 等聊天前端則允許你新增自訂的 OpenAI 相容端點。標籤與選單位置會隨版本不同而改變,請尋找類似「覆寫 OpenAI Base URL」或「自訂端點」的欄位。

無論使用何種工具,你都需要相同的三個值:

欄位說明
Base URLhttps://api.openaiapialternative.com/v1
API 金鑰你帳戶中的金鑰
模型名稱uncensored

若工具堅持要求已知模型名稱的列表,請將 uncensored 加入為自訂模型。若工具自行附加 /v1,請提供不含後綴的地址,否則你會得到重複的路徑和找不到資源的錯誤。

工具呼叫與 JSON 模式

結構化輸出是替代方案通常會出錯的地方,因此請盡早測試。這兩項功能都使用 OpenAI 格式。對於 JSON 模式,請設定 response_format 並在提示詞中提及 JSON。

import json
from openai import OpenAI

client = OpenAI(base_url="https://api.openaiapialternative.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    response_format={"type": "json_object"},
    messages=[
        {"role": "system", "content": "Reply with a JSON object with keys title and tags."},
        {"role": "user", "content": "Describe a short story about a lost lighthouse keeper."},
    ],
)
data = json.loads(resp.choices[0].message.content)
print(data["title"], data["tags"])

對於工具,請傳遞包含函式結構描述的 tools 列表,從回覆中讀取 tool_calls,自行執行函式並將結果以 role: "tool" 訊息傳送回去。串流輸出會分段傳送 tool_calls,因此在解析之前請先累積參數字串。

無論使用哪個供應商,模型偶爾仍會回傳格式錯誤的 JSON。請將解析過程包裹在 try 區塊中,並在附加錯誤訊息至對話後重試一次。

種子也會被傳遞,因此設定 seed 並搭配固定溫度,讓您可以比較相同輸入下的提示詞變更。不要期望每次執行都產生位元組完全相同的輸出,但差異會大幅縮小。

限制、429 處理與成本控管

完整金鑰允許 8 個並行請求和每分鐘 300 個請求。試用金鑰允許 2 個並行請求和每分鐘 60 個請求。請求主體最多 8 MB。每個回應都會包含 X-RateLimit-Limit-Requests 和 X-RateLimit-Limit-Concurrency,以及顯示你剩餘額度的 X-Balance-USD。

超過限制會返回 HTTP 429。錯誤程式碼會告訴您是哪個限制:rate_limited 表示每分鐘請求過多,concurrency 表示同時請求過多。暫時過載也會返回 429,並帶有 Retry-After: 5 標頭。OpenAI SDK 預設會以退避方式重試 429 回應,你可以在客戶端上透過 max_retries 提高重試次數。對於批次作業,使用 8 的訊號量可讓你保持在並行上限之下。

進行預算規劃時,請以價格為基礎:每 1M 輸入 token 為 $0.15,每 1M 輸出 token 為 $0.50。一個發送 4M 輸入 token 並獲得 1M 輸出 token 的作業,成本為 4 x $0.15 + 1 x $0.50 = $1.10。失敗或被拒絕的請求不會收費。定價頁面 列出了儲值大小和贈送額度。

如果您沒有使用會自動重試的 SDK,一個短小的重試封裝器就足夠了。當存在 Retry-After 時請讀取它,否則採用指數延遲,並在幾次嘗試後放棄。不要對非 429 或非伺服器錯誤進行重試,因為格式錯誤的請求每次都會以相同的方式失敗。

第一天可能耗費一小時的錯誤

大多數首次呼叫失敗都來自少數幾個原因。在懷疑服務之前,請檢查以下項目。

  • 路徑重複。 基礎 URL 已經以 /v1 結尾。不要再加上一個,也不要省略它而直接呼叫 /chat/completions。
  • 錯誤的模型名稱。 舊程式碼通常帶有 API 供應商模型名稱。將其替換為 uncensored,否則呼叫將無法匹配任何內容。
  • 帶有空白字元的金鑰。 從網頁或終端機複製的金鑰通常包含尾隨換行符。請將其移除。
  • 在生產環境並行負載下測試試用金鑰。 試用金鑰允許 2 個並行請求和每分鐘 60 個請求,因此 20 個執行緒的負載測試幾乎會立即返回帶有錯誤代碼 concurrency 的 429。
  • 期望其他端點。 影像、音訊和嵌入呼叫不在服務範圍內。

第二類是行為而非設定。沒有拒絕的模型會比您預期的更字面地遵循奇怪的指示。如果回答偏離了您的預期,請調整系統提示詞而不是溫度。如果輸出重複,請稍微提高 temperature 或新增頻率懲罰,兩者都會被傳遞。

最後一個值得早期養成的習慣:儲存每次讓您驚訝的呼叫的完整請求主體。當您在 支援頁面 請團隊協助時,請求 ID 加上該主體就是一份完整的錯誤報告。

發布前

  • 將金鑰保留在伺服器上。絕對不要將其包含在瀏覽器套件或行動應用程式中。
  • 每次呼叫時記錄 X-Request-Id 標頭。這使得支援問題得以被解答。
  • 如果最終使用者可以自由輸入,請新增你自己的輸入與輸出篩選機制。模型不會拒絕,因此內容審核由你定義。
  • 在設定檔中保留備用供應商。切換只需更改 Base URL,因此功能旗標就足夠了。
  • 記住範圍:僅限文字,無嵌入、無圖片、無微調。

說明文件 包含完整的參數列表。若出現異常行為,支援頁面 會告知您如何聯繫團隊。

問答

哪些 SDK 相容?

任何允許你設定基礎 URL 與金鑰的 OpenAI SDK 或客戶端皆可。官方的 Python 與 Node 程式庫,以及使用 curl 的純 HTTP 呼叫均可運作。

我需要信用卡才能試用嗎?

否。$0.50 試用額度在註冊後於 API 金鑰頁面一鍵領取,不需要信用卡。有效期為 7 天,每人限領一次。

模型名稱是什麼?

模型 ID 為 uncensored。請使用你的金鑰呼叫 GET /v1/models 以確認模型 ID。

請求的大小上限為何?

上下文視窗為 100,000 token(含提示詞與補全),最大請求主體為 8 MB。

只差一張表單,即可取得金鑰

建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。

取得 API 金鑰閱讀文件