JA ▾
API キーを取得

開発者向けOpenAI代替:APIキーとSDK設定

そのまま置き換え可能な無検閲OpenAI API代替

開発者向けのOpenAI代替製品は、書き換えではなく、せいぜい半日の作業で済むはずです。これは標準的なOpenAI SDKと互換性があり、ベースURLを変更し、新しいキーを貼り付け、uncensoredという名前のモデルを呼び出すだけです。

更新日

開発者向けベースURL変更を象徴する、光るケーブルで接続されたターミナルと単一のキューブ

主要ポイント

ゼロから動作する呼び出しまでの5つのステップ

今日テストできる開発者向け OpenAI 代替製品をお探しなら、これが全体のプロセスです。所要時間は約 10 分です。

  1. Googleまたはメールアドレスとパスワードでアカウントを作成します。
  2. APIキーページを開き、トライアルクレジットを取得するボタンを押します。カード不要で、$0.50が付与され、有効期限は7日で、1人につき1回分です。
  3. キーをコピーします。パスワードとして扱い、gitに含めないでください。
  4. SDKまたはクライアントのベースURLをhttps://api.openaiapialternative.com/v1に設定します。
  5. モデルをuncensoredに設定してリクエストを送信します。

メッセージ形式、ストリーミング、ツール呼び出しを含むその他すべては、すでに使用しているOpenAIチャット補完フォーマットと同じです。サービスはPOST /v1/chat/completionsとGET /v1/modelsを公開しています。これ以上何もないので、学ぶことはほとんどありません。

公式SDKを使用したPython

パッケージをpip install openaiでインストールします。クライアントはベースURLとキーをコンストラクタ引数として受け取るため、グローバルステートに影響を与えず、同じプロセス内で別のプロバイダ用の2番目のクライアントを保持できます。

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.openaiapialternative.com/v1",
    api_key=os.environ["UNCENSORED_API_KEY"],
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "Answer briefly and directly."},
        {"role": "user", "content": "List three edge cases for a date parser."},
    ],
    max_tokens=300,
)
print(resp.choices[0].message.content)
print(resp.usage)

max_tokensはオプションです。指定しない場合、完了は100,000トークンのウィンドウの残りを使用する可能性があります。予測可能なコストにするには上限を設定してください。

チャットモデルには独自の記憶がありません。各リクエストには、モデルに見せたい履歴を含める必要があるため、マルチターンアシスタントは単に追加していくリストになります:

from openai import OpenAI

client = OpenAI(base_url="https://api.openaiapialternative.com/v1", api_key="YOUR_KEY")
history = [{"role": "system", "content": "You are a patient pair-programming partner."}]

while True:
    user = input("you> ")
    if not user:
        break
    history.append({"role": "user", "content": user})
    r = client.chat.completions.create(model="uncensored", messages=history)
    answer = r.choices[0].message.content
    history.append({"role": "assistant", "content": answer})
    print(answer)

入力トークンはターンごとに増加します。なぜなら、リスト全体が毎回送信されるからです。100,000トークンのウィンドウには十分な余地がありますが、すべての呼び出しで履歴に対して課金されるため、リストが長くなったら古いターンを削除するか要約してください。

Nodeとcurl

Node SDKも同じパターンに従います。npm install openaiでインストールし、baseURLを渡します。

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.openaiapialternative.com/v1",
  apiKey: process.env.UNCENSORED_API_KEY,
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Write a haiku about stack traces." }],
  stream: true,
});

for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}

ターミナルから素早く確認するには、モデルを一覧表示します。IDがuncensoredのエントリが1つ表示されるはずです。

# expect one entry with id "uncensored"
curl https://api.openaiapialternative.com/v1/models \
  -H "Authorization: Bearer $UNCENSORED_API_KEY"

ストリーミングリクエストはストリームが終了するまで同時接続枠を占有します。クライアントがストリームを閉じずに離脱した場合にこれが問題になります。ユーザーがページを離れる際に、こちら側で接続を閉じてください。

エディタ、エージェント、その他のクライアント

多くの開発者ツールはOpenAIベースURLの上書きを許可します。Cursorなどのエディタにはモデル設定画面があり、カスタムOpenAI互換ベースURLとキーを入力できます。SillyTavernなどのチャットフロントエンドではカスタムOpenAI互換エンドポイントを追加できます。ラベルやメニューの位置はバージョンによって異なるため、「OpenAIベースURLの上書き」または「カスタムエンドポイント」のような名前のフィールドを探してください。

ツールに関係なく、同じ3つの値が必要です:

フィールド内容
ベース URLhttps://api.openaiapialternative.com/v1
API キーアカウントのキー
モデル名uncensored

ツールが既知のモデル名のリストを必要とする場合は、カスタムモデルとして uncensored を追加してください。ツールが自動的に /v1 を付加する場合は、接尾辞なしのアドレスを指定してください。そうしないと、パスが二重になり、not-found エラーになります。

ツール呼び出しとJSONモード

構造化出力は代替サービスがしばしば失敗する部分なので、早めにテストしてください。両方の機能はOpenAI形式を使用します。JSONモードの場合、response_formatを設定し、プロンプトにJSONを含めてください。

import json
from openai import OpenAI

client = OpenAI(base_url="https://api.openaiapialternative.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    response_format={"type": "json_object"},
    messages=[
        {"role": "system", "content": "Reply with a JSON object with keys title and tags."},
        {"role": "user", "content": "Describe a short story about a lost lighthouse keeper."},
    ],
)
data = json.loads(resp.choices[0].message.content)
print(data["title"], data["tags"])

ツールの場合、関数スキーマを含むtoolsリストを渡し、返信からtool_callsを読み取り、関数を自分で実行し、結果をrole: "tool"メッセージとして送信します。ストリーミングレスポンスはtool_callsを分割して配信するため、解析する前に引数文字列を累積してください。

モデルは時々不正なJSONを返す可能性があります。どのプロバイダを使用しても、解析をtryブロックで囲み、エラーメッセージを会話に追加して1回再試行してください。

シードも渡されるため、固定温度でseedを設定すると、同じ入力に対してプロンプト変更を比較する方法が得られます。すべての実行でバイト単位の一致を期待しないでください。ただし、差異は大幅に縮小されます。

制限、429処理、コスト管理

フルキーは8つの同時リクエストと1分あたり300リクエストを許可します。トライアルキーは2と60を許可します。ボディは最大8 MBまで可能です。各レスポンスにはX-RateLimit-Limit-Requests、X-RateLimit-Limit-Concurrency、および残りのクレジット額を示すX-Balance-USDが含まれます。

上限を超えるとHTTP 429が返ります。エラーコードで制限内容がわかります:rate_limited は1分あたりのリクエスト数が多すぎること、concurrency は一度に多すぎること、を意味します。一時的な過負荷でも429が返り、Retry-After: 5 ヘッダーが付きます。OpenAI SDKはデフォルトでバックオフ付きで429を再試行し、クライアント側でmax_retries で再試行回数を増やせます。バッチ処理では、セマフォを8に設定することで同時実行数の上限内に収まります。

予算計算は価格から始めます:入力トークン1Mあたり$0.15、出力トークン1Mあたり$0.50です。4Mの入力トークンを送信し、1Mの出力トークンを受け取るジョブのコストは、4 x $0.15 + 1 x $0.50 = $1.10です。失敗または拒否されたリクエストは課金されません。価格ページ にチャージ額とボーナスが記載されています。

SDKが再試行機能を提供していない場合は、短い再試行ラッパーで十分です。存在する場合はRetry-Afterを読み取り、指数関数的遅延にフォールバックし、数回の試行で諦めてください。429またはサーバー障害以外のエラーでは再試行しないでください。不正なリクエストは毎回同じ方法で失敗するためです。

初日に1時間費やすことになる間違い

最初の呼び出しの失敗のほとんどは限られた原因から生じます。サービスを疑う前にこれらを確認してください。

  • パスの二重化。 ベースURLはすでに/v1で終わっています。もう1つ追加しないでください。また、/chat/completionsをそれなしで呼び出さないでください。
  • 間違ったモデル名。 古いコードにはベンダーモデル名が含まれていることがよくあります。それをuncensoredに置き換えてください。そうしないと、呼び出しが一致しません。
  • 空白を含むキー。 ウェブページやターミナルからコピーされたキーには、末尾に改行が含まれることがあります。それを削除してください。
  • 本番環境の同時実行でトライアルキーをテスト。 トライアルキーは同時リクエスト2、1分あたり60を許可するため、20スレッドの負荷テストでは、ほぼすぐにエラーコードconcurrency付きの429が返されます。
  • 他のエンドポイントを期待する。 画像、音声、埋め込み呼び出しはサービスに含まれていません。

2番目のカテゴリは設定ではなく動作です。拒否のないモデルは、予想以上に指示を厳密に実行します。意図しない回答になった場合は、temperatureを調整するのではなくシステムプロンプトを調整してください。出力が反復的になる場合は、temperature を少し上げるか、頻度ペナルティを追加してください(両方とも渡されます)。

早期に取り入れる価値のある最後の習慣:あなたを驚かせたすべての呼び出しについて、正確なリクエスト本文を保存してください。サポートページ でチームに助けを求める際、リクエスト ID とその本文があれば完全なバグレポートになります。

出荷前に

  • キーをサーバーに保持してください。ブラウザバンドルやモバイルアプリに決して含めないでください。
  • 各呼び出しにX-Request-Idヘッダーをログに記録してください。これによりサポート質問が回答可能になります。
  • エンドユーザーが自由に入力できる場合は、独自の入力および出力フィルタリングを追加してください。モデルは拒否しないため、モデレーションはあなた次第です。
  • 設定にフォールバックプロバイダを保持してください。切り替えはベースURLの変更なので、機能フラグで十分です。
  • スコープを覚えてください:テキストのみ、埋め込みなし、画像なし、ファインチューニングなし。

ドキュメントには完全なパラメータリストがあります。何か奇妙な動作をする場合は、サポートページでチームへの連絡方法を確認してください。

質問と回答

どの SDK が動作しますか?

ベース URL とキーを設定できる任意の OpenAI SDK またはクライアント。公式の Python および Node ライブラリ、curl を使ったプレーンな HTTP 呼び出しも動作します。

試すためにカードが必要ですか?

いいえ。$0.50 の無料トライアルクレジットは、サインアップ後に API キーページでワンクリックで取得でき、カードは不要です。有効期限は 7 日で、1 人あたり 1 回限りの特典です。

モデル名は何ですか?

モデル ID は uncensored です。GET /v1/models を呼び出して、ご自身の API キーで確認してください。

リクエストの最大サイズは?

プロンプトと補完を合わせたコンテキストウィンドウは100000トークン、最大リクエストボディは8 MBです。

キーはフォーム 1 つで手に入ります

アカウントを作成し、キーをコピーし、ベースURLを変更します。これでセットアップは完了です。

APIキーを取得ドキュメントを読む