HI ▾
API कुंजी पाएँ

डेवलपर्स के लिए OpenAI विकल्प: कुंजी और SDK सेटअप

OpenAI API का बिना सेंसर ड्रॉप-इन विकल्प

एक OpenAI विकल्प डेवलपर्स के लिए अधिकतम एक दोपहर का समय लेना चाहिए, न कि रीराइट। यह मानक OpenAI SDKs के साथ काम करता है: आपको Base URL बदलना है, एक नई API कुंजी पेस्ट करनी है और uncensored नाम वाले मॉडल को कॉल करना है।

अद्यतन

एक चमकदार केबल से जुड़े एकल घन से एक टर्मिनल, डेवलपर्स के लिए बेस URL बदलाव का चित्रण

मुख्य बिंदु

शून्य से वर्किंग कॉल तक पांच कदम

यदि आप एक डेवलपर्स के लिए OpenAI विकल्प चाहते हैं जिसे आप आज टेस्ट कर सकें, तो यह पूरा रास्ता है। इसमें लगभग दस मिनट लगते हैं।

  1. Google या ईमेल और पासवर्ड के साथ एक खाता बनाएं।
  2. API कुंजी पेज खोलें और उस बटन पर क्लिक करें जो ट्रायल क्रेडिट क्लेम करता है। आपको $0.50 मिलते हैं, जो 7 दिनों के लिए मान्य है, प्रति व्यक्ति केवल एक, बिना कार्ड के।
  3. कुंजी कॉपी करें। इसे पासवर्ड की तरह मानें और इसे git से बाहर रखें।
  4. अपने SDK या क्लाइंट में बेस URL को https://api.openaiapialternative.com/v1 पर सेट करें।
  5. मॉडल को uncensored सेट करके एक अनुरोध भेजें।

संदेश प्रारूप, स्ट्रीमिंग और टूल कॉल सहित बाकी सब कुछ वही है जो आप पहले OpenAI चैट कंप्लीशन्स फॉर्मेट का उपयोग करते थे। सेवा POST /v1/chat/completions और GET /v1/models एक्सपोज़ करती है। कुछ और नहीं, इसलिए सीखने को बहुत कम है।

ऑफिशियल SDK के साथ Python

पैकेज को pip install openai से इंस्टॉल करें। क्लाइंट बेस URL और कुंजी को कंस्ट्रक्टर आर्गुमेंट के रूप में लेता है, इसलिए कोई ग्लोबल स्टेट टच नहीं होता और आप एक ही प्रोसेस में दूसरे प्रोवाइडर के लिए एक दूसरा क्लाइंट रख सकते हैं।

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.openaiapialternative.com/v1",
    api_key=os.environ["UNCENSORED_API_KEY"],
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "Answer briefly and directly."},
        {"role": "user", "content": "List three edge cases for a date parser."},
    ],
    max_tokens=300,
)
print(resp.choices[0].message.content)
print(resp.usage)

max_tokens वैकल्पिक है। यदि आप इसे छोड़ देते हैं, तो कंप्लीशन 100,000-टोकन विंडो के बचे हुए हिस्से का उपयोग कर सकता है, इसलिए जब आप निश्चित लागत चाहते हैं तो एक कैप सेट करें।

चैट मॉडल का अपना कोई मेमोरी नहीं होता। प्रत्येक अनुरोध में वह इतिहास होना चाहिए जिसे मॉडल को दिखाना है, इसलिए मल्टी-टर्न असिस्टेंट बस एक सूची है जिसे आप लगातार एपेंड करते जाते हैं:

from openai import OpenAI

client = OpenAI(base_url="https://api.openaiapialternative.com/v1", api_key="YOUR_KEY")
history = [{"role": "system", "content": "You are a patient pair-programming partner."}]

while True:
    user = input("you> ")
    if not user:
        break
    history.append({"role": "user", "content": user})
    r = client.chat.completions.create(model="uncensored", messages=history)
    answer = r.choices[0].message.content
    history.append({"role": "assistant", "content": answer})
    print(answer)

इनपुट टोकन हर टर्न के साथ बढ़ते हैं, क्योंकि हर बार पूरी सूची भेजी जाती है। 100,000-टोकन विंडो के साथ आपके पास बहुत जगह है, लेकिन हर कॉल पर इतिहास के लिए भुगतान करना पड़ता है, इसलिए पुराने टर्न्स को काट दें या सूची लंबी होने पर उन्हें सारांशित कर दें।

Node और curl

Node.js SDK उसी पैटर्न का पालन करता है। npm install openai से इंस्टॉल करें और baseURL पास करें।

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.openaiapialternative.com/v1",
  apiKey: process.env.UNCENSORED_API_KEY,
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Write a haiku about stack traces." }],
  stream: true,
});

for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}

टर्मिनल से एक त्वरित जाँच के लिए, मॉडल की सूची बनाएं। आपको ID uncensored वाली एक एंट्री दिखनी चाहिए।

# expect one entry with id "uncensored"
curl https://api.openaiapialternative.com/v1/models \
  -H "Authorization: Bearer $UNCENSORED_API_KEY"

एक स्ट्रीम किए गए अनुरोध में स्ट्रीम खत्म होने तक आपकी कन्करेंसी स्लॉट में से एक बंधा रहता है, जो तब मायने रखता है जब एक क्लाइंट स्ट्रीम को बिना बंद किए छोड़ दे। जब यूज़र नेविगेट करके चला जाए, तो अपनी तरफ से कनेक्शन बंद करें।

एडिटर, एजेंट्स और अन्य क्लाइंट

बहुत सारे डेवलपर टूल्स आपको ओपनएआई बेस URL ओवरराइड करने की अनुमति देते हैं। Cursor जैसे एडिटर में एक मॉडल सेटिंग्स स्क्रीन होती है जहाँ आप एक कस्टम ओपनएआई-कम्पैटिबल बेस URL और एक कुंजी दर्ज कर सकते हैं, और SillyTavern जैसे चैट फ्रंट-एन्ड्स आपको एक कस्टम ओपनएआई-कम्पैटिबल एंडपॉइंट जोड़ने देते हैं। लेबल और मेनू पोजीशन वर्जन के बीच बदल जाते हैं, इसलिए "Override OpenAI base URL" या "Custom endpoint" जैसे नाम वाले फ़ील्ड की तलाश करें।

कोई भी टूल हो, आपको उन तीन मानों की आवश्यकता होती है:

फ़ील्डमान
बेस URLhttps://api.openaiapialternative.com/v1
API कुंजीआपके खाते से कुंजी
मॉडल का नामuncensored

यदि टूल ज्ञात मॉडल नामों की एक सूची पर ज़िद करता है, तो uncensored को एक कस्टम मॉडल के रूप में जोड़ें। यदि यह स्वयं /v1 एपेंड करता है, तो उसे सफ़िक्स के बिना पता दें, वरना आपको एक डबल पाथ और नो-फाउंड एरर मिलेगा।

टूल कॉलिंग और JSON मोड

स्ट्रक्चर्ड आउटपुट वह जगह है जहाँ एक विकल्प आमतौर पर टूट जाता है, इसलिए इसे जल्दी टेस्ट करें। दोनों फीचर्स OpenAI फॉर्मेट का उपयोग करते हैं। JSON मोड के लिए, response_format सेट करें और प्रॉम्प्ट में JSON का उल्लेख करें।

import json
from openai import OpenAI

client = OpenAI(base_url="https://api.openaiapialternative.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    response_format={"type": "json_object"},
    messages=[
        {"role": "system", "content": "Reply with a JSON object with keys title and tags."},
        {"role": "user", "content": "Describe a short story about a lost lighthouse keeper."},
    ],
)
data = json.loads(resp.choices[0].message.content)
print(data["title"], data["tags"])

टूल्स के लिए, फ़ंक्शन स्कीमा के साथ एक tools सूची पास करें, रीप्लाई से tool_calls पढ़ें, फ़ंक्शन को स्वयं चलाएं और role: "tool" भूमिका के साथ एक मैसेज के रूप में रिजल्ट वापस भेजें। स्ट्रीम किए गए रिस्पॉन्स tool_calls को टुकड़ों में देते हैं, इसलिए इसे पार्स करने से पहले आर्गुमेंट स्ट्रिंग को एक्कुमुलेट करें।

मॉडल अभी भी कभी-कभी खराब JSON लौटा सकते हैं, चाहे आप कोई भी प्रोवाइडर उपयोग करें। पार्सिंग को एक ट्राई ब्लॉक में घेरें और एरर मैसेज को कॉन्वर्सेशन में एपेंड करके एक बार पुनः प्रयास करें।

सीड्स भी पास किए जाते हैं, इसलिए seed सेट करके स्थिर तापमान के साथ आपको समान इनपुट पर प्रॉम्प्ट बदलावों की तुलना करने का एक तरीका मिलता है। हर रन में बाइट-आइडेंटिकल आउटपुट की उम्मीद न करें, लेकिन अंतर काफी कम हो जाते हैं।

लिमिट्स, 429 हैंडलिंग और लागत नियंत्रण

एक फुल कुंजी 8 समानांतर अनुरोधों और प्रति मिनट 300 अनुरोधों की अनुमति देती है। ट्रायल कुंजी 2 और 60 की अनुमति देती है। बॉडी 8 MB से अधिक नहीं हो सकती है। प्रत्येक रिस्पॉन्स X-RateLimit-Limit-Requests और X-RateLimit-Limit-Concurrency, साथ ही शेष क्रेडिट के लिए X-Balance-USD लाता है।

सीमा पार करने पर HTTP 429 लौटाता है। एरर कोड बताता है कि कौन सी सीमा टूटी: rate_limited का मतलब प्रति मिनट बहुत सारे अनुरोध हैं, और concurrency का मतलब एक साथ बहुत सारे अनुरोध हैं। एक अस्थायी ओवरलोड भी 429 लौटाता है, Retry-After: 5 हेडर के साथ। ओपनएआई SDKs डिफ़ॉल्ट रूप से बैकऑफ़ के साथ 429 रिस्पॉन्स को पुनः प्रयास करते हैं, और आप क्लाइंट पर max_retries के साथ गिनती बढ़ा सकते हैं। बैच जॉब्स के लिए, 8 का सेमाफोर आपको कन्करेंसी कैप के नीचे रखता है।

बजट निर्माण के लिए, कीमत से काम करें: 1M इनपुट टोकन के लिए $0.15 और 1M आउटपुट टोकन के लिए $0.50। एक जॉब जो 4M इनपुट टोकन भेजता है और 1M आउटपुट टोकन वापस पाता है, उसकी लागत 4 x $0.15 + 1 x $0.50 = $1.10 होती है। फेल या रिफ्यूज किए गए अनुरोधों के लिए चार्ज नहीं किया जाता है। प्राइसिंग पेज टॉप-अप साइज़ और बोनस सूचीबद्ध करता है।

एक छोटी पुनः प्रयास विधि काफी है यदि आप एक ऐसा SDK उपयोग नहीं कर रहे हैं जो आपके लिए पुनः प्रयास करता है। Retry-After पढ़ें जब मौजूद हो, एक्सपोनेंशियल डिले पर फॉलबैक करें, और कुछ प्रयासों के बाद हार मान लें। उन एरर्स पर पुनः प्रयास न करें जो 429 या सर्वर फॉल्ट नहीं हैं, क्योंकि एक खराब अनुरोध हर बार उसी तरीके से फेल होगा।

पहले दिन एक घंटे की लागत वाली वे गलतियाँ

अधिकतर विफल पहली कॉलें कारणों की एक छोटी सूची से आती हैं। सेवा को दोष देने से पहले इनकी जाँच करें।

  • दोहराया गया पाथ। बेस URL पहले से ही /v1 पर समाप्त होता है। एक और न जोड़ें, और बिना इसके /chat/completions पर कॉल न करें।
  • गलत मॉडल नाम। पुराना कोड अक्सर एक वेंडर मॉडल नाम लिए होता है। इसे uncensored से बदल दें, वरना कॉल कुछ भी मैच नहीं करेगी।
  • स्पेस वाले एक कुंजी। वेब पेज या टर्मिनल से कॉपी की गई कुंजियों में अक्सर एक ट्रेलिंग न्यूलाइन शामिल होता है। उसे हटा दें।
  • प्रोडक्शन कॉन्करेंसी पर टेस्ट। ट्रायल कुंजी 2 समानांतर अनुरोध और प्रति मिनट 60 की अनुमति देती है, इसलिए 20-थ्रेड लोड टेस्ट लगभग एक साथ 429 को concurrency कोड के साथ लौटाएगा।
  • अन्य एंडपॉइंट की उम्मीद। इमेज, ऑडियो और एम्बेडिंग कॉल्स सेवा का हिस्सा नहीं हैं।

दूसरी श्रेणी व्यवहार है, कॉन्फ़िगरेशन नहीं। बिना रिफ्यूज़ल वाले मॉडल अजीब निर्देशों को अधिक शाब्दिक रूप से पालना करेंगे। यदि उत्तर उस जगह जाता है जहाँ आप नहीं चाहते थे, तो तापमान को कसने के बजाय सिस्टम प्रॉम्प्ट को कस लें। यदि आउटपुट दोहराव वाले हैं, तो temperature को थोड़ा बढ़ाएं या फ्रीक्वेंसी पेनल्टी जोड़ें, दोनों को पास किया जाता है।

एक आदत अपनाने के लिए ज़रूरी है: हर कॉल का सटीक अनुरोध बॉडी स्टोर करें जिसने आपको हैरान किया। जब आप support page पर टीम से मदद मांगते हैं, तो अनुरोध आईडी और वह बॉडी एक पूर्ण बग रिपोर्ट है।

शिप करने से पहले

  • कुंजी को सर्वर पर रखें। इसे ब्राउज़र बंडल या मोबाइल ऐप में कभी न भेजें।
  • प्रत्येक कॉल के साथ X-Request-Id हेडर लॉग करें। यह सपोर्ट सवालों को स्पष्ट बनाता है।
  • अगर अंत उपयोगकर्ता स्वतंत्र रूप से टाइप कर सकते हैं, तो अपना इनपुट और आउटपुट फिल्टर जोड़ें। मॉडल मना नहीं करेगा, इसलिए मॉडरेशन आपकी परिभाषा है।
  • कॉन्फ़िग में एक फॉलबैक प्रदाता रखें। स्विचिंग एक बेस URL बदलाव है, इसलिए एक फीचर फ्लैग पर्याप्त है।
  • स्कोप याद रखें: केवल टेक्स्ट, कोई एम्बेडिंग नहीं, कोई इमेज नहीं, कोई फाइन-ट्यूनिंग नहीं।

docs में पूर्ण पैरामीटर सूची है। यदि कुछ अजीब व्यवहार करता है, तो support page आपको बताता है कि टीम से कैसे संपर्क करें।

प्रश्न और उत्तर

कौन से SDKs काम करते हैं?

कोई भी OpenAI SDK या क्लाइंट जो आपको बेस URL और कुंजी सेट करने देता है। आधिकारिक Python और Node लाइब्रेरियाँ काम करती हैं, साथ ही curl के साथ सादे HTTP कॉल भी काम करते हैं।

क्या इसे आज़माने के लिए मुझे कार्ड की आवश्यकता है?

नहीं। $0.50 का ट्रायल क्रेडिट साइन-अप के बाद API कुंजी पेज पर एक क्लिक से क्लेम किया जाता है और कार्ड की आवश्यकता नहीं होती। यह 7 दिनों के लिए मान्य है, प्रति व्यक्ति एक।

मॉडल का नाम क्या है?

मॉडल ID uncensored है। अपनी कुंजी से पुष्टि करने के लिए GET /v1/models कॉल करें।

एक अनुरोध कितना बड़ा हो सकता है?

प्रॉम्प्ट और पूर्णता को मिलाकर संदर्भ विंडो 100,000 टोकन है, और अधिकतम अनुरोध बॉडी 8 MB है।

आपकी कुंजी बस एक फ़ॉर्म दूर है

एक खाता बनाएँ, कुंजी कॉपी करें, बेस URL बदलें। सेटअप यही है।

API कुंजी प्राप्त करेंदस्तावेज़ पढ़ें