TR ▾
API anahtarı al

Geliştiriciler için OpenAI Alternatifi: Anahtar ve SDK Kurulumu

Hazır kullanıma uygun, sansürsüz OpenAI API alternatifi

Geliştiriciler için bir openai alternatifi en fazla bir öğle vakti sürmeli, yeniden yazım değil. Bu, standart OpenAI SDK'ları ile çalışır: base URL'i değiştirirsiniz, yeni anahtarı yapıştırırsınız ve uncensored olarak adlandırılan modele istek gönderirsiniz.

Güncellendi

Geliştiriciler için bir uç nokta değişikliğini gösteren, tek bir kareye parlayan bir kablo ile bağlı bir terminal

Temel noktalar

Sıfırdan çalışan bir çağrıya beş adım

Bugün test edebileceğiniz bir OpenAI alternatifi arıyorsanız, bu tam yoldur. Yaklaşık on dakika sürer.

  1. Google veya e-posta ve şifre ile bir hesap oluşturun.
  2. API anahtarı sayfasını açın ve deneme kredisi talep eden düğmeye basın. $0.50 alırsınız, 7 gün geçerlidir, kişi başı bir tanedir, kart gerekmez.
  3. Anahtarı kopyalayın. Onu bir şifre gibi ele alın ve git'ten uzak tutun.
  4. SDK'nızda veya istemcinizde base URL'i https://api.openaiapialternative.com/v1 olarak ayarlayın.
  5. Modeli uncensored olarak ayarlayarak bir istek gönderin.

Mesaj formatı, akış ve araç çağrıları dahil her şey, zaten kullandığınız OpenAI chat completions formatıyla aynıdır. Hizmet POST /v1/chat/completions ve GET /v1/models sunar. Başka bir şey yok, bu yüzden öğrenilecek çok az şey var.

Resmi SDK ile Python

Paketi pip install openai ile yükleyin. İstemci, base URL ve anahtarı kurucu argüman olarak alır, bu nedenle global durum değiştirilmez ve aynı işlemde başka bir sağlayıcı için ikinci bir istemci tutabilirsiniz.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.openaiapialternative.com/v1",
    api_key=os.environ["UNCENSORED_API_KEY"],
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "Answer briefly and directly."},
        {"role": "user", "content": "List three edge cases for a date parser."},
    ],
    max_tokens=300,
)
print(resp.choices[0].message.content)
print(resp.usage)

max_tokens isteğe bağlıdır. Bırakırsanız, tamamlama 100.000 tokenlik pencerenin kalanını kullanabilir, bu nedenle öngörülebilir maliyet için bir sınır belirleyin.

Sohbet modellerinin kendi hafızası yoktur. Her istek, modelin görmesini istediğiniz geçmişi içermelidir, bu nedenle çoklu dönüşlü bir asistan, eklemeye devam ettiğiniz bir listedir:

from openai import OpenAI

client = OpenAI(base_url="https://api.openaiapialternative.com/v1", api_key="YOUR_KEY")
history = [{"role": "system", "content": "You are a patient pair-programming partner."}]

while True:
    user = input("you> ")
    if not user:
        break
    history.append({"role": "user", "content": user})
    r = client.chat.completions.create(model="uncensored", messages=history)
    answer = r.choices[0].message.content
    history.append({"role": "assistant", "content": answer})
    print(answer)

Girdi tokenleri her dönüşle artar, çünkü her seferinde tüm liste gönderilir. 100.000 tokenlik bir pencereniz varsa geniş bir alanınız vardır, ancak her çağrıda geçmiş için ödeme yaparsınız, bu nedenle liste uzadığında eski dönüşleri kısaltın veya özetleyin.

Node ve curl

Node SDK aynı deseni izler. npm install openai ile yükleyin ve baseURL parametresini iletin.

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.openaiapialternative.com/v1",
  apiKey: process.env.UNCENSORED_API_KEY,
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Write a haiku about stack traces." }],
  stream: true,
});

for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}

Terminalden hızlı bir kontrol için modelleri listeleyin. ID'si uncensored olan bir giriş görmelisiniz.

# expect one entry with id "uncensored"
curl https://api.openaiapialternative.com/v1/models \
  -H "Authorization: Bearer $UNCENSORED_API_KEY"

Akışlı bir istek, akış sonlanana kadar eşzamanlılık slotlarınızdan birini işgal eder; bu, bir istemci akışı kapatmadan terk ederse önem kazanır. Kullanıcı başka bir yere geçtiğinde bağlantıyı tarafınızdan kapatın.

Editörler, ajanlar ve diğer istemciler

Birçok geliştirici aracı, OpenAI temel URL'sini geçersiz kılmanıza olanak tanır. Cursor gibi editörlerde özel bir OpenAI uyumlu temel URL ve anahtar girebileceğiniz bir model ayarları ekranı bulunur. SillyTavern gibi sohbet ön uçları özel bir OpenAI uyumlu uç nokta eklemenize izin verir. Etiketler ve menü konumları sürümler arasında değiştiğinden, "Override OpenAI base URL" veya "Custom endpoint" gibi bir alan arayın.

Araca bakılmaksızın aynı üç değere ihtiyacınız vardır:

AlanDeğer
Temel URLhttps://api.openaiapialternative.com/v1
API anahtarıhesabınızdaki anahtar
Model adıuncensored

Araç bilinen model adlarının bir listesini ısrar ederse, uncensored'yi özel model olarak ekleyin. Kendi başına /v1 eklerse, sonek olmadan adresi verin, aksi takdirde iki kez yol ve bulunamadı hatası ile sonuçlanırsınız.

Araç çağırma ve JSON modu

Yapılandırılmış çıktı, alternatiflerin genellikle başarısız olduğu alandır, bu yüzden erken test edin. Her iki özellik de OpenAI formatını kullanır. JSON modu için response_format ayarlayın ve istemde JSON'dan bahsedin.

import json
from openai import OpenAI

client = OpenAI(base_url="https://api.openaiapialternative.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    response_format={"type": "json_object"},
    messages=[
        {"role": "system", "content": "Reply with a JSON object with keys title and tags."},
        {"role": "user", "content": "Describe a short story about a lost lighthouse keeper."},
    ],
)
data = json.loads(resp.choices[0].message.content)
print(data["title"], data["tags"])

Araçlar için, işlev şemaları içeren bir tools listesi iletin, yanıtta tool_calls okuyun, işlevi kendiniz çalıştırın ve sonucu role: "tool" ile bir mesaj olarak geri gönderin. Akışlı yanıtlar, tool_calls parçalar halinde iletir, bu nedenle ayrıştırmadan önce argüman dizisini biriktirin.

Hangi sağlayıcıyı kullanırsanız kullanın modeller hala bazen hatalı JSON döndürebilir. Parse işlemini bir try bloğu içine alın ve hata mesajını konuşmaya ekleyerek bir kez yeniden deneyin.

Tohumlar da iletilir, bu nedenle sabit bir sıcaklıkla seed ayarlamak, aynı girdiler üzerinde istem değişikliklerini karşılaştırmanıza olanak tanır. Her çalıştırmada bayt düzeyinde aynı çıktı beklemeyin, ancak farklılıklar büyük ölçüde azalır.

Limitler, 429 işleme ve maliyet kontrolü

Tam bir anahtar 8 eşzamanlı isteğe ve dakikada 300 isteğe olanak tanır. Deneme anahtarı 2 ve 60'a izin verir. Gövde 8 MB'a kadar olabilir. Her yanıt X-RateLimit-Limit-Requests ve X-RateLimit-Limit-Concurrency ile birlikte kalan krediniz için X-Balance-USD başlıklarını taşır.

Limiti aşmak HTTP 429 döndürür. Hata kodu hangi limite ait olduğunu belirtir: rate_limited dakikada çok fazla istek anlamına gelir ve concurrency aynı anda çok fazla istek anlamına gelir. Geçici bir aşırı yüklenme de 429 döndürür ve Retry-After: 5 başlığı içerir. OpenAI SDK'ları varsayılan olarak geri çekilme ile 429 yanıtlarını yeniden dener ve istemcide max_retries ile sayıyı artırabilirsiniz. Toplu işler için, 8 değerinde bir semafor sizi eşzamanlılık sınırının altında tutar.

Bütçeleme için fiyata göre çalışın: 1M girdi token başına $0.15 ve 1M çıktı token başına $0.50. 4M girdi token gönderen ve 1M çıktı token alan bir iş 4 x $0.15 + 1 x $0.50 = $1.10'a mal olur. Başarısız veya reddedilen istekler için ücret alınmaz. fiyatlandırma sayfası bakiye yükleme boyutlarını ve bonusları listeler.

Sizin için yeniden deneme yapan bir SDK kullanmıyorsanız, kısa bir yeniden deneme sarmalayıcısı yeterlidir. Mevcut olduğunda Retry-After okuyun, üstel bir gecikmeye geçin ve birkaç denemeden sonra pes edin. 429 veya bir sunucu hatası olmayan hatalarda yeniden deneme yapmayın, çünkü yapısal olarak hatalı bir istek her seferinde aynı şekilde başarısız olacaktır.

İlk günde bir saat harcayan hatalar

Çoğu başarısız ilk çağrı kısa bir nedenler listesinden gelir. Servisi şüphelenmeden önce bunları kontrol edin.

  • Çift yol. Base URL zaten /v1 ile biter. Başka bir tane eklemeyin ve /chat/completions'i buna olmadan çağırmayın.
  • Yanlış model adı. Eski kod genellikle bir sağlayıcı model adı içerir. uncensored ile değiştirin, aksi takdirde çağrı hiçbir şeyle eşleşmeyecek.
  • Beyaz boşluklu bir anahtar. Web sayfasından veya terminalden kopyalanan anahtarlar genellikle bir son satır sonu içerir. Temizleyin.
  • Üretim eşzamanlılığında deneme anahtarında testler. Deneme anahtarı 2 eşzamanlı istek ve dakikada 60 izin verir, bu nedenle 20 iş parçacıklı bir yük testi neredeyse hemen concurrency koduyla 429 döndürür.
  • Diğer uç noktaları beklemek. Görüntü, ses ve gömme çağrıları hizmetin bir parçası değildir.

İkinci kategori yapılandırma değil, davranıştır. Hiçbir reddetme davranışı olmayan bir model, tuhaf talimatları beklendiğinden daha harfiyen takip edecektir. Bir cevap istemediğiniz bir yere gidersse, sıcaklığı değil sistem istemini sıkılaştırın. Çıktılar tekrarlıysa, temperature değerini biraz artırın veya bir frekans cezası ekleyin; her ikisi de iletilir.

Erken benimsemeniz değer son bir alışkanlık: Sizi şaşırtan her çağrının tam istek gövdesini kaydedin. destek sayfasında ekibe yardım istediğinizde, istek ID'si ve bu gövde tam bir hata raporudur.

Göndermeden önce

  • Anahtarı sunucuda tutun. Onu bir tarayıcı paketinde veya mobil uygulamada asla göndermeyin.
  • Her çağrı ile X-Request-Id başlığını loglayın. Bu, destek sorularını cevaplanabilir kılar.
  • Son kullanıcılar serbestçe yazabiliyorsa kendi girdi ve çıktı filtrelemenizi ekleyin. Model reddetmeyecektir, bu nedenle moderasyonu siz tanımlarsınız.
  • Yedek bir sağlayıcıyı yapılandırmada tutun. Geçiş bir temel URL değişikliğidir, bu nedenle bir özellik bayrağı yeterlidir.
  • Kapsamı hatırlayın: Sadece metin, gömme yok, görüntü yok, ince ayar yok.

belgeler tam parametre listesine sahiptir. Bir şey tuhaf davranırsa, destek sayfası ekibe nasıl ulaşacağınızı söyler.

Sorular ve cevaplar

Hangi SDK'lar çalışır?

Base URL ve anahtarı ayarlamanıza olanak tanıyan herhangi bir OpenAI SDK'si veya istemcisi. Resmi Python ve Node kitaplıkları çalışır; curl ile düz HTTP çağrıları da mümkündür.

Denemek için bir karta ihtiyacım var mı?

Hayır. 0,50 $'lık deneme kredisi, kayıt sonrası API anahtarı sayfasında tek tıkla alınır ve kart gerektirmez. 7 gün geçerlidir, kişi başı bir tanedir.

Model adı nedir?

Model ID'si uncensored'dır. Kendi anahtarınızdan doğrulamak için GET /v1/models çağrısı yapın.

Bir istek ne kadar büyük olabilir?

Bağlam penceresi, istem ve tamamlama için 100.000 token'dır ve maksimum istek gövdesi 8 MB'tır.

Anahtarınız tek bir formun uzağında

Bir hesap oluşturun, anahtarı kopyalayın ve base URL'yi değiştirin. Kurulum bu kadar basit.

API anahtarı alDokümantasyonu oku