OpenAI API Alternatifi: İstemcinizi üç satırda değiştirin

Kimlik Doğrulama ve Temel URL

API'miz standart OpenAI chat-completions arayüzünü takip eder. İstemci yapılandırmanızda yalnızca iki şeyi değiştirmeniz yeterlidir: temel URL ve API anahtarı. API anahtarınızı hemen almak için Kayıt Ol sayfasında kaydolun. Deneme için kredi kartı gerekmez.

Tüm istekler için temel URL https://api.openaiapialternative.com/v1.'dir. Bu uç nokta, tek bir sansürsüz büyük dil modeli sunar. Çoklu model yönlendiricilerinden farklı olarak, tedarikçiler arasında yönlendirme yapmayız; kendi GPU sunucularımızda kendi açık ağırlıklı modelimizi çalıştırıyoruz. Bu, yığınınızı basitleştirir çünkü GPT, Claude veya Gemini varyantları arasındaki farklı API tuhaflıkları arasında gezinmek yerine, tutarlı bir model davranışıyla etkileşim kurarsınız.

İlk İstek

/v1/chat/completions uç noktasına POST isteği yapın. Yanıt nesne yapısı metin tamamlama için standart OpenAI spesifikasyonuyla eşleşir ancak sansürsüz modelimiz tarafından desteklenir. Mesajları, araçları ve sıcaklık ayarlarını herhangi bir OpenAI uyumlu uç noktası için yapacağınız formatta iletebilirsiniz.

Bu yapı, istemciniz zaten OpenAI protokolünü destekliyorsa temel URL ve anahtarı değiştirerek sağlayıcı değiştirmenizi sağlar. Göndermeniz gereken model kimliği "uncensored" olmalıdır. Gömme (embedding) veya görsel ve ses sunmadığımızı unutmayın, bu nedenle yükünüzü metne odaklayın.

Copycurl https://api.openaiapialternative.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Python SDK

Resmi OpenAI Python SDK'sını veya herhangi bir uyumlu istemci kitaplığını kullanın. İstemciyi anahtarınız ve yeni temel URL ile başlatın. Ardından model kimliği "uncensored" olacak şekilde chat.completions.create çağrısını yapın. Bu yaklaşım, mevcut kod tabanınızı korurken yasal yetişkin veya tartışmalı konular için içerik reddi olmadan sansürsüz bir modele erişim sağlar.

Python SDK, mesajlarınızı ve araçlarınızı otomatik olarak seri hale getirir. İsteklerin OpenAI sunucularına gitmemesi için doğru temel URL'yi geçtiğinizden emin olun. Bu yöntem, mevcut istem şablonlarınız ve sistem talimatlarınızla model davranışını test etmek isteyen geliştiriciler için idealdir.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaiapialternative.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node SDK

JavaScript ve TypeScript geliştiricileri için Node SDK aynı şekilde çalışır. İstemci örneğinizde API anahtarını ve temel URL'yi yapılandırın. Model kimliği "sansürsüz" olarak kalır. Bu, istem mantığınızı yeniden yazmadan Node.js uygulamalarımıza sansürsüz LLM API'mizi entegre etmenizi sağlar.

Node SDK aynı chat-completions uç noktasını destekler. Doğrudan metin üretimi gerektiren sunucusuz işlevler, arka uç hizmetleri veya istemci tarafı uygulamaları için kullanabilirsiniz. Model yönlendirmesi sunmadığımız için bu tek açık ağırlıklı modelden öngörülebilir davranış alırsınız. Token maliyetleri için fiyatlandırma sayfasını kontrol edin.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaiapialternative.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Akış Yanıtları (SSE)

Akış yanıtları için Sunucu Tarafı Olayları (SSE) destekliyoruz. Bu, tokenlar oluşturulurken bunları görüntülemek istediğiniz gerçek zamanlı uygulamalar için gereklidir. İsteğinizde stream parametresini true olarak ayarlayın. İstemci kısmi metin içeren bir dizi olay alacaktır.

Akış, kullanıcılar için algılanan gecikmeyi azaltır. API'miz SSE protokolünü OpenAI spesifikasyonunda tanımlandığı şekilde işler. Bu özelliği sohbet arayüzlerine, kod üreticilerine veya artımlı metin teslimatından yararlanan herhangi bir uygulamaya entegre edebilirsiniz. Model istemi işler ve tamamlanana kadar tokenları sürekli olarak üretir.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Sınırlar, Hatalar ve Bağlam Penceresi

Bağlam penceresimiz toplam istem ve tamamlama için 100.000 token kapasitesine sahiptir. Bu, uzun belgeler veya kapsamlı konuşma geçmişleri için olanak tanır. Hız limitine dikkat edin: anahtar başına dakikada 300 istek. Bu sınırı aşarsanız 429 Çok Fazla İstek hatası alırsınız.

Yaygın hatalar arasında anahtarınız geçersizse 401 Yetkisiz ve ön ödemeli krediniz tükendiğinde 402 Ödeme Gerekli hataları yer alır. Her hesabın herhangi bir zamanda yeniden oluşturulabilecek tek bir anahtarı vardır. İstek gövdesi sınırı 8 MB'tır. Gömme vektörleri veya görüntü oluşturma gerekiyorsa bu API doğru seçim değildir; yalnızca metin tamamlamaya odaklanıyoruz.