Alternatywa dla API OpenAI: Zmień klienta w trzech liniach

Uwierzytelnianie i bazowy URL

Nasze API korzysta ze standardowego interfejsu chat-completions OpenAI. W konfiguracji klienta musisz zmienić tylko dwie rzeczy: adres URL bazowy i klucz API. Zarejestruj się na stronie Pobierz klucz API, aby natychmiast otrzymać klucz. Do wersji próbnej nie jest wymagana karta kredytowa.

Bazowy URL dla wszystkich zapytań to https://api.openaiapialternative.com/v1. Ten endpoint obsługuje jeden model LLM bez cenzury. W przeciwieństwie do wielomodelowych routerów, nie kierujemy ruchem między dostawcami; uruchamiamy własny model o otwartych wagach na własnych serwerach GPU. To upraszcza Twój stos technologiczny, ponieważ wchodzisz w interakcję z jednym spójnym zachowaniem modelu, zamiast bawić się w różne dziwactwa interfejsów API wariantów GPT, Claude lub Gemini.

Pierwsze zapytanie

Wyślij zapytanie POST do /v1/chat/completions. Struktura obiektu odpowiedzi odpowiada standardowej specyfikacji OpenAI dla uzupełniania tekstu, ale napędzana jest przez nasz model bez cenzury. Możesz przekazywać wiadomości, narzędzia i ustawienia temperatury w tym samym formacie, którego używasz dla dowolnego endpointu kompatybilnego z OpenAI.

Ta struktura zapewnia, że jeśli Twój klient obsługuje już protokół OpenAI, możesz zmienić dostawcę, zmieniając bazowy URL i klucz. ID modelu, które musisz wysłać, to "uncensored". Pamiętaj, że nie oferujemy embeddingów, obrazów ani audio, więc trzymaj się treści tekstowej.

Copycurl https://api.openaiapialternative.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

SDK Pythona

Użyj oficjalnego SDK Pythona OpenAI lub dowolnej kompatybilnej biblioteki klienta. Zainicjuj klienta swoim kluczem i nowym bazowym URL. Następnie wywołaj chat.completions.create z identyfikatorem modelu "uncensored". To podejście zachowuje istniejącą bazę kodu, dając dostęp do modelu bez cenzury bez odrzucania treści dla dorosłych lub tematów kontrowersyjnych.

SDK Pythona automatycznie serializuje Twoje wiadomości i narzędzia. Upewnij się, że przekazujesz poprawny bazowy URL, aby zapytania nie trafiały na serwery OpenAI. Ta metoda jest idealna dla programistów, którzy chcą przetestować zachowanie modelu ze swoimi istniejącymi szablonami promptów i instrukcjami systemowymi.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaiapialternative.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

SDK Node.js

Dla programistów JavaScript i TypeScript SDK Node.js działa identycznie. Skonfiguruj klucz API i bazowy URL w instancji klienta. Identyfikator modelu pozostaje "uncensored". Pozwala to na integrację naszego API LLM bez cenzury w aplikacjach Node.js bez przepisywania logiki promptów.

SDK Node.js obsługuje ten sam endpoint chat-completions. Możesz go używać w funkcjach serverless, usługach backendowych lub aplikacjach klienckich wymagających bezpośredniej generacji tekstu. Ponieważ nie oferujemy routingu modeli, otrzymujesz przewidywalne zachowanie z tego pojedynczego modelu o otwartych wagach. Sprawdź stronę cennika pod kątem kosztów tokenów.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaiapialternative.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Odpowiedzi strumieniowe (SSE)

Obsługujemy zdarzenia wysłane przez serwer (SSE) dla odpowiedzi strumieniowych. Jest to kluczowe dla aplikacji w czasie rzeczywistym, gdzie chcesz wyświetlać tokeny w miarę ich generowania. Ustaw parametr stream na true w zapytaniu. Klient otrzyma serię zdarzeń zawierających częściowy tekst.

Strumieniowanie zmniejsza postrzeganą opóźnienie dla użytkowników. Nasze API obsługuje protokół SSE dokładnie zgodnie ze specyfikacją OpenAI. Możesz zintegrować to z interfejsami czatu, generatorami kodu lub dowolną aplikacją, która czerpie korzyści z dostarczania tekstu w partiach. Model przetwarza prompt i zwraca tokeny ciągle do zakończenia.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Limity, błędy i okno kontekstu

Nasze okno kontekstu wynosi 100,000 tokenów dla połączonego promptu i uzupełnienia. Pozwala to na długie dokumenty lub rozległe historie rozmów. Pamiętaj o limicie zapytań: 300 zapytań na minutę na klucz. Jeśli go przekroczysz, otrzymasz błąd 429 Too Many Requests.

Typowe błędy to 401 Unauthorized, jeśli Twój klucz jest nieprawidłowy, oraz 402 Payment Required, gdy wyczerpiesz przedpłacony kredyt. Każde konto ma jeden klucz, który można wygenerować ponownie w dowolnym momencie. Limit ciała zapytania wynosi 8 MB. Jeśli potrzebujesz embeddingów lub generacji obrazów, to API nie jest dla Ciebie; skupiamy się wyłącznie na uzupełnianiu tekstu.