Альтернатива OpenAI API: Подключите клиент за три строки

Аутентификация и базовый URL

Наш API следует стандартному интерфейсу chat-completions OpenAI. Вам нужно изменить только две вещи в конфигурации клиента: базовый URL и API-ключ. Зарегистрируйтесь на странице получения API-ключа, чтобы получить ключ немедленно. Для пробного периода карта не требуется.

Базовый URL для всех запросов — https://api.openaiapialternative.com/v1.. Этот эндпоинт обслуживает одну большую языковую модель без цензуры. В отличие от маршрутизаторов с несколькими моделями, мы не перенаправляем запросы между поставщиками; мы запускаем собственную модель с открытыми весами на собственных GPU-серверах. Это упрощает вашу инфраструктуру, так как вы взаимодействуете с одной стабильной моделью, а не разбираетесь с особенностями API разных вариантов GPT, Claude или Gemini.

Первый запрос

Отправьте POST-запрос на /v1/chat/completions. Структура объекта ответа соответствует стандартной спецификации OpenAI для завершения текста, но работает на нашей модели без цензуры. Вы можете передавать сообщения, инструменты и настройки температуры в том же формате, что и для любого совместимого с OpenAI эндпоинта.

Эта структура гарантирует, что если ваш клиент уже поддерживает протокол OpenAI, вы можете сменить провайдера, изменив базовый URL и ключ. Идентификатор модели, который вы должны указать, — "uncensored". Обратите внимание, что мы не предоставляем эмбеддинги, изображения или аудио, поэтому ограничьте полезную нагрузку текстом.

Copycurl https://api.openaiapialternative.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Python SDK

Используйте официальный Python SDK для OpenAI или любую совместимую библиотеку клиентов. Инициализируйте клиент, указав ключ и новый базовый URL. Затем вызовите chat.completions.create с идентификатором модели "uncensored". Этот подход сохраняет ваш существующий код, предоставляя доступ к модели без цензуры без отказов в контенте для законных тем для взрослых или спорных вопросов.

Python SDK автоматически сериализует ваши сообщения и инструменты. Убедитесь, что вы указали правильный базовый URL, чтобы запросы не отправлялись на серверы OpenAI. Этот метод идеален для разработчиков, которые хотят протестировать поведение модели с помощью своих существующих промптов и системных инструкций.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaiapialternative.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node SDK

Для разработчиков JavaScript и TypeScript Node SDK работает аналогично. Настройте API-ключ и базовый URL в экземпляре клиента. Идентификатор модели остается "uncensored". Это позволяет интегрировать наш API LLM без цензуры в приложения Node.js без переписывания логики промптов.

Node SDK поддерживает тот же эндпоинт chat-completions. Вы можете использовать его для серверлесс-функций, бэкенд-сервисов или клиентских приложений, которым нужна прямая генерация текста. Поскольку мы не предоставляем маршрутизацию моделей, вы получаете предсказуемое поведение от этой единственной модели с открытыми весами. Стоимость токенов указана на странице тарифов.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaiapialternative.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потоковые ответы (SSE)

Мы поддерживаем Server-Sent Events (SSE) для потоковой передачи ответов. Это необходимо для приложений реального времени, где вы хотите отображать токены по мере их генерации. Установите параметр stream в true в запросе. Клиент получит серию событий с частичным текстом.

Потоковая передача снижает воспринимаемую задержку для пользователей. Наш API обрабатывает протокол SSE точно так же, как определяет спецификация OpenAI. Вы можете интегрировать это в интерфейсы чата, генераторы кода или любые приложения, которым полезна поэтапная доставка текста. Модель обрабатывает промпт и непрерывно выдает токены до завершения.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Лимиты, ошибки и контекстное окно

Наше контекстное окно составляет 100 000 токенов для объединенного промпта и завершения. Это позволяет работать с длинными документами или обширной историей разговоров. Обратите внимание на лимит запросов: 300 запросов в минуту на ключ. Если вы превысите этот лимит, вы получите ошибку 429 Too Many Requests.

Распространённые ошибки: 401 Unauthorized (если ключ недействителен) и 402 Payment Required (если исчерпан предоплаченный баланс). У каждого аккаунта есть один ключ, который можно перегенерировать в любое время. Лимит тела запроса — 8 МБ. Если вам нужны эмбеддинги или генерация изображений, этот API не подходит; мы специализируемся исключительно на завершении текста.