ID ▾
Dapatkan kunci API

Alternatif OpenAI untuk Pengembang: Pengaturan Kunci dan SDK

Alternatif API OpenAI tanpa sensor yang siap pakai

Alternatif OpenAI untuk pengembang seharusnya hanya membutuhkan waktu satu sore, bukan penulisan ulang. Ini bekerja dengan SDK OpenAI standar: Anda mengubah base URL, menempelkan kunci baru, dan memanggil model bernama uncensored.

Diperbarui

Terminal yang terhubung dengan kabel bercahaya ke satu kubus, mengilustrasikan penggantian base URL untuk pengembang

Poin utama

Lima langkah dari nol hingga panggilan yang berfungsi

Jika Anda menginginkan alternatif OpenAI untuk pengembang yang bisa diuji hari ini, ini adalah seluruh jalurnya. Prosesnya memakan waktu sekitar sepuluh menit.

  1. Buat akun dengan Google atau dengan email dan kata sandi.
  2. Buka halaman kunci API dan tekan tombol yang mengklaim kredit uji coba. Anda mendapatkan $0,50, berlaku selama 7 hari, satu per orang, tanpa kartu.
  3. Salin kuncinya. Perlakukan seperti kata sandi dan simpan di luar git.
  4. Atur base URL menjadi https://api.openaiapialternative.com/v1 di SDK atau klien Anda.
  5. Kirim permintaan dengan model diatur ke uncensored.

Semua lainnya, termasuk format pesan, streaming, dan panggilan alat, sama dengan format penyelesaian obrolan OpenAI yang sudah Anda gunakan. Layanan ini mengekspos POST /v1/chat/completions dan GET /v1/models. Tidak ada yang lain, jadi sedikit yang perlu dipelajari.

Python dengan SDK resmi

Instal paket dengan pip install openai. Klien mengambil base URL dan kunci sebagai argumen konstruktor, sehingga tidak ada status global yang diubah dan Anda dapat menyimpan klien kedua untuk penyedia lain dalam proses yang sama.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.openaiapialternative.com/v1",
    api_key=os.environ["UNCENSORED_API_KEY"],
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "Answer briefly and directly."},
        {"role": "user", "content": "List three edge cases for a date parser."},
    ],
    max_tokens=300,
)
print(resp.choices[0].message.content)
print(resp.usage)

max_tokens bersifat opsional. Jika Anda tidak menyertakannya, penyelesaian mungkin menggunakan sisa dari jendela 100.000 token, jadi tetapkan batas saat Anda menginginkan biaya yang dapat diprediksi.

Model chat tidak memiliki memori sendiri. Setiap permintaan harus membawa riwayat yang ingin Anda lihat oleh model, sehingga asisten multi-giliran hanyalah daftar yang terus Anda tambahkan:

from openai import OpenAI

client = OpenAI(base_url="https://api.openaiapialternative.com/v1", api_key="YOUR_KEY")
history = [{"role": "system", "content": "You are a patient pair-programming partner."}]

while True:
    user = input("you> ")
    if not user:
        break
    history.append({"role": "user", "content": user})
    r = client.chat.completions.create(model="uncensored", messages=history)
    answer = r.choices[0].message.content
    history.append({"role": "assistant", "content": answer})
    print(answer)

Token input bertambah setiap giliran, karena seluruh daftar dikirim setiap kali. Dengan jendela 100.000 token, Anda memiliki banyak ruang, tetapi Anda membayar untuk riwayat pada setiap panggilan, jadi potong giliran lama atau ringkas mereka saat daftar menjadi panjang.

Node dan curl

SDK Node mengikuti pola yang sama. Instal dengan npm install openai dan teruskan baseURL.

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.openaiapialternative.com/v1",
  apiKey: process.env.UNCENSORED_API_KEY,
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Write a haiku about stack traces." }],
  stream: true,
});

for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}

Untuk pemeriksaan cepat dari terminal, daftarkan model. Anda harus melihat satu entri dengan ID uncensored.

# expect one entry with id "uncensored"
curl https://api.openaiapialternative.com/v1/models \
  -H "Authorization: Bearer $UNCENSORED_API_KEY"

Permintaan yang dialirkan memegang salah satu slot konkurensi Anda hingga aliran berakhir, yang penting jika klien meninggalkan aliran tanpa menutupnya. Tutup koneksi di sisi Anda saat pengguna berpindah halaman.

Editor, agen, dan klien lainnya

Banyak alat pengembang memungkinkan Anda mengganti URL dasar OpenAI. Editor seperti Cursor memiliki layar pengaturan model di mana Anda dapat memasukkan URL dasar kompatibel OpenAI kustom dan kunci, dan antarmuka obrolan seperti SillyTavern memungkinkan Anda menambahkan endpoint kompatibel OpenAI kustom. Label dan posisi menu berubah antar versi, jadi cari bidang bernama sesuatu seperti "Ganti URL dasar OpenAI" atau "Endpoint kustom".

Apa pun alatnya, Anda memerlukan tiga nilai yang sama:

BidangNilai
URL dasarhttps://api.openaiapialternative.com/v1
Kunci APIkunci dari akun Anda
Nama modeluncensored

Jika alat bersikeras pada daftar nama model yang diketahui, tambahkan uncensored sebagai model kustom. Jika alat menambahkan /v1 secara otomatis, berikan alamat tanpa sufiks tersebut, jika tidak Anda akan berakhir dengan jalur ganda dan kesalahan tidak ditemukan.

Pemanggilan alat dan mode JSON

Output terstruktur adalah tempat alternatif biasanya gagal, jadi uji sejak awal. Kedua fitur menggunakan format OpenAI. Untuk mode JSON, atur response_format dan sebutkan JSON dalam prompt.

import json
from openai import OpenAI

client = OpenAI(base_url="https://api.openaiapialternative.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    response_format={"type": "json_object"},
    messages=[
        {"role": "system", "content": "Reply with a JSON object with keys title and tags."},
        {"role": "user", "content": "Describe a short story about a lost lighthouse keeper."},
    ],
)
data = json.loads(resp.choices[0].message.content)
print(data["title"], data["tags"])

Untuk alat, teruskan daftar tools dengan skema fungsi, baca tool_calls dari balasan, jalankan fungsi sendiri dan kirimkan hasilnya kembali sebagai pesan dengan role: "tool". Respons yang dialirkan mengirimkan tool_calls secara bertahap, jadi kumpulkan string argumen sebelum Anda menguraikannya.

Model masih bisa mengembalikan JSON yang tidak valid sesekali, apa pun penyedia yang Anda gunakan. Bungkus penguraian dalam blok try dan coba lagi sekali dengan pesan kesalahan yang ditambahkan ke percakapan.

Biji juga diteruskan, sehingga mengatur seed dengan suhu tetap memberi Anda cara untuk membandingkan perubahan prompt pada input yang sama. Jangan mengharapkan output yang identik byte di setiap jalankan, tetapi perbedaannya akan berkurang banyak.

Batas, penanganan 429, dan pengendalian biaya

Kunci penuh mengizinkan 8 permintaan paralel dan 300 permintaan per menit. Kunci uji coba mengizinkan 2 dan 60. Tubuh permintaan bisa berukuran hingga 8 MB. Setiap respons membawa X-RateLimit-Limit-Requests dan X-RateLimit-Limit-Concurrency, serta X-Balance-USD untuk sisa kredit Anda.

Melebihi batas akan mengembalikan HTTP 429. Kode kesalahan memberi tahu Anda batas mana: rate_limited berarti terlalu banyak permintaan per menit, dan concurrency berarti terlalu banyak permintaan sekaligus. Beban sementara juga mengembalikan 429, dengan header Retry-After: 5. SDK OpenAI mencoba ulang respons 429 secara bawaan dengan jeda, dan Anda dapat meningkatkan jumlah dengan max_retries pada klien. Untuk pekerjaan batch, semafon 8 menjaga Anda di bawah batas konkurensi.

Untuk penganggaran, hitung berdasarkan harga: $0,15 per 1 juta token input dan $0,50 per 1 juta token output. Pekerjaan yang mengirim 4 juta token input dan menerima 1 juta token output kembali akan dikenakan biaya 4 x $0,15 + 1 x $0,50 = $1,10. Permintaan yang gagal atau ditolak tidak dikenakan biaya. Halaman harga mencantumkan ukuran isi saldo dan bonus.

Pembungkus coba ulang singkat sudah cukup jika Anda tidak menggunakan SDK yang melakukan coba ulang untuk Anda. Baca Retry-After saat ada, gunakan jeda eksponensial sebagai cadangan, dan berhenti setelah beberapa upaya. Jangan coba ulang kesalahan yang bukan 429 atau kesalahan server, karena permintaan yang tidak valid akan gagal dengan cara yang sama setiap kali.

Kesalahan yang memakan waktu satu jam pada hari pertama

Sebagian besar panggilan pertama yang gagal berasal dari daftar singkat penyebab. Periksa ini sebelum Anda mencurigai layanan.

  • Jalur ganda. URL dasar sudah berakhir dengan /v1. Jangan tambahkan yang lain, dan jangan panggil /chat/completions tanpanya.
  • Nama model yang salah. Kode lama sering membawa nama model vendor. Ganti dengan uncensored, atau panggilan tidak akan cocok dengan apa pun.
  • Kunci dengan spasi. Kunci yang disalin dari halaman web atau terminal sering menyertakan baris baru di akhir. Hapus baris baru tersebut.
  • Uji pada kunci uji coba dengan konkurensi produksi. Kunci uji coba memungkinkan 2 permintaan konkuren dan 60 per menit, sehingga pengujian beban 20 utas akan mengembalikan 429 dengan kode concurrency hampir segera.
  • Mengharapkan endpoint lain. Panggilan gambar, audio, dan embedding bukan bagian dari layanan.

Kategori kedua adalah perilaku, bukan konfigurasi. Model tanpa penolakan akan mengikuti instruksi aneh lebih harfiah daripada yang Anda harapkan. Jika jawaban melenceng ke tempat yang tidak Anda inginkan, perketat prompt sistem daripada suhu. Jika output berulang, naikkan temperature sedikit atau tambahkan penalti frekuensi, keduanya diteruskan.

Kebiasaan terakhir yang layak diadopsi sejak awal: simpan tubuh permintaan persis dari setiap panggilan yang mengejutkan Anda. Saat meminta bantuan tim di halaman dukungan, ID permintaan ditambah tubuh itu adalah laporan bug lengkap.

Sebelum Anda meluncurkan

  • Simpan kunci di server. Jangan pernah mengirimkannya dalam bundel browser atau aplikasi seluler.
  • Log header X-Request-Id dengan setiap panggilan. Ini membuat pertanyaan dukungan dapat dijawab.
  • Tambahkan filter input dan output Anda sendiri jika pengguna akhir dapat mengetik secara bebas. Model tidak akan menolak, jadi moderasi adalah tanggung jawab Anda untuk menentukan.
  • Simpan penyedia cadangan di konfigurasi. Beralih adalah perubahan base URL, sehingga bendera fitur sudah cukup.
  • Ingat ruang lingkupnya: teks saja, tanpa embedding, tanpa gambar, tanpa fine-tuning.

dokumentasi memiliki daftar parameter lengkap. Jika sesuatu berperilaku aneh, halaman dukungan memberi tahu Anda cara menghubungi tim.

Pertanyaan dan jawaban

SDK mana yang berfungsi?

SDK atau klien OpenAI apa pun yang memungkinkan Anda mengatur base URL dan kunci. Library Python dan Node resmi berfungsi, begitu juga panggilan HTTP langsung dengan curl.

Apakah saya memerlukan kartu untuk mencobanya?

Tidak. Saldo uji coba senilai $0,50 diklaim dengan satu klik di halaman kunci API setelah masuk dan tidak memerlukan kartu. Saldo ini berlaku selama 7 hari, satu per orang.

Apa nama modelnya?

ID modelnya adalah uncensored. Panggil GET /v1/models untuk mengonfirmasinya dari kunci Anda sendiri.

Seberapa besar permintaan bisa menjadi?

Jendela konteks adalah 100.000 token untuk prompt ditambah kompletasi, dan badan permintaan maksimum adalah 8 MB.

Kunci Anda hanya perlu mengisi satu formulir

Buat akun, salin kunci, ubah URL dasar. Itu saja seluruh proses pengaturannya.

Dapatkan kunci APIBaca dokumentasi