VI ▾
Lấy khóa API

Giải pháp thay thế OpenAI cho nhà phát triển: Thiết lập khóa và SDK

Giải pháp thay thế API OpenAI không kiểm duyệt, tích hợp ngay

Một giải pháp thay thế OpenAI cho nhà phát triển chỉ nên tốn của bạn nhiều nhất một buổi, không phải một lần viết lại. Sản phẩm này hoạt động với các SDK OpenAI tiêu chuẩn: bạn chỉ cần thay đổi base URL, dán khóa mới và gọi mô hình tên là uncensored.

Cập nhật

Một terminal được kết nối bằng cáp phát sáng với một khối đơn lẻ, minh họa việc thay đổi base URL dành cho nhà phát triển

Điểm chính

Năm bước từ số không đến một lệnh gọi hoạt động

Nếu bạn muốn một giải pháp thay thế OpenAI cho nhà phát triển mà bạn có thể kiểm tra ngay hôm nay, đây là toàn bộ quy trình. Nó mất khoảng mười phút.

  1. Tạo tài khoản với Google hoặc với email và mật khẩu.
  2. Mở trang khóa API và nhấn nút nhận tín dụng dùng thử. Bạn nhận được $0.50, có hiệu lực trong 7 ngày, một mỗi người, không cần thẻ.
  3. Sao chép khóa. Hãy coi nó như mật khẩu và giữ nó khỏi git.
  4. Đặt base URL thành https://api.openaiapialternative.com/v1 trong SDK hoặc client của bạn.
  5. Gửi yêu cầu với model được đặt thành uncensored.

Mọi thứ khác, bao gồm định dạng tin nhắn, streaming và gọi công cụ, đều giống với định dạng chat completions của OpenAI mà bạn đã dùng. Dịch vụ cung cấp POST /v1/chat/completions và GET /v1/models. Không có gì thêm, nên rất ít thứ cần học.

Python với SDK chính thức

Cài đặt gói với pip install openai. Client nhận base URL và khóa dưới dạng đối số tạo lập, vì vậy không có trạng thái toàn cục nào bị thay đổi và bạn có thể giữ một client thứ hai cho nhà cung cấp khác trong cùng một quy trình.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.openaiapialternative.com/v1",
    api_key=os.environ["UNCENSORED_API_KEY"],
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "Answer briefly and directly."},
        {"role": "user", "content": "List three edge cases for a date parser."},
    ],
    max_tokens=300,
)
print(resp.choices[0].message.content)
print(resp.usage)

max_tokens là tùy chọn. Nếu bạn bỏ qua, phần hoàn thành có thể sử dụng mọi token còn lại trong cửa sổ ngữ cảnh 100,000 token, vì vậy hãy đặt giới hạn khi bạn muốn chi phí dự đoán được.

Các mô hình chat không có bộ nhớ riêng. Mỗi yêu cầu phải chứa lịch sử bạn muốn mô hình thấy, vì vậy một trợ lý đa lượt chỉ là một danh sách bạn liên tục thêm vào:

from openai import OpenAI

client = OpenAI(base_url="https://api.openaiapialternative.com/v1", api_key="YOUR_KEY")
history = [{"role": "system", "content": "You are a patient pair-programming partner."}]

while True:
    user = input("you> ")
    if not user:
        break
    history.append({"role": "user", "content": user})
    r = client.chat.completions.create(model="uncensored", messages=history)
    answer = r.choices[0].message.content
    history.append({"role": "assistant", "content": answer})
    print(answer)

Token đầu vào tăng lên sau mỗi lượt, vì toàn bộ danh sách được gửi mỗi lần. Với cửa sổ 100.000 token, bạn có nhiều không gian, nhưng bạn phải trả tiền cho lịch sử trong mọi lệnh gọi, vì vậy hãy cắt bớt các lượt cũ hoặc tóm tắt chúng khi danh sách trở nên dài.

Node và curl

SDK Node tuân theo cùng mẫu. Cài đặt với npm install openai và truyền baseURL.

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.openaiapialternative.com/v1",
  apiKey: process.env.UNCENSORED_API_KEY,
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Write a haiku about stack traces." }],
  stream: true,
});

for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}

Để kiểm tra nhanh từ terminal, hãy liệt kê các mô hình. Bạn sẽ thấy một mục với ID uncensored.

# expect one entry with id "uncensored"
curl https://api.openaiapialternative.com/v1/models \
  -H "Authorization: Bearer $UNCENSORED_API_KEY"

Một yêu cầu streaming giữ một trong các khe đồng thời của bạn cho đến khi stream kết thúc, điều này quan trọng nếu một client từ bỏ stream mà không đóng nó. Hãy đóng kết nối từ phía bạn khi người dùng điều hướng đi.

Trình soạn thảo, agent và các client khác

Nhiều công cụ nhà phát triển cho phép bạn ghi đè base URL OpenAI. Các trình soạn thảo như Cursor có màn hình cài đặt mô hình nơi bạn có thể nhập base URL tương thích OpenAI tùy chỉnh và một khóa, và các giao diện chat như SillyTavern cho phép bạn thêm một endpoint tương thích OpenAI tùy chỉnh. Nhãn và vị trí menu thay đổi giữa các phiên bản, vì vậy hãy tìm một trường có tên như "Override OpenAI base URL" hoặc "Custom endpoint".

Bất kể công cụ nào, bạn cần ba giá trị giống nhau:

TrườngGiá trị
URL gốchttps://api.openaiapialternative.com/v1
Khóa APIkhóa từ tài khoản của bạn
Tên mô hìnhuncensored

Nếu công cụ bắt buộc phải có danh sách các tên mô hình đã biết, hãy thêm uncensored làm mô hình tùy chỉnh. Nếu nó tự thêm /v1, hãy cung cấp địa chỉ mà không có hậu tố, nếu không bạn sẽ bị lỗi đường dẫn kép và lỗi không tìm thấy.

Gọi công cụ và chế độ JSON

Đầu ra có cấu trúc là nơi giải pháp thay thế thường bị lỗi, vì vậy hãy kiểm tra nó sớm. Cả hai tính năng đều sử dụng định dạng OpenAI. Đối với chế độ JSON, hãy đặt response_format và đề cập đến JSON trong prompt.

import json
from openai import OpenAI

client = OpenAI(base_url="https://api.openaiapialternative.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    response_format={"type": "json_object"},
    messages=[
        {"role": "system", "content": "Reply with a JSON object with keys title and tags."},
        {"role": "user", "content": "Describe a short story about a lost lighthouse keeper."},
    ],
)
data = json.loads(resp.choices[0].message.content)
print(data["title"], data["tags"])

Đối với công cụ, hãy truyền danh sách tools với lược đồ hàm, đọc tool_calls từ phản hồi, tự chạy hàm và gửi kết quả lại dưới dạng tin nhắn với role: "tool". Các phản hồi streaming cung cấp tool_calls từng phần, vì vậy hãy tích lũy chuỗi đối số trước khi phân tích cú pháp nó.

Các mô hình vẫn có thể trả về JSON không hợp lệ thỉnh thoảng, bất kể nhà cung cấp nào bạn sử dụng. Hãy bao bọc việc phân tích cú pháp trong khối try và thử lại một lần với thông báo lỗi được thêm vào cuộc trò chuyện.

Seeds cũng được truyền qua, vì vậy việc đặt seed với nhiệt độ cố định cho bạn một cách để so sánh các thay đổi prompt trên cùng đầu vào. Đừng mong đợi đầu ra giống hệt nhau byte qua mọi lần chạy, nhưng sự khác biệt sẽ giảm đi rất nhiều.

Giới hạn, xử lý 429 và kiểm soát chi phí

Một khóa đầy đủ cho phép 8 yêu cầu đồng thời và 300 yêu cầu mỗi phút. Khóa dùng thử cho phép 2 và 60. Thân yêu cầu có thể lên đến 8 MB. Mỗi phản hồi mang theo X-RateLimit-Limit-Requests và X-RateLimit-Limit-Concurrency, cùng với X-Balance-USD cho tín dụng còn lại của bạn.

Vượt quá sẽ trả về HTTP 429. Mã lỗi cho bạn biết giới hạn nào: rate_limited có nghĩa là quá nhiều yêu cầu mỗi phút, và concurrency có nghĩa là quá nhiều yêu cầu cùng lúc. Quá tải tạm thời cũng trả về 429, với tiêu đề Retry-After: 5. Các SDK OpenAI thử lại các phản hồi 429 theo mặc định với backoff, và bạn có thể tăng số lượng với max_retries trên client. Đối với các tác vụ hàng loạt, một semaphore 8 sẽ giữ bạn dưới giới hạn đồng thời.

Để tính chi phí, hãy dựa vào giá: $0.15 cho 1 triệu token đầu vào và $0.50 cho 1 triệu token đầu ra. Một tác vụ gửi 4 triệu token đầu vào và nhận lại 1 triệu token đầu ra sẽ tốn 4 x $0.15 + 1 x $0.50 = $1.10. Các yêu cầu bị lỗi hoặc từ chối sẽ không bị tính phí. Trang giá cả liệt kê các mức nạp tiền và ưu đãi.

Một trình bao bọc thử lại ngắn là đủ nếu bạn không sử dụng SDK tự động thử lại cho bạn. Đọc Retry-After khi có mặt, quay lại độ trễ theo cấp số nhân và từ bỏ sau một vài lần thử. Không thử lại trên các lỗi không phải 429 hoặc lỗi máy chủ, vì một yêu cầu không hợp lệ sẽ thất bại theo cùng một cách mỗi lần.

Những sai lầm tốn một giờ vào ngày đầu tiên

Hầu hết các lệnh gọi đầu tiên bị lỗi đến từ một danh sách ngắn các nguyên nhân. Hãy kiểm tra những điều này trước khi bạn nghi ngờ dịch vụ.

  • Đường dẫn bị lặp. Base URL đã kết thúc bằng /v1. Đừng thêm thêm một cái nữa, và đừng gọi /chat/completions mà không có nó.
  • Tên mô hình sai. Mã cũ thường chứa tên mô hình của nhà cung cấp khác. Hãy thay thế bằng uncensored, nếu không lệnh gọi sẽ không khớp.
  • Khóa có khoảng trắng. Khóa sao chép từ trang web hoặc terminal thường có ký tự xuống dòng ở cuối. Hãy loại bỏ nó.
  • Kiểm thử trên khóa dùng thử với độ đồng thời cao. Khóa dùng thử cho phép 2 yêu cầu đồng thời và 60 yêu cầu mỗi phút, nên bài kiểm tra tải 20 luồng sẽ trả về lỗi 429 với mã concurrency gần như ngay lập tức.
  • Mong đợi các endpoint khác. Các lệnh gọi hình ảnh, âm thanh và embedding không nằm trong dịch vụ.

Nhóm thứ hai là hành vi, không phải cấu hình. Một mô hình không từ chối sẽ tuân theo các hướng dẫn kỳ lạ một cách máy móc hơn bạn nghĩ. Nếu câu trả lời đi sai hướng, hãy điều chỉnh system prompt thay vì nhiệt độ. Nếu đầu ra lặp lại, hãy tăng temperature một chút hoặc thêm hình phạt tần suất, cả hai đều được truyền qua.

Một thói quen cuối cùng đáng áp dụng sớm: lưu lại chính xác thân yêu cầu của mọi lệnh gọi khiến bạn ngạc nhiên. Khi bạn yêu cầu sự trợ giúp từ nhóm trên trang hỗ trợ, ID yêu cầu kèm thân đó là một báo cáo lỗi đầy đủ.

Trước khi xuất bản

  • Giữ khóa trên máy chủ. Không bao giờ gửi nó trong gói trình duyệt hoặc ứng dụng di động.
  • Ghi lại tiêu đề X-Request-Id với mỗi lệnh gọi. Nó giúp các câu hỏi hỗ trợ có thể được trả lời.
  • Thêm bộ lọc đầu vào và đầu ra của riêng bạn nếu người dùng cuối có thể nhập tự do. Mô hình sẽ không từ chối, vì vậy việc kiểm duyệt nội dung là do bạn xác định.
  • Giữ một nhà cung cấp dự phòng trong cấu hình. Chuyển đổi là một thay đổi base URL, vì vậy một cờ tính năng là đủ.
  • Nhớ lại phạm vi: chỉ văn bản, không embedding, không hình ảnh, không tinh chỉnh.

docs có danh sách đầy đủ các tham số. Nếu thứ gì đó xử lý kỳ lạ, trang hỗ trợ cho bạn biết cách liên hệ với nhóm.

Hỏi đáp

SDK nào tương thích?

Bất kỳ SDK hoặc client OpenAI nào cho phép bạn thiết lập base URL và khóa. Các thư viện Python và Node chính thức đều hoạt động, cùng với các lệnh gọi HTTP đơn giản bằng curl.

Tôi có cần thẻ để dùng thử không?

Không. Tín dụng dùng thử $0.50 được nhận chỉ với một cú nhấp chuột trên trang khóa API sau khi đăng ký và không cần thẻ. Tín dụng này có hiệu lực trong 7 ngày, mỗi người một lần.

Tên mô hình là gì?

ID mô hình là uncensored. Gọi GET /v1/models để xác nhận nó từ khóa của riêng bạn.

Một yêu cầu có thể lớn đến mức nào?

Cửa sổ ngữ cảnh là 100,000 token cho prompt cộng với kết quả, và kích thước tối đa của thân yêu cầu là 8 MB.

Khóa của bạn chỉ cách một bước nữa

Tạo tài khoản, sao chép khóa, thay đổi URL cơ sở. Đó là toàn bộ thiết lập.

Lấy khóa APIĐọc tài liệu