TH ▾
รับคีย์ API

ทางเลือก OpenAI สำหรับนักพัฒนา: การตั้งค่าคีย์และ SDK

ทางเลือก API OpenAI แบบไม่เซ็นเซอร์ที่แทนที่ได้ทันที

ทางเลือก OpenAI สำหรับนักพัฒนาควรใช้เวลาเพียงบ่าย ไม่จำเป็นต้องเขียนใหม่ ตัวนี้ใช้กับ SDK มาตรฐานของ OpenAI ได้: เปลี่ยน Base URL, วางคีย์ใหม่ และเรียกโมเดลชื่อ uncensored

อัปเดต

เทอร์มินัลที่เชื่อมด้วยสายไฟสว่างไปยังกล่องใบเดียว แสดงการเปลี่ยน Base URL สำหรับนักพัฒนา

ประเด็นสำคัญ

ห้าขั้นตอนจากศูนย์สู่การเรียกที่ใช้งานได้

หากคุณต้องการทางเลือก OpenAI สำหรับนักพัฒนาที่ทดสอบได้วันนี้ นี่คือขั้นตอนทั้งหมด ใช้เวลาประมาณสิบนาที

  1. สร้างบัญชีด้วย Google หรือด้วยอีเมลและรหัสผ่าน
  2. เปิดหน้าคีย์ APIแล้วกดปุ่มรับเครดิตทดลอง คุณได้รับ $0.50 ใช้ได้ 7 วัน คนละหนึ่งครั้ง ไม่ต้องใช้บัตร
  3. คัดลอกคีย์ ถือเหมือนรหัสผ่านและเก็บให้พ้น git
  4. ตั้งค่า URL ฐานเป็น https://api.openaiapialternative.com/v1 ใน SDK หรือไคลเอนต์ของคุณ
  5. ส่งคำขอโดยตั้งค่า model เป็น uncensored

ส่วนอื่นๆ รวมถึงรูปแบบข้อความ การสตรีมมิง และการเรียกใช้ฟังก์ชันนั้นเหมือนกับรูปแบบ chat completions ของ OpenAI ที่คุณใช้งานอยู่แล้ว บริการนี้เปิดใช้งาน POST /v1/chat/completions และ GET /v1/models ไม่มีอะไรเพิ่มเติม จึงไม่ต้องเรียนรู้มาก

Python พร้อม SDK ทางการ

ติดตั้งแพ็กเกจด้วย pip install openai ไคลเอนต์รับ base URL และคีย์เป็นอาร์กิวเมนต์คอนสตรัคเตอร์ ดังนั้นจึงไม่มีการเปลี่ยนแปลงสถานะทั่วโลก (global state) และคุณสามารถรักษาไคลเอนต์ที่สองสำหรับผู้ให้บริการอื่นไว้ในโพรเซสเดียวกันได้

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.openaiapialternative.com/v1",
    api_key=os.environ["UNCENSORED_API_KEY"],
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "Answer briefly and directly."},
        {"role": "user", "content": "List three edge cases for a date parser."},
    ],
    max_tokens=300,
)
print(resp.choices[0].message.content)
print(resp.usage)

max_tokens เป็นตัวเลือก หากไม่ระบุ การสร้างข้อความอาจใช้พื้นที่ที่เหลือจากหน้าต่าง 100,000 โทเคน ดังนั้นควรกำหนดค่าสูงสุดเมื่อต้องการควบคุมต้นทุนที่คาดการณ์ได้

โมเดลแชทไม่มีหน่วยความจำในตัวเอง แต่ละคำขอต้องประกอบด้วยประวัติที่คุณต้องการให้โมเดลเห็น ดังนั้นผู้ช่วยแบบหลายรอบจึงเป็นเพียงรายการที่คุณเพิ่มเข้าไปเรื่อยๆ:

from openai import OpenAI

client = OpenAI(base_url="https://api.openaiapialternative.com/v1", api_key="YOUR_KEY")
history = [{"role": "system", "content": "You are a patient pair-programming partner."}]

while True:
    user = input("you> ")
    if not user:
        break
    history.append({"role": "user", "content": user})
    r = client.chat.completions.create(model="uncensored", messages=history)
    answer = r.choices[0].message.content
    history.append({"role": "assistant", "content": answer})
    print(answer)

โทเคนอินพุตเพิ่มขึ้นในทุกๆ รอบ เนื่องจากส่งรายการทั้งหมดทุกครั้ง ด้วยหน้าต่าง 100,000 โทเคน คุณมีพื้นที่เหลือเฟือ แต่คุณต้องจ่ายสำหรับประวัติในทุกการเรียก ดังนั้นควรตัดรอบเก่าออกหรือสรุปย่อเมื่อรายการยาวขึ้น

Node และ curl

SDK ของ Node ปฏิบัติตามรูปแบบเดียวกัน ติดตั้งด้วย npm install openai และส่งค่า baseURL

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.openaiapialternative.com/v1",
  apiKey: process.env.UNCENSORED_API_KEY,
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Write a haiku about stack traces." }],
  stream: true,
});

for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}

สำหรับการตรวจสอบอย่างรวดเร็วจากเทอร์มินัล ให้แสดงรายการโมเดล คุณควรเห็นรายการเดียวที่มี ID เป็น uncensored

# expect one entry with id "uncensored"
curl https://api.openaiapialternative.com/v1/models \
  -H "Authorization: Bearer $UNCENSORED_API_KEY"

คำขอแบบสตรีมมิงจะครอบครองสล็อตการทำงานพร้อมกันของคุณหนึ่งสล็อตจนกว่าสตรีมจะสิ้นสุด ซึ่งสำคัญหากไคลเอนต์ทิ้งสตรีมโดยไม่ปิดการเชื่อมต่อ ควรปิดการเชื่อมต่อจากฝั่งของคุณเมื่อผู้ใช้เปลี่ยนหน้า

โปรแกรมแก้ไข ตัวเอเจนต์ และไคลเอนต์อื่นๆ

เครื่องมือพัฒนาจำนวนมากอนุญาตให้คุณทับค่า base URL ของ OpenAI โปรแกรมแก้ไขเช่น Cursor มีหน้าจอตั้งค่าโมเดลที่คุณสามารถป้อน base URL ที่เข้ากันได้กับ OpenAI และคีย์แบบกำหนดเอง และหน้าแชทเช่น SillyTavern ช่วยให้คุณเพิ่มเอนด์พอยต์ที่เข้ากันได้กับ OpenAI แบบกำหนดเองได้ ตำแหน่งป้ายชื่อและเมนูอาจเปลี่ยนไปตามเวอร์ชัน ดังนั้นให้มองหาฟิลด์ที่มีชื่อคล้าย "Override OpenAI base URL" หรือ "Custom endpoint"

ไม่ว่าจะเป็นเครื่องมือใด คุณต้องการค่าสามค่าเดียวกัน:

ฟิลด์ค่า
URL พื้นฐานhttps://api.openaiapialternative.com/v1
คีย์ APIคีย์จากบัญชีของคุณ
ชื่อโมเดลuncensored

หากเครื่องมือยืนยันรายการชื่อโมเดลที่รู้จัก ให้เพิ่ม uncensored เป็นโมเดลแบบกำหนดเอง หากเครื่องมือเพิ่ม /v1 ให้เอง ให้ระบุที่อยู่โดยไม่รวมส่วนต่อท้าย มิฉะนั้นคุณจะได้เส้นทางที่ซ้ำซ้อนและเกิดข้อผิดพลาด not-found

การเรียกใช้ฟังก์ชันและโหมด JSON

เอาต์พุตแบบมีโครงสร้างเป็นจุดที่ทางเลือกมักจะล้มเหลว ดังนั้นควรทดสอบให้เร็วที่สุด ทั้งสองคุณสมบัตินี้ใช้รูปแบบของ OpenAI สำหรับโหมด JSON ให้ตั้งค่า response_format และระบุ JSON ในพรอมต์

import json
from openai import OpenAI

client = OpenAI(base_url="https://api.openaiapialternative.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    response_format={"type": "json_object"},
    messages=[
        {"role": "system", "content": "Reply with a JSON object with keys title and tags."},
        {"role": "user", "content": "Describe a short story about a lost lighthouse keeper."},
    ],
)
data = json.loads(resp.choices[0].message.content)
print(data["title"], data["tags"])

สำหรับเครื่องมือ ให้ส่งรายการ tools พร้อมสคีมาฟังก์ชัน อ่าน tool_calls จากคำตอบ เรียกใช้ฟังก์ชันด้วยตนเอง และส่งผลลัพธ์กลับเป็นข้อความด้วย role: "tool" การตอบสนองแบบสตรีมมิงส่ง tool_calls เป็นชิ้นส่วน ดังนั้นให้รวบรวมสตริงอาร์กิวเมนต์ก่อนที่จะทำการแยกวิเคราะห์

โมเดลอาจยังส่ง JSON ที่ผิดรูปแบบเป็นบางครั้ง ไม่ว่าคุณจะใช้บริการผู้ให้บริการรายใด ควรห่อการแยกวิเคราะห์ด้วยบล็อก try และลองใหม่หนึ่งครั้งโดยเพิ่มข้อความผิดพลาดลงในบทสนทนา

ค่าสุ่ม (Seeds) ก็ถูกส่งผ่านเช่นกัน ดังนั้นการตั้งค่า seed พร้อมอุณหภูมิคงที่ จะช่วยให้คุณเปรียบเทียบการเปลี่ยนแปลงของพรอมต์บนอินพุตเดียวกันได้ อย่าคาดหวังว่าผลลัพธ์จะเหมือนกันทุกบิตในทุกการรัน แต่ความแตกต่างจะลดลงอย่างมาก

ขีดจำกัด การจัดการ 429 และการควบคุมต้นทุน

คีย์เต็มรูปแบบอนุญาตให้ทำคำขอพร้อมกัน 8 รายการและ 300 คำขอต่อนาที คีย์ทดลองอนุญาตให้ทำ 2 และ 60 บอดี้มีขนาดสูงสุด 8 MB แต่ละการตอบสนองมี X-RateLimit-Limit-Requests และ X-RateLimit-Limit-Concurrency รวมถึง X-Balance-USD สำหรับเครดิตที่เหลือของคุณ

เมื่อเกินขีดจำกัดจะคืนค่า HTTP 429 รหัสข้อบ่งชี้บอกว่าขีดจำกัดใด: rate_limited หมายถึงคำขอเกินต่อนาที และ concurrency หมายถึงคำขอเกินพร้อมกัน การโอเวอร์โหลดชั่วคราวก็คืนค่า 429 พร้อมหัวข้อความ Retry-After: 5 SDK ของ OpenAI จะลองใหม่สำหรับ 429 โดยอัตโนมัติด้วยการถอยหลัง และคุณสามารถเพิ่มจำนวนได้ด้วยการตั้งค่า max_retries บนไคลเอนต์ สำหรับงานแบทช์ การใช้ semaphore ขนาด 8 จะช่วยให้คุณอยู่ภายใต้ขีดจำกัดจำนวนคำขอพร้อมกัน

สำหรับการวางแผนงบประมาณ ให้คำนวณจากราคา: $0.15 ต่อ 1M โทเคนอินพุต และ $0.50 ต่อ 1M โทเคนเอาต์พุต งานที่ส่ง 4M โทเคนอินพุตและได้รับ 1M โทเคนเอาต์พุตกลับมามีต้นทุน 4 x $0.15 + 1 x $0.50 = $1.10 คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน หน้า ราคา แสดงขนาดการเติมเงินและโบนัส

หากไม่ได้ใช้ SDK ที่จัดการการลองใหม่ให้คุณ การเขียน wrapper สั้นๆ ก็เพียงพอแล้ว ให้อ่านค่า Retry-After เมื่อมีค่า แล้วใช้การหน่วงแบบ exponential เป็นทางเลือกสำรอง และหยุดลองหลังจากพยายามไม่กี่ครั้ง อย่าลองใหม่กับข้อผิดพลาดที่ไม่ใช่ 429 หรือข้อผิดพลาดของเซิร์ฟเวอร์ เพราะคำขอที่ผิดรูปแบบจะล้มเหลวแบบเดิมทุกครั้ง

ข้อผิดพลาดที่เสียเวลาไปหนึ่งชั่วโมงในวันแรก

การเรียกครั้งแรกที่ล้มเหลวส่วนใหญ่เกิดจากสาเหตุไม่กี่ประการ ตรวจสอบสิ่งเหล่านี้ก่อนจะโทษบริการ

  • เส้นทางที่ซ้ำกัน Base URL ลงท้ายด้วย /v1 อยู่แล้ว อย่าเพิ่มเข้าไปอีก และอย่าเรียก /chat/completions โดยไม่มีมัน
  • ชื่อโมเดลผิด โค้ดเก่ามักมีชื่อโมเดลของผู้ขายอื่นอยู่ ให้เปลี่ยนเป็น uncensored มิฉะนั้นการเรียกจะจับคู่กับอะไรไม่ได้เลย
  • คีย์ที่มีช่องว่าง คีย์ที่คัดลอกจากหน้าเว็บหรือเทอร์มินัลบ่อยครั้งมี newline ต่อท้าย ให้ตัดออก
  • การทดสอบบนคีย์ทดลองที่ระดับการทำงานพร้อมกันเท่าระบบจริง คีย์ทดลองอนุญาตให้ทำคำขอพร้อมกัน (concurrent requests) ได้ 2 คำขอ และ 60 คำขอต่อนาที ดังนั้นการทดสอบโหลดด้วย 20 เธรดจะส่งกลับสถานะ 429 พร้อมรหัส concurrency เกือบจะทันที
  • คาดหวังเอนด์พอยต์อื่น การเรียกใช้ภาพ เสียง และการสร้าง embedding ไม่ได้เป็นส่วนหนึ่งของบริการนี้

หมวดที่สองคือพฤติกรรม ไม่ใช่การกำหนดค่า โมเดลที่ไม่มีข้อปฏิเสธจะปฏิบัติตามคำสั่งแปลกๆ อย่างตรงไปตรงมาเกินกว่าที่คุณคาด หากคำตอบออกมานอกเหนือจากที่คุณต้องการ ให้ปรับระบบพรอมต์ให้เข้มงวดขึ้น แทนที่จะปรับอุณหภูมิ หากผลลัพธ์ซ้ำๆ ให้เพิ่มค่า temperature เล็กน้อย หรือเพิ่มค่าปรับความถี่ ซึ่งทั้งสองอย่างนี้จะส่งผ่านไปยังโมเดล

นิสัยสุดท้ายที่ควรทำตั้งแต่เนิ่นๆ: บันทึก body ของคำขอที่ส่งไปยังทุกการเรียกที่ทำให้คุณประหลาดใจ เมื่อคุณขอความช่วยเหลือจากทีมบน หน้าสนับสนุน รหัสคำขอพร้อมกับ body นั้นคือรายงานข้อบกพร่องที่สมบูรณ์

ก่อนนำระบบไปใช้งานจริง

  • เก็บคีย์ไว้บนเซิร์ฟเวอร์ อย่าส่งคีย์ไปใน bundle ของเบราว์เซอร์หรือแอปมือถือ
  • บันทึก header X-Request-Id พร้อมกับการเรียกแต่ละครั้ง มันทำให้คำถามเกี่ยวกับงานสนับสนุนสามารถตอบได้
  • เพิ่มการกรองข้อมูลนำเข้าและส่งออกของคุณเองหากผู้ใช้ปลายทางสามารถพิมพ์ได้อย่างอิสระ โมเดลจะไม่ปฏิเสธ ดังนั้นการกลั่นกรองจึงเป็นหน้าที่ของคุณที่ต้องกำหนด
  • เก็บผู้ให้บริการสำรองไว้ใน config การสลับทำได้เพียงเปลี่ยน base URL ดังนั้นการใช้ feature flag ก็เพียงพอแล้ว
  • จำขอบเขตไว้: ข้อความเท่านั้น ไม่มี embedding ไม่มีภาพ ไม่มีการปรับแต่งพิเศษ

เอกสาร มีรายการพารามิเตอร์ครบถ้วน หากมีบางอย่างทำงานแปลกๆ หน้าสนับสนุน จะบอกวิธีติดต่อทีม

คำถามและคำตอบ

SDK ใดบ้างที่ใช้งานได้?

SDK หรือไคลเอนต์ OpenAI ใดๆ ที่ให้คุณตั้งค่า URL พื้นฐานและคีย์ได้ ไลบรารี Python และ Node ทางการใช้งานได้ รวมถึงการเรียก HTTP ธรรมดาด้วย curl

ฉันต้องการบัตรเครดิตเพื่อลองใช้หรือไม่?

ไม่ต้อง สิทธิทดลอง $0.50 รับได้ด้วยการคลิกเดียวที่หน้าคีย์ API หลังการลงทะเบียน และไม่ต้องใช้บัตร สิทธินี้ใช้ได้ 7 วัน ต่อหนึ่งคน

ชื่อโมเดลคืออะไร?

รหัสโมเดลคือ uncensored เรียกใช้ GET /v1/models เพื่อยืนยันด้วยคีย์ของคุณเอง

คำขอสามารถใหญ่ได้แค่ไหน?

หน้าต่างบริบทมีขนาด 100,000 โทเคนสำหรับพรอมต์รวมกับการสร้างผลลัพธ์ และขนาดสูงสุดของ body คำขอคือ 8 MB

คุณเพียงกรอกแบบฟอร์มเดียวก็จะได้คีย์

สร้างบัญชี คัดลอกคีย์ และเปลี่ยน base URL นั่นคือการตั้งค่าทั้งหมด

รับคีย์ APIอ่านเอกสาร