IT ▾
Ottieni la chiave API

Alternativa OpenAI per gli sviluppatori: configurazione chiave e SDK

Alternativa API OpenAI pronta all’uso e senza censura

Un'alternativa a OpenAI per gli sviluppatori dovrebbe costarti al massimo un pomeriggio, non una riscrittura. Questa funziona con gli SDK standard OpenAI: cambi l'URL di base, incolli una nuova chiave e chiami il modello chiamato uncensored.

Aggiornato

Un terminale collegato con un cavo luminoso a un singolo cubo, che illustra il cambio del base URL per gli sviluppatori

Punti chiave

Cinque passi da zero a una chiamata funzionante

Se vuoi un'alternativa a OpenAI per gli sviluppatori che puoi testare oggi, questo è il percorso completo. Richiede circa dieci minuti.

  1. Crea un account con Google o con email e password.
  2. Apri la pagina della chiave API e premi il pulsante che richiede il credito di prova. Ottieni $0,50, valido per 7 giorni, uno per persona, senza carta.
  3. Copia la chiave. Trattala come una password e tienila fuori da git.
  4. Imposta il base URL su https://api.openaiapialternative.com/v1 nel tuo SDK o client.
  5. Invia una richiesta con il modello impostato su uncensored.

Tutto il resto, incluso il formato dei messaggi, lo streaming e le chiamate di funzioni, è uguale al formato di completamento delle chat OpenAI che già usi. Il servizio espone POST /v1/chat/completions e GET /v1/models. Nient'altro, quindi c'è poco da imparare.

Python con l'SDK ufficiale

Installa il pacchetto con pip install openai. Il client accetta il base URL e la chiave come argomenti del costruttore, quindi non tocca lo stato globale e puoi mantenere un secondo client per un altro provider nello stesso processo.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.openaiapialternative.com/v1",
    api_key=os.environ["UNCENSORED_API_KEY"],
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "Answer briefly and directly."},
        {"role": "user", "content": "List three edge cases for a date parser."},
    ],
    max_tokens=300,
)
print(resp.choices[0].message.content)
print(resp.usage)

max_tokens è facoltativo. Se lo lasci fuori, il completamento potrebbe usare tutto ciò che resta della finestra di contesto da 100.000 token, quindi imposta un limite quando vuoi un costo prevedibile.

I modelli di chat non hanno memoria propria. Ogni richiesta deve contenere la cronologia che vuoi che il modello veda, quindi un assistente multi-turno è solo una lista a cui continui ad aggiungere elementi:

from openai import OpenAI

client = OpenAI(base_url="https://api.openaiapialternative.com/v1", api_key="YOUR_KEY")
history = [{"role": "system", "content": "You are a patient pair-programming partner."}]

while True:
    user = input("you> ")
    if not user:
        break
    history.append({"role": "user", "content": user})
    r = client.chat.completions.create(model="uncensored", messages=history)
    answer = r.choices[0].message.content
    history.append({"role": "assistant", "content": answer})
    print(answer)

I token di input crescono a ogni turno, perché l'intera lista viene inviata ogni volta. Con una finestra di contesto da 100.000 token hai molto spazio, ma paghi la cronologia a ogni chiamata, quindi taglia i turni vecchi o riassumili quando la lista diventa lunga.

Node e curl

L'SDK Node segue lo stesso schema. Installa con npm install openai e passa baseURL.

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.openaiapialternative.com/v1",
  apiKey: process.env.UNCENSORED_API_KEY,
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Write a haiku about stack traces." }],
  stream: true,
});

for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}

Per un controllo rapido dal terminale, elenca i modelli. Dovresti vedere una voce con l'ID uncensored.

# expect one entry with id "uncensored"
curl https://api.openaiapialternative.com/v1/models \
  -H "Authorization: Bearer $UNCENSORED_API_KEY"

Una richiesta in streaming occupa uno dei tuoi slot di concorrenza fino alla fine dello stream, il che è importante se un client abbandona uno stream senza chiuderlo. Chiudi la connessione dal tuo lato quando l'utente naviga via.

Editor, agent e altri client

Molti strumenti per sviluppatori permettono di sovrascrivere l'URL di base di OpenAI. Editor come Cursor hanno una schermata delle impostazioni del modello dove puoi inserire un URL di base compatibile con OpenAI personalizzato e una chiave, e interfacce chat come SillyTavern ti permettono di aggiungere un endpoint compatibile con OpenAI personalizzato. Etichette e posizioni del menu cambiano tra le versioni, quindi cerca un campo chiamato qualcosa come "Sovrascrivi URL di base OpenAI" o "Endpoint personalizzato".

Qualunque sia lo strumento, ti servono gli stessi tre valori:

CampoValore
URL di basehttps://api.openaiapialternative.com/v1
Chiave APIla chiave dal tuo account
Nome del modellouncensored

Se lo strumento insiste su un elenco di nomi di modelli noti, aggiungi uncensored come modello personalizzato. Se aggiunge /v1 da solo, fornisci l'indirizzo senza il suffisso, altrimenti otterrai un percorso duplicato e un errore not found.

Chiamata di funzioni e modalità JSON

L'output strutturato è dove un'alternativa di solito si rompe, quindi testalo presto. Entrambe le funzionalità usano il formato OpenAI. Per la modalità JSON, imposta response_format e menziona JSON nel prompt.

import json
from openai import OpenAI

client = OpenAI(base_url="https://api.openaiapialternative.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    response_format={"type": "json_object"},
    messages=[
        {"role": "system", "content": "Reply with a JSON object with keys title and tags."},
        {"role": "user", "content": "Describe a short story about a lost lighthouse keeper."},
    ],
)
data = json.loads(resp.choices[0].message.content)
print(data["title"], data["tags"])

Per gli strumenti, passa una lista tools con gli schemi delle funzioni, leggi tool_calls dalla risposta, esegui la funzione tu stesso e invia il risultato di nuovo come messaggio con role: "tool". Le risposte in streaming consegnano tool_calls a pezzi, quindi accumula la stringa degli argomenti prima di analizzarla.

I modelli possono ancora restituire JSON non valido ogni tanto, indipendentemente dal provider che usi. Avvolgi l'analisi in un blocco try e riprova una volta con il messaggio di errore aggiunto alla conversazione.

I seed vengono passati anche loro, quindi impostare seed con una temperatura fissa ti dà un modo per confrontare le modifiche al prompt sugli stessi input. Non aspettarti output byte-identici in ogni esecuzione, ma le differenze si riducono notevolmente.

Limiti, gestione 429 e controllo dei costi

Una chiave completa permette 8 richieste parallele e 300 richieste al minuto. La chiave di prova permette 2 e 60. Il corpo può essere fino a 8 MB. Ogni risposta include X-RateLimit-Limit-Requests e X-RateLimit-Limit-Concurrency, oltre a X-Balance-USD per il tuo credito residuo.

Superare i limiti restituisce HTTP 429. Il codice errore ti dice quale limite: rate_limited significa troppe richieste al minuto, e concurrency significa troppe richieste contemporaneamente. Un sovraccarico temporaneo restituisce anche 429, con un'intestazione Retry-After: 5. Gli SDK OpenAI ritentano le risposte 429 per impostazione predefinita con backoff, e puoi aumentare il conteggio con max_retries sul client. Per i lavori batch, un semaforo di 8 ti mantiene sotto il limite di concorrenza.

Per il budgeting, lavora a partire dal prezzo: $0,15 per 1M token di input e $0,50 per 1M token di output. Un job che invia 4M token di input e riceve 1M token di output costa 4 x $0,15 + 1 x $0,50 = $1,10. Le richieste fallite o rifiutate non vengono addebitate. La pagina dei prezzi elenca le dimensioni di ricarica e i bonus.

Un breve wrapper di ritentativo è sufficiente se non stai usando un SDK che ritenta per te. Leggi Retry-After quando presente, passa a un ritardo esponenziale e arrenditi dopo alcuni tentativi. Non ritentare errori che non sono 429 o un errore del server, perché una richiesta malformata fallirà allo stesso modo ogni volta.

Errori che costano un'ora il primo giorno

La maggior parte delle prime chiamate fallite proviene da un breve elenco di cause. Controlla queste prima di sospettare il servizio.

  • Un percorso duplicato. Il base URL termina già con /v1. Non aggiungerne un altro, e non chiamare /chat/completions senza di esso.
  • Il nome del modello sbagliato. Il vecchio codice spesso contiene un nome del modello del vendor. Sostituiscilo con uncensored, altrimenti la chiamata non corrisponderà a nulla.
  • Una chiave con spazi bianchi. Le chiavi copiate da una pagina web o da un terminale spesso includono una nuova riga finale. Rimuovila.
  • Test su una chiave di prova con concorrenza da produzione. La chiave di prova permette 2 richieste parallele e 60 al minuto, quindi un test di carico con 20 thread restituirà 429 con il codice concurrency quasi immediatamente.
  • Aspettarsi altri endpoint. Le chiamate per immagini, audio ed embeddings non fanno parte del servizio.

La seconda categoria è il comportamento, non la configurazione. Un modello senza rifiuti seguirà istruzioni strane più letteralmente di quanto ti aspetti. Se una risposta va da qualche parte che non volevi, stringi il prompt di sistema piuttosto che la temperatura. Se gli output sono ripetitivi, aumenta temperature un po' o aggiungi una penalità di frequenza, entrambi passati attraverso.

Un'ultima abitudine utile da adottare presto: salva il corpo esatto della richiesta di ogni chiamata che ti ha sorpreso. Quando chiedi aiuto al team nella pagina di supporto, l'ID della richiesta più quel corpo è un rapporto di bug completo.

Prima di pubblicare

  • Tieni la chiave sul server. Non spedirla mai in un bundle browser o in un'app mobile.
  • Registra l'intestazione X-Request-Id con ogni chiamata. Rende le domande di supporto rispondibili.
  • Aggiungi i tuoi filtri di input e output se gli utenti finali possono digitare liberamente. Il modello non rifiuterà, quindi i tuoi filtri di moderazione sono a tua discrezione.
  • Mantieni un provider di riserva nella configurazione. Il passaggio è un cambiamento dell'URL di base, quindi basta un flag di funzionalità.
  • Ricorda l'ambito: solo testo, senza embedding, senza immagini, nessun affinamento.

La documentazione ha l'elenco completo dei parametri. Se qualcosa si comporta in modo strano, la pagina di supporto ti dice come contattare il team.

Domande e risposte

Quali SDK sono compatibili?

Qualsiasi SDK o client OpenAI che ti permetta di impostare l'URL di base e la chiave. Le librerie ufficiali Python e Node.js funzionano, così come le chiamate HTTP pure con curl.

Ho bisogno di una carta per provarla?

No. Il credito di prova da $0,50 si ottiene con un clic nella pagina della chiave API dopo l'accesso e non richiede una carta. È valido per 7 giorni, uno per persona.

Qual è il nome del modello?

L'ID del modello è uncensored. Chiama GET /v1/models per confermarlo con la tua chiave.

Quanto può essere grande una richiesta?

La finestra di contesto è di 100.000 token per prompt più completamento, e il corpo della richiesta massimo è di 8 MB.

La tua chiave è a un modulo di distanza

Crea un account, copia la chiave, modifica l'URL di base. È tutta la configurazione.

Ottieni chiave APILeggi i documenti