Avvio rapido API Groq

Prerequisiti e dipendenze

Inizia generando la tua chiave API groq sulla dashboard. Puoi accedere con Google o utilizzare un'email e una password. Non è richiesto il numero di telefono. La chiave appare immediatamente per il copia-incolla.

Assicurati che il tuo ambiente supporti gli SDK ufficiali di OpenAI. Il nostro URL di base è HTTPS://api.apigroq.com/v1. Questo funziona con qualsiasi client che accetti endpoint standard OpenAI. Non è necessario installare middleware aggiuntivi.

Autenticazione della tua chiave API groq

Passa la tua chiave nell'intestazione Authorization come token Bearer. Questo autentica ogni richiesta al servizio AI senza censure. Se la chiave non è valida, ricevi un errore 401. Se non hai crediti, ricevi un errore 402.

• Intestazione: Authorization: Bearer YOUR_API_KEY
• Non esporre le chiavi nel codice lato client.

Invio della tua prima Completion

Invia una richiesta POST a /v1/chat/completions. Usa l'ID del modello uncensored. Questo modello risponde senza rifiuti per l'uso adulto lecito. Imposta top_p a 1 e temperature a 0 per risultati coerenti.

Copycurl https://api.apigroq.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list dependencies in requirements.txt"}]
  }'

La risposta restituisce solo testo. Non vengono generati embedding o immagini. Gli errori non consumano il tuo credito prepagato.

Gestione delle risposte in streaming

Usa Server-Sent Events per la consegna dei token in tempo reale. Imposta stream: true nella richiesta. Ogni chunk contiene testo parziale. L'ultimo chunk include i dettagli sull'utilizzo dei token.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Questo approccio riduce la latenza percepita per le risposte di grandi dimensioni. Il tuo client deve gestire il data: prefisso e analizza gli oggetti JSON.

Integrazione SDK Python

Installa il pacchetto Python ufficiale di OpenAI. Configura il client con il nostro URL base e la tua chiave. Questo permette l'uso diretto del LLM uncensored senza OpenRouter.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apigroq.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

L'SDK gestisce automaticamente i tentativi e l'analisi del JSON. Puoi anche abilitare la modalità JSON impostando response_format a {"type": "json_object"}.

SDK Node e Limiti

Utilizza il client OpenAI Node.js in modo simile. Imposta l'URL di base sul nostro endpoint. Monitora attentamente i tuoi limiti di frequenza.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apigroq.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Hai un limite di 300 richieste al minuto per chiave. Puoi avere 8 richieste concorrenti. Il corpo della richiesta deve rimanere sotto gli 8 MB. La finestra di contesto è di 100,000 token in totale. L'output massimo è di 16,000 token a meno che non sia specificato diversamente.