Începe rapid API Groq

Precondiții și dependențe

Începeți prin a genera cheia API groq pe panoul de control. Vă puteți conecta cu Google sau puteți utiliza un e-mail și o parolă. Nu este necesar un număr de telefon. Cheia apare imediat pentru copiere și lipire.

Asigură-te că mediul tău suportă SDK-urile oficiale OpenAI. URL-ul nostru de bază este HTTPS://api.apigroq.com/v1. Acest lucru funcționează cu orice client care acceptă endpoint-uri standard OpenAI. Nu trebuie să instalezi middleware suplimentar.

Autentificarea Cheii API groq

Transmiteți cheia în antetul Authorization ca token Bearer. Aceasta autentifică fiecare solicitare către serviciul AI fără cenzură. Dacă cheia este invalidă, primiți eroarea 401. Dacă nu aveți credite, primiți eroarea 402.

• Header: Authorization: Bearer YOUR_API_KEY
• Nu expune cheile în codul de pe partea clientului.

Trimiterea primei tale completări

Trimite o cerere POST la /v1/chat/completions. Folosiți ID-ul modelului uncensored. Acest model răspunde fără refuzuri pentru uz adult legal. Setează top_p că 1 și temperature că 0 pentru rezultate consistente.

Copycurl https://api.apigroq.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list dependencies in requirements.txt"}]
  }'

Răspunsul returnează doar text. Nu se generează încorporări sau imagini. Erorile nu consumă creditul dumneavoastră preplătit.

Gestionarea răspunsurilor de streaming

Folosiți Server-Sent Events pentru livrarea tokenilor în timp real. Set stream: true în solicitarea dvs. Fiecare bucată conține text parțial. Ultima bucată include detalii privind utilizarea tokenilor.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Această abordare reduce latența percepută pentru răspunsuri mari. Clientul dvs. trebuie să gestioneze data: prefix și analizează obiectele JSON.

Integrare SDK Python

Instalează pachetul oficial Python OpenAI. Configurează clientul cu URL-ul nostru de bază și cheia ta. Acest lucru permite utilizarea directă a LLM-ului uncensored fără OpenRouter.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apigroq.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

SDK-ul gestionează automat reîncercările și analizarea JSON. Poți activa, de asemenea, modul JSON setând response_format pentru {"type": "json_object"}.

SDK Node și Limite

Folosește clientul OpenAI Node.js în mod similar. Setează URL-ul de bază către endpoint-ul nostru. Monitorizează limitele de rată îndeaproape.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apigroq.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Ești limitat la 300 de cereri pe minut per cheie. Poți avea 8 cereri concurente. Corpul cererii trebuie să rămână sub 8 MB. Fereastra de context este de 100,000 de tokeni în total. Output-ul maxim este de 16,000 de tokeni, decât dacă se specifică altfel.