Groq API gyors kezdés

Előfeltételek és függőségek

Kezdje a groq API kulcs generálását a műszerfalon. Bejelentkezhet Google-fiókkal, vagy használhat e-mailt és jelszót. Nem szükséges telefonszám. A kulcs azonnal megjelenik másoláshoz és beillesztéshez.

Győződjön meg arról, hogy a környezete támogatja a hivatalos OpenAI SDK-kat. A base URL-ünk: HTTPS://api.apigroq.com/v1. Ez bármely olyan klienssel működik, amely elfogadja a szabványos OpenAI végpontokat. Nem kell extra middleware-t telepítenie.

A groq API-kulcs hitelesítése

Adja át kulcsát az Authorization fejlécben Bearer tokenként. Ez hitelesít minden kérést az uncensored AI szolgáltatáshoz. Ha a kulcs érvénytelen, 401-es hibát kap. Ha nincs elég kreditje, 402-es hibát kap.

• Fejléc: Authorization: Bearer YOUR_API_KEY
• Ne tedd ki a kulcsokat a kliensoldali kódban.

Az első completion küldése

Küldj egy POST kérést a /v1/chat/completions. Használja a modellazonosítót uncensored. Ez a modell korlátlanul válaszol a jogszerű felnőtt tartalmakra. Állítsa be top_p 1-re és temperature 0-ra a konzisztens eredmények érdekében.

Copycurl https://api.apigroq.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list dependencies in requirements.txt"}]
  }'

A válasz csak szöveget ad vissza. Embeddingek vagy képek nem generálódnak. A hibák nem merítik az előre fizetett kreditjét.

Streamelt válaszok kezelése

Használja a Szerveroldali Eseményeket a valós idejű tokenátadáshoz. Állítsa be stream: true a kérésben. Minden darab részleges szöveget tartalmaz. Az utolsó darab tartalmazza a tokenfelhasználás részleteit.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Ez a megközelítés csökkenti a nagy válaszok észlelt késleltetését. Az ügyfélkódodnak kezelnie kell a data: prefix and parse JSON objects.

Python SDK Integráció

Telepítse a hivatalos OpenAI Python csomagot. Állítsa be a klienst a bázis URL-csonttal és a kulccsal. Ez lehetővé teszi az uncensored LLM közvetlen használatát OpenRouter nélkül.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apigroq.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Az SDK automatikusan kezeli az újrapróbálkozást és a JSON feldolgozást. A JSON módot is bekapcsolhatod a beállítással response_format a {"type": "json_object"}.

Node SDK és korlátok

Használja a Node.js OpenAI klienst hasonlóan. Állítsa be az alap URL-t a végpontunkra. Figyelje szorosan az átfutási korlátokat.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apigroq.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Kulcsonként percenként 300 kérésre vagy korlátozva. Ugyanakkor 8 párhuzamos kérés futtatható. A kéréstörzsnek 8 MB alatt kell maradnia. A kontextusablak összesen 100,000 token. A maximális kimenet 16,000 token, hacsak mást nem adnak meg.