Panduan Pantas API Groq

Prasyarat dan Kebergantungan

Mula dengan menjana kunci API groq anda di papan pemuka. Anda boleh log masuk dengan Google atau menggunakan e-mel dan kata laluan. Tiada nombor telefon diperlukan. Kunci muncul serta-merta untuk disalin dan dilekatkan.

Pastu persekitaran anda menyokong SDK rasmi OpenAI. URL asas kami ialah HTTPS://api.apigroq.com/v1. Ini berfungsi dengan mana-mana klien yang menerima hujung OpenAI standard. Anda tidak perlu memasang perisian perantara tambahan.

Sahkan Kunci API groq Anda

Masukkan kunci anda dalam header Authorization sebagai token Bearer. Ini mengesahkan setiap permintaan ke perkhidmatan AI tanpa sensor. Jika kunci tidak sah, anda akan menerima ralat 401. Jika anda kekurangan kredit, anda akan menerima ralat 402.

• Header: Authorization: Bearer YOUR_API_KEY
• Jangan terdedkan kunci dalam kod sisi klien.

Menghantar Pelengkapan Pertama Anda

Hantar permintaan POST ke /v1/chat/completions. Gunakan ID model uncensored. Model ini menjawab tanpa penolakan untuk penggunaan dewasa yang sah. Tetapkan top_p to 1 and temperature to 0 for consistent results.

Copycurl https://api.apigroq.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list dependencies in requirements.txt"}]
  }'

Respons mengembalikan teks sahaja. Tiada jalinan atau imej yang dijana. Ralat tidak menggunakan kredit pra-dibayar anda.

Mengendalikan Respons Aliran

Gunakan Acara Dihantar Pelayan untuk penghantaran token masa nyata. Tetapkan stream: true dalam permintaan anda. Setiap blok mengandungi teks separa. Blok akhir termasuk butiran penggunaan token.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Pendekatan ini mengurangkan latensi yang dirasakan untuk respons besar. Pelanggan anda mesti mengendalikan data: awalan dan huraikan objek JSON.

Integrasi SDK Python

Pasang pakej Python rasmi OpenAI. Konfigurasikan klien dengan URL asas dan kunci anda. Ini membolehkan penggunaan langsung LLM tanpa sensor tanpa OpenRouter.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apigroq.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

SDK ini mengendalikan percubaan semula dan penguraian JSON secara automatik. Anda juga boleh mengaktifkan mod JSON dengan menetapkan response_format ke {"type": "json_object"}.

SDK Node dan Had

Gunakan klien OpenAI Node.js dengan cara yang sama. Tetapkan URL asas ke hujung sambungan kami. Pantau had kadar anda dengan teliti.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apigroq.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Anda terhad kepada 300 permintaan setiap minit per kunci. Anda boleh mempunyai 8 permintaan serentak. Badan permintaan mesti kekal di bawah 8 MB. Jendela konteks ialah 100,000 token secara keseluruhan. Output maksimum ialah 16,000 token melainkan dinyatakan sebaliknya.