คู่มือเริ่มต้นใช้งาน API ของ Groq

ข้อกำหนดเบื้องต้นและส่วนประกอบที่จำเป็น

เริ่มต้นด้วยการสร้าง groq API key ของคุณบนแดชบอร์ด คุณสามารถลงชื่อเข้าใช้ด้วย Google หรือใช้อีเมลและรหัสผ่าน ไม่ต้องใช้หมายเลขโทรศัพท์ คีย์จะปรากฏทันทีเพื่อคัดลอกและวาง

ตรวจสอบให้แน่ใจว่าสภาพแวดล้อมของคุณรองรับ SDK ทางการของ OpenAI base URL ของเราคือ HTTPS://api.apigroq.com/v1 สิ่งนี้ใช้งานได้กับไคลเอนต์ใดๆ ที่รองรับ endpoint มาตรฐานของ OpenAI คุณไม่จำเป็นต้องติดตั้ง middleware เพิ่มเติม

Authenticating Your groq API Key

ส่งคีย์ของคุณในหัว Authorization เป็นโทเค็น Bearer ซึ่งยืนยันการร้องขอทั้งหมดไปยังบริการ AI uncensored หากคีย์ไม่ถูกต้อง คุณจะได้รับข้อผิดพลาด 401 หากไม่มีเครดิต คุณจะได้รับข้อผิดพลาด 402

• ส่วนหัว: Authorization: Bearer YOUR_API_KEY
• อย่าเปิดเผยคีย์ในโค้ดฝั่งไคลเอนต์

ส่ง Completion ครั้งแรกของคุณ

ส่งคำขอ POST ไปยัง /v1/chat/completions. ใช้รหัสโมเดล uncensored. โมเดลนี้ตอบกลับโดยไม่มีการปฏิเสธเนื้อหาสำหรับผู้ใหญ่ที่ถูกต้องกฎหมาย ตั้ง top_p to 1 and temperature to 0 for consistent results.

Copycurl https://api.apigroq.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list dependencies in requirements.txt"}]
  }'

การตอบกลับส่งเฉพาะข้อความ ไม่มีการสร้าง embedding หรือรูปภาพ ความผิดพลาดไม่ใช้ยอดเงินในบัญชีของคุณ

การจัดการการตอบกลับแบบสตรีม

ใช้ Server-Sent Events สำหรับการส่งโทเค็นแบบเรียลไทม์ ตั้งค่า stream: true ในคำขอของคุณ แต่ละท่อนมีข้อความบางส่วน ท่อนสุดท้ายรวมถึงรายละเอียดการใช้โทเค็น

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

วิธีนี้ช่วยลดความล่าช้าที่ผู้ใช้รู้สึกเมื่อได้รับคำตอบขนาดใหญ่ ไคลเอนต์ของคุณต้องจัดการการ data: prefix และแยกวิเคราะห์วัตถุ JSON

การผสานรวม SDK Python

ติดตั้งแพ็กเกจ Python ทางการของ OpenAI กำหนดค่าไคลเอนต์ด้วย URL พื้นฐานและคีย์ของคุณ วิธีนี้ช่วยให้คุณใช้งาน LLM uncensored โดยตรงโดยไม่ต้องใช้ OpenRouter

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apigroq.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

SDK จัดการ retries และการ parse JSON โดยอัตโนมัติ คุณยังสามารถเปิดใช้งาน JSON mode ได้โดยตั้งค่า response_format เพื่อ {"type": "json_object"}.

Node SDK และข้อจำกัด

ใช้ไคลเอนต์ Node.js OpenAI ในทำนองเดียวกัน กำหนด URL พื้นฐานไปยังเอนด์พอยต์ของเรา ติดตามขีดจำกัดอัตราของคุณอย่างใกล้ชิด

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apigroq.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

คุณจำกัดอยู่ที่ 300 คำขอต่อนาทีต่อคีย์ คุณสามารถมีคำขอ concurrent ได้ 8 คำขอ body ของคำขอต้องไม่เกิน 8 MB หน้าต่างบริบท (context window) มีขนาด 100,000 tokens รวมกัน ผลลัพธ์สูงสุดคือ 16,000 tokens เว้นแต่จะระบุไว้เป็นอย่างอื่น