Hướng dẫn nhanh API Groq

Điều kiện tiên quyết và Phụ thuộc

Bắt đầu bằng cách tạo khóa API groq của bạn trên bảng điều khiển. Bạn có thể đăng nhập bằng Google hoặc sử dụng email và mật khẩu. Không cần số điện thoại. Khóa xuất hiện ngay lập tức để sao chép-dán.

Đảm bảo môi trường của bạn hỗ trợ các SDK chính thức của OpenAI. Base URL của chúng tôi là HTTPS://api.apigroq.com/v1. Điều này hoạt động với bất kỳ client nào chấp nhận các điểm cuối chuẩn của OpenAI. Bạn không cần cài đặt thêm middleware.

Xác thực API Key groq của bạn

Đặt khóa của bạn trong tiêu đề Authorization dưới dạng token Bearer. Điều này xác thực mọi yêu cầu đến dịch vụ AI không kiểm duyệt. Nếu khóa không hợp lệ, bạn sẽ nhận được lỗi 401. Nếu bạn thiếu tín dụng, bạn sẽ nhận được lỗi 402.

• Tiêu đề: Authorization: Bearer YOUR_API_KEY
• Đừng để lộ khóa (keys) trong mã phía máy khách (client-side).

Gửi yêu cầu Completion đầu tiên của bạn

Gửi yêu cầu POST đến /v1/chat/completions. Sử dụng ID mô hình uncensored. Mô hình này trả lời mà không từ chối nội dung cho mục đích người lớn hợp pháp. Đặt top_p đến 1 và temperature đến 0 để có kết quả nhất quán.

Copycurl https://api.apigroq.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list dependencies in requirements.txt"}]
  }'

Phản hồi trả về chỉ văn bản. Không có embedding hoặc hình ảnh nào được tạo. Lỗi không tiêu tốn tín dụng trả trước của bạn.

Xử lý phản hồi phát trực tiếp

Sử dụng Sự kiện gửi máy chủ để phân phối token theo thời gian thực. Đặt stream: true trong yêu cầu của bạn. Mỗi chunk chứa văn bản từng phần. Chunk cuối cùng bao gồm chi tiết sử dụng token.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Cách tiếp cận này giảm độ trễ cảm nhận đối với các phản hồi lớn. Client của bạn phải xử lý data: prefix and parse JSON objects.

Tích hợp SDK Python

Cài đặt gói Python chính thức của OpenAI. Cấu hình client với URL cơ sở và khóa của bạn. Điều này cho phép sử dụng trực tiếp LLM không kiểm duyệt mà không cần OpenRouter.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apigroq.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

SDK tự động xử lý việc thử lại và phân tích cú pháp JSON. Bạn cũng có thể bật chế độ JSON bằng cách đặt response_format để {"type": "json_object"}.

SDK Node và Giới hạn

Sử dụng máy khách OpenAI Node.js tương tự. Đặt URL cơ sở thành điểm cuối của chúng tôi. Theo dõi các giới hạn tốc độ của bạn chặt chẽ.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apigroq.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Bạn được giới hạn 300 yêu cầu mỗi phút cho mỗi khóa. Bạn có thể có 8 yêu cầu đồng thời. Thân yêu cầu phải dưới 8 MB. Cửa sổ ngữ cảnh là 100,000 token tổng cộng. Đầu ra tối đa là 16,000 token trừ khi có quy định khác.