Groq api क्विकस्टार्ट

आवश्यकताएँ और निर्भरताएँ

डैशबोर्ड पर अपनी groq API कुंजी जनरेट करें। आप Google के साथ साइन इन कर सकते हैं या ईमेल और पासवर्ड का उपयोग कर सकते हैं। फ़ोन नंबर की आवश्यकता नहीं है। कुंजी कॉपी-पेस्ट के लिए तुरंत दिखाई देती है।

सुनिश्चित करें कि आपके एन्वायरिमेंट में ऑफिशियल OpenAI SDK सपोर्ट हों। हमारा बेस यूआरएल HTTPS://api.apigroq.com/v1 है। यह किसी भी क्लाइंट के साथ काम करता है जो स्टैंडर्ड OpenAI एंडपॉइंट्स को स्वीकार करता है। आपको अतिरिक्त मिडलवेयर इंस्टॉल करने की आवश्यकता नहीं है।

अपने groq API कुंजी का प्रमाणीकरण

अपनी कुंजी को Authorization हेडर में Bearer टोकन के रूप में पास करें। यह uncensored AI सेवा के हर अनुरोध को प्रमाणीकृत करता है। यदि कुंजी अमान्य है, तो आपको 401 त्रुटि मिलती है। यदि आपके पास क्रेडिट नहीं हैं, तो आपको 402 त्रुटि मिलती है।

• हेडर: Authorization: Bearer YOUR_API_KEY
• क्लाइंट-साइड कोड में कीज़ एक्सपोज़ न करें।

अपना पहला कंप्लीशन भेजना

एक POST अनुरोध भेजें /v1/chat/completions. मॉडल ID का उपयोग करें uncensored. यह मॉडल अस्वीकृति के बिना उत्तर देता है, सेट करें top_p 1 तक और temperature स्थिर परिणामों के लिए 0 तक।

Copycurl https://api.apigroq.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "list dependencies in requirements.txt"}]
  }'

प्रतिक्रिया केवल टेक्स्ट लौटाती है। कोई एम्बेडिंग या छवियां उत्पन्न नहीं होतीं। त्रुटियां आपके पूर्वभुगतान वाले क्रेडिट का उपभोग नहीं करतीं।

स्ट्रीमिंग रिस्पॉन्सेस हैंडल करना

रियल-टाइम टोकन डिलीवरी के लिए सर्वर-सेंट इवेंट्स का उपयोग करें। सेट stream: true अपने अनुरोध में। प्रत्येक चंक आंशिक टेक्स्ट रखता है। अंतिम चंक में टोकन उपयोग विवरण शामिल होते हैं।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

यह दृष्टिकोण बड़े प्रतिक्रियाओं के लिए अनुभवजन्य विलंबता को कम करता है। आपके क्लाइंट को हैंडल करना होगा data: प्रीफिक्स और JSON ऑब्जेक्ट्स को पार्स करें।

Python SDK इंटीग्रेशन

औपचारिक OpenAI Python पैकेज को इंस्टॉल करें। हमारे बेस URL और अपनी कुंजी के साथ क्लाइंट को कॉन्फ़िगर करें। इससे OpenRouter के बिना सीधे अनसेंसर्ड LLM का उपयोग करने की अनुमति मिलती है।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apigroq.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

SDK रीट्राइज़ और JSON पार्सिंग को स्वचालित रूप से संभालता है। आप JSON मोड को सेट करके भी सक्षम कर सकते हैं response_format को {"type": "json_object"}.

Node SDK और सीमाएँ

नोड.जेएस ओपनएआई क्लाइंट को इसी तरह उपयोग करें। बेस यूआरएल को हमारे एंडपॉइंट पर सेट करें। अपने रेट लिमिट्स की निकट निगरानी करें।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apigroq.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

आपकी अनुमति प्रति कुंजी प्रति मिनट 300 अनुरोधों तक सीमित है। आपके पास 8 concurrent अनुरोध हो सकते हैं। अनुरोध बॉडी 8 MB से कम होनी चाहिए। कॉन्टेक्स्ट विंडो कुल 100,000 टोकन है। अधिकतम आउटपुट 16,000 टोकन है जब तक कि अन्यथा निर्दिष्ट न किया गया हो।