क्विकस्टार्ट: अनसेंसर्ड API इंटीग्रेट करें

आवश्यकताएँ और SDK इंस्टॉलेशन

API को एक मान्य API कुंजी और एक आधुनिक SDK की आवश्यकता होती है। अपनी पसंदीता भाषा के लिए लाइब्रेरी को pip या npm के माध्यम से इंस्टॉल करें। हम मानक OpenAI क्लाइंट लाइब्रेरी का समर्थन करते हैं जो स्वचालित रूप से प्रमाणीकरण और JSON पार्सिंग संभालती है।

सुनिश्चित करें कि आपके पास Python 3.8+ या Node.js 18+ इंस्टॉल है। SDK कनेक्शन पूलिंग और रीट्राइ लॉजिक को आपके लिए प्रबंधित करता है। इससे बॉयलरप्लेट कोड में काफी कमी आती है।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ablatedmodels.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

बेस URL और API कुंजी कॉन्फ़िगर करना

अपने क्लाइंट को हमारे विशिष्ट एंडपॉइंट की ओर निर्देशित करें। अपने डैशबोर्ड में प्रदान किए गए बेस यूआरएल का उपयोग करें। अपने एपीआई कुंजी को Authorization हेडर में पास करें। यह सुनिश्चित करता है कि अनुरोध सीधे अनसेंसर्ड इंफ्रास्ट्रक्चर तक पहुंचें।

डिफ़ॉल्ट OpenAI बेस URL का उपयोग न करें। यदि रूटिंग गलत होती है तो आपकी की फेल हो जाएगी। किसी भी डेटा भेजने से पहले अपने SDK कॉन्फ़िगरेशन ऑब्जेक्ट में बेस URL सेट करें।

Copycurl https://api.ablatedmodels.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Send me the monthly server uptime report"}]
  }'

अपना पहला चैट कंप्लीशन अनुरोध भेजना

/v1/chat/completions पर एक POST अनुरोध भेजें। अपना मॉडल आईडी और messages सरणी शामिल करें। मॉडल तुरंत टेक्स्ट सामग्री के साथ प्रतिक्रिया देता है। जटिल रूटिंग लॉजिक की आवश्यकता नहीं है।

पेलोड को सरल रखें। एक सिस्टम प्रॉम्प्ट और एक यूजर मेसेज के साथ शुरू करें। सत्यापित करें कि प्रतिक्रिया संरचना OpenAI मानक से मेल खाती है। यह पुष्टि करता है कि आपका इंटीग्रेशन सही ढंग से काम कर रहा है।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ablatedmodels.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

स्ट्रीमिंग रिस्पॉन्सेस और टूल यूज़ हैंडल करना

अपने अनुरोध में stream को true सेट करके स्ट्रीमिंग सक्षम करें। API सर्वर-सेंट इवेंट्स के माध्यम से चंक लौटाता है। प्रत्येक चंक में आंशिक पाठ या टोकन उपयोग डेटा होता है। रियल-टाइम आउटपुट प्रदर्शित करने के लिए इन चंक को एग्रीगेट करें।

Tool use फंक्शन कॉलिंग के लिए समर्थित है। अपनी रिक्वेस्ट में अपने टूल परिभाषित करें। मॉडल उचित होने पर सादे टेक्स्ट के बजाय टूल कॉल्स लौटाता है। अपने कस्टम लॉजिक एक्जीक्यूट करने के लिए टूल कॉल्स को पार्स करें।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

टोकन सीमाओं और कॉन्टेक्स्ट विंडो को समझें

संदर्भ विंडो कुल 100,000 टोकन तक समर्थित है। इसमें इनपुट और आउटपुट टोकन दोनों शामिल हैं। प्रतिक्रिया लंबाई को सीमित करने के लिए max_tokens सेट करें। यदि निर्दिष्ट नहीं है तो अधिकतम आउटपुट डिफ़ॉल्ट 2,048 टोकन है।

स्ट्रीमिंग के अंतिम चंक में टोकन उपयोग की निगरानी करें। त्रुटियां क्रेडिट नहीं खपत करतीं। इससे वित्तीय जोखिम के बिना सुरक्षित प्रयोग की अनुमति मिलती है। अपनी प्रॉम्प्ट संरचना को सीमा के भीतर रखने के लिए योजना बनाएं।

सामान्य त्रुटियों का निवारण

सबसे पहले अपनी API कुंजी की जाँच करें। 401 त्रुटि का अर्थ है अमान्य या समाप्त हो चुकी कुंजी। 402 त्रुटि का अर्थ है कि आपका प्रीपेड क्रेडिट समाप्त हो गया है। जारी रखने के लिए क्रिप्टो के माध्यम से टॉप अप करें।

429 त्रुटि रेट लिमिटिंग का संकेत देती है। आप प्रति मिनट 300 अनुरोधों तक सीमित हैं। अपनी समवर्तिता को कम करें या पुनः प्रयास करने से पहले प्रतीक्षा करें। 8 MB बॉडी सीमा को पार करने पर 400 त्रुटियां भी ट्रिगर करती है।