Швидкий старт: Інтегруйте необмежений API

Передумови та встановлення SDK

API вимагає дійсний ключ та сучасний SDK. Встановіть бібліотеку для бажаної мови через pip або npm. Ми підтримуємо стандартні клієнтські бібліотеки OpenAI, які автоматично обробляють автентифікацію та парсинг JSON.

Переконайтеся, що у вас встановлено Python 3.8+ або Node.js 18+. SDK керують пулом з'єднань та логікою повторних спроб за вас. Це значно зменшує обсяг шаблонного коду.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ablatedmodels.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Налаштування базового URL та API-ключа

Направте клієнта на наш специфічний кінцевий пункт. Використовуйте базовий URL, наданий у вашій панелі керування. Передайте свій API-ключ у заголовку Authorization. Це гарантує, що запити безпосередньо досягнуть інфраструктури без цензури.

Не використовуйте базовий URL OpenAI за замовчуванням. Ваш ключ не працюватиме при неправильній маршрутизації. Встановіть базовий URL у об’єкті конфігурації вашого SDK перед надсиланням будь-яких даних.

Copycurl https://api.ablatedmodels.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Send me the monthly server uptime report"}]
  }'

Відправка вашого першого запиту Chat Completion

Надішліть POST-запит до /v1/chat/completions. Вкажіть ідентифікатор моделі та масив повідомлень. Модель миттєво відповідає текстовим вмістом. Не потрібна складна логіка маршрутизації.

Зробіть载荷 простим. Почніть з одного системного промпту та одного повідомлення користувача. Перевірте, чи відповідає структура відповіді стандарту OpenAI. Це підтверджує, що ваше інтегрування працює правильно.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ablatedmodels.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Обробка потокових відповідей і використання інструментів

Увімкніть потокову передачу, встановивши stream у true. API повертає чанки через події, надані сервером (SSE). Кожен чанк містить частковий текст або дані про використання токенів. Агрегуйте ці чанки для відображення виводу в реальному часі.

Використання інструментів підтримується для виклику функцій. Визначте свої інструменти у запиті. Модель повертає виклики інструментів замість звичайного тексту, коли це доречно. Розпарсуйте виклики інструментів, щоб виконати вашу власну логіку.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Розуміння обмежень на токени та вікна контексту

Вікно контексту підтримує загальну кількість 100 000 токенів. Це включає токени як вводу, так і виводу. Встановіть max_tokens, щоб обмежити довжину відповіді. Максимальний вивід за замовчуванням становить 2 048 токенів, якщо не вказано інше.

Моніторьте використання токенів у останньому чанку потокової передачі. Помилки не споживають кредит. Це дозволяє безпечно експериментувати без фінансових ризиків. Плануйте структуру запиту так, щоб залишатися в межах ліміту.

Вирішення поширених помилок

Спочатку перевірте свій API-ключ. Помилка 401 вказує на недійсний або прострочений ключ. Помилка 402 означає, що ваш попередньо оплачений кредит вичерпано. Поповніть баланс через криптовалюту, щоб продовжити.

Помилка 429 сигналізує про обмеження швидкості. Ваш ліміт становить 300 запитів на хвилину. Зменшіть паралелізм або зачекайте перед повторною спробою. Ліміт тіла в 8 МБ також викликає помилки 400, якщо його перевищено.