クイックスタート：無制限APIを統合する

前提条件とSDKインストール

APIは有効なAPIキーと最新のSDKを必要とします。お好みの言語のライブラリをpipまたはnpm経由でインストールしてください。認証とJSON解析を自動的に処理する標準的なOpenAIクライアントライブラリをサポートしています。

Python 3.8+ または Node.js 18+ がインストールされていることを確認してください。SDKは接続プーリングとリトライロジックを管理するため、ボイラープレートコードが大幅に削減されます。

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ablatedmodels.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

ベースURLとAPIキーの構成

クライアントを専用エンドポイントに接続してください。ダッシュボードで提供されたベースURLを使用してください。APIキーをAuthorizationヘッダーに渡してください。これにより、リクエストが直接uncensoredインフラストラクチャに到達します。

デフォルトの OpenAI ベース URL を使用しないでください。ルーティングが正しくない場合、キーは失敗します。データを送信する前に、SDK 設定オブジェクトでベース URL を設定してください。

Copycurl https://api.ablatedmodels.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Send me the monthly server uptime report"}]
  }'

最初のチャット補完リクエストの送信

/v1/chat/completions へ POST リクエストを送信します。モデル ID とメッセージ配列を含めます。モデルは直ちにテキストコンテンツで応答します。複雑なルーティングロジックは必要ありません。

ペイロードをシンプルに保つこと。システムプロンプト1つとユーザーメッセージ1つから始めます。応答の構造がOpenAIの標準と一致することを確認してください。これで統合が正しく機能していることが確認できます。

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ablatedmodels.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

ストリーミングレスポンスとツール使用の処理

ストリーミングを有効にするには stream を true に設定します。APIはServer-Sent Events経由でチャンクを返します。各チャンクには部分的なテキストまたはトークン使用データが含まれます。これらのチャンクを集約してリアルタイムの出力を表示します。

関数呼び出しのためにツール使用がサポートされています。リクエスト内でツールを定義します。モデルは適切な場合にプレーンテキストの代わりにツール呼び出しを返します。ツール呼び出しを解析してカスタムロジックを実行します。

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

トークン制限とコンテキストウィンドウの理解

コンテキストウィンドウは合計100,000トークンをサポートします。これには入力トークンと出力トークンの両方が含まれます。レスポンスの長さを制限するためにmax_tokensを設定します。未指定の場合、最大出力のデフォルトは2,048トークンです。

最後のストリーミングチャンクでトークン使用量を監視します。エラーはクレジットを消費しません。これにより、金銭的なリスクなしで安全に実験できます。プロンプト構造を計画して、制限内に収まるようにしてください。

一般的なエラーのトラブルシューティング

まずAPIキーを確認してください。401エラーは無効または期限切れのキーを示します。402エラーはプリペイドクレジットが枯渇したことを意味します。暗号通貨でチャージして続行。

429 エラーはレート制限を示します。1 分あたり 300 リクエストの制限があります。並列度を減らすか、再試行する前に待機してください。8 MB のボディ制限を超えると、400 エラーもトリガーされます。