Szybki start: Zintegruj API bez cenzury

Wymagania wstępne i instalacja SDK

API wymaga ważnego klucza API i nowoczesnego SDK. Zainstaluj bibliotekę dla preferowanego języka za pomocą pip lub npm. Obsługujemy standardowe biblioteki klienta OpenAI, które automatycznie obsługują uwierzytelnianie i parsowanie JSON.

Upewnij się, że masz zainstalowany Python 3.8+ lub Node.js 18+. SDK zarządzają buforowaniem połączeń i logiką ponownych prób za Ciebie. Znacznie redukuje to kod boilerplate.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ablatedmodels.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Konfigurowanie bazowego adresu URL i klucza API

Wskaż klienta na nasz konkretny punkt końcowy. Użyj adresu bazowego dostarczonego w panelu. Przekaż swój klucz API w nagłówku Authorization. Gwarantuje to, że żądania trafią bezpośrednio do infrastruktury bez cenzury.

Nie używaj domyślnego URL bazowego OpenAI. Twój klucz nie zadziała, jeśli zostanie przekierowany niepoprawnie. Ustaw URL bazowy w obiekcie konfiguracji SDK przed wysłaniem jakichkolwiek danych.

Copycurl https://api.ablatedmodels.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Send me the monthly server uptime report"}]
  }'

Wysyłanie pierwszego żądania kompozycji czatu

Wyślij żądanie POST do /v1/chat/completions. Dołącz ID swojego modelu i tablicę messages. Model natychmiast odpowiada treścią tekstową. Nie jest wymagana skomplikowana logika routingu.

Utrzymaj ładunek prosty. Zacznij od jednego promptu systemowego i jednej wiadomości użytkownika. Zweryfikuj, czy struktura odpowiedzi pasuje do standardu OpenAI. To potwierdza, że Twoja integracja działa poprawnie.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ablatedmodels.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Obsługa odpowiedzi strumieniowych i używania narzędzi

Włącz strumieniowanie, ustawiając stream na true. API zwraca fragmenty za pomocą zdarzeń wysyłanych serwerowo. Każdy fragment zawiera częściowy tekst lub dane dotyczące zużycia tokenów. Agreguj te fragmenty, aby wyświetlić wyjście w czasie rzeczywistym.

Używanie narzędzi jest obsługiwane dla wywoływania funkcji. Zdefiniuj swoje narzędzia w żądaniu. Model zwraca wywołania narzędzi zamiast zwykłego tekstu, gdy jest to stosowne. Sparsuj wywołania narzędzi, aby wykonać swoją niestandardową logikę.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Zrozumienie limitów tokenów i okna kontekstowego

Okno kontekstowe obsługuje łącznie 100 000 tokenów. Obejmuje to tokeny wejściowe i wyjściowe. Ustaw max_tokens, aby ograniczyć długość odpowiedzi. Domyślna maksymalna długość odpowiedzi to 2 048 tokenów, jeśli nie zostanie określona.

Monitoruj zużycie tokenów w ostatnim kawałku strumieniowania. Błędy nie zużywają kredytu. Pozwala to na bezpieczne eksperymentowanie bez ryzyka finansowego. Zaplanuj strukturę prompta, aby zmieścić się w limicie.

Rozwiązywanie typowych błędów

Sprawdź swój klucz API najpierw. Błąd 401 oznacza nieprawidłowy lub wygasły klucz. Błąd 402 oznacza, że Twój kredyt pre-paid został wyczerpany. Doładuj poprzez krypto, aby kontynuować.

Błąd 429 oznacza ograniczenie szybkości. Limit wynosi 300 żądań na minutę. Zmniejsz współbieżność lub poczekaj przed ponowną próbą. Limit ciała 8 MB również wyzwala błędy 400, jeśli zostanie przekroczony.