Швидкий старт: Інтегруйте необмежений API

Базова URL-адреса та аутентифікація

Почніть з того, щоб вказати клієнту на нашу базову URL-адресу та автентифікуватися за допомогою згенерованого API-ключа. Наш сервіс повністю сумісний з OpenAI, що означає, що вам потрібно лише оновити base_url та надайте свій ключ у заголовку авторизації. Зареєструйтеся через Google або електронну пошту, щоб миттєво отримати ключ без необхідності вказувати номер телефону.

Зберігайте ваш ключ у безпеці, оскільки він надає доступ до вашого передплаченого кредиту. Помилки та відмови не споживають токени, тому ви можете безпечно тестувати.

Ендпоінт Chat Completions

Надсилайте текстові дані до кінцевого пункту chat completions, щоб отримати текстові відповіді. Цей простий запит POST дозволяє вам взаємодіяти з моделлю uncensored, використовуючи стандартні параметри, такі як temperature та top_p. Вам не потрібно керувати складною маршрутизацією або обирати з кількох моделей постачальників.

Copycurl https://api.llmapiservices.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summarize the main points of the attached documentation."}]
  }'

Кожен запит споживає вхідні токени на основі вашого запиту та вивідні токени на основі згенерованого тексту. Помилки є безкоштовними, тому ви можете експериментувати без страху несподіваних платежів.

Потокова передача та виклик функцій

Увімкнути відповіді в реальному часі, увімкнувши потокову передачу через події, надіслані сервером (SSE). Цей підхід доставляє токени по мірі їх генерації, забезпечуючи більш плавний досвід користувача для додатків чату. Ви також можете використовувати виклик функцій, щоб дозволити моделі динамічно взаємодіяти з зовнішніми інструментами або API.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmapiservices.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Виклики функцій повертають структуровані дані, які ваша програма може виконати. Ця гнучкість є критично важливою для створення розумних агентів, здатних виконувати дії, виходячи за межі простої генерації тексту.

режим JSON та параметри

Примусові сузорі формати виводу за допомогою режиму JSON, який гарантує, що відповідь є дійсним JSON для надійного парсингу. Ви можете керувати поведінкою генерації за допомогою таких параметрів, як seed для відтворюваності або stop послідовності для зупинки виводу в певних точках. Цей рівень контролю допомагає безперешкодно інтегрувати API в існуючі робочі процеси.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmapiservices.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Налаштування цих параметрів дозволяє точно налаштувати поведінку моделі для конкретних задач, забезпечуючи послідовні та передбачувані результати для ваших додатків.

Ліміти частоти запитів та помилки

Моніторьте використання, орієнтуючись на ліміти швидкості, які дозволяють 300 запитів на хвилину та 8 одночасних запитів на ключ. Якщо ви перевищите ці ліміти, ви отримаєте помилку 429, що вказує на необхідність зменшити частоту запитів. Помилки автентифікації повертають статус 401, якщо ваш ключ недійсний.

Контекстне вікно та керування кредитами

Використовуйте велике вікно контексту на 100 000 токенів для суми промпту та відповіді. Це дозволяє вести довгі розмови або обробляти великі документи без втрати контексту. Якщо у вас закінчиться кредит, ви отримаєте помилку 402, яка запропонувати поповнити баланс через криптовалюту.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Ваша передоплачена кредитна ліміт не має терміну дії, тому ви можете не поспішати з великими проєктами. Помилки не списуються з вашого балансу, гарантуючи, що ви платите лише за успішні виконання.