Szybki start: zintegruj API bez cenzury

Bazowy URL i autoryzacja

Zacznij od wskazania klienta na nasz adres bazowy i uwierzytelnienia się wygenerowanym kluczem API. Nasza usługa jest w pełni kompatybilna z OpenAI, co oznacza, że musisz tylko zaktualizować base_url i podaj swój klucz w nagłówku autoryzacji. Zarejestruj się przez Google lub e-mail, aby natychmiast otrzymać klucz bez konieczności podawania numeru telefonu.

Chroń swój klucz, ponieważ zapewnia dostęp do Twojego kredytu z góry. Błędy i odrzucenia nie zużywają tokenów, więc możesz testować bezpiecznie.

Punkt końcowy uzupełnień czatu

Wyślij dane tekstowe do endpointu uzupełnień czatu, aby otrzymać odpowiedzi tekstowe. To proste żądanie POST pozwala na interakcję z modelem uncensored przy użyciu standardowych parametrów takich jak temperature i top_p. Nie musisz zarządzać złożonym routowaniem ani wybierać spośród wielu modeli dostawców.

Copycurl https://api.llmapiservices.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summarize the main points of the attached documentation."}]
  }'

Każde żądanie zużywa tokeny wejściowe na podstawie Twojej podpowiedzi (promptu) oraz tokeny wyjściowe na podstawie wygenerowanego tekstu. Błędy są darmowe, więc możesz eksperymentować bez obaw o nieoczekiwane opłaty.

Strumieniowanie i wywoływanie funkcji

Włącz odpowiedzi w czasie rzeczywistym poprzez włączenie strumieniowania za pomocą Server-Sent Events (SSE). Podejście to dostarcza tokeny w miarę ich generowania, zapewniając płynniejsze doświadczenie użytkownika dla aplikacji czatowych. Możesz również wykorzystać wywoływanie funkcji, aby umożliwić modelowi interakcję z zewnętrznymi narzędziami lub API dynamicznie.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmapiservices.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Wywołania funkcji zwracają dane strukturalne, które Twoja aplikacja może wykonać. Ta elastyczność jest kluczowa przy budowaniu inteligentnych agentów zdolnych do wykonywania akcji wykraczających poza proste generowanie tekstu.

tryb JSON i parametry

Wymuszaj ścisłe formaty wyjściowe używając trybu JSON, który zapewnia, że odpowiedź jest poprawnym JSON do niezawodnego parsowania. Możesz kontrolować zachowanie generowania za pomocą parametrów takich jak seed dla powtarzalności lub stop sekwencje do zatrzymywania wyjścia w konkretnych punktach. Ten poziom kontroli pomaga zintegrować API bezproblemowo z istniejącymi przepływami pracy.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmapiservices.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Dostosowanie tych parametrów pozwala na precyzyjne dostrojenie zachowania modelu do konkretnych zadań, zapewniając spójne i przewidywalne wyniki dla Twoich aplikacji.

Limity szybkości i błędy

Monitoruj swoje użycie względem limitów prędkości, które pozwalają na 300 żądań na minutę i 8 żądań równoległych na klucz. Jeśli przekroczysz te limity, otrzymasz błąd 429, wskazujący, że powinieneś zwolnić tempo wysyłania żądań. Błędy uwierzytelniania zwracają status 401, jeśli Twój klucz jest nieprawidłowy.

Okno kontekstowe i zarządzanie kredytem

Wykorzystaj duże okno kontekstowe o rozmiarze 100 000 tokenów zarówno dla promptu, jak i uzupełnienia. Pozwala to na prowadzenie długich rozmów lub przetwarzanie dużych dokumentów bez utraty kontekstu. Jeśli zabraknie Ci środków, otrzymasz błąd 402, co zachęci Cię do doładowania kryptowalutą.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Twoja zaliczka nigdy nie wygasa, więc możesz poświęcić więcej czasu na większe projekty. Błędy nie są odliczane od Twojego salda, co gwarantuje, że płacisz tylko za pomyślne zakończenia.