- LlmApiServices
- Pengenalan: integrasi API tanpa sensor
Pengenalan: integrasi API tanpa sensor
Mula dengan API LLM tanpa sensor kami dalam beberapa saat. Permulaan pantas ini membimbing anda melalui pengesahan, permintaan asas, dan ciri lanjutan seperti penstriman dan pemanggilan fungsi.
URL Asas dan pengesahan
Mula-mula, arahkan klien anda ke URL asas kami dan mengesahkan dengan kunci API yang dijana. Perkhidmatan kami serasi sepenuhnya dengan OpenAI, bermakna anda hanya perlu mengemas kini base_url dan berikan kunci anda dalam header pengesahan. Daftar melalui Google atau e-mel untuk menerima kunci anda serta-merta, tanpa memerlukan nombor telefon.
Kekalkan kunci anda selamat, kerana ia memberikan akses kepada kredit pra-dibayar anda. Ralat dan penolakan tidak menggunakan token anda, jadi anda boleh menguji dengan selamat.
Hujung sambungan penyelesaian sembang
Hantar data teks ke hujung penyelesaian chat untuk menerima respons teks. Permintaan POST mudah ini membolehkan anda berinteraksi dengan model uncensored menggunakan parameter standard seperti temperature dan top_p. Anda tidak perlu menguruskan perutean kompleks atau memilih daripada pelbagai model vendor.
curl https://api.llmapiservices.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Summarize the main points of the attached documentation."}]
}'Setiap permintaan menggunakan token input berdasarkan prompt anda dan token output berdasarkan teks yang dijana. Ralat adalah percuma, jadi anda boleh bereksperimen tanpa takut caj tidak dijangka.
Pemanggilan fungsi dan Streaming
Aktifkan respons masa nyata dengan mengaktifkan aliran melalui Acara Dihantar Pelayan (SSE). Pendekatan ini menghantar token apabila ia dijana, memberikan pengalaman pengguna yang lebih lancar untuk aplikasi sembang. Anda juga boleh memanfaatkan panggilan fungsi untuk membolehkan model berinteraksi dengan alat atau API luaran secara dinamik.
from openai import OpenAI
client = OpenAI(base_url="https://api.llmapiservices.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Pemanggilan fungsi mengembalikan data terstruktur yang boleh dilaksanakan oleh aplikasi anda. Fleksibiliti ini penting untuk membina ejen pintar yang boleh melakukan tindakan luaran penjanaan teks mudah.
mod JSON dan parameter
Kekalkan format output yang ketat menggunakan mod JSON, yang memastikan respons adalah JSON yang sah untuk penguraian yang boleh dipercayai. Anda boleh mengawal tingkah laku penjanaan dengan parameter seperti seed untuk boleh direplikasi atau stop jujukan untuk menghentikan output pada titik tertentu. Tahap kawalan ini membantu mengintegrasikan API dengan lancar ke dalam aliran kerja sedia ada.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.llmapiservices.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Melaraskan parameter ini membolehkan anda menala tingkah laku model untuk tugas khusus, memastikan hasil yang konsisten dan boleh diramal untuk aplikasi anda.
Had laju dan ralat
Pantau penggunaan anda terhadap had kadar kami, yang membolehkan 300 permintaan setiap minit dan 8 permintaan serentak setiap kunci. Jika anda melebihi had ini, anda akan menerima ralat 429, yang menunjukkan bahawa anda harus mengurangkan kadar permintaan anda. Ralat pengesahan memulangkan status 401 jika kunci anda tidak sah.
Tetingkap konteks dan pengurusan kredit
Gunakan tetingkap konteks yang murah hati sebanyak 100,000 token untuk gabungan prompt dan penyelesaian. Ini membolehkan perbualan yang luas atau pemprosesan dokumen besar tanpa kehilangan konteks. Jika anda kehabisan kredit, anda akan menerima ralat 402, yang akan memujuk anda untuk menambah saldo melalui kripto.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Kredit prabayar anda tidak pernah luput tempoh, jadi anda boleh mengambil masa dengan projek yang lebih besar. Kesilapan tidak menolak daripada baki anda, memastikan anda hanya membayar untuk penyelesaian berjaya.
Soalan biasa
Apakah URL asas API LLM uncensored?
URL asas ialah HTTPS://api.llmapiservices.com/v1. Anda boleh menggunakan URL ini dengan mana-mana SDK serasi OpenAI dengan mengemas kini konfigurasi klien.
Bagaimana saya mengesahkan permintaan saya?
Masukkan kunci API anda dalam header Authorization sebagai token Bearer. Anda boleh menjana kunci ini serta-merta selepas mendaftar dengan Google atau e-mel.
Apa yang berlaku jika saya melebihi had kadar?
Anda akan menerima kod status 429. Hadnya ialah 300 permintaan setiap minit dan 8 permintaan serentak per kunci. Kurangkan kekerapan permintaan anda untuk meneruskan operasi biasa.
Akses kunci anda melalui borang
Daftar, salin kunci, kemas kini URL asas. Itu sahaja.