Kesilapan 1: Menganggap semua model 'uncensored' adalah sama-sama tidak terikat
Istilah AI tanpa sensor sering digunakan secara longgar oleh agregator untuk menerangkan model dengan penapis yang longgar. Sesetengah model masih mengekalkan pengelasan keras untuk topik tertentu, manakala yang lain benar-benar berat terbuka dan ditala untuk penolakan minimum. Variasi ini bermakna integrasi anda mungkin berfungsi dengan sempurna dengan satu model tetapi menghadapi penolakan yang tidak dijangka dengan model lain. Sentiasa menyahkan tingkah laku khusus model yang anda salurkan.
Kami menawarkan satu model benar-benar tanpa sensor yang tidak menolak topik dewasa yang sah atau kontroversi. Ini menghilangkan teka-teki pengalihan model. Anda mendapat tingkah laku yang konsisten merentasi setiap permintaan tanpa perlu risau tentang pagar kandungan tersembunyi.
Kesilapan 2: Mengabaikan had tingkatan konteks token 100k
Integrasi anda gagal apabila jumlah token dalam prompt ditambah dengan penyelesaian melebihi had model. Ramai pembangun mengkonfigurasi klien mereka untuk menghantar 100k token tetapi lupa bahawa model memerlukan ruang untuk menjana respons. Jika tetingkap konteks ialah 100,000 token, anda mesti menempah ruang untuk output. Menghantar prompt yang terlalu besar mengakibatkan r serta-merta atau pemotongan.
Kami menyokong tetingkap konteks 100,000 token untuk prompt dan penyelesaian digabungkan. Ini membolehkan sejarah yang meluas atau dokumen panjang. Pastikan kod anda mengira token yang tinggal dengan betul sebelum setiap permintaan. Melangkaui had ini akan membazirkan wang pada permintaan yang ditolak.
Kesilapan 3: Membingungkan max_tokens dengan panjang konteks
Panjang konteks menentukan berapa banyak sejarah yang boleh dibaca oleh model. Token maksimum menentukan berapa banyak teks yang boleh ditulis oleh model. Had-had ini adalah bebas. Anda boleh mempunyai tetingkap konteks yang besar tetapi output maksimum yang kecil. Menetapkan max_tokens terlalu rendah akan memotong jawapan anda. Menetapkannya terlalu tinggi berisiko menelan kos berlebihan jika model menjana teks pengisi.
LLM tanpa sensor kami menyokong output maksimum 16,000 token setiap permintaan. Jika anda tidak menetapkan max_tokens, ia secara lalai ditetapkan kepada 2,048 token. Laluan ini sering terlalu pendek untuk tugas penalaran kompleks. Tetapkan parameter secara eksplisit untuk memepanjang jangkaan panjang respons anda. Ini menghalang JSON yang terpotong atau blok kod yang tidak lengkap.
Kesilapan 4: Mengabaikan kiraan token aliran vs. bukan aliran
Respons aliran menghantar token secara beransur-ansur. Respons tanpa aliran menunggu penyelesaian penuh. Penggunaan token sering dilaporkan dalam bahagian akhir aliran. Jika klien anda mengabaikan bahagian terakhir, anda kehilangan data pengebilan yang tepat. Ini menjadikan nyahpepijat permintaan mahal menjadi sukar.
Kami menyediakan aliran melalui SSE dengan penggunaan token dalam potongan terakhir. Pastikan pengura anda menangkap acara akhir ini. Permintaan bukan aliran juga termasuk data penggunaan dalam badan respons. Gunakan aliran untuk pengalaman pengguna yang lebih baik tetapi lacak penggunaan dengan betul. Kehilangan potongan akhir membawa kepada kos yang dilaporkan kurang.
Kesilapan 5: Menjangka tiada penolakan untuk semua jenis kandungan
Uncensored tidak bermaksud tanpa had. Kebanyakan model masih mengenakan had keras pada kandungan seksual melibatkan kanak-kanak. Ini adalah asas keselamatan standard walaupun dalam model berat terbuka. Jika anda menghantar prompt yang melanggar peraturan ini, API akan mengembalikan penolakan. Ini bukan pepijat; ia adalah pelaksanaan dasar.
API kami menolak permintaan yang mengandungi kandungan seksual melibatkan kanak-kanak. Semua kandungan dewasa lain yang sah dibenarkan. Had keras ini terpakai tanpa mengira gaya prompt. Jangan andaikan setiap penolakan menunjukkan isu model. Semak kandungan anda terhadap kekangan khusus ini dahulu.
Kesilapan 6: Menggunakan tetapan suhu yang salah untuk kreatif berbanding pengekodan
Suhu mengawal keacakan. Nilai tinggi meningkatkan kreativiti tetapi mengurangkan ketepatan. Nilai rendah menjadikan output deterministik dan tepat. Menggunakan suhu tinggi untuk penjanaan kod memperkenalkan ralat sintaks. Menggunakan suhu rendah untuk penulisan kreatif menjadikan teks berulang dan hambar.
Laraskan suhu berdasarkan tugas anda. Gunakan nilai yang lebih rendah untuk panggilan fungsi atau mod JSON. Gunakan nilai yang lebih tinggi untuk penjanaan cerita atau percubaan idea. LLM tanpa sensor kami bertindak balas dengan baik terhadap pelarasan ini. Ujikan nilai berbeza untuk mencari keseimbangan yang tepat untuk kes penggunaan anda.
Kesilapan 7: Tidak menguji struktur output mod JSON awal
LLM bukan pangkalan data. Mereka menjana teks yang kelihatan seperti JSON. Ralat berlaku apabila model menghasilkan teks tambahan atau sintaks yang tidak sah. Penguraian gagal jika anda tidak mengesahkan output. Bergantung pada model untuk menghasilkan JSON sempurna setiap masa adalah berisiko. Sentiasa melaksanakan mekanisme cuba semula untuk JSON yang tidak sah.
Kami menyokong mod JSON melalui response_format json_object. Ini memaksa model untuk mengeluarkan JSON yang sah. Ia masih mungkin menghasilkan objek kosong atau medan yang hilang. Sahkan struktur sebelum menggunakan data. Ini menjimatkan masa nyahpepijatan kemudian dalam landasan.
Kesilapan 8: Mengandaikan Kredit Luput Seperti Langganan
Ramai penyedia API mengenakan yuran bulanan yang luput. Model kami berbeza. Anda membayar untuk apa yang anda gunakan. Kredit pra-dibayar tidak luput. Jika anda menambah nilai $100, baki itu kekal tersedia tanpa had masa. Ini sesuai untuk projek berselang-seli atau penyimpanan jangka panjang. Anda tidak kehilangan wang dengan menunggu.
Kami mengenakan caj berdasarkan penggunaan token sebenar. Kesilapan dan penolakan adalah percuma. Ini bermakna anda hanya membayar untuk penyelesaian berjaya. Tambah baki hanya dengan kriptowang. Tiada yuran bulanan bermakna tiada caj mengejut. Gunakan model pra-bayar untuk kos jangka panjang yang boleh diramal.
