Hata 1: Tüm 'sınırlandırılmamış' modellerin eşit derecede kısıtlamasız olduğunu varsaymak
'Uncensored AI' terimi, gevşek filtreli modelleri tanımlamak için genellikle toplayıcılar tarafından gevşekçe kullanılır. Bazı modeller hala belirli konular için katı sınıflandırıcılar korurken, diğerleri gerçekten açık ağırlıklıdır ve minimal reddetme için ayarlanmıştır. Bu çeşitlilik, entegrasyonunuzun bir modelle mükemmel çalışmasına ancak diğerine yönlendirildiğinde beklenmedik reddiyelerle karşılaşmasına neden olabilir. Yönlendirdiğiniz modelin spesifik davranışını her zaman doğrulayın.
Yasal yetişkin veya tartışmalı konularda reddetmeyen tek bir, gerçekten sansürsuz model sunuyoruz. Bu, model yönlendirme tahminini ortadan kaldırır. Gizli güvenlik duvarları hakkında endişelenmeden her istek boyunca tutarlı davranış elde edersiniz.
Hata 2: 100k token bağlam penceresi sınırlarını göz ardı etme
Bağlam penceresi 100.000 belirteçse, yanıt oluşturmak için yer ayırmanız gerekir. İstemciyi 100k belirteç gönderilecek şekilde yapılandıran birçok geliştirici, modelin yanıt oluşturmak için yere ihtiyaç duyduğunu unutur. Bağlam penceresi 100.000 belirteçse, çıktı için yer ayırmanız gerekir. Çok büyük bir istemci göndermek anında bir hataya veya kısaltmaya neden olur.
Prompt ve tamamlama için birlikte 100.000 token'lık bir bağlam penceresi destekliyoruz. Bu, kapsamlı bir geçmiş veya uzun belgeler için olanak tanır. Her istekten önce kalan token sayısını doğru hesapladığınızdan emin olun. Bu limiti aşmak, reddedilen istekler için para harcamanıza neden olur.
Hata 3: max_tokens'i bağlam uzunluğu ile karıştırma
Bağlam uzunluğu, modelin okuyabileceği geçmiş miktarını tanımlar. Maksimum tokenlar, modelin yazabileceği metik miktarını tanımlar. Bu bağımsız sınırlardır. Büyük bir bağlam penceresine sahip olabilir, ancak küçük bir maksimum çıktıya sahip olabilirsiniz. max_tokens değerini çok düşük ayarlamak cevabınızı keser. Çok yüksek ayarlamak, model dolgu metin üretirse gereksiz faturalandırma riski taşır.
Censorshipsiz LLM'imiz, istek başına maksimum 16.000 token çıktı sağlar. max_tokens ayarlamazsanız, varsayılan değer 2.048 token olur. Bu varsayılan değer, karmaşık akıl yürütme görevleri için genellikle çok kısadır. Beklenen yanıt uzunluğunu yansıtacak şekilde parametreyi açıkça ayarlayın. Bu, kesilmiş JSON veya eksik kod bloklarını önler.
Hata 4: Akışlı ve akışsız token sayımlarını göz ardı etme
Akış yanıtları belirteçleri art arda iletir. Akış olmayan yanıtlar tüm tamamlanmayı bekler. Belirteç kullanımı genellikle bir akışın son parçasında raporlanır. İstemciniz son parçayı yok sayarsa, doğru faturalandırma verisini kaybedersiniz. Bu, pahalı isteklerin hata ayıklamasını zorlaştırır.
SSE üzerinden streaming ve son chunk'ta token kullanımı sunuyoruz. Parser'ınızın bu son olayı yakaladığından emin olun. Streaming olmayan istekler de yanıt gövdesinde kullanım verisi içerir. Daha iyi kullanıcı deneyimi için streaming kullanın ancak kullanımı doğru şekilde izleyin. Son chunk'ı kaçırmak, düşük bildirilen maliyetlere yol açar.
Hata 5: Tüm içerik türleri için sıfır reddetme bekleyerek
Uncensored (sansürsüz) olması, sınırsız olduğu anlamına gelmez. Çoğu model yine, küçük yaşlı cinsel içeriğe katı bir sınır uygular. Bu, açık ağırlıklı modellerde bile standart bir güvenlik tabanıdır. Bu kuralı ihlal eden bir prompt gönderirseniz API bir reddetme döndürür. Bu bir hata değildir; bu bir politika uygulamasıdır.
API'miz, küçük yaşlı çocuklarla ilgili cinsel içerik içeren istekleri reddeder. Diğer tüm yasal yetişkin içeriğe izin verilir. Bu katı sınır, istem stiline bağlı olmaksızın geçerlidir. Her reddetmenin bir model sorunu olmadığını varsaymayın. İçeriğinizi önce bu spesifik kısıtlamaya göre kontrol edin.
Hata 6: Yaratıcı kodlama için yanlış sıcaklık ayarları kullanmak
Sıcaklık rastgeleliği kontrol eder. Yüksek değerler yaratıcılığı artırır ancak hassasiyeti azaltır. Düşük değerler çıktıları belirleyici ve hassas hale getirir. Kod üretimi için yüksek sıcaklık kullanmak sözdizimi hatalarına yol açar. Yaratıcı yazım için düşük sıcaklık kullanmak metni tekrarlı ve soluk hale getirir.
Görevinize göre sıcaklığı ayarlayın. İşlev çağırma veya JSON modu için daha düşük değerler kullanın. Hikaye üretimi veya beyin fırtınası için daha yüksek değerler kullanın. Uncensored LLM bu ayarlara iyi yanıt verir. Kullanım durumunuz için doğru dengeyi bulmak üzere farklı değerleri test edin.
Hata 7: JSON modu çıktı yapısını erken test etmemek
LLM'ler veritabanı değildir. JSON gibi görünen metin üretirler. Model geçerli olmayan sözdizimi veya ek metin çıkardığında hatalar oluşur. Çıktıyı doğrulamazsanız ayrıştırma başarısız olur. Modelin her zaman mükemmel JSON üretmesine güvenmek risklidir. Geçersiz JSON için her zaman bir yeniden deneme mekanizması uygulayın.
response_format json_object aracılığıyla JSON modu destekliyoruz. Bu, modelin geçerli JSON çıktısı vermesini zorlar. Boş nesneler veya eksik alanlar üretebilir. Veriyi kullanmadan önce yapıyı doğrulayın. Bu, pipeline'da daha sonra hata ayıklama süresinden tasarruf sağlar.
Hata 8: Kredinin abonelik gibi süresiz olduğunu varsaymak
Birçok API sağlayıcısı süresi dolan aylık ücretler alır. Modelimiz farklıdır. Kullandığınız için ödeme yaparsınız. Ön ödemeli kredi süresi dolmaz. 100 $ yüklerseniz, bu bakiye sonsuza kadar kullanılabilir durumda kalır. Bu, ara sıra projeler veya uzun süreli depolama için idealdir. Bekleyerek paranızı kaybetmezsiniz.
Gerçek token kullanımına göre ücretlendiriyoruz. Hatalar ve reddetmeler ücretsizdir. Bu, yalnızca başarılı tamamlamalar için ödeme yaptığınız anlamına gelir. Yalnızca kripto para birimi ile yükleyin. Aylık ücret olmaması, sürpriz ücretler olmadığı anlamına gelir. Öngörülebilir uzun vadeli maliyetler için önceden ödemeli modeli kullanın.
