اشتباه ۱: فرض اینکه تمام مدل‌های 'Uncensored' به یک اندازه محدود نیستند
اصطلاح هوش مصنوعی بدون سانسور اغلب توسط تجمیع‌کنندگان به صورت شل برای توصیف مدل‌هایی با فیلترهای شل‌تر به کار می‌رود. برخی مدل‌ها همچنان طبقه‌بندهای سختی برای موضوعات خاص دارند، در حالی که دیگران واقعاً وزن‌های باز هستند و برای حداقل ردّ تنظیم شده‌اند. این تنوع به این معناست که یکپارچه‌سازی شما ممکن است با یک مدل به خوبی کار کند اما با مدل دیگری با ردّهای غیرمنتظره مواجه شود. همیشه رفتار خاص مدلی که به آن روتینگ می‌کنید را بررسی کنید.
ما یک مدل واقعاً بدون سانسور ارائه می‌دهیم که موضوعات بزرگسالان یا بحث‌برانگیز قانونی را رد نمی‌کند. این کار حدس‌زنی در مورد مسیریابی مدل را حذف می‌کند. شما رفتار ثابتی در هر درخواست دریافت می‌کنید و نیازی به نگرانی در مورد گاردل‌های پنهان ندارید.
اشتباه ۲: نادیده گرفتن محدودیت‌های پنجره زمینه ۱۰۰ هزار توکن
یکپارچه‌سازی شما زمانی شکست می‌خورد که مجموع توکن‌ها در پرامپت به علاوه تکمیل از محدودیت مدل بیشتر شود. بسیاری از توسعه‌دهندگان کلاینت خود را برای ارسال ۱۰۰ هزار توکن پیکربندی می‌کنند اما فراموش می‌کنند که مدل به فضای تولید پاسخ نیاز دارد. اگر پنجره زمینه ۱۰۰,۰۰۰ توکن باشد، باید فضا را برای خروجی رزرو کنید. ارسال پرامپتی که بیش از حد بزرگ است منجر به خطای فوری یا بریده شدن می‌شود.
ما از پنجره زمینه ۱۰۰,۰۰۰ توکنی برای ترکیب پرامپت و تکمیل (completion) پشتیبانی می‌کنیم. این امکان را برای تاریخچه‌های گسترده یا اسناد طولانی فراهم می‌کند. مطمئن شوید که کد شما تعداد توکن‌های باقی‌مانده را قبل از هر درخواست به‌درستی محاسبه می‌کند. تجاوز از این محدودیت، هزینه درخواست‌های ردشده را هدر می‌دهد.
اشتباه ۳: اشتباه گرفتن max_tokens با طول پنجره زمینه
طول زمینه تعریف می‌کند که مدل چقدر تاریخچه را می‌تواند بخواند. حداکثر توکن‌ها تعریف می‌کند که مدل چقدر متن می‌تواند بنویسد. این محدودیت‌ها مستقل هستند. شما می‌توانید پنجره زمینه عظیمی داشته باشید اما خروجی کمی داشته باشید. تنظیم max_tokens خیلی پایین، پاسخ شما را قطع می‌کند. تنظیم آن خیلی بالا، خطر صورت‌حساب‌های غیرضروری را در صورت تولید متن پرکننده توسط مدل ایجاد می‌کند.
LLM بدون سانسور حداکثر خروجی 16,000 توکن در هر درخواست را پشتیبانی می‌کند. اگر max_tokens را تنظیم نکنید، به‌طور پیش‌فرض روی 2,048 توکن تنظیم می‌شود. این پیش‌فرض اغلب برای وظایف استدلال پیچیده کوتاه است. پارامتر را به‌طور صریح تنظیم کنید تا با طول پاسخ مورد انتظار شما مطابقت داشته باشد. این از برش JSON یا بلوک‌های کد ناقص جلوگیری می‌کند.
اشتباه ۴: نادیده گرفتن تفاوت شمارش توکن‌های استریم و غیر استریم
پاسخ‌های استریم‌شده توکن‌ها را به صورت افزایشی ارسال می‌کنند. پاسخ‌های غیر استریم‌شده منتظر تکمیل کامل می‌مانند. مصرف توکن اغلب در قطعه نهایی یک استریم گزارش می‌شود. اگر کلاینت شما قطعه آخر را نادیده بگیرد، داده‌های صورتحساب دقیق را از دست می‌دهید. این کار عیب‌یابی درخواست‌های پرهزینه را دشوار می‌کند.
ما پخش زنده از طریق SSE با مصرف توکن در قطعه آخر ارائه می‌دهیم. مطمئن شوید تجزیه‌کننده شما این رویداد نهایی را دریافت می‌کند. درخواست‌های غیر پخش زنده نیز داده‌های استفاده را در بدنه پاسخ شامل می‌شوند. از پخش زنده برای تجربه کاربری بهتر استفاده کنید اما مصرف را به درستی ردیابی کنید. نادیده گرفتن قطعه نهایی منجر به گزارش هزینه‌های کمتر می‌شود.
اشتباه ۵: انتظار عدم رد شدن برای همه انواع محتوا
عدم سانسور به معنای نامحدود نیست. اکثر مدل‌ها همچنان یک محدودیت سخت بر روی محتوای جنسی شامل کودکان اعمال می‌کنند. این یک خط مبنا ایمنی استاندارد حتی در مدل‌های وزن‌باز است. اگر پرامپتی که این قانون را نقض می‌کند ارسال کنید، API یک رد را برمی‌گرداند. این یک باگ نیست؛ اعمال سیاست است.
API ما درخواست‌هایی را که حاوی محتوای جنسی مرتبط با کودکان هستند رد می‌کند. تمام محتوای بزرگسالان قانونی دیگر مجاز است. این محدودیت سخت صرف‌نظر از سبک درخواست اعمال می‌شود. فرض نکنید که هر رد شدن نشان‌دهنده مشکل مدل است. ابتدا محتوای خود را با این محدودیت خاص بررسی کنید.
اشتباه ۶: استفاده از تنظیمات دمای (Temperature) نادرست برای خلاقیت در مقابل کدنویسی
دمای (Temperature) تصادفی بودن را کنترل می‌کند. مقادیر بالا خلاقیت را افزایش می‌دهند اما دقت را کاهش می‌دهند. مقادیر پایین خروجی را قطعی و دقیق می‌سازند. استفاده از دمای بالا برای تولید کد باعث ایجاد خطاهای سینتکسی می‌شود. استفاده از دمای پایین برای نویسندگی خلاق، متن را تکراری و بی‌روح می‌کند.
دما را بر اساس وظیفه خود تنظیم کنید. از مقادیر پایین‌تر برای فراخوانی تابع یا حالت JSON استفاده کنید. از مقادیر بالاتر برای تولید داستان یا طوفان فکری استفاده کنید. LLM بدون سانسور ما به این تنظیمات خوب پاسخ می‌دهد. مقادیر مختلف را آزمایش کنید تا تعادل مناسب برای مورد استفاده خود پیدا کنید.
اشتباه ۷: تست نکردن ساختار خروجی حالت JSON در مراحل اولیه
مدل‌های زبانی بزرگ پایگاه داده نیستند. آن‌ها متنی تولید می‌کنند که شبیه JSON به نظر می‌رسد. خطاها زمانی رخ می‌دهند که مدل متن اضافی یا سینتکس نامعتبر خروجی می‌دهد. اگر خروجی را اعتبارسنجی نکنید، پردازش شکست می‌خورد. تکیه بر مدل برای تولید JSON کامل در هر زمان پرریسک است. همیشه یک مکانیسم تلاش مجدد برای JSON نامعتبر پیاده‌سازی کنید.
ما از حالت JSON از طریق response_format json_object پشتیبانی می‌کنیم. این کار مدل را مجبور می‌کند تا JSON معتد خروجی دهد. ممکن است همچنان اشیاء خالی یا فیلدهای فاقد داده تولید کند. ساختار را قبل از استفاده از داده‌ها اعتبارسنجی کنید. این کار زمان اشکال‌زدایی را در طول پایپلاین صرفه‌جویی می‌کند.
اشتباه ۸: فرض انقضای اعتبار مانند اشتراک
بسیاری از ارائه‌دهندگان API هزینه‌های ماهانه دریافت می‌کنند که منقضی می‌شوند. مدل ما متفاوت است. شما بابت آنچه استفاده می‌کنید پرداخت می‌کنید. اعتبار پیش‌پرداخت هرگز منقضی نمی‌شود. اگر $100 شارژ کنید، آن موجودی برای همیشه در دسترس باقی می‌ماند. این برای پروژه‌های مقطعی یا ذخیره‌سازی بلندمدت ایده‌آل است. شما با انتظار پول از دست نمی‌دهید.
ما بر اساس مصرف واقعی توکن‌ها هزینه دریافت می‌کنیم. خطاها و رد شدن‌ها رایگان هستند. این یعنی شما فقط برای تکمیل‌های موفق پرداخت می‌کنید. فقط با ارز دیجیتال شارژ کنید. عدم وجود هزینه‌های ماهانه به معنای عدم وجود هزینه‌های غیرمنتظره است. از مدل پیش‌پرداخت برای هزینه‌های بلندمدت قابل پیش‌بینی استفاده کنید.
