Помилка 1: Припущення, що всі 'uncensored' моделі однаково необмежені
Термін uncensored AI часто використовується надто вільно агрегаторами для опису моделей зі знятим фільтрами. Деякі моделі все ще зберігають жорсткі класифікатори для певних тем, тоді як інші є справді відкритими (open-weight) та налаштовані на мінімальну відмову. Ця варіативність означає, що ваша інтеграція може ідеально працювати з однією моделлю, але зіткнутися з несподіваними відмовами з іншою. Завжди перевіряйте конкретну поведінку моделі, до якої ви маршрутизуєте запити.
Ми пропонуємо єдину справжню модель без цензури, яка не відмовляє у законному дорослому або дискусійному контенті. Це усуває невизначеність маршрутизації моделей. Ви отримуєте стабільну поведінку під час кожного запиту, не хвилюючись щодо прихованих обмежень.
Помилка 2: Ігнорування обмежень контекстного вікна в 100k токенів
Ваша інтеграція ламається, коли загальна кількість токенів у запиті плюс вивід перевищує ліміт моделі. Багато розробників налаштовують свій клієнт на надсилання 100k токенів, але забувають, що моделі потрібно місце для генерації відповіді. Якщо контекстне вікно становить 100 000 токенів, ви повинні залишити місце для виводу. Надсилання занадто великого запиту призводить до миттєвої помилки або обрізання.
Ми підтримуємо контекстне вікно розміром 100 000 токенів для промпту та завершення разом. Це дозволяє зберігати велику історію або довгі документи. Переконайтеся, що ваш код правильно розраховує залишок токенів перед кожним запитом. Перевищення цього ліміту призведе до марних витрат коштів на відхилені запити.
Помилка 3: Плутанина між max_tokens та довжиною контексту
Довжина контексту визначає, скільки історії модель може прочитати. Максимальна кількість токенів визначає, скільки тексту модель може написати. Це незалежні ліміти. У вас може бути величезне контекстне вікно, але невеликий максимальний вивід. Встановлення занадто низького max_tokens обрізає вашу відповідь. Встановлення занадто високого значення ризикує зайвою оплатою, якщо модель генерує заповнювач.
Наша необмежена LLM підтримує максимальний вихід 16,000 токенів на запит. Якщо ви не встановлюєте max_tokens, значення за замовчуванням становить 2,048 токенів. Це значення часто занадто коротке для складних завдань міркування. Явно встановіть параметр, щоб відповідати очікуваній довжині відповіді. Це запобігає обрізаному JSON або незавершеним блокам коду.
Помилка 4: Ігнорування різниці в підрахунку токенів між потоковим та непотоковим режимами
Потокова передача відповідей доставляє токени поступово. Непотокові відповіді чекають на повне завершення. Використання токенів часто повідомляється в останньому фрагменті потоку. Якщо ваш клієнт ігнорує останній фрагмент, ви втрачаєте точні дані для білінгу. Це ускладнює налагодження дорогих запитів.
Ми надаємо потокову передачу через SSE з використанням токенів у останньому фрагменті. Переконайтеся, що ваш парсер захоплює цю подію. Запити без потокової передачі також містять дані про використання в тілі відповіді. Використовуйте потокову передачу для кращого користувацького досвіду, але правильно відстежуйте використання. Пропускання останнього фрагмента призводить до заниженої оцінки витрат.
Помилка 5: Очікування нульових відмов для всіх типів контенту
Uncensored не означає необмеженість. Більшість моделей досі встановлюють суворе обмеження на сексуальний контент з участю неповнолітніх. Це стандартний базовий рівень безпеки навіть у моделях з відкритими вагами. Якщо ви надішлете промпт, який порушує це правило, API поверне відмову. Це не помилка; це виконання політики.
Наш API відхиляє запити, що містять сексуальний контент із залученням неповнолітніх. Весь інший законний дорослий контент дозволено. Це жорстке обмеження застосовується незалежно від стилю запиту. Не припускайте, що кожна відмова вказує на проблему моделі. Спочатку перевірте свій контент на відповідність цьому конкретному обмеженню.
Помилка 6: Використовувати неправильні налаштування температури для творчості та кодування
Температура контролює випадковість. Високі значення підвищують креативність, але знижують точність. Низькі значення роблять вивід детермінованим та точним. Використання високої температури для генерації коду призводить до синтаксичних помилок. Використання низької температури для творчого письма робить текст повторюваним та нудним.
Налаштуйте temperature відповідно до вашої задачі. Використовуйте нижчі значення для виклику функцій або режиму JSON. Використовуйте вищі значення для генерації історій або мозкового штурму. Наша uncensored LLM добре реагує на ці налаштування. Спробуйте різні значення, щоб знайти правильний баланс для вашого випадку використання.
Помилка 7: Не тестувати структуру виводу режиму JSON на ранніх етапах
LLM не є базами даних. Вони генерують текст, який виглядає як JSON. Помилки виникають, коли модель виводить додатковий текст або недійсний синтаксис. Парсинг не вдається, якщо ви не перевіряєте вивід. Покладатися на те, що модель щоразу виробляє ідеальний JSON, ризиковано. Завжди реалізуйте механізм повторних спроб для недійсного JSON.
Ми підтримуємо режим JSON через response_format json_object. Це змушує модель виводити дійсний JSON. Вона все ще може генерувати порожні об'єкти або пропущені поля. Перевіряйте структуру перед використанням даних. Це економить час на налагодженні пізніше в конвеєрі.
Помилка 8: Припускати, що кредити згорають як підписка
Багато постачальників API стягують щомісячні платежі, які згорають. Наша модель інша. Ви платите за те, що використовуєте. Попередньо оплачений кредит ніколи не згорає. Якщо ви поповните $100, цей баланс залишатиметься доступним необмежений час. Це ідеально для періодичних проектів або довгострокового зберігання. Ви не втрачаєте гроші, чекаючи.
Ми нараховуємо оплату за реальне споживання токенів. Помилки та відмови — безкоштовні. Це означає, що ви платите лише за успішні завершення. Поповнюйте баланс лише криптовалютою. Відсутність щомісячних платежів означає відсутність несподіваних зборів. Використовуйте модель попередньої оплати для передбачуваних довгострокових витрат.
