Erreur 1 : Supposer que tous les modèles 'non censurés' sont également sans limites
Le terme IA non censurée est souvent utilisé de manière lâche par les agrégateurs pour décrire des modèles aux filtres assouplis. Certains modèles conservent toujours des classificateurs rigides pour des sujets spécifiques, tandis que d'autres sont véritablement à poids ouverts et ajustés pour un refus minimal. Cette variation signifie que votre intégration peut fonctionner parfaitement avec un modèle mais rencontrer des refus inattendus avec un autre. Vérifiez toujours le comportement spécifique du modèle vers lequel vous effectuez le routage.
Nous proposons un seul modèle véritablement débloqué qui ne refuse pas les sujets adultes légaux ou controversés. Cela élimine les incertitudes liées à l'acheminement des modèles. Vous bénéficiez d'un comportement cohérent à chaque requête sans vous soucier de garde-fous cachés.
Erreur 2 : Ignorer les limites de fenêtre de contexte de 100k tokens
Votre intégration échoue lorsque le nombre total de jetons dans l'invite plus la complétion dépasse la limite du modèle. De nombreux développeurs configurent leur client pour envoyer 100k de jetons mais oublient que le modèle a besoin d'espace pour générer la réponse. Si la fenêtre de contexte est de 100 000 jetons, vous devez réserver de l'espace pour la sortie. Envoyer une invite trop grande entraîne une erreur immédiate ou une troncature.
Nous prenons en charge une fenêtre de contexte de 100 000 tokens, combinant prompt et complétion. Cela permet de gérer un historique étendu ou de longs documents. Assurez-vous que votre code calcule correctement les tokens restants avant chaque requête. Dépasser cette limite gaspille de l’argent sur des requêtes rejetées.
Erreur 3 : Confondre max_tokens avec la longueur du contexte
La longueur du contexte définit la quantité d'historique que le modèle peut lire. Le nombre maximum de jetons définit la quantité de texte que le modèle peut écrire. Ces limites sont indépendantes. Vous pouvez avoir une fenêtre de contexte massive mais une petite sortie maximale. Définir max_tokens trop bas tronque votre réponse. Le définir trop haut risque une facturation inutile si le modèle génère du remplissage.
Notre LLM sans censorship prend en charge une sortie maximale de 16 000 tokens par requête. Si vous ne définissez pas max_tokens, il est par défaut à 2 048 tokens. Cette valeur par défaut est souvent trop courte pour les tâches de raisonnement complexe. Définissez explicitement le paramètre pour correspondre à la longueur de réponse attendue. Cela évite les JSON tronqués ou les blocs de code incomplets.
Erreur 4 : Négliger la différence de comptage des tokens entre streaming et non-streaming
Les réponses en streaming délivrent les jetons de manière incrémentale. Les réponses sans streaming attendent la complétion complète. L'utilisation des jetons est souvent signalée dans le dernier fragment d'un flux. Si votre client ignore le dernier fragment, vous perdez des données de facturation précises. Cela rend le débogage des demandes coûteuses difficile.
Nous offrons le streaming via SSE avec l'utilisation des jetons dans le dernier chunk. Assurez-vous que votre analyseur capture cet événement final. Les requêtes non streamées incluent également les données d'utilisation dans le corps de la réponse. Utilisez le streaming pour une meilleure expérience utilisateur, mais suivez correctement l'utilisation. Manquer le dernier chunk entraîne une sous-estimation des coûts.
Erreur 5 : S'attendre à zéro refus pour tous les types de contenu
« Non filtré » ne signifie pas illimité. La plupart des modèles imposent toujours une limite stricte sur le contenu sexuel impliquant des mineurs. Il s'agit d'une base de sécurité standard même dans les modèles open-source. Si vous envoyez un prompt violant cette règle, l'API renverra un refus. Ce n'est pas un bug ; c'est l'application d'une politique.
Notre API refuse les requêtes contenant du contenu sexuel impliquant des mineurs. Tout autre contenu adulte licite est autorisé. Cette limite stricte s'applique quelle que soit le style de l'invite. Ne supposez pas que chaque refus indique un problème du modèle. Vérifiez d'abord votre contenu par rapport à cette contrainte spécifique.
Erreur 6 : Utiliser les mauvais paramètres de température pour la créativité vs. le codage
La température contrôle l'aléatoire. Des valeurs élevées augmentent la créativité mais réduisent la précision. Des valeurs faibles rendent les sorties déterministes et précises. Utiliser une température élevée pour la génération de code introduit des erreurs de syntaxe. Utiliser une température faible pour l'écriture créative rend le texte répétitif et fade.
Ajustez la température en fonction de votre tâche. Utilisez des valeurs plus faibles pour l'appel de fonctions ou le mode JSON. Utilisez des valeurs plus élevées pour la génération d'histoires ou le brainstorming. Notre LLM sans censure répond bien à ces ajustements. Testez différentes valeurs pour trouver l'équilibre idéal pour votre cas d'utilisation.
Erreur 7 : Ne pas tester la structure de sortie du mode JSON tôt
Les LLM ne sont pas des bases de données. Ils génèrent du texte qui ressemble à du JSON. Des erreurs se produisent lorsque le modèle génère du texte supplémentaire ou une syntaxe invalide. L'analyse échoue si vous ne validez pas la sortie. Compter sur le modèle pour produire un JSON parfait à chaque fois est risqué. Implémentez toujours un mécanisme de retry pour le JSON invalide.
Nous supportons le mode JSON via response_format json_object. Cela force le modèle à produire du JSON valide. Il peut encore produire des objets vides ou des champs manquants. Validez la structure avant d'utiliser les données. Cela économise du temps de débogage plus tard dans la chaîne.
Erreur 8 : Supposer que le crédit expire comme un abonnement
De nombreux fournisseurs d'API facturent des frais mensuels qui expirent. Notre modèle est différent. Vous payez ce que vous utilisez. Le crédit prépayé n'expire jamais. Si vous rechargez 100 $, ce solde reste disponible indéfiniment. C'est idéal pour les projets intermittents ou le stockage à long terme. Vous ne perdez pas d'argent en attendant.
Nous facturons en fonction de l'utilisation réelle des tokens. Les erreurs et les refus sont gratuits. Cela signifie que vous ne payez que pour les complétions réussies. Rechargez uniquement en crypto. L'absence de frais mensuels signifie aucune surprise de facturation. Utilisez le modèle prépayé pour des coûts longs termes prévisibles.
