Lỗi 1: Giả sử tất cả các mô hình 'uncensored' đều không bị hạn chế như nhau
Thuật ngữ uncensored AI thường được sử dụng lỏng lẻo bởi các nhà tổng hợp để mô tả các mô hình có bộ lọc nới lỏng. Một số mô hình vẫn giữ các bộ phân loại cứng cho các chủ đề cụ thể, trong khi những mô hình khác thực sự là trọng lượng mở và được tinh chỉnh để từ chối tối thiểu. Sự biến đổi này có nghĩa là tích hợp của bạn có thể hoạt động hoàn hảo với một mô hình nhưng gặp phải các từ dự đoán không mong đợi với một mô hình khác. Luôn xác minh hành vi cụ thể của mô hình mà bạn đang định tuyến.
Chúng tôi cung cấp một mô hình thực sự không kiểm duyệt, không từ chối các chủ đề người lớn hợp pháp hoặc gây tranh cãi. Điều này loại bỏ sự do dự trong việc định tuyến mô hình. Bạn có được hành vi nhất quán qua mọi yêu cầu mà không phải lo lắng về các hàng rào kiểm duyệt ẩn.
Lỗi 2: Bỏ qua giới hạn cửa sổ ngữ cảnh 100k token
Sự tích hợp của bạn sẽ thất bại khi tổng số token trong prompt cộng với phần hoàn thành vượt quá giới hạn của mô hình. Nhiều nhà phát triển cấu hình khách hàng của họ để gửi 100k token nhưng quên rằng mô hình cần không gian để tạo phản hồi. Nếu cửa sổ ngữ cảnh là 100.000 token, bạn phải dành chỗ cho đầu ra. Gửi một prompt quá lớn sẽ dẫn đến lỗi ngay lập tức hoặc cắt ngắn.
Chúng tôi hỗ trợ cửa sổ ngữ cảnh 100,000 token cho prompt và hoàn thành kết hợp. Điều này cho phép lưu trữ lịch sử rộng rãi hoặc tài liệu dài. Hãy đảm bảo mã của bạn tính toán chính xác số token còn lại trước mỗi yêu cầu. Vượt quá giới hạn này sẽ lãng phí tiền cho các yêu cầu bị từ chối.
Lỗi 3: Nhầm lẫn giữa max_tokens và độ dài cửa sổ ngữ cảnh
Độ dài ngữ cảnh xác định lượng lịch sử mà mô hình có thể đọc. Max tokens xác định lượng văn bản mà mô hình có thể viết. Đây là các giới hạn độc lập. Bạn có thể có cửa sổ ngữ cảnh lớn nhưng đầu ra tối đa nhỏ. Đặt max_tokens quá thấp sẽ làm cắt ngắn câu trả lời của bạn. Đặt quá cao có thể gây ra chi phí không cần thiết nếu mô hình tạo ra nội dung thừa.
LLM không kiểm duyệt của chúng tôi hỗ trợ đầu ra tối đa 16,000 token cho mỗi yêu cầu. Nếu bạn không đặt max_tokens, nó mặc định là 2,048 token. Mặc định này thường quá ngắn cho các nhiệm vụ suy luận phức tạp. Hãy đặt rõ ràng tham số này để phù hợp với độ dài phản hồi dự kiến của bạn. Điều này ngăn chặn JSON bị cắt ngang hoặc các khối mã không đầy đủ.
Lỗi 4: Bỏ qua việc đếm token giữa luồng và không luồng
Phản ứng streaming gửi token từng phần. Phản ứng không streaming chờ toàn bộ kết thúc. Dữ liệu sử dụng token thường được báo cáo trong chunk cuối cùng của stream. Nếu máy khách của bạn bỏ qua chunk cuối cùng, bạn sẽ mất dữ liệu tính phí chính xác. Điều này khiến việc gỡ lỗi các yêu cầu tốn kém trở nên khó khăn.
Chúng tôi cung cấp truyền qua SSE với dữ liệu sử dụng trong chunk cuối cùng. Đảm bảo trình phân tích cú pháp của bạn nắm bắt sự kiện cuối cùng này. Các yêu cầu không truyền cũng bao gồm dữ liệu sử dụng trong thân phản hồi. Sử dụng truyền để có trải nghiệm người dùng tốt hơn nhưng hãy theo dõi việc sử dụng đúng cách. Bỏ qua chunk cuối cùng dẫn đến chi phí được báo cáo thấp hơn.
Lỗi 5: Đợi không có từ chối cho mọi loại nội dung
Uncensored không có nghĩa là không giới hạn. Hầu hết các mô hình vẫn áp dụng giới hạn cứng về nội dung tình dục liên quan đến trẻ vị thành niên. Đây là mức cơ bản an toàn tiêu chuẩn ngay cả trong các mô hình trọng lượng mở. Nếu bạn gửi một prompt vi phạm quy tắc này, API sẽ trả về lời từ chối. Đây không phải là lỗi; đó là thực thi chính sách.
API của chúng tôi từ chối các yêu cầu chứa nội dung tình dục liên quan đến trẻ vị thành niên. Tất cả các nội dung người trưởng thành hợp pháp khác đều được phép. Giới hạn cứng này áp dụng bất kể phong cách prompt. Đừng giả định rằng mọi lần từ chối đều là lỗi của mô hình. Hãy kiểm tra nội dung của bạn với ràng buộc cụ thể này trước.
Lỗi 6: Sử dụng sai cài đặt temperature cho sáng tạo so với lập trình
Nhiệt độ kiểm soát độ ngẫu nhiên. Giá trị cao tăng cường khả năng sáng tạo nhưng giảm độ chính xác. Giá trị thấp khiến đầu ra mang tính xác định và chính xác hơn. Sử dụng nhiệt độ cao cho việc tạo mã sẽ gây ra lỗi cú pháp. Sử dụng nhiệt độ thấp cho văn học sáng tạo khiến văn bản trở nên lặp lại và nhàm chán.
Điều chỉnh nhiệt độ dựa trên nhiệm vụ của bạn. Sử dụng các giá trị thấp hơn cho gọi hàm hoặc chế độ JSON. Sử dụng các giá trị cao hơn cho việc tạo truyện hoặc brainstorming. LLM không kiểm duyệt của chúng tôi phản hồi tốt với những điều chỉnh này. Thử nghiệm các giá trị khác nhau để tìm sự cân bằng phù hợp cho trường hợp sử dụng của bạn.
Lỗi 7: Không kiểm tra cấu trúc đầu ra chế độ JSON sớm
LLM không phải là cơ sở dữ liệu. Chúng tạo ra văn bản trông giống như JSON. Lỗi xảy ra khi mô hình xuất ra văn bản bổ sung hoặc cú pháp không hợp lệ. Phân tích thất bại nếu bạn không xác thực đầu ra. Dựa vào mô hình để tạo ra JSON hoàn hảo mỗi lần là rủi ro. Luôn triển khai cơ chế thử lại cho JSON không hợp lệ.
Chúng tôi hỗ trợ chế độ JSON thông qua response_format json_object. Điều này buộc mô hình xuất ra JSON hợp lệ. Nó vẫn có thể tạo ra các đối tượng rỗng hoặc thiếu trường. Hãy xác thực cấu trúc trước khi sử dụng dữ liệu. Điều này tiết kiệm thời gian gỡ lỗi sau này trong quy trình.
Lỗi 8: Giả định tín dụng hết hạn như gói đăng ký
Nhiều nhà cung cấp API tính phí hàng tháng có thời hạn. Mô hình của chúng tôi khác biệt. Bạn trả tiền cho những gì bạn sử dụng. Tín dụng trả trước không bao giờ hết hạn. Nếu bạn nạp $100, số dư đó vẫn khả dụng vô thời hạn. Điều này lý tưởng cho các dự án ngắt quãng hoặc lưu trữ dài hạn. Bạn không mất tiền khi chờ đợi.
Chúng tôi tính phí dựa trên lượng token thực tế đã sử dụng. Lỗi và từ chối đều miễn phí. Điều này có nghĩa là bạn chỉ trả tiền cho các kết quả hoàn tất thành công. Nạp tiền chỉ bằng tiền điện tử. Không có phí hàng tháng có nghĩa là không có khoản phí bất ngờ. Sử dụng mô hình trả trước để có chi phí dài hạn có thể dự đoán.
