Dolphin AI: Danh sách kiểm tra sản xuất cho LLM không kiểm duyệt

Xác minh chính sách nội dung không kiểm duyệt

Đúng, mô hình không từ chối các chủ đề người trưởng thành hợp pháp, hư cấu, nghiên cứu bảo mật hoặc gây tranh cãi.

Khác với các mô hình LLM tiêu chuẩn áp dụng các bộ lọc an toàn ẩn, một mô hình AI không kiểm duyệt cho phép bạn tạo nội dung NSFW hoặc khám phá các trường hợp biên mà không bị từ chối bất ngờ. Bạn nên xác minh điều này bằng cách gửi một yêu cầu thường kích hoạt khối an toàn trong các mô hình thương mại. Nếu phản hồi trả về văn bản thay vì lời từ chối, chính sách đang hoạt động như mong đợi. Lưu ý rằng luôn có một giới hạn nội dung cứng: các yêu cầu liên quan đến nội dung tình dục với trẻ vị thành niên sẽ bị từ chối. Đây là một ranh giới pháp lý tiêu chuẩn, không phải là bộ lọc phong cách.

Khi kiểm thử, hãy sử dụng các prompt hợp lệ về mặt kỹ thuật nhưng bị hạn chế về mặt xã hội. Điều này xác nhận rằng mô hình thực sự không kiểm duyệt cho trường hợp sử dụng cụ thể của bạn. Lưu ý rằng điều này chỉ áp dụng cho việc tạo văn bản. Không có tạo hình ảnh hoặc âm thanh, vì khả năng không kiểm duyệt là nghiêm ngặt dành cho văn bản.

Kiểm tra giới hạn cửa sổ ngữ cảnh

Có, cửa sổ ngữ cảnh hỗ trợ 100.000 token cho cả prompt và completion cộng lại.

Cửa sổ lớn này cho phép bạn xử lý các tài liệu rộng rãi hoặc các cuộc hội thoại dài trong một yêu cầu duy nhất. Tuy nhiên, bạn phải tính đến giới hạn đầu ra tối đa. Bạn có thể yêu cầu lên đến 16,000 token cho mỗi phản hồi. Nếu bạn không đặt max_tokens tham số, mô hình mặc định là 2.048 token. Sự khác biệt này rất quan trọng đối với các tác vụ tạo nội dung dài.

Khi thiết kế ứng dụng của bạn, hãy đảm bảo thư viện khách hàng của bạn xử lý đúng các phản hồi dài. Phát trực tuyến thường cần thiết để quản lý việc sử dụng bộ nhớ cho các đầu ra lớn. Giới hạn 100.000 token áp dụng cho kích thước yêu cầu tổng thể. Điều này có nghĩa là lời nhắc đầu vào của bạn và đầu ra được tạo chia sẻ ngân sách này. Hãy lập kế hoạch sử dụng token của bạn cho phù hợp để tránh cắt ngắn hoặc lỗi.

Xác nhận hỗ trợ streaming

Có, streaming được hỗ trợ qua Server-Sent Events (SSE).

Streaming cho phép bạn nhận token khi chúng được tạo ra, giảm độ trễ cảm nhận cho người dùng. Điều này rất cần thiết cho các giao diện trò chuyện và các ứng dụng thời gian thực. API trả về thông tin sử dụng token trong chunk cuối cùng của luồng. Điều này đảm bảo bạn có thể theo dõi chi phí chính xác ngay cả khi đang streaming.

Để triển khai điều này, hãy sử dụng stream tham số trong yêu cầu của bạn. Thư viện máy khách của bạn nên xử lý luồng SSE đúng cách. Không phải tất cả các SDK đều xử lý phát trực tuyến tốt như nhau. Kiểm tra triển khai của bạn để đảm bảo nó không làm mất token hoặc làm chậm việc hiển thị. Phát trực tuyến là một tính năng tiêu chuẩn trong các API LLM hiện đại. Nó cải thiện đáng kể trải nghiệm người dùng cho các phản hồi dài.

Kiểm tra khả năng gọi hàm

Có, gọi hàm được hỗ trợ với tools và tool_choice.

Gọi hàm cho phép mô hình xuất dữ liệu có cấu trúc mà ứng dụng của bạn có thể thực thi. Điều này rất quan trọng để xây dựng các tác nhân hoặc quy trình làm việc phức tạp. Bạn xác định các công cụ trong yêu cầu, và mô hình phản hồi bằng một đối tượng JSON có cấu trúc chứa tên hàm và các đối số.

Kiểm thử điều này bằng cách định nghĩa một công cụ đơn giản, chẳng hạn như tra cứu thời tiết hoặc máy tính. Gửi một yêu cầu kích hoạt công cụ. Xác minh rằng mô hình xuất ra tên hàm chính xác và các đối số hợp lệ. Điều này xác nhận mô hình hiểu lược đồ công cụ. Gọi hàm là một tính năng quan trọng cho các ứng dụng LLM nâng cao. Đảm bảo thư viện ứng dụng của bạn phân tích cú pháp phản hồi đúng cách.

Xác thực độ ổn định chế độ JSON

Đúng, chế độ JSON được hỗ trợ thông qua response_format tham số.

Đang thiết lập response_format để json_object buộc mô hình xuất ra JSON hợp lệ. Điều này hữu ích để phân tích cú pháp dữ liệu có cấu trúc mà không dựa vào gọi hàm. Nó đảm bảo đầu ra có thể đọc được bởi máy. Tính năng này ổn định và đáng tin cậy để trích xuất dữ liệu có cấu trúc.

Kiểm thử điều này bằng cách gửi một prompt yêu cầu một cấu trúc JSON cụ thể. Xác minh rằng đầu ra được phân tích cú pháp chính xác mà không có lỗi. Chế độ JSON rất cần thiết để tích hợp LLM vào các hệ thống hiện có. Nó giảm nhu cầu xử lý hậu kỳ để sửa đầu ra bị lỗi. Đảm bảo ứng dụng của bạn xử lý lỗi phân tích cú pháp JSON một cách khéo léo.

Xem lại tính minh bạch về giá cả

Có, giá cả minh bạch với việc tính phí theo token rõ ràng.

Chi phí là $0,15 cho mỗi 1 triệu token đầu vào và $0,50 cho mỗi 1 triệu token đầu ra. Không có phí ẩn hay khóa đăng ký. Bạn chỉ trả tiền cho những gì mình sử dụng. Lỗi và từ chối đều miễn phí, giúp giảm rủi ro khi thử nghiệm. Đây là một API LLM giá rẻ cho các trường hợp sử dụng khối lượng lớn.

Số dư trả trước được tính dựa trên lượng token thực tế. Số dư không bao giờ hết hạn. Điều này khác với các mô hình đăng ký tính phí hàng tháng bất kể mức sử dụng. Bạn có thể nạp tiền bất cứ lúc nào. Giá cả rõ ràng và dễ dự đoán. Hãy tính toán chi phí dựa trên khối lượng token dự kiến. Sự minh bạch này giúp bạn lập ngân sách chính xác cho các dự án của mình.

Đánh giá tính linh hoạt trong thanh toán

Có, việc thanh toán linh hoạt nhưng chỉ giới hạn ở tiền điện tử.

Bạn có thể nạp tiền bằng USDT trên mạng TRC20 hoặc USDC trên Base. Số tiền tối thiểu là $20 và tối đa là $500. Có tín dụng ưu đãi cho các khoản nạp lớn hơn: +5% từ $50, +10% từ $100 và +15% từ $200. Điều này cho phép bạn thử nghiệm API mà không cần cam kết. Đăng ký qua Google hoặc email. Khóa API được hiển thị ngay lập tức. Quy trình tinh giản này giảm bớt rào cản cho nhà phát triển. Đảm bảo cổng thanh toán của bạn hỗ trợ các loại tiền điện tử được chỉ định. Tín dụng ưu đãi mang lại giá trị cho người dùng nặng.

Kiểm tra quyền riêng tư và việc sử dụng dữ liệu

Có, dữ liệu của bạn là riêng tư và không được dùng để huấn luyện.

Khi bạn gửi yêu cầu, các prompt không được sử dụng để huấn luyện mô hình. Điều này rất quan trọng đối với dữ liệu độc quyền hoặc nội dung nhạy cảm. Tài khoản chỉ yêu cầu một địa chỉ email. Không cần số điện thoại. Điều này giảm thiểu việc thu thập dữ liệu cá nhân. Bạn giữ toàn quyền kiểm soát dữ liệu của mình.

Kiểm tra điều này bằng cách xem điều khoản dịch vụ hoặc tài liệu API. Đảm bảo thư viện khách hàng của bạn không ghi lại các prompt một cách không cần thiết. Quyền riêng tư là mối quan tâm chính của người dùng doanh nghiệp. Bản chất không kiểm duyệt của mô hình có nghĩa là bạn có thể gửi nội dung nhạy cảm mà không sợ dữ liệu được sử dụng để huấn luyện. Đây là lợi thế đáng kể so với các mô hình thương mại sử dụng dữ liệu để cải thiện.

Kiểm tra giới hạn tốc độ và độ đồng thời

Có, giới hạn tốc độ được đặt ở mức 300 requests mỗi phút và 8 concurrent requests mỗi key.

Điều này cho phép các ứng dụng có thông lượng cao mà không bị giới hạn quá mức. Giới hạn kích thước yêu cầu là 8 MB. Điều này hỗ trợ đầu vào lớn. Mỗi tài khoản chỉ được phép sử dụng một khóa hoạt động. Khóa mới sẽ thay thế khóa cũ. Điều này đơn giản hóa việc quản lý khóa.

Kiểm tra ứng dụng của bạn dưới tải để đảm bảo nó xử lý các giới hạn này đúng cách. Triển khai logic thử lại cho các lỗi giới hạn tốc độ. Giới hạn đồng thời rất quan trọng cho xử lý song song. Đảm bảo thư viện client của bạn tôn trọng các giới hạn này. Điều này ngăn ngừa việc quá tải API và đảm bảo hiệu suất ổn định. Giới hạn 8 MB là đủ cho hầu hết các trường hợp sử dụng.