Dolphin AI: Lista de verificación de producción para LLMs sin censura

Verifica la política de contenido sin censura

Sí, el modelo no rechaza temas adultos legales, ficticios, de investigación de seguridad o controvertidos.

A diferencia de los LLM estándar que aplican filtros de seguridad ocultos, un modelo de IA sin censura te permite generar contenido NSFW o explorar casos límite sin rechazos inesperados. Deberías verificarlo enviando una solicitud que normalmente desencadena un bloqueo de seguridad en los modelos comerciales. Si la respuesta devuelve texto en lugar de un rechazo, la política funciona como se espera. Ten en cuenta que siempre se aplica un límite estricto de contenido: se rechazan las solicitudes que involucren contenido sexual con menores. Este es un límite legal estándar, no un filtro de estilo.

Al probar, utiliza solicitudes que sean técnicamente válidas pero socialmente restringidas. Esto confirma que el modelo está realmente sin censura para tu caso de uso específico. Recuerda, esto se aplica solo a la generación de texto. No hay generación de imágenes ni de audio, por lo que la capacidad uncensored es estrictamente para texto.

Verificar límites de ventana de contexto

Sí, la ventana de contexto admite 100,000 tokens para la entrada y la salida combinadas.

Esta gran ventana te permite procesar documentos extensos o conversaciones largas en una sola solicitud. Sin embargo, debes tener en cuenta el límite máximo de salida. Puedes solicitar hasta 16,000 tokens por respuesta. Si no configuras el max_tokens parámetro, el modelo establece por defecto 2,048 tokens. Esta distinción es crítica para tareas de generación de texto largo.

Al diseñar tu aplicación, asegúrate de que tu biblioteca cliente maneje correctamente las respuestas largas. El streaming suele ser necesario para gestionar el uso de memoria en las salidas grandes. El límite de 100.000 tokens se aplica al tamaño total de la solicitud. Esto significa que tu prompt de entrada y la salida generada comparten este presupuesto. Planifica el uso de tokens en consecuencia para evitar truncamientos o errores.

Confirmar soporte para streaming

Sí, el streaming es compatible a través de Server-Sent Events (SSE).

El streaming te permite recibir tokens a medida que se generan, reduciendo la latencia percibida para los usuarios. Esto es esencial para interfaces de chat y aplicaciones en tiempo real. La API devuelve información sobre el uso de tokens en el último fragmento del stream. Esto asegura que puedas rastrear los costos con precisión incluso cuando se usa streaming.

Para implementar esto, usa el stream el parámetro en tu solicitud. Tu biblioteca cliente debe manejar el flujo SSE correctamente. No todos los SDK manejan la transmisión por igual. Prueba tu implementación para asegurarte de que no pierda tokens ni retrase la visualización. La transmisión es una característica estándar en las APIs de LLM modernas. Mejora significativamente la experiencia del usuario para respuestas largas.

Prueba las capacidades de llamada de funciones

Sí, se admite la llamada de funciones con herramientas y tool_choice.

La invocación de funciones permite al modelo generar datos estructurados que tu aplicación puede ejecutar. Esto es crucial para construir agentes o flujos de trabajo complejos. Defines las herramientas en la solicitud, y el modelo responde con un objeto JSON estructurado que contiene el nombre de la función y los argumentos.

Prueba esto definiendo una herramienta sencilla, como una búsqueda del clima o una calculadora. Envía una solicitud que active la herramienta. Verifica que el modelo genere el nombre de la función correcta y argumentos válidos. Esto confirma que el modelo entiende el esquema de la herramienta. La llamada de funciones es una característica clave para aplicaciones LLM avanzadas. Asegúrate de que tu biblioteca cliente analice la respuesta correctamente.

Validar estabilidad del modo JSON

Sí, se admite el modo JSON a través del response_format parámetro.

Configurando response_format para json_object obliga al modelo a producir JSON válido. Esto es útil para analizar datos estructurados sin depender de la llamada a funciones. Garantiza que la salida sea legible por máquina. Esta función es estable y fiable para la extracción de datos estructurados.

Prueba esto enviando un prompt que requiera una estructura JSON específica. Verifica que la salida se analice correctamente sin errores. El modo JSON es esencial para integrar LLMs en sistemas existentes. Reduce la necesidad de postprocesamiento para corregir salidas mal formadas. Asegúrate de que tu aplicación maneje los errores de análisis JSON de manera elegante.

Revisión la transparencia de precios

Sí, los precios son transparentes con facturación clara por token.

El costo es $0.15 por cada 1 millón de tokens de entrada y $0.50 por cada 1 millón de tokens de salida. No hay tarifas ocultas ni bloqueos de suscripción. Pagas solo por lo que usas. Los errores y las denegaciones son gratuitos, lo que reduce el riesgo para las pruebas. Este modelo es una API LLM económica para casos de uso de alto volumen.

El crédito prepagado se cobra según el uso real de tokens. El crédito nunca expira. Esto es diferente de los modelos de suscripción que cobran mensualmente independientemente del uso. Puedes recargar en cualquier momento. La tarifa es clara y predecible. Calcula tus costos basándote en tu volumen esperado de tokens. Esta transparencia te ayuda a presupuestar con precisión para tus proyectos.

Evaluar la flexibilidad de pago

Sí, el pago es flexible pero limitado a criptomonedas.

Puedes recargar con USDT en TRC20 o USDC en Base. El importe mínimo es de $20 y el máximo es de $500. Hay créditos bonificados para recargas mayores: +5% desde $50, +10% desde $100 y +15% desde $200. Esto te permite probar la API sin compromiso. El registro es vía Google o correo electrónico. La clave API se muestra inmediatamente. Este proceso simplificado reduce la fricción para los desarrolladores. Asegúrate de que tu pasarela de pago admita las criptomonedas especificadas. Los créditos bonificados añaden valor para usuarios intensivos.

Comprueba la privacidad y el uso de datos

Sí, tus datos son privados y no se utilizan para entrenamiento.

Cuando envías una solicitud, los prompts no se utilizan para entrenar el modelo. Esto es crucial para datos propietarios o contenido sensible. La cuenta requiere solo una dirección de correo electrónico. No se necesita número de teléfono. Esto minimiza la recopilación de datos personales. Conservas el control total sobre tus datos.

Verifícalo revisando los términos de servicio o la documentación de la API. Asegúrate de que tu biblioteca cliente no registre los prompts innecesariamente. La privacidad es una preocupación clave para los usuarios empresariales. La naturaleza sin censura del modelo significa que puedes enviar contenido sensible sin temor a que se utilice para entrenamiento. Esta es una ventaja significativa frente a los modelos comerciales que utilizan datos para mejorar.

Prueba límites de tasa y concurrencia

Sí, los límites de tasa están establecidos en 300 solicitudes por minuto y 8 solicitudes concurrentes por clave.

Esto permite aplicaciones de alto rendimiento sin throttling excesivo. El límite del cuerpo de la solicitud es de 8 MB. Esto admite entradas grandes. Se permite una clave activa por cuenta. Una nueva clave reemplaza a la anterior. Esto simplifica la gestión de claves.

Prueba tu aplicación bajo carga para asegurarte de que gestiona estos límites correctamente. Implementa lógica de reintento para errores de límite de velocidad. El límite de concurrencia es importante para el procesamiento paralelo. Asegúrate de que tu biblioteca cliente respete estos límites. Esto evita sobrecargar la API y garantiza un rendimiento constante. El límite de 8 MB es suficiente para la mayoría de los casos de uso.