Dolphin AI: Productiechecklist voor Ongestureerde LLM's

Verifieer ongecensureerd inhoudsbeleid

Ja, het model weigert wettelijke volwassen, fictieve, beveiligingsonderzoeks- of controversiële onderwerpen niet.

In tegenstelling tot standaard LLM's die verborgen veiligheidsfilters toepassen, stelt een uncensored AI-model je in staat NSFW-inhoud te genereren of randgevallen te verkennen zonder onverwachte weigeringen. Je kunt dit verifiëren door een verzoek te sturen dat normaal gesproken een veiligheidsblok activeert in commerciële modellen. Als de respons tekst retourneert in plaats van een weigering, werkt het beleid zoals bedoeld. Let op: er geldt altijd een harde contentlimiet: verzoeken die seksuele inhoud met minderjarigen betreffen, worden geweigerd. Dit is een standaard juridische grens, geen stijlfilter.

Bij het testen, gebruik prompts die technisch geldig zijn maar sociaal beperkt. Dit bevestigt dat het model echt ongefilterd is voor uw specifieke use case. Onthoud dat dit alleen van toepassing is op tekstgeneratie. Er is geen beeld- of audiogeneratie, dus de ongefilterde mogelijkheid is strikt voor tekst.

Controleer contextvensterlimieten

Ja, het contextvenster ondersteunt 100.000 tokens voor zowel prompt als completion samen.

Dit grote venster stelt je in staat uitgebreide documenten of lange gesprekken in één verzoek te verwerken. Je moet echter rekening houden met de max output-limiet. Je kunt tot 16,000 tokens per respons aanvragen. Als je de max_tokens parameter is het model standaard 2.048 tokens. Dit onderscheid is cruciaal voor taakgerichte generatie van lange teksten.

Bij het ontwerpen van je applicatie, zorg ervoor dat je client library lange responsen correct verwerkt. Streaming is vaak noodzakelijk om geheugengebruik voor grote outputs te beheren. De limiet van 100.000 tokens geldt voor de totale verzendgrootte. Dit betekent dat je input prompt en de gegenereerde output dit budget delen. Plan je tokengebruik dienovereenkomstig om truncatie of fouten te vermijden.

Bevestig streaming ondersteuning

Ja, streaming wordt ondersteund via Server-Sent Events (SSE).

Streaming stelt je in staat om tokens te ontvangen zodra ze worden gegenereerd, wat de waargenomen latentie voor gebruikers vermindert. Dit is essentieel voor chatinterfaces en real-time applicaties. De API retourneert token-gebruiksgegevens in het laatste chunk van de stream. Dit zorgt ervoor dat je kosten nauwkeurig kunt bijhouden, zelfs bij streaming.

Om dit te implementeren, gebruik je de stream parameter in je request. Je clientbibliotheek moet de SSE-stream correct afhandelen. Niet alle SDK's hanteren streaming even goed. Test je implementatie om ervoor te zorgen dat deze geen tokens verliest of de weergave vertraagt. Streaming is een standaardfunctie in moderne LLM-API's. Het verbetert de gebruikerservaring aanzienlijk voor lange reacties.

Test function calling mogelijkheden

Ja, function calling wordt ondersteund met tools en tool_choice.

Function calling stelt het model in staat gestructureerde data uit te voeren die je applicatie kan uitvoeren. Dit is cruciaal voor het bouwen van agents of complexe workflows. Je definieert de tools in het request, en het model reageert met een gestructureerd JSON-object dat de functienaam en argumenten bevat.

Test dit door een eenvoudige tool te definiëren, zoals een weeropzoekfunctie of een rekenmachine. Stuur een verzoek dat de tool activeert. Verifieer dat het model de juiste functienaam en geldige argumenten uitvoert. Dit bevestigt dat het model de toolschema's begrijpt. Function calling is een belangrijke functie voor geavanceerde LLM-toepassingen. Zorg dat uw clientbibliotheek de respons correct parseert.

Stabiliteit van JSON-modus valideren

Ja, JSON-modus wordt ondersteund via de response_format parameter.

Instellen response_format naar json_object forceert het model om geldige JSON uit te voeren. Dit is nuttig voor het parseren van gestructureerde gegevens zonder afhankelijk te zijn van function calling. Het zorgt ervoor dat de output machine-leesbaar is. Deze functie is stabiel en betrouwbaar voor het extraheren van gestructureerde gegevens.

Test dit door een prompt te sturen die een specifieke JSON-structuur vereist. Verifieer dat de output correct wordt geparsed zonder fouten. JSON-modus is essentieel voor het integreren van LLMs in bestaande systemen. Het vermindert de behoefte aan nabewerking om slecht gevormde output te repareren. Zorg dat uw applicatie fouten bij JSON-parsing op een beheersbare manier afhandelt.

Review prijstransparantie

Ja, de prijzen zijn transparant met duidelijke per-token facturering.

De kosten bedragen $0,15 per miljoen input tokens en $0,50 per miljoen output tokens. Er zijn geen verborgen kosten of abonnementsbindende contracten. Je betaalt alleen voor wat je gebruikt. Fouten en weigeringen zijn gratis, wat het risico bij het testen vermindert. Dit model is een goedkope LLM API voor use cases met een hoog volume.

Prepaid tegoed wordt berekend op basis van daadwerkelijk tokengebruik. Het tegoed vervalt niet. Dit verschilt van abonnementsmodellen die maandelijks rekenen, ongeacht het gebruik. Je kunt altijd opladen. De prijzen zijn eenvoudig en voorspelbaar. Bereken je kosten op basis van je verwachte tokenvolume. Deze transparantie helpt je om je budget nauwkeurig te plannen voor je projecten.

Betalingsflexibiliteit beoordelen

Ja, betaling is flexibel maar beperkt tot crypto.

Je kunt tegoeden bijbetalen met USDT op TRC20 of USDC op Base. Het minimumbedrag is $20 en het maximum bedraagt $500. Er zijn bonus tegoeden voor grotere top-ups: +5% vanaf $50, +10% vanaf $100 en +15% vanaf $200. Dit stelt je in staat de API te testen zonder verplichting. Aanmelden kan via Google of e-mail. De API-sleutel wordt direct getoond. Dit gestroomlijnde proces vermindert wrijving voor ontwikkelaars. Zorg dat je betaalgateway de opgegeven cryptocurrencies ondersteunt. De bonus tegoeden bieden meerwaarde voor intensieve gebruikers.

Controleer privacy en gegevensgebruik

Ja, je data is privé en wordt niet gebruikt voor training.

Wanneer je een verzoek verstuurt, worden de prompts niet gebruikt om het model te trainen. Dit is cruciaal voor eigendomsdata of gevoelige inhoud. Het account vereist alleen een e-mailadres. Er is geen telefoonnummer nodig. Dit minimaliseert het verzamelen van persoonlijke gegevens. Je behoudt volledige controle over je data.

Verifieer dit door de servicevoorwaarden of API-documentatie te controleren. Zorg dat je clientbibliotheek prompts niet onnodig logt. Privacy is een belangrijk aandachtspunt voor enterprise-gebruikers. Het uncensored-karakter van het model betekent dat je gevoelige inhoud kunt versturen zonder angst dat deze wordt gebruikt voor training. Dit is een aanzienlijk voordeel ten opzichte van commerciële modellen die data gebruiken voor verbetering.

Test rate limits en concurrency

Ja, rate limits zijn ingesteld op 300 verzoeken per minuut en 8 gelijktijdige verzoeken per sleutel.

Hiermee zijn applicaties met hoge doorvoer mogelijk zonder excessieve throttling. De limiet voor de request body is 8 MB. Dit ondersteunt grote inputs. Er is één actieve sleutel toegestaan per account. Een nieuwe sleutel vervangt de oude. Dit vereenvoudigt het sleutelbeheer.

Test uw applicatie onder belasting om te verzekeren dat deze de limieten correct verwerkt. Implementeer retry-logica voor rate limit-fouten. De concurrency-limiet is belangrijk voor parallelle verwerking. Zorg ervoor dat uw clientbibliotheek zich aan deze limieten houdt. Dit voorkomt overbelasting van de API en zorgt voor consistente prestaties. De limiet van 8 MB is voldoende voor de meeste use cases.