Dolphin AI: Lista kontrolna produkcyjna dla LLM bez cenzury

Zweryfikuj politykę treści bez cenzury

Tak, model nie odmawia przetwarzania legalnych treści dla dorosłych, fikcyjnych, badawczych (security-research) lub kontrowersyjnych.

W przeciwieństwie do standardowych LLM-ów, które stosują ukryte filtry bezpieczeństwa, model AI bez cenzury pozwala na generowanie treści NSFW lub eksplorację przypadków brzegowych bez niespodziewanych odmów. Powinieneś zweryfikować to, wysyłając żądanie, które zwykle wywołuje blokadę bezpieczeństwa w modelach komercyjnych. Jeśli odpowiedź zwraca tekst zamiast odmowy, polityka działa zgodnie z przeznaczeniem. Należy pamiętać, że zawsze obowiązuje twardy limit treści: żądania dotyczące treści seksualnych z udziałem nieletnich są odrzucane. Jest to standardowa granica prawna, a nie filtr stylistyczny.

Podczas testowania używaj promptów, które są technicznie poprawne, ale społecznie ograniczone. Potwierdza to, że model jest naprawdę uncensored dla Twojego konkretnego przypadku użycia. Pamiętaj, że dotyczy to tylko generacji tekstu. Nie ma generacji obrazów ani audio, więc zdolność uncensored dotyczy ściśle tekstu.

Sprawdź limity okna kontekstu

Tak, okno kontekstowe obsługuje 100 000 tokenów dla promptu i uzupełnienia łącznie.

Duże okno pozwala na przetwarzanie rozległych dokumentów lub długich rozmów w jednym żądaniu. Musisz jednak uwzględnić limit maksymalnego wyjścia. Możesz poprosić o do 16,000 tokenów na odpowiedź. Jeśli nie ustawisz max_tokens parametr, model domyślnie generuje 2,048 tokenów. Ta różnica jest krytyczna dla zadań generowania długich tekstów.

Projektując swoją aplikację, upewnij się, że Twoja biblioteka klienta poprawnie obsługuje długie odpowiedzi. Strumieniowanie jest często konieczne do zarządzania zużyciem pamięci dla dużych wyjść. Limit 100,000 tokenów dotyczy całkowitego rozmiaru żądania. Oznacza to, że Twój prompt wejściowy i wygenerowane wyjście dzielą ten budżet. Zaplanuj swoje użycie tokenów odpowiednio, aby uniknąć przycinania lub błędów.

Potwierdź obsługę strumieniowania

Tak, strumieniowanie jest obsługiwane przez Server-Sent Events (SSE).

Strumieniowanie pozwala odbierać tokeny w miarę ich generowania, zmniejszając postrzeganą opóźnienie dla użytkowników. Jest to niezbędne dla interfejsów czatu i aplikacji w czasie rzeczywistym. API zwraca informacje o użyciu tokenów w ostatnim fragmencie strumienia. Zapewnia to możliwość dokładnego śledzenia kosztów nawet podczas strumieniowania.

Aby to zaimplementować, użyj stream parametr w żądaniu. Twoja biblioteka klienta powinna poprawnie obsługiwać strumień SSE. Nie wszystkie SDK obsługują strumieniowanie równie dobrze. Przetestuj swoją implementację, aby upewnić się, że nie traci tokenów ani nie opóźnia wyświetlania. Strumieniowanie jest standardową funkcją we współczesnych API LLM. Znacznie poprawia doświadczenie użytkownika dla długich odpowiedzi.

Przetestuj możliwości wywoływania funkcji

Tak, wywoływanie funkcji jest obsługiwane z narzędziami i tool_choice.

Wywoływanie funkcji pozwala modelowi na generowanie strukturalnych danych, które Twoja aplikacja może wykonać. Jest to kluczowe dla budowania agentów lub złożonych przepływów pracy. Definiujesz narzędzia w żądaniu, a model odpowiada strukturalnym obiektem JSON zawierającym nazwę funkcji i argumenty.

Przetestuj to, definiując proste narzędzie, np. wyszukiwanie pogody lub kalkulator. Wyślij żądanie, które uruchomi narzędzie. Zweryfikuj, czy model zwraca poprawną nazwę funkcji i prawidłowe argumenty. Potwierdza to, że model rozumie schemat narzędzia. Wywoływanie funkcji to kluczowa funkcja zaawansowanych aplikacji LLM. Upewnij się, że Twoja biblioteka klienta poprawnie parsuje odpowiedź.

Zweryfikuj stabilność trybu JSON

Tak, tryb JSON jest obsługiwany poprzez response_format parametr.

Ustawianie response_format do json_object wymusza na modelu output w formacie poprawnego JSON. Jest to przydatne do parsowania danych strukturalnych bez polegania na wywoływaniu funkcji. Zapewnia, że output jest czytelny dla maszyn. Funkcja jest stabilna i niezawodna przy ekstrakcji danych strukturalnych.

Przetestuj to, wysyłając prompt wymagający konkretnej struktury JSON. Zweryfikuj, czy wynik parsuje się poprawnie bez błędów. Tryb JSON jest niezbędny do integracji LLM z istniejącymi systemami. Redukuje potrzebę przetwarzania wstępnego w celu naprawy nieprawidłowego wyniku. Upewnij się, że Twoja aplikacja obsługuje błędy parsowania JSON w sposób elegancki.

Przejrzyj przezroczystość cen

Tak, cennik jest przejrzysty z jasnym rozliczeniem za token.

Koszt wynosi $0.15 za milion tokenów wejściowych i $0.50 za milion tokenów wyjściowych. Nie ma ukrytych opłat ani blokad subskrypcyjnych. Płacisz tylko za to, czego używasz. Błędy i odrzucenia są darmowe, co zmniejsza ryzyko podczas testów. Ten model to tani interfejs API LLM do przypadków użycia o wysokim wolumenie.

Kredyt prepaid jest naliczany na podstawie rzeczywistego zużycia tokenów. Kredyt nie wygasa. Jest to rozwiązanie inne niż modele subskrypcyjne, które pobierają opłatę miesięcznie niezależnie od użytkowania. Doładuj środki w dowolnym momencie. Ceny są przejrzyste i przewidywalne. Obliczaj koszty na podstawie spodziewanej liczby tokenów. Ta przejrzystość pomaga w dokładnym planowaniu budżetu projektów.

Oceń elastyczność płatności

Tak, płatność jest elastyczna, ale ograniczona do kryptowalut.

Możesz doładować konto USDT w sieci TRC20 lub USDC w sieci Base. Minimalna kwota to $20, a maksymalna to $500. Istnieją kredyty bonusowe za większe doładowania: +5% przy $50, +10% przy $100 oraz +15% przy $200. Pozwala to przetestować API bez zobowiązań. Rejestracja odbywa się przez Google lub e-mail. Klucz API jest wyświetlany natychmiast. Ten usprawniony proces zmniejsza tarcie dla deweloperów. Upewnij się, że Twoja bramka płatnicza obsługuje określone kryptowaluty. Kredyty bonusowe zwiększają wartość dla użytkowników intensywnie korzystających z usługi.

Sprawdź prywatność i wykorzystanie danych

Tak, Twoje dane są prywatne i nie są używane do trenowania.

Gdy wyślesz żądanie, podpowiedzi nie są używane do trenowania modelu. Jest to kluczowe dla danych własnościowych lub wrażliwych. Konto wymaga tylko adresu e-mail. Nie jest potrzebny numer telefonu. Minimalizuje to zbieranie danych osobowych. Zachowujesz pełną kontrolę nad swoimi danymi.

Zweryfikuj to, sprawdzając regulamin lub dokumentację API. Upewnij się, że Twoja biblioteka klienta nie loguje promptów bez potrzeby. Prywatność jest kluczowa dla użytkowników enterprise. Bezcenzuralny charakter modelu oznacza, że możesz wysyłać treści wrażliwe bez obaw, że będą one wykorzystywane do trenowania. Jest to znacząca przewaga nad modelami komercyjnymi, które wykorzystują dane do ulepszania modeli.

Przetestuj limity szybkości i współbieżność

Tak, limity szybkości są ustawione na 300 żądań na minutę i 8 równoległych żądań na klucz.

Pozwala to na aplikacje o wysokim przepływie bez nadmiernego ograniczania. Limit ciała żądania wynosi 8 MB. Pozwala to na duże wejścia. Dozwolony jest jeden aktywny klucz na konto. Nowy klucz zastępuje stary. Upraszcza to zarządzanie kluczami.

Przetestuj swoją aplikację pod obciążeniem, aby upewnić się, że poprawnie obsługuje te limity. Zaimplementuj logikę ponownych prób w przypadku błędów limitu szybkości. Limit współbieżności jest ważny dla przetwarzania równoległego. Upewnij się, że Twoja biblioteka klienta respektuje te limity. Zapobiega to przeciążeniu interfejsu API i zapewnia spójną wydajność. Limit 8 MB jest wystarczający dla większości przypadków użycia.