Dolphin AI: Sansürsüz LLM'ler İçin Üretim Kontrol Listesi

Sansürsüz içerik politikasını doğrulayın

Evet, model yasal yetişkin, kurgusal, güvenlik araştırmaları veya tartışmalı konularda reddetmez.

Gizli güvenlik filtreleri uygulayan standart LLM'lerin aksine, sansürsüz bir AI modeli, beklenmedik reddetmeler olmadan NSFW içerik oluşturmanıza veya sınır durumlarını keşfetmenize olanak tanır. Ticari modellerde genellikle bir güvenlik engeli tetikleyecek bir istek göndererek bunu doğrulayabilirsiniz. Yanıt bir reddetme yerine metin döndürürse, politika amaçlandığı şekilde çalışıyor demektir. Not: Cinsel içerik içeren çocuklarla ilgili istekler her zaman reddedilir; katı bir içerik sınırı geçerlidir. Bu, stilistik bir filtre değil, standart bir yasal sınırdır.

Test ederken, teknik olarak geçerli ancak sosyal olarak kısıtlanmış istemler kullanın. Bu, modelin belirli kullanım durumunuz için gerçekten sansürsüz olduğunu doğrular. Unutmayın, bu yalnızca metin üretimi için geçerlidir. Görsel veya ses üretimi yoktur, bu nedenle sansürsüz yetenek yalnızca metin içindir.

Bağlam penceresi limitlerini kontrol et

Evet, bağlam penceresi hem istek hem de yanıt birlikte 100.000 tokenı destekler.

Bu geniş pencere, kapsamlı belgeleri veya uzun konuşmaları tek bir istekte işlemenize olanak tanır. Ancak maksimum çıktı sınırını hesaba katmanız gerekir. Yanıt başına 16,000 tokena kadar talep edebilirsiniz. Ayarlamazsanız max_tokens parametre, model varsayılan olarak 2.048 belirtece ayarlanır. Bu ayrım, uzun formatlı oluşturma görevleri için kritiktir.

Uygulamanızı tasarlarken, istemci kitaplığınızın uzun yanıtları doğru şekilde işlediğinden emin olun. Büyük çıktılar için bellek kullanımını yönetmek için akış (streaming) genellikle gereklidir. 100.000-jetonluk sınır toplam istek boyutuna uygulanır. Bu, girdi promptunuzun ve oluşturulan çıktının bu bütçeyi paylaştığı anlamına gelir. Kısaltma veya hatalardan kaçınmak için jeton kullanımınızı buna göre planlayın.

Akış desteğini onaylayın

Evet, akış Server-Sent Events (SSE) aracılığıyla desteklenir.

Streaming, tokenları üretildikleri anda almanızı sağlar, kullanıcılar için algılanan gecikmeyi azaltır. Bu, sohbet arayüzleri ve gerçek zamanlı uygulamalar için gereklidir. API, akışın son parçasında token kullanım bilgilerini döndürür. Bu, streaming sırasında bile maliyetleri doğru bir şekilde izleyebilmenizi sağlar.

Bunu uygulamak için stream parametresi isteğinizde. İstemci kütüphaneniz SSE akışını doğru şekilde işlemelidir. Tüm SDK'lar akışı eşit derecede iyi işlemeyebilir. Tokenların düşmediğinden veya gösterimin gecikmediğinden emin olmak için uygulamanızı test edin. Akış, modern LLM API'lerinde standart bir özelliktir. Uzun yanıtlar için kullanıcı deneyimini önemli ölçüde iyileştirir.

Fonksiyon çağırma yeteneklerini test edin

Evet, fonksiyon çağırma araçlar ve tool_choice ile desteklenir.

Fonksiyon çağırma, modelin uygulamanızın yürütebileceği yapılandırılmış veri çıkarmasına olanak tanır. Bu, ajanlar veya karmaşık iş akışları oluşturmak için kritiktir. Araçları istekte tanımlarsınız ve model, fonksiyon adını ve argümanları içeren yapılandırılmış bir JSON nesnesiyle yanıt verir.

Basit bir araç, örneğin hava durumu sorgulama veya hesap makine tanımlayarak test edin. Aracı tetikleyen bir istek gönderin. Modelin doğru işlev adını ve geçerli argümanları çıkardığını doğrulayın. Bu, modelin araç şemasını anladığını doğrular. İşlev çağırma, gelişmiş LLM uygulamaları için temel bir özelliktir. İstemci kitaplığınızın yanıtı doğru şekilde ayrıştırdığından emin olun.

JSON modu kararlılığını doğrula

Evet, JSON modu desteklenir response_format parametre.

Ayarlanıyor response_format için json_object modelin geçerli JSON çıktısı vermesini zorlar. Bu, işlev çağırmasına güvenmeden yapılandırılmış verileri ayrıştırmak için kullanışlıdır. Çıktının makine tarafından okunabilir olmasını sağlar. Bu özellik, yapılandırılmış veri çıkarma için kararlı ve güvenilirdir.

Belirli bir JSON yapısı gerektiren bir istek göndererek test edin. Çıktının hatasız şekilde ayrıştırıldığını doğrulayın. JSON modu, LLM'leri mevcut sistemlere entegre etmek için gereklidir. Bozuk çıktıları düzeltmek için post-işleme ihtiyacını azaltır. Uygulamanızın JSON ayrıştırma hatalarını zarif bir şekilde işlediğinden emin olun.

Gözden Geçirme fiyatlandırma şeffaflığı

Evet, fiyatlandırma şeffaftır ve açık token başına faturalandırma kullanılır.

Maliyet 1 milyon giriş token'ı başına $0.15 ve 1 milyon çıktı token'ı başına $0.50'dir. Gizli ücretler veya abonelik kilidi yoktur. Yalnızca kullandığınız için ödeme yaparsınız. Hatalar ve reddetmeler ücretsizdir, bu da testler için riski azaltır. Bu model, yüksek hacimli kullanım durumları için uygun maliyetli bir LLM API'sidir.

Ön ödemeli kredi, gerçek token kullanımına göre yüklenir. Kredi süresi dolmaz. Bu durum, kullanımdan bağımsız olarak aylık ücret alan abonelik modellerinden farklıdır. İstediğiniz zaman bakiye yükleyebilirsiniz. Fiyatlandırma basit ve öngörülebilirdir. Beklenen token hacmine göre maliyetlerinizi hesaplayın. Bu şeffaflık, projeleriniz için bütçenizi doğru bir şekilde planlamanıza yardımcı olur.

Ödeme esnekliğini değerlendir

Evet, ödeme esnektir ancak yalnızca kripto ile sınırlıdır.

TRC20 üzerinde USDT veya Base üzerinde USDC ile bakiye yükleyebilirsiniz. Minimum tutar $20 ve maksimum tutar $500'dür. Daha büyük yükleme tutarları için bonus krediler mevcuttur: $50 ve üzeri için +%5, $100 ve üzeri için +%10 ve $200 ve üzeri için +%15. Bu sayede API'yi taahhüt oluşturmadan test edebilirsiniz. Kayıt Google veya e-posta ile yapılır. API anahtarı hemen gösterilir. Bu sadeleştirilmiş süreç geliştiriciler için sürtünmeyi azaltır. Ödeme ağınızın belirtilen kripto paraları desteklediğinden emin olun. Bonus krediler yoğun kullanıcılar için değer katar.

Gizliliği ve veri kullanımını kontrol edin

Evet, verileriniz gizlidir ve eğitim için kullanılmaz.

Bir istek gönderdiğinizde, istemler modeli eğitmek için kullanılmaz. Bu, özel veriler veya hassas içerikler için kritiktir. Hesap için yalnızca bir e-posta adresi gerekir. Telefon numarası gerekmez. Bu, kişisel veri toplamayı minimize eder. Verileriniz üzerinde tam kontrole sahip olursunuz.

Kullanım şartlarını veya API belgelerini kontrol ederek bunu doğrulayın. İstemlerin gereğinden fazla günlüğe kaydedilmediğinden emin olun. Gizlilik, kurumsal kullanıcılar için önemli bir endişedir. Modelin sansürsüz olması, hassas içerik gönderirken eğitimi için kullanılmama korkusu olmadan hareket etmenizi sağlar. Bu, verileri iyileştirme amacıyla kullanan ticari modellere göre önemli bir avantajdır.

Hız limitlerini ve eşzamanlılığı test edin

Evet, hız sınırları dakikada 300 istek ve anahtar başına 8 eşzamanlı istek olarak ayarlanmıştır.

Bu, aşırı kısıtlama olmadan yüksek veri akışı olan uygulamalara olanak tanır. İstek gövdesi sınırı 8 MB'dir. Bu, büyük girdileri destekler. Hesap başına bir aktif ana izin verilir. Yeni anahtar eskisini değiştirir. Bu, anahtar yönetimini basitleştirir.

Uygulamanızı yük altında test edin ve bu limitleri doğru şekilde işleyip işlemediğinden emin olun. Hız sınırı hataları için yeniden deneme mantığı uygulayın. Eşzamanlılık limiti, paralel işleme için önemlidir. İstemci kitaplığınızın bu limitlere uyduğundan emin olun. Bu, API'nin aşırı yüklenmesini önler ve tutarlı performans sağlar. 8 MB limiti, çoğu kullanım durumu için yeterlidir.