Dolphin AI: अनकैप्ड LLMs के लिए प्रोडक्शन चेकलिस्ट

सत्यापित करें कि यह वास्तविक बिना-अनसेंसर्ड सामग्री नीति

हाँ, मॉडल कानूनी वयस्क, काल्पनिक, सिक्योरिटी-रिसर्च या विवादास्पद विषयों को अस्वीकार नहीं करता है।

मानक LLMs के विपरीत जो छिपे हुए सुरक्षा फिल्टर लागू करते हैं, एक अनसेंसर्ड AI मॉडल आपको NSFW सामग्री उत्पन्न करने या एज केस का पता लगाने की अनुमति देता है बिना अप्रत्याशित अस्वीकृति के। आपको इसकी पुष्टि एक ऐसे अनुरोध भेजकर करनी चाहिए जो आमतौर पर वाणिज्यिक मॉडल में सुरक्षा ब्लॉक ट्रिगर करता है। यदि प्रतिक्रिया अस्वीकृति के बजाय टेक्स्ट लौटाती है, तो नीति उद्देश्य के अनुसार काम कर रही है। ध्यान दें कि एक कठिन सामग्री सीमा हमेशा लागू होती है: शिशुओं के साथ यौन सामग्री वाले अनुरोध अस्वीकार कर दिए जाते हैं। यह एक मानक कानूनी सीमा है, शैलीगत फिल्टर नहीं।

परीक्षण करते समय, ऐसे प्रॉम्प्ट का उपयोग करें जो तकनीकी रूप से मान्य हैं लेकिन सामाजिक रूप से प्रतिबंधित हैं। यह पुष्टि करता है कि मॉडल वास्तव में आपके विशिष्ट उपयोग मामले के लिए uncensored है। याद रखें, यह पाठ जनरेशन तक ही लागू होता है। कोई छवि या ऑडियो जनरेशन नहीं है, इसलिए uncensored क्षमता पाठ के लिए ही सख्त है।

संदर्भ विंडो सीमाओं की जांच करें

हाँ, संदर्भ विंडो प्रॉम्प्ट और पूर्णता को मिलाकर 100,000 टोकन का समर्थन करती है।

यह बड़ा विंडो आपको एक ही अनुरोध में व्यापक दस्तावेज़ों या लंबी बातचीत को संसाधित करने की अनुमति देता है। हालांकि, आपको अधिकतम आउटपुट सीमा को ध्यान में रखना होगा। आप प्रत्येक प्रतिक्रिया के लिए 16,000 टोकन तक अनुरोध कर सकते हैं। यदि आप सेट नहीं करते हैं max_tokens पैरामीटर, मॉडल 2,048 टोकन पर डिफ़ॉल्ट होता है। यह लंबे-रूप जनरेशन टास्क के लिए महत्वपूर्ण है।

अपने एप्लिकेशन को डिज़ाइन करते समय, सुनिश्चित करें कि आपका क्लाइंट लाइब्रेरी लंबे प्रतिक्रियाओं को सही ढंग से संभालती है। स्ट्रीमिंग अक्सर बड़े आउटपुट के लिए मेमोरी उपयोग प्रबंधित करने के लिए आवश्यक होती है। 100,000-टोकन सीमा कुल अनुरोध आकार पर लागू होती है। इसका मतलब है कि आपका इनपुट प्रॉम्प्ट और जनरेटेड आउटपुट इस बजट को साझा करते हैं। ट्रंकेशन या त्रुटियों से बचने के लिए अपने टोकन उपयोग की योजना बनाएं।

स्ट्रीमिंग सपोर्ट की पुष्टि करें

हाँ, स्ट्रीमिंग सर्वर-सेंट इवेंट्स (SSE) के माध्यम से समर्थित है।

स्ट्रीमिंग की मदद से आप टोकन को जनरेट होते ही प्राप्त कर सकते हैं, जिससे यूजर के लिए प्रतीत होने वाली लेटेंसी कम हो जाती है। यह चैट इंटरफेस और रियल-टाइम एप्लिकेशन के लिए आवश्यक है। API स्ट्रीम के आखिरी चंक में टोकन उपयोग की जानकारी लौटाता है। यह सुनिश्चित करता है कि आप स्ट्रीमिंग करते समय भी लागत को सटीक रूप से ट्रैक कर सकें।

इसे लागू करने के लिए, का उपयोग करें stream पैरामीटर अपने अनुरोध में। आपका क्लाइंट लाइब्रेरी SSE स्ट्रीम को सही ढंग से संभालनी चाहिए। सभी SDK स्ट्रीमिंग को समान रूप से अच्छी तरह नहीं संभालते हैं। यह सुनिश्चित करने के लिए अपनी कार्यान्वयन का परीक्षण करें कि यह टोकन न छोड़े या प्रदर्शन में विलंब न करे। स्ट्रीमिंग आधुनिक LLM APIs में एक मानक सुविधा है। यह लंबी प्रतिक्रियाओं के लिए उपयोगकर्ता अनुभव को काफी बेहतर बनाती है।

फंक्शन कॉलिंग क्षमताओं का परीक्षण करें

हाँ, फंक्शन कॉलिंग tools और tool_choice के साथ समर्थित है।

फंक्शन कॉलिंग मॉडल को संरचित डेटा आउटपुट करने की अनुमति देती है जिसे आपकी एप्लिकेशन निष्पादित कर सकती है। यह एजेंट्स या जटिल वर्कफ्लो बनाने के लिए महत्वपूर्ण है। आप अनुरोध में टूल्स परिभाषित करते हैं, और मॉडल फंक्शन के नाम और तर्कों वाले एक संरचित JSON ऑब्जेक्ट के साथ प्रतिक्रिया देता है।

एक सरल टूल, जैसे कि मौसम खोज या कैलकुलेटर, परिभाषित करके इसका परीक्षण करें। एक अनुरोध भेजें जो टूल को ट्रिगर करता है। सत्यापित करें कि मॉडल सही फ़ंक्शन नाम और मान्य तर्क आउटपुट करता है। यह पुष्टि करता है कि मॉडल टूल स्कीमा को समझता है। फ़ंक्शन कॉलिंग उन्नत LLM एप्लिकेशनों के लिए एक प्रमुख सुविधा है। सुनिश्चित करें कि आपका क्लिएंट लाइब्रेरी प्रतिक्रिया को सही ढंग से पार्स करती है।

JSON मोड स्थिरता की जाँच करें

हाँ, JSON मोड का समर्थन किया जाता है response_format पैरामीटर।

सेटिंग response_format को json_object मॉडल को वैध JSON आउटपुट करने के लिए मजबूर करता है। यह स्ट्रक्चर्ड डेटा को पार्स करने के लिए उपयोगी है बिना फंक्शन कॉलिंग पर निर्भर हुए। यह सुनिश्चित करता है कि आउटपुट मशीन-रीडेबल हो। यह फीचर स्ट्रक्चर्ड डेटा एक्सट्रैक्शन के लिए स्थिर और विश्वसनीय है।

एक ऐसे प्रॉम्प्ट को भेजकर इसका परीक्षण करें जिसके लिए एक विशिष्ट JSON संरचना की आवश्यकता है। सत्यापित करें कि आउटपुट त्रुटियों के बिना सही ढंग से पार्स होता है। JSON मोड LLMs को मौजूदा सिस्टम में एकीकृत करने के लिए आवश्यक है। यह खराब आउटपुट को ठीक करने के लिए पोस्ट-प्रोसेसिंग की आवश्यकता को कम करता है। सुनिश्चित करें कि आपका एप्लिकेशन JSON पार्सिंग त्रुटियों को सहजता से संभालता है।

मूल्य निर्धारण पारदर्शिता की समीक्षा करें

हाँ, प्राइसिंग पारदर्शी है जिसमें स्पष्ट पे-पर-टोकन बिलिंग है।

लागत 1 मिलियन इनपुट टोकन प्रति $0.15 और 1 मिलियन आउटपुट टोकन प्रति $0.50 है। कोई छिपे हुए शुल्क या सब्सक्रिप्शन लॉक नहीं हैं। आप केवल उसी के लिए भुगतान करते हैं जिसका आप उपयोग करते हैं। त्रुटियां और अस्वीकृतियां मुफ्त हैं, जिससे परीक्षण के लिए जोखिम कम होता है। यह उच्च-वॉल्यूम उपयोग मामलों के लिए एक सस्ता LLM API है।

प्रीपेड क्रेडिट वास्तविक टोकन उपयोग के आधार पर चार्ज किया जाता है। क्रेडिट कभी समाप्त नहीं होता। यह उन सब्सक्रिप्शन मॉडल से अलग है जो उपयोग की परवाह किए बिना मासिक शुल्क लेते हैं। आप किसी भी समय टॉप-अप कर सकते हैं। मूल्य निर्धारण सीधा और पूर्वानुमेय है। अपने अपेक्षित टोकन मात्रा के आधार पर अपनी लागत की गणना करें। यह पारदर्शिता आपको अपने प्रोजेक्टों के लिए सटीक बजट बनाने में मदद करती है।

भुगतान लचीलेपन का आकलन करें

हाँ, भुगतान लचीला है लेकिन केवल क्रिप्टो तक सीमित है।

आप TRC20 पर USDT या Base पर USDC के साथ टॉप-अप कर सकते हैं। न्यूनतम राशि $20 है, और अधिकतम $500 है। बड़े टॉप-अप के लिए बोनस क्रेडिट उपलब्ध हैं: $50 से +5%, $100 से +10%, और $200 से +15%। इससे आपको बिना किसी प्रतिबद्धता के API का परीक्षण करने की अनुमति मिलती है। साइन-अप Google या ईमेल के माध्यम से होता है। API कुंजी तुरंत दिखाई जाती है। यह सुगठित प्रक्रिया डेवलपर्स के लिए बाधाओं को कम करती है। सुनिश्चित करें कि आपका भुगतान गेटवे निर्दिष्ट क्रिप्टोकरेंसी को समर्थन करता है। बोनस क्रेडिट भारी उपयोगकर्ताओं के लिए मूल्य जोड़ते हैं।

गोपनीयता और डेटा उपयोग जांचें

हाँ, आपका डेटा निजी है और ट्रेनिंग के लिए उपयोग नहीं किया जाता है।

जब आप एक अनुरोध भेजते हैं, तो प्रॉम्प्ट्स का उपयोग मॉडल को प्रशिक्षित करने के लिए नहीं किया जाता है। यह स्वामित्व वाले डेटा या संवेदनशील सामग्री के लिए महत्वपूर्ण है। खाते के लिए केवल एक ईमेल पते की आवश्यकता होती है। फोन नंबर की आवश्यकता नहीं है। यह व्यक्तिगत डेटा संग्रह को न्यूनतम करता है। आप अपने डेटा पर पूर्ण नियंत्रण बनाए रखते हैं।

इसे सेवा की शर्तों या API दस्तावेज़ीकरण की जाँच करके सत्यापित करें। सुनिश्चित करें कि आपका क्लाइंट लाइब्रेरी प्रॉम्प्ट्स को अनावश्यक रूप से लॉग नहीं करता है। गोपनीयता एंटरप्राइज उपयोगकर्ताओं के लिए एक प्रमुख चिंता है। मॉडल की अनसेंसर्ड प्रकृति का अर्थ है कि आप बिना किसी भय के संवेदनशील सामग्री भेज सकते हैं कि इसे प्रशिक्षण के लिए उपयोग नहीं किया जाएगा। यह उन वाणिज्यिक मॉडलों के सापेक्ष एक महत्वपूर्ण लाभ है जो डेटा का उपयोग सुधार के लिए करते हैं।

रेट लिमिट्स और कन्करेंसी का परीक्षण करें

हाँ, रेट लिमिट्स प्रति मिनट 300 रिक्वेस्ट और प्रति की 8 कंकरेंट रिक्वेस्ट के लिए सेट किए गए हैं।

इससे अत्यधिक थ्रॉटलिंग के बिना उच्च-थ्रूपुट एप्लिकेशन संभव होते हैं। अनुरोध बॉडी की सीमा 8 MB है। यह बड़े इनपुट का समर्थन करता है। प्रति खाता केवल एक सक्रिय कुंजी की अनुमति है। एक नई कुंजी पुरानी कुंजी को प्रतिस्थापित कर देती है। यह कुंजी प्रबंधन को सरल बनाता है।

लोड के तहत अपनी एप्लिकेशन का परीक्षण करें ताकि यह सुनिश्चित हो सके कि यह सीमाओं को सही ढंग से संभालती है। रेट लिमिट त्रुटियों के लिए रीट्राई लॉजिक लागू करें। कन्करेंसी लिमिट समानांतर प्रसंस्करण के लिए महत्वपूर्ण है। सुनिश्चित करें कि आपका क्लाइंट लाइब्रेरी इन सीमाओं का सम्मान करती है। यह एपीआई पर ओवरलोडिंग को रोकता है और स्थिर प्रदर्शन सुनिश्चित करता है। 8 MB की सीमा अधिकांश उपयोग मामलों के लिए पर्याप्त है।