Dolphin AI: Чек-лист для виробництва LLM без цензури
Розробникам потрібен надійний, необмежений LLM API, який усуває фільтри контенту та блокування підписок. Цей посібник надає чек-лист для виробництва, щоб переконатися, що ваша точка доступу інференсу обробляє сирову генерацію тексту, потокову передачу та виклик функцій без прихованих обмежень або навчання даних.
Останнє оновлення
Підсумок
- Переконайтеся, що модель нічого не відхиляє для законного, художнього або суперечливого контенту.
- Підтвердіть, що контекстне вікно підтримує 100,000 токенів із потоковою передачею через SSE.
- Перевірте, що тарифікація прозора, передоплачена і приймає лише криптовалюту.
- Переконайтеся, що приватність зберігається, підтвердивши, що промпти не використовуються для навчання.
Перевірте політику контенту без цензури
Так, модель не відхиляє законні дорослі, художні, дослідження безпеки або дискусійні теми.
На відміну від стандартних LLM, які застосовують приховані фільтри безпеки, uncensored AI-модель дозволяє генерувати NSFW-контент або досліджувати крайні випадки без несподіваних відмов. Ви можете перевірити це, надіславши запит, який зазвичай викликає блокування безпеки в комерційних моделях. Якщо відповідь повертає текст замість відмови, політика працює так, як задумано. Зверніть увагу, що завжди діє жорсткий ліміт контенту: запити, що містять сексуальний контент із залученням неповнолітніх, відхиляються. Це стандартна юридична межа, а не стилістичний фільтр.
Під час тестування використовуйте промпти, які технічно дійсні, але соціально обмежені. Це підтверджує, що модель дійсно uncensored для вашого конкретного сценарію використання. Пам'ятайте, що це стосується лише генерації тексту. Немає генерації зображень або аудіо, тому uncensored можливості суто текстові.
Перевірка обмежень контекстного вікна
Так, вікно контексту підтримує 100 000 токенів для запиту та відповіді разом.
Це велике вікно дозволяє обробляти великі документи або довгі розмови в одному запиті. Однак ви повинні враховувати ліміт максимального виводу. Ви можете запитувати до 16,000 токенів на відповідь. Якщо ви не встановите max_tokens параметр, модель за замовчуванням повертає 2,048 токенів. Ця відмінність є критичною для задач довгої генерації.
При проектуванні додатка переконайтеся, що ваша бібліотека клієнта правильно обробляє довгі відповіді. Потокова передача часто необхідна для керування використанням пам’яті для великих виводів. Ліміт у 100,000 токенів застосовується до загального розміру запиту. Це означає, що ваш вхідний запит та згенерований вивід ділять цей бюджет. Плануйте використання токенів відповідним чином, щоб уникнути обрізання або помилок.
Підтвердіть підтримку потокової передачі
Так, потокова передача підтримується через Server-Sent Events (SSE).
Потокова передача дозволяє отримувати токени по мірі їх генерації, зменшуючи сприйняту затримку для користувачів. Це є суттєвим для чат-інтерфейсів та додатків реального часу. API повертає інформацію про використання токенів у останньому фрагменті потоку. Це гарантує, що ви можете точно відстежувати витрати навіть під час потокової передачі.
Щоб реалізувати це, використовуйте stream параметр у вашому запиті. Ваша бібліотека клієнта повинна правильно обробляти потік SSE. Не всі SDK однаково добре працюють із потоковою передачею. Протестуйте свою реалізацію, щоб переконатися, що вона не втрачає токени та не затримує відображення. Потокова передача є стандартною функцією сучасних LLM API. Вона значно покращує користувацький досвід для довгих відповідей.
Протестуйте можливості виклику функцій
Так, підтримується виклик функцій з інструментами та tool_choice.
Виклик функцій дозволяє моделі виводити структуровані дані, які ваш додаток може виконати. Це критично важливо для створення агентів або складних робочих процесів. Ви визначаєте інструменти в запиті, а модель відповідає структурованим об'єктом JSON, що містить назву функції та аргументи.
Протестуйте це, визначивши простий інструмент, наприклад, пошук погоди або калькулятор. Надішліть запит, який активує інструмент. Переконайтеся, що модель виводить правильну назву функції та дійсні аргументи. Це підтверджує, що модель розуміє схему інструменту. Виклик функцій є ключовою функцією для розширених LLM-додатків. Переконайтеся, що ваша бібліотека клієнта правильно парсить відповідь.
Перевірте стабільність режиму JSON
Так, режим JSON підтримується через response_format параметр.
Налаштування response_format до json_object змушує модель виводити валідний JSON. Це корисно для парсингу структурованих даних без залежності від виклику функцій. Це забезпечує машинну зчитуваність виводу. Ця функція стабільна та надійна для витягування структурованих даних.
Протестуйте це, надіславши запит, який вимагає конкретної структури JSON. Переконайтеся, що вивід правильно парсується без помилок. Режим JSON є важливим для інтеграції LLM у існуючі системи. Він зменшує потребу в постобробці для виправлення некоректного виводу. Переконайтеся, що ваша програма коректно обробляє помилки парсингу JSON.
Огляд Прозорість ціноутворення
Так, ціни прозорі з чіткою тарифікацією за токен.
Вартість становить $0.15 за 1 мільйон вхідних токенів і $0.50 за 1 мільйон вихідних токенів. Немає прихованих комісій чи підписок. Ви платите лише за те, що використовуєте. Помилки та відмови безкоштовні, що знижує ризики при тестуванні. Ця модель — недорогий LLM API для випадків з великим навантаженням.
Попередньо оплачений кредит нараховується на основі фактичного використання токенів. Кредит не має строку дії. Це відрізняє його від моделей підписки, які нараховують плату щомісяця незалежно від використання. Ви можете поповнювати рахунок у будь-який час. Ціноутворення є простим і передбачуваним. Розраховуйте свої витрати на основі очікуваного обсягу токенів. Ця прозорість допомагає точно планувати бюджет для ваших проєктів.
Оцінка гнучкості платежів
Так, оплата гнучка, але обмежена криптовалютою.
Ви можете поповнити рахунок за допомогою USDT у мережі TRC20 або USDC у мережі Base. Мінімальна сума — $20, максимальна — $500. Існують бонусні кредити за великі поповнення: +5% від $50, +10% від $100 та +15% від $200. Це дозволяє вам протестувати API без зобов'язань. Реєстрація можлива через Google або електронну пошту. API-ключ відображається миттєво. Цей спрощений процес зменшує бар'єри для розробників. Переконайтеся, що ваш платіжний шлюз підтримує вказані криптовалюти. Бонусні кредити додають цінності для активних користувачів.
Перевірте конфіденційність та використання даних
Так, ваші дані приватні і не використовуються для навчання.
Коли ви надсилаєте запит, промпти не використовуються для навчання моделі. Це критично важливо для пропрієтарних даних або чутливої інформації. Обліковому запису потрібна лише електронна адреса. Номер телефону не потрібен. Це мінімізує збір особистих даних. Ви зберігаєте повний контроль над своїми даними.
Перевірте це, ознайомившись із умовами надання послуг або документацією API. Переконайтеся, що ваша бібліотека клієнта не зберігає журнали запитів без необхідності. Конфіденційність є ключовим питанням для корпоративних користувачів. Відсутність фільтрів у моделі означає, що ви можете надсилати чутливий контент без страху, що він буде використаний для навчання. Це значна перевага перед комерційними моделями, які використовують дані для вдосконалення.
Перевірити ліміти швидкості та конкурентність
Так, ліміти швидкості встановлено на рівні 300 запитів на хвилину та 8 одночасних запитів на ключ.
Це дозволяє створювати додатки з високою пропускною здатністю без надмірного обмеження. Ліміт тіла запиту становить 8 МБ. Це підтримує великі вхідні дані. На один обліковий запис дозволено лише один активний ключ. Новий ключ замінює старий. Це спрощує управління ключами.
Протестуйте свій додаток під навантаженням, щоб переконатися, що він правильно обробляє ці обмеження. Реалізуйте логіку повторних спроб (retry) для помилок ліміту частоти запитів. Обмеження одночасності важливе для паралельної обробки. Переконайтеся, що ваша бібліотека клієнта дотримується цих обмежень. Це запобігає перевантаженню API та забезпечує стабільну продуктивність. Ліміт 8 МБ є достатнім для більшості випадків використання.
Поширені запитання
Чи є серія моделей dolphin AI такою ж, як офіційна модель Dolphin?
Ні, серія AI dolphin — це незалежний сервіс, що розміщує uncensored версію моделі Dolphin. Він не пов'язаний з оригінальними творцями моделі чи іншими постачальниками. API сумісний з OpenAI, що дозволяє використовувати той самий клієнтський код. Однак базовий URL та API-ключ є специфічними для цього сервісу. Це пряма точка інференсу для uncensored моделі.
Яка вартість API dolphin?
Вартість становить $0.15 за 1 мільйон вхідних токенів і $0.50 за 1 мільйон вихідних токенів. Немає щомісячних платежів чи підписок. Ви платите лише за використані токени. Помилки та відмови безкоштовні. Попередньо оплачений кредит ніколи не прострочує. Це робить його недорогим LLM API для змінних робочих навантажень.
Які способи оплати ви приймаєте?
Тільки крипто: USDT у мережі TRC20 або USDC на Base, будь-яка ціла сума від $20 до $500. Бонусний кредит надається від $50.
Чи є контент дійсно без цензури?
Так, модель не відхиляє законні дорослі, художні або суперечливі теми. Вона розроблена для необмеженої генерації тексту. Однак жорстка межа застосовується до сексуального контенту із залученням неповнолітніх. Запити цього роду завжди відхиляються. Це стандартний юридичний кордон, а не фільтр. Модель налаштована на відповіді без відмов у вмісті для законного дорослого використання.
Отримайте свій API-ключ
Зареєструйтеся, скопіюйте ключ, оновіть базовий URL. Це все, що вам потрібно.
