Dolphin AI：カスタムなしLLM用のプロダクションチェックリスト

無制限のコンテンツポリシーを確認

はい、このモデルは合法的な成人向け、フィクション、セキュリティ研究、または論争的なトピックを拒否しません。

隠れた安全フィルターを適用する標準的なLLMとは異なり、無制限のAIモデルは予期せぬ拒否なしにNSFWコンテンツの生成やエッジケースの探索を可能にします。商用モデルで通常安全ブロックを引き起こすリクエストを送信することでこれを検証できます。応答が拒否ではなくテキストを返す場合、ポリシーは意図どおり機能しています。ただし、硬直的なコンテンツ制限は常に適用されます：未成年者との性的コンテンツを含むリクエストは拒否されます。これはスタイルフィルターではなく、標準的な法的境界です。

テスト時は、技術的には有効だが社会的に制限されたプロンプトを使用してください。これにより、特定のユースケースに対してモデルが本当にアンセクuredであることを確認できます。なお、これはテキスト生成のみが対象です。画像や音声の生成はないため、アンセクuredな機能はテキストに限定されます。

コンテキストウィンドウの制限を確認

はい、コンテキストウィンドウは、プロンプトと補完を合わせて100,000トークンをサポートしています。

この長いウィンドウにより、単一のリクエストで広範なドキュメントや長い会話を処理できます。ただし、最大出力制限を考慮する必要があります。1回の応答につき最大16,000トークンをリクエストできます。設定しない場合、 max_tokens パラメータ、モデルは2,048トークンにデフォルト設定されます。この区別は長文生成タスクにとって重要です。

アプリケーションを設計する際は、クライアントライブラリが長い応答を正しく処理していることを確認してください。大きな出力のメモリ使用量を管理するには、ストリーミングがしばしば必要です。100,000トークンの制限は総リクエストサイズに適用されます。つまり、入力プロンプトと生成された出力はこの予算を共有します。切り捨てやエラーを避けるために、トークン使用量を適切に計画してください。

ストリーミングのサポートを確認します

はい、Server-Sent Events（SSE）を介してストリーミングがサポートされています。

ストリーミングにより、トークンが生成されるたびにそれを受信でき、ユーザーに対する知覚されるレイテンシを軽減します。これはチャットインターフェースやリアルタイムアプリケーションに不可欠です。APIはストリームの最後のチャンクにトークン使用情報を返します。これにより、ストリーミング中でもコストを正確に追跡できます。

これを実装するには、 stream リクエストのパラメータ。クライアントライブラリはSSEストリームを正しく処理する必要があります。すべてのSDKがストリーミングを同等に処理するわけではありません。トークンのドロップや表示の遅延が発生しないことを確認するために、実装をテストしてください。ストリーミングは最新のLLM APIの標準機能です。長い応答に対してユーザーエクスペリエンスを大幅に向上させます。

関数呼び出し機能をテスト

はい、ツールとtool_choiceを使用した関数呼び出しがサポートされています。

関数呼び出しにより、モデルはアプリケーションが実行できる構造化データを出力します。これはエージェントや複雑なワークフローの構築に不可欠です。リクエストでツールを定義し、モデルは関数名と引数を含む構造化JSONオブジェクトで応答します。

天気の検索や計算機など、シンプルなツールを定義してテストします。ツールをトリガーするリクエストを送信し、モデルが正しい関数名と有効な引数を出力することを確認します。これにより、モデルがツールスキーマを理解していることが確認されます。関数呼び出しは高度なLLMアプリケーションにおける重要な機能です。クライアントライブラリがレスポンスを正しく解析することを確認してください。

JSONモードの安定性を検証

はい、JSONモードは response_format パラメータ。

設定 response_format に json_object モデルが有効なJSONを出力するように強制します。これは、関数呼び出しに依存せずに構造化データを解析する場合に役立ちます。出力が機械可読であることを保証します。この機能は構造化データ抽出に対して安定しており、信頼性が高いです。

特定のJSON構造を必要とするプロンプトを送信してテストします。出力がエラーなしで正しく解析されることを確認します。JSONモードは、LLMを既存のシステムに統合する際に不可欠です。不完全な出力を修正するための後処理の必要性を減らします。アプリケーションがJSON解析エラーを適切に処理することを確認してください。

レビュー 価格の透明性

はい、価格は透明で、トークンごとの明確な課金システムです。

料金は入力トークン1Mあたり$0.15、出力トークン1Mあたり$0.50です。隠れた料金やサブスクリプションの縛りはありません。使用した分のみに対して課金されます。エラーや拒否は無料であり、テスト時のリスクを軽減します。このモデルは、大量利用ケースに適した低コストのLLM APIです。

プリペイドクレジットは実際のトークン使用量に基づいて課金されます。クレジットの有効期限はありません。これは、使用量に関係なく月額課金を行うサブスクリプションモデルとは異なります。いつでもチャージでき、価格体系は明確で予測可能です。予想されるトークン量に基づいてコストを計算できます。この透明性により、プロジェクトの予算を正確に組むことができます。

支払いの柔軟性を評価する

はい、支払いは柔軟ですが、暗号通貨に限定されています。

TRC20上のUSDTまたはBase上のUSDCでチャージできます。最小金額は$20、最大は$500です。大口チャージにはボーナスクレジットが付与されます（$50以上で+5%、$100以上で+10%、$200以上で+15%）。これにより、コミットメントなしでAPIをテストできます。サインアップはGoogleまたはメール経由です。APIキーは即座に表示されます。この簡素化されたプロセスは開発者の負担を軽減します。お支払いゲートウェイが指定された暗号通貨をサポートしていることを確認してください。ボーナスクレジットはヘビーユーザーにとって価値のあるものです。

プライバシーとデータの使用を確認

はい、お客様のデータはプライベートであり、トレーニングには使用されません。

リクエストを送信すると、プロンプトはモデルのトレーニングに使用されません。これは独自データや機密コンテンツにとって重要です。アカウントにはメールアドレスのみが必要です。電話番号は不要です。これにより個人データの収集が最小限に抑えられます。データは完全に制御できます。

サービス利用規約またはAPIドキュメントを確認して検証してください。クライアントライブラリがプロンプトを不要にログに記録していないことを確認してください。プライバシーはエンタープライズユーザーにとって重要な懸念事項です。モデルが無制限であるため、トレーニングに使用されることを恐れずに機密性の高いコンテンツを送信できます。これは、データの改善にデータを使用する商用モデルと比較して大きな利点です。

レート制限と同時実行数をテスト

はい、レートリミットは1分間300リクエスト、キーあたり8つの同時リクエストに設定されています。

これにより、過度なスロットリングなしで高スループットのアプリケーションを実現できます。リクエストボディの制限は8 MBです。これにより、大規模な入力がサポートされます。アカウントごとにアクティブなキーは1つまで許可されます。新しいキーは古いキーを置き換えます。これにより、キー管理が簡素化されます。

負荷条件下でアプリケーションをテストし、これらの制限を正しく処理できることを確認してください。レートリミットエラーに対してリトライロジックを実装してください。同時実行数の制限は並列処理において重要です。クライアントライブラリがこれらの制限を尊重していることを確認してください。これにより、APIの過負荷を防ぎ、一貫したパフォーマンスを確保します。8 MBの制限はほとんどのユースケースで十分です。