OpenAI Moderationは無料？料金、制限、アクセス方法を解説

はい。OpenAIの単独モデレーションエンドポイントは無料で利用でき、Poyoでは、サポートされているリクエスト1件あたりクレジットを一切消費せずにomni-moderation-latestを利用できます。Poyoを通じて、テキスト、1枚の画像、またはその両方を確認し、Playgroundで結果を試し、他のPoyo対応モデルAPIで使われるものと同じタスクワークフローでリクエストを追跡できます。

実用上の価値は明確です。まずブラウザベースのトライアルを始め、次にPoyo APIキーを使ってモデレーションをアプリケーションに組み込みます。タスクのステータスと完了コールバックにより、判定を公開処理、通知、人によるレビューに接続できます。

以下のセクションでは、無料アクセスに含まれる内容、開始方法、統合されたモデルワークフローが役立つ理由を説明します。それぞれのサービスについては、OpenAIのモデレーションドキュメントとPoyoのOmni Moderationリファレンスを参照してください。

無料モデレーションの対象範囲

Poyoでこのモデルを利用する場合、公開価格はリクエスト1件あたり0クレジットです。サポートされる入力は、テキスト、1つのHTTPS画像URL、またはその組み合わせです。完了したタスクは、カテゴリフラグやスコアを含む分類データを返します。

モデレーションの呼び出しは、生成された画像や動画ファイルではなく、構造化されたデータを生成します。そのため、タスクのfiles配列が空でも、結果は完了している場合があります。

画像やアシスタントの返信を生成した後に、この0クレジットの判定を追加し、生成とレビューを接続されたワークフローとして維持できます。他のモデルやストレージサービスにはそれぞれ料金が設定されているため、無料のモデレーション呼び出しとは別に、それらのリソースを計画してください。

無料のコンテンツモデレーションワークフローを計画する

Poyoの0クレジットのモデレーション呼び出しを使えば、追加のOmni Moderation呼び出し料金なしでテキストと画像のチェックを追加できます。コメントやアップロードされた写真など、まず1つの対象から始め、サポートするコンテンツを増やす際にも同じモデルアクセスを再利用できます。

タスクIDを使って、各送信を作成から完了まで追跡します。後で結果が必要になるアプリケーションでは、完了コールバックを設定して、投稿の公開状態の更新やレビュー用ツールへのケース追加など、次のステップを開始できるようにします。

イベントやキャンペーン後の集中したアップロードでは、アプリケーションのキューにリクエストを入れ、ステータス追跡で進捗を確認します。後からの結果が正しい送信先に届くよう、各タスクをそのコンテンツのバージョンに関連付けてください。

容量は、使用するサービスアカウントの現在の条件に従います。トラフィックを計画する際は、Poyoアカウントに適用される制限を確認してください。OpenAIへの直接アクセスについては、公式モデル制限を参照してください。

Poyoで無料のテキストと画像のモデレーションを始める

Playgroundでサンプルを試す

サインインしてPoyo Playgroundを開きます。テキストを入力し、画像を追加するか、両方を組み合わせてから、Runを選択して新しい結果を確認します。フォーム、JSONビュー、サンプルを使うことで、コードを書いたりAPIキーを手動で作成したりする前に、リクエストと出力を理解できます。

判定するコンテンツを選択する

APIリクエストでは、空でないテキストをinput.promptに、1つのHTTPS画像URLをinput.image_urlsに設定するか、両方を指定します。これにより、コメント、キャプション、画像、複合的な送信を1つのリクエスト構造で扱えます。

Playgroundでは、選択したローカル画像を送信する前にアップロードし、そのURLを使います。サーバー連携では、サービスが取得できる画像リソースを指定し、タスクの処理に必要な時間だけ一時リンクが有効になるようにしてください。複数の画像は別々のタスクとして送信します。

アプリケーションを接続する

Poyo APIキーを作成し、サーバーから統合送信エンドポイントを呼び出します。返されたタスクIDを使ってステータスを取得するか、完了コールバックを追加します。同じPoyo認証ワークフローを他の対応モデルAPIにも使用できるため、認証情報を1か所で管理しやすくなります。

Poyoリファレンスでは、HTTPS URL入力と非同期の結果形式を定義しています。キーはサーバー上に保持し、呼び出すルートについて文書化されたフィールドを使用してください。

Omni ModerationにPoyoを使う理由

Poyoは、無料のOmni Moderationアクセスと、Poyo APIキー、統合されたタスク送信、ステータス追跡、任意のコールバックからなるプラットフォームのモデルワークフローを組み合わせています。複数の対応モデルAPIを利用するチームは、コンテンツ判定を同じアカウントとタスク処理方法にまとめられます。

どちらの経路でも、単独のモデレーションを無料で利用できます。Poyoの追加価値は、リクエストを試し、接続し、追跡できる点にあります。

すでにPoyoを利用しているチームにとって、モデルアクセスとタスク処理をまとめられます。新しいチームはPlaygroundから始め、確認済みのリクエスト形式をそのまま連携に利用できます。

開発者向け連携リファレンス

Poyo APIキーを使ってPOST /api/generate/submitに送信します。ステータスエンドポイントは、data.output.resultsの下にカテゴリ結果を返します。完了コールバックには、外側のcodeおよびdataラッパーを含まないステータスデータオブジェクトが含まれるため、コールバックの結果はoutput.resultsの下にあります。

これらの文書化された経路を使えば、どちらの取得方法でも同じカテゴリ情報をアプリケーションで読み取れます。Poyoの完全なリクエストとレスポンスの例を参照してください。

無料モデレーション周辺のリソースを計画する

Poyoの0クレジットの呼び出しを使えば、各判定の周辺でプロダクトが使用するリソースに、残りの予算を集中できます。

ストレージと配信。 アップロードされた画像にはストレージが必要で、モデレーションサービスは画像を取得する必要があります。一時アップロード、承認済みファイル、サムネイル、ダウンロードトラフィックには、別の料金が発生する場合があります。拒否されたアップロードや放棄されたアップロードをどのくらい保持するかを決めてください。

連携と保守。 PoyoのタスクID、ステータスクエリ、コールバックを使って、送信と結果を接続します。各判定が適切な次のステップに進み、ユーザーが進捗を理解できるように、再試行、コンテンツのバージョン、公開状態に関するアプリケーションロジックを計画してください。

人によるレビュー。 カテゴリのシグナルを使ってコンテキストが必要なケースを特定し、判断が難しい送信、苦情、異議申し立てにレビュアーの時間を割り当てます。自分のコンテンツとルールで件数を測定し、チームが継続可能な作業量を選択してください。

その他のチェック。 サポートされる有害コンテンツ判定に加え、スパム、個人情報、画像品質、プロダクト固有の制限について専用のチェックを組み合わせます。各要件を、それを処理するツールまたはレビュアーに割り当ててください。

これはモデル性能の予測ではなく、作業量の例示的な計算です。1か月に10,000件の送信があり、選択したルールによって2%が人に送られるとします。人によるレビューは200件になります。1件あたり3分と仮定すると、異議申し立てを除き、作業時間は600分、つまり10時間です。同じ仮定のレビュー時間でレビュー率を5%に変更すると、レビューは500件、作業時間は25時間になります。

どちらの場合もAPI呼び出しは無料です。この例は、リクエストが成功するかどうかだけでなく、レビュアーの作業量も小規模なパイロットで測定する必要がある理由を示しています。

トライアルを計画する方法

新しい公開投稿やプロフィール写真など、1つのコンテンツ対象を選びます。重要なカテゴリと、大量に送信する前に結果をどのように処理するかを定義してください。

次に、通常のコンテンツ、明確な違反、判断が難しい例をテストします。想定するトラフィックパターンでサービスがどのように動作するかを確認してください。処理の失敗とコンテンツフラグは別々に記録し、運用上のエラーによって禁止コンテンツの件数が水増しされないようにします。

非同期連携では、ユーザー向けの待機時間に妥当な期限を設定します。アプリケーションが待機を停止した場合は、タスクIDを保持し、重複したリクエストを送信する前に実際のステータスを確認してください。ローカルのタイムアウトは、リモートタスクが失敗したことを証明するものではありません。

判定を利用できない場合の動作を決めます。公開写真のアップロードでは、ファイルを保留状態にしておくのが適切な場合があります。適切なフォールバックは対象とルールによって異なるため、ローンチ前に設計してください。

コンテンツに関する判断について詳しくは、小規模チーム向けUGCモデレーションガイドをお読みください。

よくある質問

OpenAI Moderation APIとは何ですか？

OpenAI Moderation APIは、omni-moderation-latestなどのモデルを使用して、テキストと画像を潜在的な有害性について評価するコンテンツ分類サービスです。カテゴリフラグと信頼度スコアを返し、アプリケーションはそれらを独自のモデレーションワークフローで利用できます。

PoyoでOmni Moderationを利用するにはいくらかかりますか？

サポートされるOmni Moderationの呼び出しは1件ごとにPoyoクレジットを消費しません。有料の生成リクエストと組み合わせずに、単独のテキストまたは画像の判定を送信できます。そのため、まずモデレーションを試し、既存のPoyoワークフローに追加するのが実用的です。ストレージ、その他のモデル、人によるレビューは別のリソースです。

無料のモデレーションを最初に試すにはどうすればよいですか？

Poyo Playgroundを開いてサインインし、代表的なテキスト、1枚の画像、またはテキストと画像を実行します。コードを書いたりAPIキーを手動で作成したりせずに、連携を構築する前に分類を確認できます。実際の公開ルールを反映した例から始めてください。

Omni ModerationへのアクセスにPoyoを使う理由は何ですか？

Poyoは、0クレジットのモデレーション、対応モデル用の共有APIキー、一貫したタスクステータスフロー、任意の完了コールバック、トライアル用のPlaygroundを組み合わせています。これらの機能により、判定を既存の生成ツールや公開ツールに接続できます。OpenAIの単独Moderationエンドポイントも無料です。Poyoの追加価値は、プラットフォームとワークフローの利便性にあります。

無料アクセスにはどの画像カテゴリが含まれますか？

無料のPoyo呼び出しには、サポートされる6つの画像カテゴリ、つまり性的コンテンツ、暴力、露骨な暴力、自傷、自傷の意図、自傷の手順が含まれます。キャプションを含めて、入力したテキストも判定できます。対象範囲を理解するにはcategory_applied_input_typesを使用してください。カテゴリの詳細については、画像モデレーションガイドを参照してください。

アプリケーションで結果を自動的に受け取るにはどうすればよいですか？

Poyoタスクを送信する際にトップレベルのcallback_urlを含め、サーバーで完了通知を処理し、保存したタスクIDとコンテンツのバージョンに関連付けます。コールバックの分類はoutput.resultsから読み取ります。ハンドラーは、ルールに従って既存の公開またはレビューレコードを更新できます。PoyoのWebhookガイダンスに従ってください。ステータスクエリは、取得と照合のために引き続き利用できます。

無料のOmni Moderation Playgroundから始め、AIコンテンツモデレーションガイドを使って結果を解釈してから、アプリケーションに接続できます。