多言語テキスト・画像向け無料 Omni Moderation API

Omni Moderation は、多言語テキストと画像から潜在的に有害なコンテンツを識別する OpenAI のマルチモーダルモデルです。PoYo はモデル API プラットフォームとして、omni-moderation-latest の利用、タスク追跡、完了コールバックを提供します。PoYo 経由でこのモデルを呼び出す際の料金は無料です。結果にはカテゴリ別フラグ、信頼度スコア、各カテゴリが対応する入力の種類が含まれます。

はい。PoYo 経由の Omni Moderation 呼び出しは、テキスト、画像、両方を組み合わせた入力のいずれも無料です。PoYo API キーで認証してください。その他のモデルにはそれぞれの料金が適用されます。

input.prompt にテキスト文字列、input.image_urls に HTTPS 画像 URL を最大 1 件含む配列、またはその両方を指定します。少なくとも 1 つの有効な入力が必要です。このモデルの PoYo エンドポイントは、Base64 画像や 1 回のリクエストでの複数画像には対応していません。

いいえ。画像は sexual、violence、violence/graphic、self-harm、self-harm/intent、self-harm/instructions に対応しています。sexual/minors、hate、harassment、illicit など、その他のカテゴリはテキストのみ対応しています。対応範囲は category_applied_input_types で確認できます。画像非対応カテゴリのスコアが 0 であっても、そのカテゴリを評価済みという意味ではありません。

category_scores には 0 から 1 の信頼度の値が含まれます。値が高いほど、そのカテゴリに該当するとモデルが強く判断していることを示します。自社のコンテンツでしきい値を検証し、人による確認を併用して、モデル更新後に方針を再評価してください。スコアは安全性を保証するものではありません。

いいえ。flagged=true はコンテンツに潜在的なリスクがあるとしてマークされたことを示し、審査タスク自体は finished 状態で完了します。failed 状態は処理の失敗を意味します。完全な審査結果は data.output.results から読み取れます。この API は構造化データを返すため、files 配列は空です。

/api/generate/submit に送信した後、finished または failed になるまで /api/generate/status/{task_id} をポーリングします。リクエストの最上位には、任意で callback_url を指定できます。コールバック本文は状態の data オブジェクトで、外側の code/data ラッパーは含みません。ストリーミングには対応していません。

このエンドポイントが受け付けるのはテキストと HTTPS URL で指定した画像 1 枚で、音声・動画ファイルには対応していません。音声の文字起こしや動画フレームを審査する場合は、文字起こしやフレーム抽出を別途行い、対応するテキストまたは画像を審査タスクとして送信してください。