omni-moderation-latest

Free

Tools

Модель:

Omni Moderation — мультимодальная модель OpenAI для выявления потенциально вредного контента в многоязычных текстах и изображениях, включая публикации, сообщения чата и материалы о товарах. PoYo предоставляет бесплатный доступ к этой модели через API. Отправьте текст, одно изображение по HTTPS-ссылке или оба типа данных и получите флаги категорий и оценки уверенности.

Получить API ключ

Документация API

Input

Prompt

Image Urls

Added 0/1

Drop files here, paste files, or add a URL. JPG, PNG, WebP, GIF

Output

Пример вывода

This is a real review response. After editing the input, select Run for a new result.

ID задачи:ZKPUY2WZFZZBQR99Создано:2026-10-15T09:15:13

Статус:finishedПрогресс:100%

No potential risk flagged

Category	Flagged	Score	Input types
harassment	false	0.00001941131867789626	text
harassment/threatening	false	0.000005307507822667365	text
hate	false	0.000007843789122138342	text
hate/threatening	false	0.0000014285517650093407	text
illicit	false	0.007524802741322494	text
illicit/violent	false	0.00006667023092435894	text
self-harm	false	0.0005140312645402674	text
self-harm/instructions	false	0.0002411633099620722	text
self-harm/intent	false	0.0002785803623326577	text
sexual	false	0.0008000313556104121	text
sexual/minors	false	0.0001206589712246389	text
violence	false	0.0005012746277703161	text
violence/graphic	false	0.000011235328063870752	text

Examples

Select an example to view its real input and result.

Free Omni Moderation API

Calling this model through PoYo is free. Sign in and use your PoYo API key to review text and images.

omni-moderation-latest

Text / one image (HTTPS URL)

Free

Model	Supported inputs	Cost
omni-moderation-latest	Text / one image (HTTPS URL)	Free

OMNI MODERATION

Бесплатный доступ через API PoYo для модерации многоязычных текстов и изображений

Бесплатный Omni Moderation API для многоязычных текстов и изображений

Omni Moderation выявляет потенциальные риски в многоязычных текстах и изображениях и возвращает флаги категорий и оценки уверенности для принятия решений о публикации и ручной проверке. Поддержка изображений зависит от категории; калибруйте пороги оценок на собственном контенте.

PoYo — платформа API моделей, предоставляющая бесплатный доступ к этой модели, отслеживание задач и обратные вызовы по завершении. Создайте API-ключ, протестируйте запросы в Playground и интегрируйте API в своё приложение.

Начать бесплатно

Основные возможности Omni Moderation API

Бесплатно вызывайте Omni Moderation через PoYo для проверки многоязычных текстов и изображений с флагами категорий и оценками уверенности. Поддержка изображений зависит от категории.

Проверяйте текст и изображения вместе

Подписи к публикациям, описания товаров и связанные изображения часто требуют совместной проверки. Omni Moderation принимает текст, одно изображение или оба типа данных в одном запросе, помогая выявить потенциальные риски до публикации. Текст поддерживает все 13 категорий; изображения — шесть категорий, связанных с сексуальным контентом, насилием и самоповреждением. Остальные категории поддерживают только текст.

Проверяйте текст вместе с одним изображением по HTTPS-ссылке
Проверяйте текст по 13 категориям модерации
Учитывайте поддержку изображений для каждой категории

Поддержка категорий для изображений в официальном анонсе OpenAI

Изучайте флаги категорий и оценки уверенности

Один флаг риска не объясняет, почему контент может требовать проверки. Omni Moderation также возвращает флаги категорий, оценки уверенности и типы входных данных, поддерживаемые каждой категорией, чтобы приложение направляло контент в подходящий процесс обработки. Калибруйте пороги на собственном контенте и пересматривайте их после обновлений модели.

Изучайте категории, стоящие за каждым флагом риска
Задавайте пороги оценок на примерах собственного контента
Проверяйте, какие категории поддерживают текст и изображения

Оценки уверенности по категориям в официальном примере ответа OpenAI

Выявляйте потенциальные риски на разных языках

Международным сообществам и продуктам нужно проверять контент не только на английском. Omni Moderation поддерживает многоязычные тексты и превзошла предыдущую модель модерации OpenAI в опубликованной многоязычной оценке. Используйте одну модель для материалов на разных языках, проверяйте её поведение на примерах каждого языка и сохраняйте возможность ручной проверки неоднозначного контента.

Проверяйте пользовательские материалы на разных языках
Поддерживайте процессы модерации международных сообществ
Проверяйте поведение на примерах для каждого языка

Опубликованная OpenAI многоязычная оценка предыдущей модели и Omni Moderation

Кому подходит Omni Moderation API?

Платформы сообществ

Проверяйте публикации и комментарии на потенциальные риски до размещения. Применяйте правила сообщества и отправляйте контент, требующий дополнительной оценки, на ручную проверку.

Чат-приложения

Проверяйте сообщения пользователей и ответы моделей, включайте результаты в процесс обработки контента чат-приложения и отслеживайте задачи модерации отдельно.

Сервисы обмена изображениями

Отправляйте загруженное изображение с подписью, изучайте поддерживаемые категории и оценки, используйте результаты для принятия решений о публикации и ручной проверке.

Маркетплейсы

Проверяйте описания товаров и одно изображение товара на потенциальные риски, а объявления, требующие проверки, направляйте в очередь до публикации.

Образовательные продукты

Проверяйте работы учащихся и тексты обсуждений, интерпретируйте результаты в образовательном контексте и сохраняйте возможность ручной проверки неоднозначного контента.

Игры и пользовательский контент

Проверяйте сообщения игроков, публикации сообществ и загруженные изображения, помогая командам управлять публично отображаемым пользовательским контентом.

Как использовать Omni Moderation API на PoYo

1. Получите API-ключ.Войдите в PoYo и создайте API-ключ. PoYo предоставляет доступ к Omni Moderation через API, и вызовы этой модели бесплатны. Создать API-ключ →

2. Отправьте контент.Установите model в omni-moderation-latest и передайте input.prompt, input.image_urls или оба поля. Каждый запрос принимает не более одного изображения по HTTPS-ссылке. Попробовать Playground →

3. Получите результаты.Запросите статус по task_id или задайте callback_url на верхнем уровне запроса для получения обратного вызова по завершении. После завершения задачи прочитайте флаги категорий и оценки в data.output.results. Прочитать контракт API →

Частые вопросы об Omni Moderation API

Что такое Omni Moderation API?

Omni Moderation — мультимодальная модель OpenAI для выявления потенциально вредного контента в многоязычных текстах и изображениях. PoYo — платформа API моделей с доступом к omni-moderation-latest, отслеживанием задач и обратными вызовами по завершении. Вызовы этой модели через PoYo бесплатны. Результаты включают флаги категорий, оценки уверенности и типы входных данных, поддерживаемые каждой категорией.

Бесплатен ли Omni Moderation API на PoYo?

Да. Вызовы Omni Moderation через PoYo бесплатны для текста, изображений и комбинированных входных данных. Используйте API-ключ PoYo для аутентификации. Для других моделей действуют собственные тарифы.

Какие входные данные поддерживает PoYo?

Передайте input.prompt как текстовую строку, input.image_urls как массив с не более чем одной HTTPS-ссылкой на изображение или оба поля. Требуется хотя бы один допустимый ввод. Эндпоинт PoYo для этой модели не принимает изображения Base64 или несколько изображений в одном запросе.

Все ли категории поддерживают изображения?

Нет. Изображения поддерживают sexual, violence, violence/graphic, self-harm, self-harm/intent и self-harm/instructions. Остальные категории, включая sexual/minors, hate, harassment и illicit, поддерживают только текст. Проверяйте поддержку в category_applied_input_types. Нулевая оценка для неподдерживаемой категории изображения не означает, что эта категория была проверена.

Как использовать оценки по категориям?

category_scores содержит значения уверенности от 0 до 1. Чем выше значение, тем сильнее уверенность модели в применимости категории. Проверяйте пороги на собственном контенте, предусматривайте ручную проверку и пересматривайте правила после обновлений модели. Оценки не гарантируют безопасность.

Означает ли пометка контента, что задача завершилась ошибкой?

Нет. flagged=true означает, что контент помечен как потенциально рискованный, а сама проверка завершается со статусом finished. Статус failed указывает на ошибку обработки. Полный результат проверки доступен в data.output.results. Массив files пуст, поскольку API возвращает структурированные данные.

Как работают асинхронные запросы и обратные вызовы?

Отправьте запрос в /api/generate/submit, затем опрашивайте /api/generate/status/{task_id} до finished или failed. На верхнем уровне запроса можно указать необязательный callback_url. Тело обратного вызова — объект data статуса без внешней обёртки code/data. Потоковая передача не поддерживается.

Можно ли отправлять аудио или видео?

Этот эндпоинт принимает текст и одно изображение по HTTPS-ссылке, но не аудио- или видеофайлы. Чтобы проверить расшифровку аудио или кадры видео, сначала отдельно выполните расшифровку или извлечение кадров, а затем отправьте поддерживаемый текст или изображение как задачу модерации.

Почему стоит использовать PoYo для доступа к Omni Moderation API

Бесплатный доступ к модели с одним API-ключом

PoYo предоставляет бесплатный доступ к Omni Moderation через API с тем же процессом аутентификации, что и для других поддерживаемых API, централизуя управление учётными данными.

Отслеживание задач и обратные вызовы по завершении

Запрашивайте задачу по ID или получайте обратный вызов по завершении, затем включайте результаты в процессы публикации и ручной проверки приложения.

Тестирование запросов и просмотр результатов

Пробуйте текст, изображения и комбинированные входные данные в Playground, изучайте флаги категорий и оценки, затем интегрируйте проверенный запрос в приложение.

Справочник API и документация для LLM

Изучайте запросы и ответы во встроенном справочнике API или передавайте документацию для LLM инструментам разработки в качестве контракта API.