Да. Отдельная конечная точка модерации OpenAI предоставляется бесплатно, а Poyo предлагает omni-moderation-latest по нулевой стоимости в кредитах за каждый поддерживаемый запрос. Через Poyo можно проверять текст, одно изображение или оба типа данных, просматривать результаты в Playground и отслеживать запросы через тот же рабочий процесс задач, который используется другими поддерживаемыми API моделей Poyo.
Практическая ценность заключается в следующем: начните с пробного использования в браузере, а затем используйте API-ключ Poyo, чтобы интегрировать модерацию в приложение. Статус задачи и обратные вызовы о завершении помогают связать оценку с публикацией, уведомлениями или проверкой человеком.
В следующих разделах объясняется, что включает бесплатный доступ, как начать работу и почему унифицированный рабочий процесс моделей может быть полезен. См. документацию OpenAI по модерации и справочник Poyo по Omni Moderation для соответствующих сервисов.
Что включает бесплатная модерация
Для этой модели на Poyo опубликованная цена составляет ноль кредитов за запрос. Поддерживаемый ввод — текст, один URL изображения по HTTPS или сочетание обоих вариантов. Завершенная задача возвращает данные классификации, включая флаги категорий и оценки.
| Элемент | Что предоставляет бесплатный вызов модели |
|---|---|
| Оценка текста | Классификация предоставленного текста по поддерживаемым моделью категориям |
| Оценка изображения | Классификация одного изображения по поддерживаемым категориям изображений |
| Текст и изображение вместе | Оценка подписи или другого текста вместе с одним изображением |
| Структурированный результат | Флаги риска, оценки категорий и примененные типы входных данных |
| Обработка запроса Poyo | ID задачи, получение статуса и необязательный обратный вызов о завершении |
Вызов модерации создает структурированные данные, а не файл сгенерированного изображения или видео. Поэтому результат может быть полным, даже если массив files задачи пуст.
Вы можете добавить эту оценку за ноль кредитов после генерации изображения или ответа ассистента, сохраняя генерацию и проверку в едином связанном рабочем процессе. Для других моделей и сервисов хранения действуют собственные цены, поэтому планируйте эти ресурсы отдельно от бесплатного вызова модерации.
Планирование бесплатного рабочего процесса модерации контента
Вызовы модерации Poyo за ноль кредитов позволяют добавлять проверки текста и изображений без дополнительной платы за вызов Omni Moderation. Можно начать с одной области, например комментариев или загруженных фотографий, а затем использовать тот же доступ к модели по мере подключения других поддерживаемых типов контента.
Используйте ID задачи, чтобы отслеживать каждую отправку от создания до завершения. Если результат нужен приложению позже, настройте обратный вызов о завершении для запуска следующего шага, например обновления состояния публикации или добавления случая в инструмент проверки.
Для массовых загрузок после мероприятия или кампании помещайте запросы в очередь приложения и используйте отслеживание статуса для контроля их выполнения. Связывайте каждую задачу с версией ее контента, чтобы последующие результаты попадали в правильную отправку.
Емкость зависит от текущих условий используемой вами учетной записи сервиса. При планировании трафика проверьте применимые ограничения своей учетной записи Poyo; для прямого доступа OpenAI см. официальные ограничения моделей.
Начните бесплатную модерацию текста и изображений с Poyo
Попробуйте пример в Playground
Войдите в систему и откройте Poyo Playground. Введите текст, добавьте изображение или объедините оба варианта, затем выберите Run, чтобы увидеть новый результат. Форма, представление JSON и примеры помогают понять запрос и ответ до написания кода или ручного создания API-ключа.
Выберите контент для оценки
Для API-запроса поместите непустой текст в input.prompt, один URL изображения по HTTPS в input.image_urls или укажите оба значения. Это позволяет обрабатывать комментарии, подписи, изображения и комбинированные отправки в одной структуре запроса.
Playground загружает выбранное локальное изображение перед отправкой его URL. Для серверной интеграции предоставьте ресурс изображения, который сервис может получить, и сохраняйте временные ссылки действительными в течение времени, необходимого для обработки задачи. Отправляйте несколько изображений как отдельные задачи.
Подключите свое приложение
Создайте API-ключ Poyo и вызывайте унифицированную конечную точку отправки с сервера. Используйте возвращенный ID задачи для получения статуса или добавьте обратный вызов о завершении. Тот же рабочий процесс аутентификации Poyo можно использовать с другими поддерживаемыми API моделей, что помогает управлять учетными данными в одном месте.
Справочник Poyo определяет ввод в виде URL по HTTPS и асинхронный формат результата. Храните ключ на своем сервере и используйте документированные поля для вызываемого маршрута.
Зачем использовать Poyo для Omni Moderation
Poyo объединяет бесплатный доступ к Omni Moderation с рабочим процессом моделей платформы: API-ключом Poyo, унифицированной отправкой задач, отслеживанием статуса и необязательными обратными вызовами. Команды, использующие несколько поддерживаемых API моделей, могут интегрировать оценку контента в тот же подход к учетной записи и обработке задач.
Оба варианта предоставляют бесплатную отдельную модерацию. Дополнительная ценность Poyo заключается в том, как вы пробуете, подключаете и отслеживаете запрос.
| Сравнение | Прямой доступ OpenAI | Ценность доступа через Poyo |
|---|---|---|
| Стоимость вызова модерации | Отдельная конечная точка модерации предоставляется бесплатно | Omni Moderation стоит ноль кредитов и вписывается в существующий рабочий процесс Poyo |
| Управление учетными данными | Используется API-ключ OpenAI | Используется API-ключ Poyo для поддерживаемых моделей разных провайдеров |
| Отслеживание задач | Обрабатываются собственные запрос и ответ модерации | ID задачи отслеживается через унифицированный жизненный цикл статуса платформы |
| Уведомление о завершении | Приложение считывает ответ модерации | Настраивается обратный вызов для связи завершенной оценки с публикацией или проверкой |
| Пробный запуск модели | Официальная документация и примеры собственного API | Форма Playground, представление JSON, примеры и предварительный просмотр результатов по категориям |
Для команды, уже использующей Poyo, это позволяет объединить доступ к моделям и обработку задач. Новая команда может начать в Playground, а затем интегрировать уже изученный формат запроса.
Справочник по интеграции для разработчиков
Отправляйте запрос на POST /api/generate/submit с использованием API-ключа Poyo. Конечная точка статуса возвращает результаты категорий в data.output.results. Обратный вызов о завершении содержит объект данных статуса без внешней оболочки code и data, поэтому результаты обратного вызова находятся в output.results.
Эти документированные маршруты позволяют приложению считывать одну и ту же информацию о категориях любым из двух способов получения. См. полные примеры запросов и ответов Poyo.
Планируйте ресурсы вокруг бесплатной модерации
Вызовы Poyo за ноль кредитов позволяют сосредоточить оставшийся бюджет на ресурсах, которые ваш продукт использует вокруг каждой оценки.
Хранение и доставка. Загруженным изображениям требуется хранилище, а сервису модерации необходимо получать к ним доступ. Временные загрузки, одобренные файлы, миниатюры и трафик загрузки могут иметь отдельную стоимость. Определите, как долго вы будете хранить отклоненные загрузки и загрузки, от которых отказались пользователи.
Интеграция и обслуживание. Используйте ID задач Poyo, запросы статуса и обратные вызовы, чтобы связывать отправки с результатами. Планируйте логику приложения для повторных попыток, версий контента и состояний публикации, чтобы каждая оценка попадала на правильный следующий этап, а пользователи могли понимать ее статус.
Проверка человеком. Используйте сигналы категорий для выявления случаев, требующих контекста, а затем выделяйте время проверяющих для неоднозначных отправок, жалоб и апелляций. Измеряйте объем на основе собственного контента и правил, чтобы выбрать рабочую нагрузку, которую ваша команда сможет поддерживать.
Другие проверки. Сочетайте поддерживаемую оценку вредоносного контента со специализированными проверками на спам, персональную информацию, качество изображения и ограничения, специфичные для продукта. Соотносите каждое требование с инструментом или проверяющим, который за него отвечает.
Вот пример расчета рабочей нагрузки, а не прогноз производительности модели. Предположим, что за месяц поступает 10 000 отправок, и выбранные вами правила направляют 2% людям. Это дает 200 проверок человеком. При предполагаемых трех минутах на каждую такая работа занимает 600 минут, или 10 часов, без учета апелляций. Если изменить долю проверок до 5%, получится 500 проверок и 25 часов при том же предполагаемом времени на одну проверку.
В обоих случаях вызов API остается бесплатным. Пример показывает, почему небольшой пилот должен измерять не только успешность запросов, но и рабочую нагрузку проверяющих.
Как планировать пробный запуск
Выберите одну область контента, например новые общедоступные публикации или фотографии профилей. Определите важные категории и то, как вы будете обрабатывать результаты, прежде чем отправлять большой объем.
Затем протестируйте обычный контент, явные нарушения и пограничные примеры. Проверьте поведение сервиса при ожидаемой вами схеме трафика. Отдельно фиксируйте сбои обработки и флаги контента, чтобы операционные ошибки не увеличивали искусственно количество запрещенного контента.
Для асинхронной интеграции установите разумный срок ожидания со стороны пользователя. Если приложение перестает ждать, сохраните ID задачи и проверьте ее фактический статус перед отправкой дублирующего запроса. Локальный тайм-аут не доказывает, что удаленная задача завершилась с ошибкой.
Определите, что происходит, когда оценка недоступна. Для общедоступной загрузки фотографии может быть уместно удерживать файл в состоянии ожидания. Правильный резервный вариант зависит от области применения и ваших правил и должен быть спроектирован до запуска.
Для более подробного объяснения решений по контенту прочитайте руководство по модерации пользовательского контента для небольших команд.
Часто задаваемые вопросы
Что такое OpenAI Moderation API?
OpenAI Moderation API — это сервис классификации контента, который использует такие модели, как omni-moderation-latest, для оценки текста и изображений на предмет потенциального вреда. Он возвращает флаги категорий и оценки уверенности, которые приложения могут использовать в собственных рабочих процессах модерации.
Сколько стоит Omni Moderation на Poyo?
Каждый поддерживаемый вызов Omni Moderation стоит ноль кредитов Poyo. Можно отправить отдельную оценку текста или изображения без ее объединения с платным запросом на генерацию. Это делает практичным сначала протестировать модерацию, а затем добавить ее в существующий рабочий процесс Poyo. Хранение, другие модели и проверка человеком остаются отдельными ресурсами.
Как сначала попробовать бесплатную модерацию?
Откройте Poyo Playground, войдите в систему и запустите проверку репрезентативного текста, одного изображения или текста с изображением. Вы можете изучить классификации до создания интеграции, не написав код и не создавая API-ключ вручную. Начните с примеров, отражающих ваши реальные правила публикации.
Зачем использовать Poyo для доступа к Omni Moderation?
Poyo объединяет модерацию за ноль кредитов с общим API-ключом для поддерживаемых моделей, единообразным процессом статусов задач, необязательными обратными вызовами о завершении и пробным Playground. Эти функции помогают связать оценки с существующими инструментами генерации и публикации. Собственная конечная точка Moderation OpenAI также бесплатна; дополнительная ценность Poyo — удобство платформы и рабочего процесса.
Какие категории изображений включены в бесплатный доступ?
Бесплатный вызов Poyo включает шесть поддерживаемых категорий изображений: сексуальный контент, насилие, графическое насилие, самоповреждение, намерение причинить себе вред и инструкции по самоповреждению. Также можно добавить подпись для оценки предоставленного текста. Используйте category_applied_input_types, чтобы понять охват; сведения о категориях см. в руководстве по модерации изображений.
Как мое приложение может автоматически получать результаты?
Включите callback_url верхнего уровня при отправке задачи Poyo, затем настройте сервер для обработки уведомления о завершении и связывания его с сохраненными ID задачи и версией контента. Считывайте классификации обратного вызова из output.results. Обработчик может обновить существующую запись о публикации или проверке в соответствии с вашими правилами. Следуйте рекомендациям Poyo по вебхукам; запросы статуса по-прежнему доступны для получения результатов и сверки.
Вы можете начать с бесплатного Playground Omni Moderation, а затем использовать руководство по модерации контента с помощью ИИ, чтобы интерпретировать результат перед подключением его к приложению.