API Omni Moderation gratuite pour textes multilingues et images

Omni Moderation est le modèle multimodal d’OpenAI qui détecte les contenus potentiellement nuisibles dans les textes multilingues et les images. PoYo est une plateforme d’API de modèles offrant l’accès à omni-moderation-latest, le suivi des tâches et des rappels de fin de traitement. Les appels à ce modèle via PoYo sont gratuits. Les résultats comprennent des indicateurs de catégorie, des scores de confiance et les types d’entrée pris en charge par chaque catégorie.

Oui. Les appels à Omni Moderation via PoYo sont gratuits pour le texte, les images et les entrées combinées. Authentifiez-vous avec une clé API PoYo. Les autres modèles suivent leurs propres tarifs.

Fournissez input.prompt sous forme de chaîne de texte, input.image_urls sous forme de tableau contenant au maximum une URL d’image HTTPS, ou les deux. Au moins une entrée valide est nécessaire. Le point de terminaison PoYo de ce modèle n’accepte ni images Base64 ni plusieurs images dans une même requête.

Non. Les images prennent en charge sexual, violence, violence/graphic, self-harm, self-harm/intent et self-harm/instructions. Les autres catégories, dont sexual/minors, hate, harassment et illicit, concernent uniquement le texte. Consultez category_applied_input_types pour connaître la prise en charge. Un score nul pour une catégorie non prise en charge pour les images ne signifie pas que cette catégorie a été évaluée.

category_scores contient des valeurs de confiance entre 0 et 1. Des valeurs plus élevées indiquent que le modèle est plus sûr que la catégorie s’applique. Validez les seuils sur vos propres contenus, prévoyez une vérification humaine et réévaluez vos règles après les mises à jour du modèle. Les scores ne garantissent pas la sécurité.

Non. flagged=true signifie que le contenu a été signalé comme potentiellement risqué ; la vérification se termine tout de même avec le statut finished. Le statut failed indique un échec de traitement. Lisez les résultats complets dans data.output.results. Le tableau files est vide, car cette API renvoie des données structurées.

Envoyez la requête à /api/generate/submit, puis interrogez /api/generate/status/{task_id} jusqu’à finished ou failed. Vous pouvez fournir callback_url au premier niveau de la requête. Le corps du rappel correspond à l’objet data de l’état, sans l’enveloppe externe code/data. La diffusion en continu n’est pas prise en charge.

Ce point de terminaison accepte du texte et une image fournie par URL HTTPS, mais pas de fichiers audio ou vidéo. Pour modérer des transcriptions audio ou des images extraites de vidéos, effectuez d’abord la transcription ou l’extraction séparément, puis envoyez le texte ou l’image pris en charge comme tâche de modération.