omni-moderation-latest

Free

Tools

Model:

Omni Moderation ist das multimodale Modell von OpenAI zur Erkennung potenziell schädlicher Inhalte in mehrsprachigen Texten und Bildern, darunter Beiträge, Chatnachrichten und Produktinhalte. PoYo bietet kostenlosen API-Zugriff auf dieses Modell. Übermitteln Sie Text, ein Bild über eine HTTPS-URL oder beides und erhalten Sie Kategoriekennzeichnungen und Konfidenzwerte.

APIKey erhalten

API-Dokumentation

Input

Prompt

Image Urls

Hinzugefügt 0/1

Dateien hier ablegen, einfügen oder eine URL hinzufügen. JPG, PNG, WebP, GIF

Output

Beispielausgabe

This is a real review response. After editing the input, select Run for a new result.

Task-ID:ZKPUY2WZFZZBQR99Erstellt:2026-10-15T09:15:13

Status:finishedFortschritt:100%

No potential risk flagged

Category	Flagged	Score	Input types
harassment	false	0.00001941131867789626	text
harassment/threatening	false	0.000005307507822667365	text
hate	false	0.000007843789122138342	text
hate/threatening	false	0.0000014285517650093407	text
illicit	false	0.007524802741322494	text
illicit/violent	false	0.00006667023092435894	text
self-harm	false	0.0005140312645402674	text
self-harm/instructions	false	0.0002411633099620722	text
self-harm/intent	false	0.0002785803623326577	text
sexual	false	0.0008000313556104121	text
sexual/minors	false	0.0001206589712246389	text
violence	false	0.0005012746277703161	text
violence/graphic	false	0.000011235328063870752	text

Examples

Select an example to view its real input and result.

Free Omni Moderation API

Calling this model through PoYo is free. Sign in and use your PoYo API key to review text and images.

omni-moderation-latest

Text / one image (HTTPS URL)

Free

Model	Supported inputs	Cost
omni-moderation-latest	Text / one image (HTTPS URL)	Free

OMNI MODERATION

Kostenloser API-Zugriff über PoYo zur Moderation mehrsprachiger Texte und Bilder

Kostenlose Omni Moderation API für mehrsprachige Texte und Bilder

Omni Moderation erkennt potenzielle Risiken in mehrsprachigen Texten und Bildern und liefert Kategoriekennzeichnungen und Konfidenzwerte als Grundlage für Veröffentlichung und menschliche Prüfung. Die Bildunterstützung hängt von der Kategorie ab; kalibrieren Sie die Schwellenwerte anhand Ihrer eigenen Inhalte.

PoYo ist eine Plattform für Modell-APIs und bietet kostenlosen Zugriff auf dieses Modell, Aufgabenverfolgung und Abschluss-Callbacks. Erstellen Sie einen API-Schlüssel, testen Sie Anfragen im Playground und integrieren Sie die API in Ihre Anwendung.

Kostenlos starten

Zentrale Funktionen der Omni Moderation API

Nutzen Sie Omni Moderation kostenlos über PoYo, um mehrsprachige Texte und Bilder mit Kategoriekennzeichnungen und Konfidenzwerten zu prüfen. Die Bildunterstützung hängt von der Kategorie ab.

Texte und Bilder gemeinsam prüfen

Beitragstexte, Produktbeschreibungen und die zugehörigen Bilder müssen häufig gemeinsam geprüft werden. Omni Moderation akzeptiert Text, ein Bild oder beides in einer Anfrage, um potenzielle Risiken vor der Veröffentlichung zu erkennen. Text unterstützt alle 13 Kategorien; Bilder unterstützen sechs Kategorien zu sexuellen Inhalten, Gewalt und Selbstverletzung. Die übrigen Kategorien unterstützen nur Text.

Text zusammen mit einem Bild über eine HTTPS-URL prüfen
Text in 13 Moderationskategorien prüfen
Die Bildunterstützung der jeweiligen Kategorie berücksichtigen

Beschreibung der Bildunterstützung nach Kategorie in der offiziellen Ankündigung von OpenAI

Kategoriekennzeichnungen und Konfidenzwerte auswerten

Eine einzelne Risikokennzeichnung erklärt nicht, warum Inhalte geprüft werden sollten. Omni Moderation liefert zusätzlich Kategoriekennzeichnungen, Konfidenzwerte und die von jeder Kategorie unterstützten Eingabetypen, damit Ihre Anwendung Inhalte dem passenden Ablauf zuordnen kann. Kalibrieren Sie Schwellenwerte anhand Ihrer Inhalte und bewerten Sie sie nach Modellaktualisierungen erneut.

Die Kategorien hinter jeder Risikokennzeichnung prüfen
Schwellenwerte anhand eigener Inhaltsbeispiele festlegen
Prüfen, welche Kategorien Text und Bilder unterstützen

Konfidenzwerte je Kategorie im offiziellen Antwortbeispiel von OpenAI

Potenzielle Risiken in mehreren Sprachen erkennen

Internationale Communitys und Produkte müssen auch Inhalte außerhalb des Englischen prüfen. Omni Moderation unterstützt mehrsprachige Texte und übertraf das vorherige Moderationsmodell von OpenAI in der veröffentlichten mehrsprachigen Auswertung. Verwenden Sie ein Modell für Einreichungen in verschiedenen Sprachen, validieren Sie das Verhalten mit sprachspezifischen Beispielen und ermöglichen Sie eine menschliche Prüfung mehrdeutiger Inhalte.

Mehrsprachige Nutzereinreichungen prüfen
Moderationsabläufe internationaler Communitys unterstützen
Das Verhalten mit sprachspezifischen Beispielen validieren

Veröffentlichte mehrsprachige Auswertung von OpenAI zum vorherigen Modell und zu Omni Moderation

Für wen eignet sich die Omni Moderation API?

Community-Plattformen

Prüfen Sie Beiträge und Kommentare vor der Veröffentlichung auf potenzielle Risiken. Wenden Sie Ihre Community-Regeln an und leiten Sie Inhalte, die weitere Bewertung benötigen, an menschliche Prüfer weiter.

Chat-Anwendungen

Prüfen Sie Nutzernachrichten und modellgenerierte Antworten, binden Sie die Ergebnisse in den Inhaltsablauf Ihrer Chat-Anwendung ein und verfolgen Sie Moderationsaufgaben separat.

Produkte zum Teilen von Bildern

Übermitteln Sie ein hochgeladenes Bild mit seiner Bildunterschrift, prüfen Sie unterstützte Bildkategorien und Werte und nutzen Sie die Ergebnisse für Veröffentlichung und menschliche Prüfung.

Marktplätze

Prüfen Sie Produktbeschreibungen und ein Produktbild auf potenzielle Risiken und ordnen Sie prüfbedürftige Angebote vor der Veröffentlichung einer Warteschlange zu.

Bildungsprodukte

Prüfen Sie Einreichungen von Lernenden und Diskussionstexte, bewerten Sie die Ergebnisse im Bildungskontext und ermöglichen Sie eine menschliche Prüfung mehrdeutiger Inhalte.

Spiele und nutzergenerierte Inhalte

Prüfen Sie Spielernachrichten, Community-Beiträge und hochgeladene Bilder, um Community-Teams bei öffentlich sichtbaren Nutzerinhalten zu unterstützen.

So verwenden Sie die Omni Moderation API auf PoYo

1. API-Schlüssel erstellen.Melden Sie sich bei PoYo an und erstellen Sie Ihren API-Schlüssel. PoYo bietet API-Zugriff auf Omni Moderation; Aufrufe dieses Modells sind kostenlos. API-Schlüssel erstellen →

2. Inhalte übermitteln.Setzen Sie model auf omni-moderation-latest und geben Sie input.prompt, input.image_urls oder beides an. Jede Anfrage akzeptiert höchstens ein Bild über eine HTTPS-URL. Playground ausprobieren →

3. Ergebnisse abrufen.Fragen Sie den Status mit task_id ab oder setzen Sie callback_url auf der obersten Anfrageebene, um einen Abschluss-Callback zu erhalten. Lesen Sie nach Abschluss der Aufgabe Kategoriekennzeichnungen und Werte aus data.output.results. API-Vertrag lesen →

Häufige Fragen zur Omni Moderation API

Was ist die Omni Moderation API?

Omni Moderation ist das multimodale Modell von OpenAI zur Erkennung potenziell schädlicher Inhalte in mehrsprachigen Texten und Bildern. PoYo ist eine Plattform für Modell-APIs mit Zugriff auf omni-moderation-latest, Aufgabenverfolgung und Abschluss-Callbacks. Aufrufe dieses Modells über PoYo sind kostenlos. Die Ergebnisse umfassen Kategoriekennzeichnungen, Konfidenzwerte und die von jeder Kategorie unterstützten Eingabetypen.

Ist die Omni Moderation API auf PoYo kostenlos?

Ja. Aufrufe von Omni Moderation über PoYo sind für Text, Bilder und kombinierte Eingaben kostenlos. Authentifizieren Sie sich mit einem PoYo-API-Schlüssel. Für andere Modelle gelten eigene Preise.

Welche Eingaben unterstützt PoYo?

Geben Sie input.prompt als Textzeichenfolge, input.image_urls als Array mit höchstens einer HTTPS-Bild-URL oder beides an. Mindestens eine gültige Eingabe ist erforderlich. Der PoYo-Endpunkt für dieses Modell akzeptiert weder Base64-Bilder noch mehrere Bilder in einer Anfrage.

Unterstützt jede Kategorie Bilder?

Nein. Bilder unterstützen sexual, violence, violence/graphic, self-harm, self-harm/intent und self-harm/instructions. Andere Kategorien, darunter sexual/minors, hate, harassment und illicit, unterstützen nur Text. Prüfen Sie die Unterstützung in category_applied_input_types. Ein Nullwert für eine bei Bildern nicht unterstützte Kategorie bedeutet nicht, dass diese Kategorie geprüft wurde.

Wie sollte ich Kategoriewerte verwenden?

category_scores enthält Konfidenzwerte zwischen 0 und 1. Höhere Werte bedeuten, dass das Modell stärker davon ausgeht, dass die Kategorie zutrifft. Validieren Sie Schwellenwerte anhand Ihrer Inhalte, ermöglichen Sie menschliche Prüfung und bewerten Sie Regeln nach Modellaktualisierungen erneut. Die Werte sind keine Sicherheitsgarantie.

Bedeutet markierter Inhalt, dass die Aufgabe fehlgeschlagen ist?

Nein. flagged=true bedeutet, dass der Inhalt als potenziell riskant markiert wurde; die Prüfung endet dennoch mit dem Status finished. Der Status failed weist auf einen Verarbeitungsfehler hin. Lesen Sie die vollständigen Ergebnisse aus data.output.results. Das Array files ist leer, da diese API strukturierte Daten liefert.

Wie funktionieren asynchrone Anfragen und Callbacks?

Senden Sie die Anfrage an /api/generate/submit und fragen Sie /api/generate/status/{task_id} regelmäßig ab, bis finished oder failed erreicht ist. Optional können Sie callback_url auf der obersten Anfrageebene angeben. Der Callback-Body entspricht dem Statusobjekt data ohne die äußere code/data-Hülle. Streaming wird nicht unterstützt.

Kann ich Audio oder Video übermitteln?

Dieser Endpunkt akzeptiert Text und ein Bild über eine HTTPS-URL, jedoch keine Audio- oder Videodateien. Transkribieren Sie Audio oder extrahieren Sie Videobilder zunächst separat und übermitteln Sie anschließend den unterstützten Text oder das Bild als Moderationsaufgabe.

Warum PoYo für den Zugriff auf die Omni Moderation API verwenden

Kostenloser Modellzugriff mit einem API-Schlüssel

PoYo bietet kostenlosen API-Zugriff auf Omni Moderation mit demselben Authentifizierungsablauf wie bei anderen unterstützten APIs und zentralisiert so die Verwaltung der Zugangsdaten.

Aufgabenverfolgung und Abschluss-Callbacks

Fragen Sie eine Aufgabe über ihre ID ab oder empfangen Sie einen Abschluss-Callback und integrieren Sie die Ergebnisse in die Veröffentlichungs- und Prüfabläufe Ihrer Anwendung.

Anfragen testen und Ergebnisse prüfen

Testen Sie Text, Bilder und kombinierte Eingaben im Playground, prüfen Sie Kategoriekennzeichnungen und Werte und integrieren Sie die getestete Anfrage in Ihre Anwendung.

API-Referenz und LLM-Dokumentation

Prüfen Sie Anfragen und Antworten in der eingebetteten API-Referenz oder stellen Sie Ihren Entwicklungswerkzeugen die LLM-Dokumentation als API-Vertrag bereit.