omni-moderation-latest

Free

Tools

Modell:

Omni Moderation er OpenAIs multimodale modell for å identifisere potensielt skadelig tekst og skadelige bilder på tvers av språk, blant annet innlegg, chatmeldinger og produktinnhold. PoYo gir gratis API-tilgang til denne modellen. Send inn tekst, ett bilde oppgitt via en HTTPS-URL eller begge deler, og motta kategoriflagg og konfidenspoeng.

Hent API-nøkkel

API-dokumentasjon

Input

Prompt

Image Urls

Added 0/1

Drop files here, paste files, or add a URL. JPG, PNG, WebP, GIF

Output

Eksempelresultat

This is a real review response. After editing the input, select Run for a new result.

Oppgave-ID:ZKPUY2WZFZZBQR99Opprettet:2026-10-15T09:15:13

Status:finishedFremdrift:100%

No potential risk flagged

Category	Flagged	Score	Input types
harassment	false	0.00001941131867789626	text
harassment/threatening	false	0.000005307507822667365	text
hate	false	0.000007843789122138342	text
hate/threatening	false	0.0000014285517650093407	text
illicit	false	0.007524802741322494	text
illicit/violent	false	0.00006667023092435894	text
self-harm	false	0.0005140312645402674	text
self-harm/instructions	false	0.0002411633099620722	text
self-harm/intent	false	0.0002785803623326577	text
sexual	false	0.0008000313556104121	text
sexual/minors	false	0.0001206589712246389	text
violence	false	0.0005012746277703161	text
violence/graphic	false	0.000011235328063870752	text

Examples

Select an example to view its real input and result.

Free Omni Moderation API

Calling this model through PoYo is free. Sign in and use your PoYo API key to review text and images.

omni-moderation-latest

Text / one image (HTTPS URL)

Free

Model	Supported inputs	Cost
omni-moderation-latest	Text / one image (HTTPS URL)	Free

OMNI MODERATION

Gratis API-tilgang via PoYo for moderering av flerspråklig tekst og bilder

Gratis Omni Moderation-API for flerspråklig tekst og bilder

Omni Moderation identifiserer potensielle risikoer i flerspråklig tekst og bilder og returnerer kategoriflagg og konfidenspoeng som støtte for publisering og manuell gjennomgang. Bildestøtten varierer mellom kategoriene; kalibrer poenggrensene på ditt eget innhold.

PoYo er en plattform for modell-API-er som tilbyr gratis tilgang til denne modellen, oppgavesporing og callbacks ved fullføring. Opprett en API-nøkkel, test forespørsler i Playground og integrer deretter API-et i applikasjonen din.

Kom i gang gratis

Hovedfunksjoner i Omni Moderation-API-et

Kall Omni Moderation gratis via PoYo for å gå gjennom flerspråklig tekst og bilder med kategoriflagg og konfidenspoeng. Bildestøtten varierer mellom kategoriene.

Gå gjennom tekst og bilder samlet

Bildetekster til innlegg, produktbeskrivelser og bildene som hører til, må ofte gjennomgås samlet. Omni Moderation tar imot tekst, ett bilde eller begge deler i én forespørsel for å hjelpe deg med å identifisere potensielle risikoer før publisering. Tekst støtter alle 13 kategoriene; bilder støtter seks kategorier som dekker seksuelt innhold, vold og selvskading. De andre kategoriene gjelder bare tekst.

Gå gjennom tekst sammen med ett bilde oppgitt via en HTTPS-URL
Kontroller tekst på tvers av 13 modereringskategorier
Ta hensyn til kategorispesifikk støtte for bildeinndata

Støtte for bildekategorier slik den er beskrevet i OpenAIs offisielle lanseringsinnlegg

Se kategoriflagg og konfidenspoeng

Ett enkelt risikoflagg forklarer ikke hvorfor innhold kan trenge gjennomgang. Omni Moderation returnerer også kategoriflagg, konfidenspoeng og hvilke inndatatyper hver kategori støtter, slik at applikasjonen din kan sende innholdet til riktig arbeidsflyt. Kalibrer grensene på ditt eget innhold, og vurder dem på nytt etter modelloppdateringer.

Se hvilke kategorier som ligger bak hvert risikoflagg
Angi poenggrenser ut fra egne innholdseksempler
Sjekk hvilke kategorier som støtter tekst- og bildeinndata

Konfidenspoeng per kategori i OpenAIs offisielle svareksempel

Identifiser potensielle risikoer på tvers av språk

Internasjonale fellesskap og produkter må gå gjennom innhold på flere språk enn engelsk. Omni Moderation støtter flerspråklig tekst og forbedret seg sammenlignet med OpenAIs forrige modereringsmodell i den publiserte flerspråklige evalueringen. Bruk én modell for innsendinger på tvers av språk, valider oppførselen med eksempler på hvert språk, og behold en vei til manuell gjennomgang for tvetydig innhold.

Gå gjennom flerspråklige brukerinnsendinger
Støtt gjennomgangsflyter for internasjonale fellesskap
Valider oppførselen med språkspesifikke eksempler

OpenAIs publiserte flerspråklige evaluering av den forrige modellen og Omni Moderation

Hvem kan ha nytte av Omni Moderation-API-et?

Fellesskapsplattformer

Kontroller innlegg og kommentarer for potensielle risikoer før publisering. Bruk dine egne fellesskapsregler, og send innhold som trenger nærmere vurdering, til manuelle moderatorer.

Chatapplikasjoner

Gå gjennom brukermeldinger og svar generert av modeller, koble resultatene til innholdsflyten i chatapplikasjonen og spor modereringsoppgavene separat.

Produkter for bildedeling

Send inn et opplastet bilde sammen med bildeteksten, se støttede bildekategorier og poeng, og bruk resultatene som grunnlag for publisering og manuell gjennomgang.

Markedsplasser

Kontroller produktbeskrivelser og ett produktbilde for potensielle risikoer, og send annonser som trenger gjennomgang, til en kø før publisering.

Utdanningsprodukter

Gå gjennom innleveringer og diskusjonstekster fra elever, tolk resultatene i utdanningssammenhengen og behold en vei til manuell gjennomgang for tvetydig innhold.

Spill og brukergenerert innhold

Gå gjennom spillermeldinger, fellesskapsinnlegg og opplastede bilder for å hjelpe fellesskapsteamene med å håndtere brukergenerert innhold som vises offentlig.

Slik bruker du Omni Moderation-API-et hos PoYo

1. Hent en API-nøkkel.Logg inn hos PoYo og opprett API-nøkkelen din. PoYo gir API-tilgang til Omni Moderation, og kall til denne modellen er gratis. Opprett API-nøkkel →

2. Send inn innhold.Sett model til omni-moderation-latest og oppgi input.prompt, input.image_urls eller begge deler. Hver forespørsel tar imot maks ett bilde oppgitt via en HTTPS-URL. Prøv Playground →

3. Hent gjennomgangen.Spør etter task_id, eller angi en callback_url på øverste nivå for å motta en callback ved fullføring. Når oppgaven er ferdig, leser du kategoriflagg og poeng fra data.output.results. Les API-kontrakten →

Vanlige spørsmål om Omni Moderation-API-et

Hva er Omni Moderation-API-et?

Omni Moderation er OpenAIs multimodale modell for å identifisere potensielt skadelig tekst og skadelige bilder på tvers av språk. PoYo er en plattform for modell-API-er som gir tilgang til omni-moderation-latest, oppgavesporing og callbacks ved fullføring. Det er gratis å kalle denne modellen via PoYo. Resultatene inneholder kategoriflagg, konfidenspoeng og hvilke inndatatyper hver kategori støtter.

Er Omni Moderation-API-et gratis hos PoYo?

Ja. Det er gratis å kalle Omni Moderation via PoYo for tekst, bilder og kombinerte inndata. Autentiser deg med en API-nøkkel fra PoYo. Andre modeller følger sine egne priser.

Hvilke inndata støtter PoYo?

Oppgi input.prompt som en tekststreng, input.image_urls som en matrise med maks én HTTPS-bilde-URL, eller begge deler. Minst én gyldig inndata er påkrevd. Endepunktet hos PoYo for denne modellen tar ikke imot Base64-bilder eller flere bilder i én forespørsel.

Støtter alle kategorier bilder?

Nei. Bilder støttes for sexual, violence, violence/graphic, self-harm, self-harm/intent og self-harm/instructions. Andre kategorier, blant annet sexual/minors, hate, harassment og illicit, gjelder bare tekst. Sjekk category_applied_input_types for å se støtten. En poengsum på null for en bildekategori som ikke støttes, betyr ikke at kategorien ble vurdert.

Hvordan bør jeg bruke kategoripoengene?

category_scores inneholder konfidensverdier mellom 0 og 1. Høyere verdier betyr at modellen er sikrere på at kategorien gjelder. Valider grensene på ditt eget innhold, legg til rette for manuell gjennomgang og vurder retningslinjene på nytt etter modelloppdateringer. Poengene er ingen garanti for sikkerhet.

Betyr flagget innhold at oppgaven mislyktes?

Nei. flagged=true betyr at innholdet ble markert som potensielt risikabelt, og gjennomgangen fullføres likevel med statusen finished. Statusen failed betyr at behandlingen mislyktes. Les hele gjennomgangen fra data.output.results. Matrisen files er tom fordi dette API-et returnerer strukturerte data.

Hvordan fungerer asynkrone forespørsler og callbacks?

Send inn til /api/generate/submit, og spør deretter /api/generate/status/{task_id} til statusen er finished eller failed. Du kan eventuelt oppgi callback_url på øverste nivå i forespørselen. Callback-innholdet er statusdataobjektet uten den ytre code/data-innpakningen. Strømming støttes ikke.

Kan jeg sende inn lyd eller video?

Dette endepunktet tar imot tekst og ett bilde oppgitt via en HTTPS-URL, ikke lyd- eller videofiler. For å gå gjennom lydtranskripsjoner eller videobilder må du transkribere eller hente ut bilder separat, og deretter sende inn den støttede teksten eller det støttede bildet som en modereringsoppgave.

Derfor bør du bruke PoYo for tilgang til Omni Moderation-API-et

Gratis modelltilgang med én API-nøkkel

PoYo gir gratis API-tilgang til Omni Moderation med den samme autentiseringsflyten som for andre støttede API-er, slik at håndteringen av legitimasjon holdes på ett sted.

Oppgavesporing og callbacks ved fullføring

Spør etter en oppgave-ID eller motta en callback ved fullføring, og koble deretter gjennomgangsresultatene til arbeidsflytene for publisering og manuell gjennomgang i applikasjonen din.

Test forespørsler og se resultatene

Prøv tekst, bilder og kombinerte inndata i Playground, se kategoriflagg og poeng, og integrer deretter den testede forespørselen i applikasjonen din.

API-referanse og LLM-dokumentasjon

Bruk den innebygde API-referansen til å se forespørsler og svar, eller gi LLM-dokumentasjonen til utviklerverktøyene dine for å få API-kontrakten.