omni-moderation-latest

Free

Tools

Model:

Omni Moderation er OpenAI's multimodale model til at finde potentielt skadelig tekst og skadelige billeder på tværs af sprog, f.eks. i opslag, chatbeskeder og produktindhold. PoYo giver gratis API-adgang til denne model. Send tekst, ét billede via en HTTPS-URL eller begge dele, og få kategoriflag og konfidensscorer tilbage.

Hent API-nøgle

API-dokumentation

Input

Prompt

Image Urls

Added 0/1

Drop files here, paste files, or add a URL. JPG, PNG, WebP, GIF

Output

Eksempel på output

This is a real review response. After editing the input, select Run for a new result.

Opgave-ID:ZKPUY2WZFZZBQR99Oprettet:2026-10-15T09:15:13

Status:finishedFremdrift:100%

No potential risk flagged

Category	Flagged	Score	Input types
harassment	false	0.00001941131867789626	text
harassment/threatening	false	0.000005307507822667365	text
hate	false	0.000007843789122138342	text
hate/threatening	false	0.0000014285517650093407	text
illicit	false	0.007524802741322494	text
illicit/violent	false	0.00006667023092435894	text
self-harm	false	0.0005140312645402674	text
self-harm/instructions	false	0.0002411633099620722	text
self-harm/intent	false	0.0002785803623326577	text
sexual	false	0.0008000313556104121	text
sexual/minors	false	0.0001206589712246389	text
violence	false	0.0005012746277703161	text
violence/graphic	false	0.000011235328063870752	text

Examples

Select an example to view its real input and result.

Free Omni Moderation API

Calling this model through PoYo is free. Sign in and use your PoYo API key to review text and images.

omni-moderation-latest

Text / one image (HTTPS URL)

Free

Model	Supported inputs	Cost
omni-moderation-latest	Text / one image (HTTPS URL)	Free

OMNI MODERATION

Gratis API-adgang via PoYo til moderering af flersproget tekst og billeder

Gratis Omni Moderation API til flersproget tekst og billeder

Omni Moderation finder potentielle risici i flersproget tekst og billeder og returnerer kategoriflag og konfidensscorer som støtte til udgivelse og manuel gennemgang. Understøttelsen af billeder varierer fra kategori til kategori; kalibrér tærsklerne for scorer på dit eget indhold.

PoYo er en API-platform for modeller, der tilbyder gratis adgang til denne model samt opgavesporing og callbacks, når opgaver er fuldført. Opret en API-nøgle, test anmodninger i Playground, og integrér derefter API'et i din applikation.

Start gratis

Omni Moderation API's vigtigste funktioner

Brug Omni Moderation gratis via PoYo til at gennemgå flersproget tekst og billeder med kategoriflag og konfidensscorer. Understøttelsen af billeder varierer fra kategori til kategori.

Gennemgå tekst og billeder sammen

Billedtekster til opslag, produktbeskrivelser og deres billeder skal ofte gennemgås sammen. Omni Moderation accepterer tekst, ét billede eller begge dele i en enkelt anmodning, så du kan finde potentielle risici, før indholdet udgives. Tekst understøtter alle 13 kategorier; billeder understøtter seks kategorier, der dækker seksuelt indhold, vold og selvskade. De øvrige kategorier gælder kun for tekst.

Gennemgå tekst sammen med ét billede via en HTTPS-URL
Kontrollér tekst i 13 modereringskategorier
Tag hensyn til, hvilke kategorier der understøtter billeder

Understøttelse af billeder pr. kategori som beskrevet i OpenAI's officielle udgivelsesindlæg

Undersøg kategoriflag og konfidensscorer

Et enkelt risikoflag forklarer ikke, hvorfor indhold kan have brug for gennemgang. Omni Moderation returnerer også kategoriflag, konfidensscorer og de inputtyper, som hver kategori understøtter, så din applikation kan sende indholdet videre til den rette workflow. Kalibrér tærsklerne på dit eget indhold, og vurdér dem igen efter modelopdateringer.

Se, hvilke kategorier der ligger bag hvert risikoflag
Fastsæt tærskler for scorer ud fra dine egne indholdsprøver
Se, hvilke kategorier der understøtter tekst og billeder

Konfidensscorer pr. kategori i OpenAI's officielle svareksempel

Find potentielle risici på tværs af flere sprog

Internationale fællesskaber og produkter har brug for at gennemgå indhold på andre sprog end engelsk. Omni Moderation understøtter flersproget tekst og klarede sig bedre end OpenAI's tidligere modereringsmodel i den flersprogede evaluering, som OpenAI har offentliggjort. Brug én model til indsendelser på tværs af sprog, kontrollér adfærden på sprogspecifikke prøver, og behold en vej til manuel gennemgang af tvetydigt indhold.

Gennemgå brugernes indsendelser på flere sprog
Understøt workflows til gennemgang i internationale fællesskaber
Kontrollér adfærden med sprogspecifikke eksempler

OpenAI's offentliggjorte flersprogede evaluering af den tidligere model og Omni Moderation

Hvem har gavn af Omni Moderation API?

Fællesskabsplatforme

Kontrollér opslag og kommentarer for potentielle risici, før de udgives. Anvend dit fællesskabs regler, og send indhold, der kræver en nærmere vurdering, videre til manuelle gennemgangere.

Chatapplikationer

Gennemgå brugernes beskeder og modelgenererede svar, forbind resultaterne med din chatapplikations indholdsworkflow, og følg modereringsopgaver separat.

Produkter til deling af billeder

Send et uploadet billede sammen med billedteksten, se de understøttede billedkategorier og scorer, og brug resultaterne som grundlag for udgivelse og manuel gennemgang.

Markedspladser

Kontrollér produktbeskrivelser og ét produktbillede for potentielle risici, og send derefter opslag, der skal gennemgås, til en kø, før de udgives.

Uddannelsesprodukter

Gennemgå de lærendes indsendelser og diskussionstekster, fortolk resultaterne i deres uddannelsesmæssige sammenhæng, og behold en vej til manuel gennemgang af tvetydigt indhold.

Spil og brugergenereret indhold

Gennemgå spillernes beskeder, opslag i fællesskabet og uploadede billeder, så fællesskabsteams kan styre brugergenereret indhold, der vises offentligt.

Sådan bruger du Omni Moderation API på PoYo

1. Hent en API-nøgle.Log ind på PoYo, og opret din API-nøgle. PoYo giver API-adgang til Omni Moderation, og kald til denne model er gratis. Opret API-nøgle →

2. Send indhold.Sæt model til omni-moderation-latest, og angiv input.prompt, input.image_urls eller begge dele. Hver anmodning accepterer højst ét billede via en HTTPS-URL. Prøv Playground →

3. Hent gennemgangen.Forespørg task_id, eller sæt en callback_url på øverste niveau for at få en callback, når opgaven er fuldført. Når opgaven er færdig, læser du kategoriflag og scorer fra data.output.results. Læs API-kontrakten →

Ofte stillede spørgsmål om Omni Moderation API

Hvad er Omni Moderation API?

Omni Moderation er OpenAI's multimodale model til at finde potentielt skadelig tekst og skadelige billeder på tværs af sprog. PoYo er en API-platform for modeller, der giver adgang til omni-moderation-latest samt opgavesporing og callbacks, når opgaver er fuldført. Det er gratis at bruge denne model via PoYo. Resultaterne omfatter kategoriflag, konfidensscorer og de inputtyper, som hver kategori understøtter.

Er Omni Moderation API gratis på PoYo?

Ja. Det er gratis at bruge Omni Moderation via PoYo til tekst, billeder og kombineret input. Godkend med en PoYo API-nøgle. Andre modeller følger deres egne priser.

Hvilke input understøtter PoYo?

Angiv input.prompt som en tekststreng, input.image_urls som et array med højst én HTTPS-billed-URL eller begge dele. Der kræves mindst ét gyldigt input. PoYo's endpoint til denne model accepterer ikke Base64-billeder eller flere billeder i én anmodning.

Understøtter alle kategorier billeder?

Nej. Billeder understøtter sexual, violence, violence/graphic, self-harm, self-harm/intent og self-harm/instructions. De øvrige kategorier, herunder sexual/minors, hate, harassment og illicit, gælder kun for tekst. Se category_applied_input_types for at kontrollere understøttelsen. En score på nul for en billedkategori, der ikke understøttes, betyder ikke, at kategorien er blevet vurderet.

Hvordan skal jeg bruge kategoriscorerne?

category_scores indeholder konfidensværdier mellem 0 og 1. Højere værdier betyder, at modellen er mere sikker på, at kategorien gælder. Kontrollér tærsklerne på dit eget indhold, understøt manuel gennemgang, og vurdér retningslinjerne igen efter modelopdateringer. Scorer er ingen garanti for sikkerhed.

Betyder markeret indhold, at opgaven mislykkedes?

Nej. flagged=true betyder, at indholdet er markeret som potentielt risikabelt, og gennemgangen bliver stadig fuldført med status finished. Status failed angiver en fejl i behandlingen. Læs hele gennemgangen fra data.output.results. Arrayet files er tomt, fordi dette API returnerer strukturerede data.

Hvordan fungerer asynkrone anmodninger og callbacks?

Send til /api/generate/submit, og poll derefter /api/generate/status/{task_id}, indtil status er finished eller failed. Du kan eventuelt angive callback_url på anmodningens øverste niveau. Callbackens indhold er statusdataobjektet uden det yderste code/data-lag. Streaming understøttes ikke.

Kan jeg sende lyd eller video?

Dette endpoint accepterer tekst og ét billede via en HTTPS-URL, ikke lyd- eller videofiler. Hvis du vil gennemgå lydtransskriptioner eller videobilleder, skal du transskribere eller udtrække billederne separat og derefter sende den understøttede tekst eller det understøttede billede som en modereringsopgave.

Hvorfor bruge PoYo til adgang til Omni Moderation API

Gratis adgang til modellen med én API-nøgle

PoYo giver gratis API-adgang til Omni Moderation med den samme godkendelsesworkflow som de øvrige understøttede API'er, så du styrer dine legitimationsoplysninger ét sted.

Opgavesporing og callbacks ved fuldførelse

Forespørg et opgave-id, eller få en callback, når opgaven er fuldført, og forbind derefter gennemgangsresultaterne med din applikations workflows til udgivelse og manuel gennemgang.

Test anmodninger, og se resultaterne

Prøv tekst, billeder og kombineret input i Playground, se kategoriflag og scorer, og integrér derefter den testede anmodning i din applikation.

API-reference og LLM-dokumentation

Brug den indlejrede API-reference til at undersøge anmodninger og svar, eller giv LLM-dokumentationen til dine udviklingsværktøjer for at give dem API-kontrakten.