Met de gratis API voor beeldmoderatie van Poyo beoordeel je profielfoto's, communityafbeeldingen en productuploads voordat je besluit hoe je ze publiceert. Met Omni Moderation controleer je een afbeelding op zichzelf, of neem je het bijschrift mee in hetzelfde verzoek.
Begin in de Playground om categorievlaggen en scores voor je eigen voorbeelden te bekijken. Gebruik daarna de taaktracking van Poyo en de optionele callback bij voltooiing om die resultaten te koppelen aan de publicatieregels en beoordelingstools van je applicatie.
Deze gids legt uit welke afbeeldingscategorieën worden ondersteund, hoe je een upload voorbereidt en hoe je een duidelijk pad bouwt van indiening naar publicatie of verdere beoordeling. Je kunt het proces eerst op één uploadplek toepassen en het uitbreiden naarmate je team ervaring opdoet.
Wat beeldmoderatie voor je product moet doen
Begin bij de plek waar afbeeldingen verschijnen en wie ze te zien krijgt.
Een avatar kan naast elke reactie zichtbaar zijn. Een communityfoto kan in een openbare feed verschijnen. Een productafbeelding kan naast een advertentie staan die meer controles nodig heeft dan alleen visuele veiligheid. Elke plek kan andere regels en een andere mate van voorzichtigheid vóór publicatie vragen.
Een product kan bijvoorbeeld een niet-schokkende historische afbeelding binnen een discussie accepteren, maar afwijzen als profielfoto. De afbeelding is niet veranderd; de plaatsing en de regels van het product wel.
Leg vast wat er moet gebeuren bij drie uitkomsten: de afbeelding voldoet aan de regels, de betekenis is onduidelijk, of de afbeelding overtreedt duidelijk een regel. Definieer ook een vierde uitkomst voor een beoordeling die niet beschikbaar is. Een verwerkingsfout mag niet stilzwijgend worden opgevat als goedkeuring.
Wat Omni Moderation in afbeeldingen controleert
Poyo geeft je kosteloze toegang (nul credits) tot zes risicocategorieën voor afbeeldingen, die seksuele content, geweld en zelfbeschadiging omvatten. Elk verzoek accepteert één HTTPS-URL van een afbeelding; voeg een bijschrift toe om de bijbehorende tekst samen met de afbeelding te beoordelen.
| Categorie | Waar het signaal over gaat |
|---|---|
sexual | Seksuele content |
violence | Geweld |
violence/graphic | Grafisch geweld |
self-harm | Content over zelfbeschadiging |
self-harm/intent | Aanwijzingen voor de intentie tot zelfbeschadiging |
self-harm/instructions | Instructies voor zelfbeschadiging |
Gebruik category_applied_input_types om te zien of een resultaat geldt voor de afbeelding, de aangeleverde tekst of voor beide. Tekstinvoer ondersteunt 13 categorieën, waaronder haat, intimidatie, illegale instructies en sexual/minors. Die categorieën gelden alleen voor tekst: ze beoordelen aangeleverde tekst en zijn geen afbeeldingscontroles. Bij een verzoek met alleen een afbeelding betekent een score van nul en een lege lijst met invoertypen voor een niet-ondersteunde categorie dat die categorie niet is beoordeeld.
Gelden er regels voor woorden die in een afbeelding staan, voeg dan een geschikte stap voor tekstextractie toe en beoordeel de geëxtraheerde tekst. Productkwaliteit, watermerken, persoonsgegevens en regels voor verboden items vragen ook om eigen controles. Video's en geanimeerde uploads vragen om een aparte workflow voor het selecteren van frames, en audio vraagt om aparte verwerking; het beoordelen van geselecteerde frames zegt niets over een hele video of de bijbehorende soundtrack.
Omni Moderation is geen speciale detector voor CSAM, en sexual/minors ondersteunt alleen tekst. Verstuur bekend of vermoed CSAM niet naar de Moderation API van OpenAI; volg de officiële richtlijnen voor kindveiligheid.
De API-documentatie van Poyo beschrijft de ondersteunde invoer en responsvelden. Kies met dit overzicht de controles voor elke uploadplek.
Bereid de upload voor voordat je een beoordeling aanvraagt
Je applicatie heeft een afbeeldingsbron nodig die de moderatiedienst kan ophalen. Een bestandsnaam als photo.jpg op het apparaat van een gebruiker is niet genoeg, en een webpagina waarop een afbeelding staat is niet per se de URL van die afbeelding.
Houd nieuwe uploads buiten openbare feeds zolang de beoordeling loopt. Dit tussengebied kan deel uitmaken van je bestaande opslagsysteem. Pas toegangsbeheer toe en kies een ondersteunde leveringsmethode waarmee de dienst het specifieke bestand kan ophalen zonder je hele opslagaccount bloot te stellen.
Gebruikt die methode een tijdelijke HTTPS-URL, geef de wachtrijverwerking en nieuwe pogingen dan voldoende tijd. Neem geen sessiegegevens op in de URL en voorkom dat privélinks naar afbeeldingen in breed toegankelijke logs terechtkomen.
Valideer de upload voordat je hem naar de contentbeoordeling stuurt. Controleer of het een verwacht bestandstype is dat zich laat decoderen, en pas limieten voor bestandsgrootte en afbeeldingsafmetingen toe die passen bij je applicatie en aanbieder. Dat zijn uploadcontroles; een moderatiescore valideert niet of een bestand technisch veilig is.
Leg een vaste content-ID en versie vast. Koppel de taak-ID aan die versie, zodat een resultaat nooit per ongeluk een afbeelding goedkeurt die de gebruiker tijdens de beoordeling heeft vervangen.
Een praktische workflow van upload tot publicatie
Een eenvoudig proces kan werken zonder groot moderatieteam, zolang de statussen en verantwoordelijkheden expliciet zijn.
| Fase | Wat er gebeurt | Wat de gebruiker ziet |
|---|---|---|
| Geüpload | Sla het bestand op en wijs de contentversie toe | Upload ontvangen |
| In afwachting van beoordeling | Dien de afbeelding in en leg de taak-ID vast | Wacht op beoordeling |
| Beoordeling voltooid | Lees de taakstatus, de ondersteunde categorieën en de scores | De beoordeling loopt door tot er een productbeslissing is genomen |
| Goedgekeurd | Pas de productregels toe en maak de afbeelding zichtbaar | Gepubliceerd |
| Menselijke beoordeling | Houd de afbeelding vast en wijs een beoordelaar toe | Wacht op een beslissing |
| Afgewezen of niet te verwerken | Leg de regel of het technische probleem uit en bied een passend vervolg aan | Een reden om te bewerken, opnieuw te proberen of bezwaar te maken |
Poyo levert de categoriebeoordeling en het taakresultaat die deze fasen met elkaar verbinden. Gebruik de taak-ID of de callback bij voltooiing om de bijbehorende upload in je applicatie bij te werken, en pas daarna je regels toe om hem te publiceren, voor een beoordelaar vast te houden of om een wijziging te vragen. Je bestaande publicatiesysteem en beoordelingstools voeren die acties uit.
Houd berichten aan gebruikers specifiek. “Je foto wacht op beoordeling” is nuttig zolang de verwerking nog niet klaar is. “We konden deze upload niet verwerken; probeer het opnieuw” beschrijft een technisch probleem. Geen van beide mag worden vervangen door “Je afbeelding overtreedt onze regels”, tenzij een inhoudelijke beslissing dat bericht ook echt onderbouwt.
Een afbeelding indienen via Poyo
Je kunt een afbeelding testen in de Omni Moderation Playground, zonder code te schrijven of handmatig een API-sleutel aan te maken. Log in, wis de tekst als je alleen de afbeelding wilt controleren, voeg één afbeelding toe en kies Run. Gebruik het nieuwe taakresultaat in plaats van het opgenomen voorbeeld dat in eerste instantie wordt getoond.
Voor een integratie dien je het verzoek in vanaf je server, met een Poyo API-sleutel:
curl -X POST https://api.poyo.ai/api/generate/submit \
-H "Authorization: Bearer YOUR_POYO_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "omni-moderation-latest",
"input": {
"image_urls": ["https://your-image-host.example/upload.jpg"]
}
}'
Vervang het voorbeelddomein door een bereikbare HTTPS-URL die naar het afbeeldingsbestand verwijst. Voor een proef zonder code met een lokaal bestand upload je de afbeelding via de Playground; voor API-verzoeken geef je de gehoste URL op in input.image_urls.
Om een bijschrift mee te sturen voeg je "prompt": "The caption being reviewed" toe binnen input. Bij meerdere afbeeldingen in één bericht dien je afzonderlijke taken in en leg je vast welk resultaat bij welke afbeelding hoort. De goedkeuring van één afbeelding mag niet automatisch gelden voor de rest.
De indiening geeft een task_id terug. Vraag de status op met:
curl https://api.poyo.ai/api/generate/status/YOUR_TASK_ID \
-H "Authorization: Bearer YOUR_POYO_API_KEY"
Een taak begint met not_started, draait asynchroon en eindigt met finished of failed. Bij voltooide taken lees je de resultaten onder data.output.results.
Je kunt in de indiening ook een callback_url op het hoogste niveau meegeven. De body van de callback is het statusobject zonder buitenste omhulling, dus de resultaten staan onder output.results. Verifieer callbacks aan de hand van de richtlijnen voor webhooks van Poyo en zorg dat je handler herhaalde aflevering aankan.
Maak van de beoordeling een beslissing
Begin met een regel in gewone taal voor elke categorie die voor de plek van belang is. Beoordeel daarna of het modelsignaal helpt bij het toepassen van die regel.
Een afbeelding die duidelijk je beleid overtreedt, kan na de juiste controles worden afgewezen. Een acceptabele afbeelding kan worden gepubliceerd zodra alle vereiste controles zijn afgerond. Dubbelzinnige gevallen blijven in beoordeling in plaats van dat je ze tot een beslissing dwingt omdat een timer is verlopen.
Een hoge score is een reden om de bijbehorende categorie te bekijken. Het is geen procentuele garantie dat het beleid is overtreden. De interpretatie kan afhangen van de vraag of de afbeelding een kunstwerk, een medische illustratie, een nieuwsfoto of een gewone gebruikersfoto is.
Kies drempelwaarden voor routering aan de hand van je eigen gelabelde voorbeelden. Controleer zowel acceptabele afbeeldingen die onnodig worden vastgehouden als verboden afbeeldingen die de workflow mist. Verander je een drempel, vergelijk de resultaten dan met je vorige beleid voordat je automatische acties uitbreidt.
Leg genoeg informatie vast om beslissingen te kunnen verantwoorden: contentversie, taak-ID, categoriesignalen, toegepaste regel, eventuele uitkomst van de beoordelaar en tijdstip van de beslissing. Stel bewaartermijnen en toegangsbeheer voor dit logboek in, in plaats van elke originele afbeelding onbeperkt te bewaren.
Omgaan met fouten, wijzigingen en bezwaren
Een afbeelding kan niet worden opgehaald. Controleer of de URL naar de afbeelding zelf verwijst, geldig blijft en bereikbaar is zonder gebruikerssessie. Laat de upload in afwachting staan terwijl je het technische probleem oplost.
Een verzoek loopt nog wanneer de pagina niet meer wacht. Bewaar de taak-ID en controleer de status. Als je meteen een duplicaat indient, kunnen twee taken dezelfde versie beoordelen. Gebruik beperkte nieuwe pogingen en een vastgelegde terugvaloptie voor als de verwerking niet beschikbaar blijft.
Een gebruiker vervangt het bestand of wijzigt het bijschrift. Behandel de wijziging als een nieuwe versie die beoordeeld moet worden. Een oude goedkeuring mag geen nieuwe content autoriseren. Controleer de relevante invoer opnieuw en zorg dat late callbacks voor de oude versie de nieuwe niet kunnen publiceren.
Een gebruiker maakt bezwaar tegen de beslissing. Bied een bezwaarroute met genoeg context, zodat een persoon de content en de toegepaste regel kan beoordelen. Een geslaagd bezwaar moet de publicatiestatus bijwerken en een controleerbare correctie achterlaten.
Een bericht bevat meerdere afbeeldingen. Maak de publicatieregel expliciet: wacht bijvoorbeeld tot elke vereiste afbeeldingstaak is voltooid, of laat de gebruiker de afbeelding verwijderen die beoordeling nodig heeft. Beschouw één geslaagd resultaat niet als een beoordeling van het hele bericht.
Veelgestelde vragen
Wat is beeldmoderatie?
Beeldmoderatie is het proces waarbij afbeeldingen worden getoetst aan de contentregels van een platform. Het kan geautomatiseerde controles combineren met menselijk oordeel om te bepalen of een upload moet worden gepubliceerd, voor beoordeling moet worden vastgehouden of moet worden afgewezen.
Is beeldmoderatie gratis bij Poyo?
De Omni Moderation-aanroepen voor afbeeldingen van Poyo kosten nul credits. Je kunt een ondersteunde beoordeling van een afbeelding in de Playground testen en daarna in je applicatie gebruiken zonder moderatiekosten per aanroep. Plan de opslag en levering van afbeeldingen en eventuele menselijke beoordeling apart; de gids over gratis toegang legt het onderscheid uit.
Kan ik een afbeelding en het bijschrift samen beoordelen?
Ja. Voeg zowel input.image_urls met één HTTPS-URL van een afbeelding als input.prompt met het bijschrift toe aan hetzelfde verzoek. In de Playground geef je de afbeelding en de tekst samen op. Lees category_applied_input_types om te zien welke signalen gelden voor de aangeleverde tekst, de afbeelding of voor beide.
Welke risico's in afbeeldingen kan ik controleren?
Omni Moderation ondersteunt zes afbeeldingscategorieën: seksuele content, geweld, grafisch geweld, zelfbeschadiging, de intentie tot zelfbeschadiging en instructies voor zelfbeschadiging. Poyo geeft categorievlaggen en scores terug waarmee je uploads volgens je eigen regels kunt routeren. In het gedeelte over wat er wordt gecontroleerd lees je welke invoer wordt gedekt en welke extra verwerking nodig is voor andere vereisten.
Hoe ontvang ik het voltooide resultaat voor een afbeelding?
Sla de teruggegeven taak-ID van Poyo op en vraag de status op, of geef een callback_url op voor een melding bij voltooiing. Lees data.output.results in statusantwoorden of output.results in callbacks. Koppel het resultaat aan de geüploade afbeeldingsversie en laat je applicatie hem vervolgens publiceren of naar je bestaande beoordelingstool sturen.
Hoe test ik beeldmoderatie zonder code?
Log in op de Poyo Playground, voeg één afbeelding toe, voer eventueel het bijschrift in en kies Run. Wis voor een test met alleen een afbeelding het tekstveld. Bekijk de zojuist voltooide taak en probeer representatieve toegestane voorbeelden voordat je automatische publicatieregels instelt.
Probeer één afbeelding in de Poyo Playground en koppel het resultaat daarna aan een publicatieregel die je team kan uitleggen. De introductie over AI-moderatie legt de responsvelden uit, en de gids voor UGC-moderatie behandelt het bredere teamproces.