Darmowe API Omni Moderation dla tekstu i obrazów w wielu językach

Omni Moderation to multimodalny model OpenAI do wykrywania potencjalnie szkodliwego tekstu i obrazów w różnych językach. PoYo to platforma API modeli, która zapewnia dostęp do omni-moderation-latest, śledzenie zadań i callbacki po zakończeniu. Wywoływanie tego modelu przez PoYo jest darmowe. Wyniki zawierają flagi kategorii, wyniki pewności i typy wejść obsługiwane przez każdą kategorię.

Tak. Wywoływanie Omni Moderation przez PoYo jest darmowe dla tekstu, obrazów i wejść łączonych. Uwierzytelniaj się kluczem API PoYo. Pozostałe modele mają własne cenniki.

Podaj input.prompt jako ciąg tekstowy, input.image_urls jako tablicę zawierającą co najwyżej jeden adres URL obrazu HTTPS albo jedno i drugie. Wymagane jest co najmniej jedno poprawne wejście. Endpoint PoYo dla tego modelu nie przyjmuje obrazów Base64 ani wielu obrazów w jednym żądaniu.

Nie. Obrazy obsługują kategorie sexual, violence, violence/graphic, self-harm, self-harm/intent i self-harm/instructions. Pozostałe kategorie, w tym sexual/minors, hate, harassment i illicit, dotyczą wyłącznie tekstu. Obsługę sprawdzisz w category_applied_input_types. Zerowy wynik dla nieobsługiwanej kategorii obrazu nie oznacza, że ta kategoria została oceniona.

category_scores zawiera wartości pewności między 0 a 1. Wyższe wartości oznaczają większą pewność modelu, że kategoria ma zastosowanie. Weryfikuj progi na własnych treściach, uwzględnij weryfikację przez człowieka i oceniaj zasady ponownie po aktualizacjach modelu. Wyniki nie są gwarancją bezpieczeństwa.

Nie. flagged=true oznacza, że treść została oznaczona jako potencjalnie ryzykowna, a weryfikacja i tak kończy się statusem finished. Status failed oznacza błąd przetwarzania. Pełny wynik weryfikacji odczytasz z data.output.results. Tablica files jest pusta, ponieważ to API zwraca dane strukturalne.

Wyślij żądanie na /api/generate/submit, a potem odpytuj /api/generate/status/{task_id}, aż status zmieni się na finished lub failed. Opcjonalnie możesz podać callback_url na najwyższym poziomie żądania. Treścią callbacku jest obiekt danych statusu bez zewnętrznej otoczki code/data. Streaming nie jest obsługiwany.

Ten endpoint przyjmuje tekst i jeden obraz podany przez adres URL HTTPS, a nie pliki audio ani wideo. Aby zweryfikować transkrypcje audio lub klatki wideo, wykonaj osobno transkrypcję albo wyodrębnij klatki, a następnie prześlij obsługiwany tekst lub obraz jako zadanie moderacji.