omni-moderation-latest

Free

Tools

Model:

Omni Moderation adalah model multimodal OpenAI untuk mengenali konten yang berpotensi berbahaya dalam teks multibahasa dan gambar, termasuk postingan, pesan chat, dan konten produk. PoYo menyediakan akses API gratis ke model ini. Kirim teks, satu gambar melalui URL HTTPS, atau keduanya untuk menerima penanda kategori dan skor keyakinan.

Dapatkan APIKey

API Dok.

Input

Prompt

Image Urls

Added 0/1

Drop files here, paste files, or add a URL. JPG, PNG, WebP, GIF

Output

Contoh output

This is a real review response. After editing the input, select Run for a new result.

ID Tugas:ZKPUY2WZFZZBQR99Dicipta:2026-10-15T09:15:13

Status:finishedKemajuan:100%

No potential risk flagged

Category	Flagged	Score	Input types
harassment	false	0.00001941131867789626	text
harassment/threatening	false	0.000005307507822667365	text
hate	false	0.000007843789122138342	text
hate/threatening	false	0.0000014285517650093407	text
illicit	false	0.007524802741322494	text
illicit/violent	false	0.00006667023092435894	text
self-harm	false	0.0005140312645402674	text
self-harm/instructions	false	0.0002411633099620722	text
self-harm/intent	false	0.0002785803623326577	text
sexual	false	0.0008000313556104121	text
sexual/minors	false	0.0001206589712246389	text
violence	false	0.0005012746277703161	text
violence/graphic	false	0.000011235328063870752	text

Examples

Select an example to view its real input and result.

Free Omni Moderation API

Calling this model through PoYo is free. Sign in and use your PoYo API key to review text and images.

omni-moderation-latest

Text / one image (HTTPS URL)

Free

Model	Supported inputs	Cost
omni-moderation-latest	Text / one image (HTTPS URL)	Free

OMNI MODERATION

Akses API gratis melalui PoYo untuk moderasi teks multibahasa dan gambar

Omni Moderation API Gratis untuk Teks Multibahasa dan Gambar

Omni Moderation mengenali potensi risiko dalam teks multibahasa dan gambar, lalu mengembalikan penanda kategori dan skor keyakinan untuk mendukung publikasi dan peninjauan manusia. Dukungan gambar berbeda menurut kategori; kalibrasikan ambang skor dengan konten Anda sendiri.

PoYo adalah platform API model yang menawarkan akses gratis ke model ini, pelacakan tugas, dan callback penyelesaian. Buat kunci API, uji permintaan di Playground, lalu integrasikan API ke aplikasi Anda.

Mulai Gratis

Fitur Utama Omni Moderation API

Gunakan Omni Moderation secara gratis melalui PoYo untuk meninjau teks multibahasa dan gambar dengan penanda kategori serta skor keyakinan. Dukungan gambar berbeda menurut kategori.

Tinjau Teks dan Gambar Bersama

Keterangan postingan, deskripsi produk, dan gambar terkait sering perlu ditinjau bersama. Omni Moderation menerima teks, satu gambar, atau keduanya dalam satu permintaan untuk membantu mengenali potensi risiko sebelum publikasi. Teks mendukung semua 13 kategori; gambar mendukung enam kategori terkait konten seksual, kekerasan, dan tindakan menyakiti diri. Kategori lain hanya mendukung teks.

Tinjau teks bersama satu gambar yang disediakan melalui URL HTTPS
Periksa teks dalam 13 kategori moderasi
Perhatikan dukungan masukan gambar untuk setiap kategori

Dukungan kategori gambar yang dijelaskan dalam pengumuman resmi OpenAI

Periksa Penanda Kategori dan Skor Keyakinan

Satu penanda risiko tidak menjelaskan mengapa konten perlu ditinjau. Omni Moderation juga mengembalikan penanda kategori, skor keyakinan, dan jenis masukan yang didukung setiap kategori, sehingga aplikasi dapat mengarahkan konten ke alur kerja yang sesuai. Kalibrasikan ambang dengan konten Anda sendiri dan evaluasi kembali setelah pembaruan model.

Periksa kategori di balik setiap penanda risiko
Tetapkan ambang skor menggunakan sampel konten Anda sendiri
Periksa kategori yang mendukung masukan teks dan gambar

Skor keyakinan kategori dalam contoh respons resmi OpenAI

Kenali Potensi Risiko dalam Berbagai Bahasa

Komunitas dan produk internasional perlu meninjau konten selain bahasa Inggris. Omni Moderation mendukung teks multibahasa dan mengungguli model moderasi OpenAI sebelumnya dalam evaluasi multibahasa yang dipublikasikan. Gunakan satu model untuk kiriman berbagai bahasa, validasi perilakunya dengan sampel khusus tiap bahasa, dan sediakan jalur peninjauan manusia untuk konten ambigu.

Tinjau kiriman pengguna dalam berbagai bahasa
Dukung alur peninjauan komunitas internasional
Validasi perilaku dengan contoh khusus tiap bahasa

Evaluasi multibahasa yang dipublikasikan OpenAI untuk model sebelumnya dan Omni Moderation

Siapa yang Dapat Memanfaatkan Omni Moderation API?

Platform Komunitas

Periksa potensi risiko pada postingan dan komentar sebelum dipublikasikan. Terapkan aturan komunitas dan kirim konten yang memerlukan penilaian lebih lanjut kepada peninjau manusia.

Aplikasi Chat

Tinjau pesan pengguna dan balasan yang dihasilkan model, hubungkan hasilnya ke alur konten aplikasi chat Anda, dan lacak tugas moderasi secara terpisah.

Produk Berbagi Gambar

Kirim gambar yang diunggah beserta keterangannya, periksa kategori gambar yang didukung dan skornya, lalu gunakan hasilnya untuk membantu publikasi dan peninjauan manusia.

Marketplace

Periksa potensi risiko pada deskripsi produk dan satu gambar produk, lalu arahkan listing yang perlu ditinjau ke antrean sebelum dipublikasikan.

Produk Pendidikan

Tinjau kiriman peserta didik dan teks diskusi, tafsirkan hasilnya dalam konteks pendidikan, dan sediakan jalur peninjauan manusia untuk konten ambigu.

Game dan Konten Buatan Pengguna

Tinjau pesan pemain, postingan komunitas, dan gambar unggahan untuk membantu tim komunitas mengelola konten buatan pengguna yang ditampilkan secara publik.

Cara Menggunakan Omni Moderation API di PoYo

1. Dapatkan kunci API.Masuk ke PoYo dan buat kunci API Anda. PoYo menyediakan akses API ke Omni Moderation, dan pemanggilan model ini gratis. Buat kunci API →

2. Kirim konten.Atur model ke omni-moderation-latest dan berikan input.prompt, input.image_urls, atau keduanya. Setiap permintaan menerima maksimal satu gambar melalui URL HTTPS. Coba Playground →

3. Ambil hasil peninjauan.Periksa status dengan task_id atau atur callback_url pada tingkat teratas permintaan untuk menerima callback penyelesaian. Setelah tugas selesai, baca penanda kategori dan skor dari data.output.results. Baca kontrak API →

Pertanyaan Umum tentang Omni Moderation API

Apa itu Omni Moderation API?

Omni Moderation adalah model multimodal OpenAI untuk mengenali konten yang berpotensi berbahaya dalam teks multibahasa dan gambar. PoYo adalah platform API model yang menyediakan akses ke omni-moderation-latest, pelacakan tugas, dan callback penyelesaian. Pemanggilan model ini melalui PoYo gratis. Hasil mencakup penanda kategori, skor keyakinan, dan jenis masukan yang didukung setiap kategori.

Apakah Omni Moderation API gratis di PoYo?

Ya. Pemanggilan Omni Moderation melalui PoYo gratis untuk teks, gambar, dan masukan gabungan. Lakukan autentikasi dengan kunci API PoYo. Model lain mengikuti harga masing-masing.

Masukan apa yang didukung PoYo?

Berikan input.prompt sebagai string teks, input.image_urls sebagai array yang berisi maksimal satu URL gambar HTTPS, atau keduanya. Minimal satu masukan yang valid diperlukan. Endpoint PoYo untuk model ini tidak menerima gambar Base64 atau beberapa gambar dalam satu permintaan.

Apakah semua kategori mendukung gambar?

Tidak. Gambar mendukung sexual, violence, violence/graphic, self-harm, self-harm/intent, dan self-harm/instructions. Kategori lainnya, termasuk sexual/minors, hate, harassment, dan illicit, hanya mendukung teks. Periksa dukungannya di category_applied_input_types. Skor nol untuk kategori yang tidak mendukung gambar tidak berarti kategori tersebut telah dievaluasi.

Bagaimana sebaiknya saya menggunakan skor kategori?

category_scores berisi nilai keyakinan antara 0 dan 1. Nilai lebih tinggi menunjukkan model lebih yakin bahwa kategori tersebut berlaku. Validasi ambang dengan konten Anda sendiri, sediakan peninjauan manusia, dan evaluasi kembali kebijakan setelah pembaruan model. Skor tidak menjamin keamanan.

Apakah konten yang ditandai berarti tugas gagal?

Tidak. flagged=true berarti konten ditandai berpotensi berisiko, dan peninjauan tetap selesai dengan status finished. Status failed menunjukkan kegagalan pemrosesan. Baca hasil peninjauan lengkap dari data.output.results. Array files kosong karena API ini mengembalikan data terstruktur.

Bagaimana cara kerja permintaan asinkron dan callback?

Kirim ke /api/generate/submit, lalu periksa /api/generate/status/{task_id} secara berkala hingga finished atau failed. Anda dapat memberikan callback_url opsional pada tingkat teratas permintaan. Isi callback adalah objek data status tanpa pembungkus luar code/data. Streaming tidak didukung.

Bisakah saya mengirim audio atau video?

Endpoint ini menerima teks dan satu gambar melalui URL HTTPS, bukan file audio atau video. Untuk meninjau transkrip audio atau frame video, lakukan transkripsi atau ekstraksi frame secara terpisah terlebih dahulu, lalu kirim teks atau gambar yang didukung sebagai tugas moderasi.

Mengapa Menggunakan PoYo untuk Akses Omni Moderation API

Akses Model Gratis dengan Satu Kunci API

PoYo menyediakan akses API gratis ke Omni Moderation dengan alur autentikasi yang sama seperti API lain yang didukung, sehingga pengelolaan kredensial terpusat.

Pelacakan Tugas dan Callback Penyelesaian

Periksa tugas berdasarkan ID atau terima callback penyelesaian, lalu hubungkan hasil peninjauan ke alur publikasi dan peninjauan manusia aplikasi Anda.

Uji Permintaan dan Periksa Hasil

Coba teks, gambar, dan masukan gabungan di Playground, periksa penanda kategori dan skor, lalu integrasikan permintaan yang telah diuji ke aplikasi Anda.

Referensi API dan Dokumentasi LLM

Gunakan referensi API yang disematkan untuk memeriksa permintaan dan respons, atau berikan dokumentasi LLM kepada alat pengembangan Anda sebagai kontrak API.