Poyo'nun ücretsiz görüntü moderasyonu API'si, profil fotoğraflarını, topluluk fotoğraflarını ve ürün yüklemelerini nasıl yayınlayacağınıza karar vermeden önce değerlendirmenize yardımcı olur. Omni Moderation ile tek bir görüntüyü tek başına inceleyebilir veya başlığını aynı isteğe dahil edebilirsiniz.
Kendi örnekleriniz için kategori işaretlerini ve skorlarını görmek üzere Playground'da başlayın. Ardından bu sonuçları uygulamanızın yayınlama kurallarına ve inceleme araçlarına bağlamak için Poyo'nun görev takibini ve isteğe bağlı tamamlanma geri çağrısını kullanın.
Bu kılavuz, desteklenen görüntü kategorilerini, bir yüklemenin nasıl hazırlanacağını ve gönderimden yayınlamaya veya daha ileri incelemeye kadar net bir yolun nasıl oluşturulacağını açıklar. Süreçle önce tek bir yükleme yüzeyinde başlayabilir, ardından ekibiniz deneyim kazandıkça kapsamı genişletebilirsiniz.
Görüntü moderasyonu ürününüz için ne yapmalı
Görüntülerin nerede göründüğü ve onları kimin göreceği ile başlayın.
Bir avatar her yorumun yanında görünebilir. Bir topluluk fotoğrafı herkese açık bir akışta görünebilir. Bir ürün görseli, görsel güvenliğin ötesinde kontroller gerektiren bir ilanın yanında yer alabilir. Her yüzey, yayınlamadan önce farklı kurallar ve farklı bir ihtiyat düzeyi gerektirebilir.
Örneğin bir ürün, bir tartışmada grafik olmayan tarihsel bir görüntüyü kabul ederken profil fotoğrafı olarak reddedebilir. Görüntü değişmemiştir; değişen, görüntünün yerleştirildiği alan ve ürünün kurallarıdır.
Üç sonuç için ne olması gerektiğini yazılı hale getirin: görüntü kurallara uyuyor, anlamı belirsiz veya açıkça bir kuralı ihlal ediyor. Ayrıca değerlendirme kullanılamadığında dördüncü bir sonuç tanımlayın. Bir işleme hatası sessizce onay olarak yorumlanmamalıdır.
Omni Moderation görüntülerde neyi kontrol eder
Poyo, cinsel içerik, şiddet ve kendine zarar verme konularını kapsayan altı görüntü risk kategorisine sıfır krediyle erişmenizi sağlar. Her istek bir HTTPS görüntü URL'sini kabul eder; görüntünün yanında sağlanan metni değerlendirmek için bir başlık ekleyin.
| Kategori | Sinyalin ilgili olduğu konu |
|---|---|
sexual | Cinsel içerik |
violence | Şiddet |
violence/graphic | Grafik şiddet |
self-harm | Kendine zarar verme içeriği |
self-harm/intent | Kendine zarar verme niyetine ilişkin göstergeler |
self-harm/instructions | Kendine zarar verme talimatları |
Bir sonucun görüntüye, sağlanan metne veya her ikisine uygulanıp uygulanmadığını görmek için category_applied_input_types kullanın. Metin girdisi; nefret, taciz, yasa dışı talimatlar ve sexual/minors dahil 13 kategoriyi destekler. Yalnızca metne özgü bu kategoriler sağlanan metni değerlendirir; bunlar görüntü kontrolleri değildir. Yalnızca görüntü içeren bir istekte, desteklenmeyen bir kategori için sıfır skor ve boş bir girdi türü listesi, bu kategorinin değerlendirilmediği anlamına gelir.
Bir resme gömülü kelimelere bağlı kurallar için uygun bir metin çıkarma adımı ekleyin ve çıkarılan metni inceleyin. Ürün kalitesi, filigranlar, kişisel bilgiler ve yasaklı ürün kuralları da kendi kontrollerini gerektirir. Video ve animasyonlu yüklemeler ayrı bir kare seçimi iş akışı gerektirir ve ses ayrı olarak işlenmelidir; seçilen karelerin incelenmesi videonun tamamını veya sesini değerlendirmez.
Omni Moderation özel bir CSAM tespit aracı değildir ve sexual/minors yalnızca metni destekler. Bilinen veya şüphelenilen CSAM'ı OpenAI'nin Moderation API'sine göndermeyin; resmî çocuk güvenliği rehberliğini izleyin.
Poyo API belgeleri, desteklenen girdileri ve yanıt alanlarını açıklar. Her yükleme yüzeyi için hangi kontrollerin gerekli olduğunu seçmek üzere bu kapsamı kullanın.
İnceleme istemeden önce yüklemeyi hazırlayın
Uygulamanızın moderasyon hizmetinin erişebileceği bir görüntü kaynağına ihtiyacı vardır. Kullanıcının cihazındaki photo.jpg gibi bir dosya adı yeterli değildir ve bir görüntüyü gösteren web sayfası mutlaka görüntünün URL'si değildir.
İnceleme beklenirken yeni yüklemeleri herkese açık akışların dışında tutun. Bu hazırlama alanı mevcut depolama sisteminizin bir parçası olabilir. Erişim kontrolleri uygulayın ve hizmetin tüm depolama hesabınızı açığa çıkarmadan belirli dosyayı almasını sağlayan desteklenen bir dağıtım yöntemi seçin.
Bu yöntem geçici bir HTTPS URL'si kullanıyorsa, kuyruğa alınmış işleme ve yeniden denemeler için yeterli süre tanıyın. URL'ye oturum kimlik bilgilerini dahil etmeyin ve özel görüntü bağlantılarını geniş erişime açık günlüklerde bulundurmaktan kaçının.
İçerik değerlendirmesi için göndermeden önce yüklemeyi doğrulayın. Beklenen bir dosya türü olduğunu ve kodunun çözülebildiğini kontrol edin ve uygulamanız ile sağlayıcınız için uygun dosya boyutu ve görüntü boyutları sınırlarını uygulayın. Bunlar yükleme kontrolleridir; bir moderasyon skoru dosyanın teknik güvenliğini doğrulamaz.
Kararlı bir içerik kimliği ve sürümü kaydedin. İnceleme devam ederken kullanıcının değiştirdiği bir görüntünün yanlışlıkla onaylanmaması için görev kimliğini bu sürümle ilişkilendirin.
Uygulanabilir bir yüklemeden yayınlamaya iş akışı
Durumlar ve sorumluluklar açık olduğu sürece, büyük bir moderasyon ekibi olmadan da basit bir süreç işe yarayabilir.
| Aşama | Ne olur | Kullanıcı ne görür |
|---|---|---|
| Yüklendi | Dosyayı kaydedin ve içerik sürümünü atayın | Yükleme alındı |
| İnceleme bekliyor | Görüntüyü gönderin ve görev kimliğini kaydedin | İnceleme bekleniyor |
| Değerlendirme tamamlandı | Görev durumunu, desteklenen kategorileri ve skorları okuyun | Ürün kararı verilene kadar inceleme devam eder |
| Onaylandı | Ürün kurallarını uygulayın ve görüntüyü görünür hale getirin | Yayında |
| İnsan incelemesi | Görüntüyü bekletin ve bir inceleyici atayın | Karar bekleniyor |
| Reddedildi veya işlenemiyor | Kuralı veya teknik sorunu açıklayın ve uygun bir sonraki adımı sunun | Düzenleme, yeniden deneme veya itiraz için bir neden |
Poyo, bu aşamaları birbirine bağlayan kategori değerlendirmesini ve görev sonucunu sağlar. Uygulamanızda eşleşen yüklemeyi güncellemek için görev kimliğini veya tamamlanma geri çağrısını kullanın, ardından yayınlamak, bir inceleyici için bekletmek veya değişiklik istemek üzere kurallarınızı uygulayın. Bu işlemleri mevcut yayınlama sisteminiz ve inceleme araçlarınız gerçekleştirir.
Kullanıcıya gösterilen mesajları belirgin tutun. “Fotoğrafınız inceleme için bekliyor” ifadesi, işleme tamamlanmadığında kullanışlıdır. “Bu yüklemeyi işleyemedik; lütfen tekrar deneyin” ifadesi teknik bir sorunu açıklar. Gerçek bir içerik kararı bu mesajı desteklemediği sürece ikisinin yerine “Görüntünüz kurallarımızı ihlal ediyor” denmemelidir.
Poyo üzerinden bir görüntü gönderin
Kod yazmadan veya manuel olarak API anahtarı oluşturmadan bir görüntüyü Omni Moderation Playground içinde test edebilirsiniz. Oturum açın, yalnızca görüntü içeren bir kontrol istiyorsanız metni temizleyin, bir görüntü ekleyin ve Run'ı seçin. Başlangıçta görüntülenen kaydedilmiş örnek yerine yeni görev sonucunu kullanın.
Bir entegrasyon için sunucunuzdan bir Poyo API anahtarıyla gönderim yapın:
curl -X POST https://api.poyo.ai/api/generate/submit \
-H "Authorization: Bearer YOUR_POYO_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "omni-moderation-latest",
"input": {
"image_urls": ["https://your-image-host.example/upload.jpg"]
}
}'
Örnek alan adını, görüntü dosyasına işaret eden erişilebilir bir HTTPS URL'siyle değiştirin. Yerel bir dosyayla kodsuz deneme yapmak için görüntüyü Playground üzerinden yükleyin; API isteklerinde barındırılan URL'sini input.image_urls içinde sağlayın.
Bir başlık eklemek için input içine "prompt": "The caption being reviewed" ekleyin. Bir gönderide birden fazla görüntü varsa ayrı görevler gönderin ve her sonucun hangi görüntüye ait olduğunu kaydedin. Bir görüntünün onaylanması, geri kalanların otomatik olarak onaylanması anlamına gelmemelidir.
Gönderim bir task_id döndürür. Durumu şu şekilde alın:
curl https://api.poyo.ai/api/generate/status/YOUR_TASK_ID \
-H "Authorization: Bearer YOUR_POYO_API_KEY"
Bir görev not_started ile başlar, eşzamansız olarak çalışır ve finished veya failed ile tamamlanır. Tamamlanan görevlerde sonuçları data.output.results altında okuyun.
Gönderimde üst düzey bir callback_url da sağlayabilirsiniz. Geri çağrı gövdesi, dış sarmalayıcı olmadan durum veri nesnesidir; bu nedenle sonuçlar output.results altında bulunur. Geri çağrıları Poyo webhook rehberini kullanarak doğrulayın ve işleyicinizin yinelenen teslimatları tolere etmesini sağlayın.
Değerlendirmeyi bir karara dönüştürün
Yüzey için önemli olan her kategoriye ilişkin sade bir dilde kural belirleyerek başlayın. Ardından model sinyalinin bu kuralı uygulamaya yardımcı olup olmadığını değerlendirin.
Politikanızı açıkça ihlal eden bir görüntü, uygun kontrollerden sonra reddedilebilir. Kabul edilebilir bir görüntü, gerekli tüm kontroller tamamlandığında yayınlanabilir. Belirsiz durumlar, bir zamanlayıcının süresi dolduğu için zorla karara bağlanmak yerine incelemede kalmalıdır.
Yüksek bir skor, ilgili kategoriyi incelemek için bir nedendir. Bir politika ihlaline ilişkin yüzde garantisi değildir. Yorum, görüntünün bir sanat eseri, tıbbi illüstrasyon, haber fotoğrafı veya sıradan kullanıcı fotoğrafı olup olmadığına bağlı olabilir.
Yönlendirme eşiklerini seçmek için kendi etiketlenmiş örneklerinizi kullanın. Gereksiz yere bekletilen kabul edilebilir görüntülerin yanı sıra iş akışının kaçırdığı yasaklı görüntüleri de kontrol edin. Bir eşiği değiştirirseniz, otomatik işlemleri genişletmeden önce sonuçları önceki politikanızla karşılaştırın.
Kararları açıklamak için yeterli bilgiyi kaydedin: içerik sürümü, görev kimliği, kategori sinyalleri, uygulanan kural, varsa inceleyici sonucu ve karar zamanı. Her ham görüntüyü süresiz olarak saklamak yerine bu kayıt için saklama ve erişim kontrolleri belirleyin.
Hataları, düzenlemeleri ve itirazları yönetin
Bir görüntü alınamıyor. URL'nin görüntünün kendisine işaret ettiğini, geçerliliğini koruduğunu ve kullanıcı oturumu olmadan erişilebilir olduğunu kontrol edin. Teknik sorunu çözerken yüklemeyi beklemede tutun.
Bir istek, sayfa beklemeyi bıraktığında hâlâ çalışıyor. Görev kimliğini koruyun ve durumunu kontrol edin. Hemen yinelenen bir gönderim yapmak, aynı sürümü inceleyen iki görev bırakabilir. Sınırlı sayıda yeniden deneme ve işleme kullanılamadığında belirlenmiş bir geri dönüş yolu kullanın.
Bir kullanıcı dosyayı değiştiriyor veya başlığını değiştiriyor. Değişikliği yeni bir incelemeye tabi sürüm olarak ele alın. Eski bir onay yeni içeriğe izin vermemelidir. İlgili girdileri yeniden kontrol edin ve eski sürüm için gelen geç geri çağrıların yenisini yayınlayamayacağından emin olun.
Bir kullanıcı karara itiraz ediyor. Bir kişinin içeriği ve uygulanan kuralı değerlendirebilmesi için yeterli bağlamı içeren bir itiraz yolu sağlayın. Başarılı bir itiraz, yayınlama durumunu güncellemeli ve denetlenebilir bir düzeltme bırakmalıdır.
Bir gönderi birden fazla görüntü içeriyor. Yayınlama kuralını açıkça belirleyin: örneğin gerekli her görüntü görevi tamamlanana kadar bekleyin veya kullanıcının inceleme gerektiren görüntüyü kaldırmasına izin verin. Başarılı bir sonucu gönderinin tamamının incelenmesi olarak yorumlamayın.
Sık sorulan sorular
Görüntü moderasyonu nedir?
Görüntü moderasyonu, resimlerin bir platformun içerik kurallarına göre incelenmesi sürecidir. Bir yüklemenin yayınlanıp yayınlanmayacağına, inceleme için bekletilip bekletilmeyeceğine veya reddedilip reddedilmeyeceğine karar vermek için otomatik kontrolleri insan değerlendirmesiyle birleştirebilir.
Poyo'da görüntü moderasyonu ücretsiz mi?
Poyo'nun Omni Moderation görüntü çağrıları sıfır krediye mal olur. Playground'da desteklenen bir görüntü değerlendirmesini test edebilir ve ardından çağrı başına moderasyon ücreti olmadan uygulamanızda kullanabilirsiniz. Görüntü depolama, dağıtım ve varsa insan incelemesini ayrı planlayın; ücretsiz erişim kılavuzu bu ayrımı açıklar.
Bir görüntüyü ve başlığını birlikte inceleyebilir miyim?
Evet. Aynı isteğe bir HTTPS görüntü URL'siyle hem input.image_urls hem de başlıkla input.prompt ekleyin. Playground'da görüntüyü ve metni birlikte sağlayın. Sağlanan metne, görüntüye veya her ikisine hangi sinyallerin uygulandığını görmek için category_applied_input_types okuyun.
Hangi görüntü risklerini kontrol edebilirim?
Omni Moderation; cinsel içerik, şiddet, grafik şiddet, kendine zarar verme, kendine zarar verme niyeti ve kendine zarar verme talimatlarını kapsayan altı görüntü kategorisini destekler. Poyo, yüklemeleri kurallarınıza göre yönlendirmek için kullanabileceğiniz kategori işaretleri ve skorları döndürür. Yukarıdaki yetenek bölümü, diğer gereksinimler için girdi kapsamını ve ek işlemeyi açıklar.
Tamamlanan görüntü sonucunu nasıl alırım?
Döndürülen Poyo görev kimliğini kaydedin ve durumunu sorgulayın veya tamamlanma bildirimi için bir callback_url sağlayın. Durum yanıtlarında data.output.results veya geri çağrılarda output.results okuyun. Sonucu yüklenen görüntü sürümüyle eşleştirin, ardından uygulamanızın onu yayınlamasına veya mevcut inceleme aracınıza göndermesine izin verin.
Görüntü moderasyonunu kod olmadan nasıl test edebilirim?
Poyo Playground oturumunu açın, bir görüntü ekleyin, isteğe bağlı olarak başlığını girin ve Run'ı seçin. Yalnızca görüntü içeren bir test için metin alanını temizleyin. Yeni tamamlanan görevi inceleyin ve otomatik yayınlama kurallarını yapılandırmadan önce temsili olarak izin verilen örnekleri deneyin.
Poyo Playground içinde bir görüntü deneyin, ardından sonucu ekibinizin açıklayabileceği bir yayınlama kuralına bağlayın. Yapay zeka moderasyonuna giriş yanıt alanlarını açıklar ve UGC moderasyon kılavuzu daha geniş ekip sürecini kapsar.