Poyo의 무료 이미지 모더레이션 API를 사용하면 프로필 사진, 커뮤니티 사진, 제품 업로드를 게시하기 전에 평가할 수 있습니다. Omni Moderation을 사용하면 이미지 하나만 검토하거나 동일한 요청에 캡션을 포함할 수 있습니다.
Playground에서 시작하여 직접 준비한 예시의 카테고리 플래그와 점수를 확인하세요. 그런 다음 Poyo의 작업 추적 및 선택적 완료 콜백을 사용하여 이러한 결과를 애플리케이션의 게시 규칙 및 검토 도구에 연결하세요.
이 가이드에서는 지원되는 이미지 카테고리, 업로드 준비 방법, 제출부터 게시 또는 추가 검토까지의 명확한 경로를 구축하는 방법을 설명합니다. 먼저 하나의 업로드 영역에 이 프로세스를 적용한 다음 팀이 경험을 쌓으면서 범위를 확장할 수 있습니다.
제품에서 이미지 모더레이션이 해야 할 일
이미지가 표시되는 위치와 누가 보게 될지부터 시작하세요.
아바타는 모든 댓글 옆에 표시될 수 있습니다. 커뮤니티 사진은 공개 피드에 나타날 수 있습니다. 제품 이미지는 시각적 안전성 외의 검사가 필요한 목록 옆에 표시될 수 있습니다. 각 영역은 게시 전에 서로 다른 규칙과 주의 수준을 요구할 수 있습니다.
예를 들어 제품에서는 토론에 비그래픽 역사적 이미지를 허용하면서 프로필 사진으로는 거부할 수 있습니다. 이미지는 변하지 않았지만, 이미지가 배치되는 위치와 제품의 규칙이 달라진 것입니다.
세 가지 결과에 대해 어떻게 처리할지 기록하세요. 이미지가 규칙을 충족하는 경우, 의미가 불분명한 경우, 규칙을 명확하게 위반하는 경우입니다. 또한 평가를 사용할 수 없는 경우를 위한 네 번째 결과도 정의하세요. 처리 오류를 조용히 승인으로 해석해서는 안 됩니다.
Omni Moderation이 이미지에서 검사하는 항목
Poyo는 성적 콘텐츠, 폭력 및 자해를 다루는 6개의 이미지 위험 카테고리에 대해 크레딧을 차감하지 않고 이용할 수 있습니다. 각 요청은 하나의 HTTPS 이미지 URL을 받으며, 캡션을 추가하면 사진과 함께 제공된 텍스트도 평가할 수 있습니다.
| 카테고리 | 신호가 관련되는 항목 |
|---|---|
sexual | 성적 콘텐츠 |
violence | 폭력 |
violence/graphic | 그래픽 폭력 |
self-harm | 자해 콘텐츠 |
self-harm/intent | 자해 의도에 대한 징후 |
self-harm/instructions | 자해 지침 |
category_applied_input_types을 사용하면 결과가 이미지, 제공된 텍스트 또는 둘 모두에 적용되는지 확인할 수 있습니다. 텍스트 입력은 혐오, 괴롭힘, 불법 행위 지침 및 sexual/minors을 포함한 13개의 카테고리를 지원합니다. 이러한 텍스트 전용 카테고리는 제공된 텍스트를 평가하며 이미지 검사가 아닙니다. 이미지 전용 요청에서 지원되지 않는 카테고리에 대해 점수가 0이고 입력 유형 목록이 비어 있다면 해당 카테고리는 평가되지 않았다는 의미입니다.
사진에 포함된 단어에 따라 달라지는 규칙의 경우 적절한 텍스트 추출 단계를 추가하고 추출된 텍스트를 검토하세요. 제품 품질, 워터마크, 개인정보 및 금지 품목 규칙 역시 별도의 검사가 필요합니다. 동영상 및 애니메이션 업로드에는 별도의 프레임 선택 워크플로가 필요하며, 오디오에는 별도의 처리가 필요합니다. 선택한 프레임을 검토한다고 해서 전체 동영상이나 사운드트랙이 평가되는 것은 아닙니다.
Omni Moderation은 전용 CSAM 탐지기가 아니며 sexual/minors은 텍스트만 지원합니다. 알려졌거나 의심되는 CSAM을 OpenAI의 Moderation API에 제출하지 말고, 공식 아동 안전 지침을 따르세요.
Poyo API 문서에서는 지원되는 입력과 응답 필드를 설명합니다. 이 범위를 활용하여 각 업로드 영역에 필요한 검사를 선택하세요.
검토를 요청하기 전에 업로드 준비하기
애플리케이션에는 모더레이션 서비스가 가져올 수 있는 이미지 리소스가 필요합니다. 사용자 기기에 있는 photo.jpg과 같은 파일 이름만으로는 충분하지 않으며, 이미지를 보여주는 웹페이지가 반드시 이미지 URL인 것도 아닙니다.
검토가 완료될 때까지 새 업로드를 공개 피드 외부에 보관하세요. 이 스테이징 영역은 기존 스토리지 시스템의 일부일 수 있습니다. 액세스 제어를 적용하고, 전체 스토리지 계정을 노출하지 않고 서비스가 특정 파일을 가져올 수 있도록 지원되는 전달 방식을 선택하세요.
해당 방식이 임시 HTTPS URL을 사용하는 경우 대기 중인 처리와 재시도에 충분한 시간을 허용하세요. URL에 세션 자격 증명을 포함하지 말고, 비공개 이미지 링크를 광범위하게 액세스할 수 있는 로그에 기록하지 않도록 하세요.
콘텐츠 평가를 위해 전송하기 전에 업로드를 검증하세요. 예상된 파일 형식인지, 디코딩할 수 있는지 확인하고 애플리케이션 및 제공업체에 적합한 파일 크기와 이미지 크기 제한을 적용하세요. 이는 업로드 검사이며, 모더레이션 점수는 파일의 기술적 안전성을 검증하지 않습니다.
안정적인 콘텐츠 ID와 버전을 기록하세요. 작업 ID를 해당 버전에 연결하여 검토가 진행되는 동안 사용자가 교체한 이미지를 결과가 실수로 승인하지 않도록 하세요.
실용적인 업로드-게시 워크플로
상태와 책임이 명확하다면 대규모 모더레이션 팀 없이도 간단한 프로세스로 운영할 수 있습니다.
| 단계 | 발생하는 일 | 사용자에게 표시되는 내용 |
|---|---|---|
| 업로드됨 | 파일을 저장하고 콘텐츠 버전을 할당합니다 | 업로드 수신됨 |
| 검토 대기 중 | 이미지를 제출하고 작업 ID를 기록합니다 | 검토 대기 중 |
| 평가 완료 | 작업 상태, 지원되는 카테고리 및 점수를 읽습니다 | 제품 결정이 내려질 때까지 검토가 계속됩니다 |
| 승인됨 | 제품 규칙을 적용하고 이미지를 표시합니다 | 게시됨 |
| 사람 검토 | 이미지를 보류하고 검토자를 지정합니다 | 결정 대기 중 |
| 거부 또는 처리 불가 | 규칙 또는 기술적 문제를 설명하고 적절한 다음 단계를 제공합니다 | 수정, 재시도 또는 이의를 제기할 이유 |
Poyo는 이러한 단계에 연결되는 카테고리 평가와 작업 결과를 제공합니다. 작업 ID 또는 완료 콜백을 사용하여 애플리케이션에서 해당 업로드를 업데이트한 다음 규칙을 적용하여 게시하거나 검토자에게 보류하거나 변경을 요청하세요. 이러한 작업은 기존 게시 시스템과 검토 도구가 수행합니다.
사용자에게 표시되는 메시지는 구체적으로 작성하세요. 처리가 완료되지 않은 동안 “사진이 검토를 기다리고 있습니다”는 유용한 메시지입니다. “이 업로드를 처리할 수 없습니다. 다시 시도해 주세요”는 기술적 문제를 설명합니다. 실제 콘텐츠 결정이 해당 메시지를 뒷받침하지 않는 한 둘 다 “이미지가 규칙을 위반합니다”로 대체해서는 안 됩니다.
Poyo를 통해 이미지 제출하기
코드를 작성하거나 API 키를 수동으로 생성하지 않고도 Omni Moderation Playground에서 이미지를 테스트할 수 있습니다. 로그인하고, 이미지 전용 검사를 원한다면 텍스트를 지우고, 이미지 하나를 추가한 다음 Run을 선택하세요. 처음에 표시되는 기록된 예시가 아니라 새 작업 결과를 사용하세요.
통합 환경에서는 Poyo API 키를 사용하여 서버에서 제출하세요:
curl -X POST https://api.poyo.ai/api/generate/submit \
-H "Authorization: Bearer YOUR_POYO_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "omni-moderation-latest",
"input": {
"image_urls": ["https://your-image-host.example/upload.jpg"]
}
}'
예시 도메인을 이미지 파일을 가리키는 액세스 가능한 HTTPS URL로 바꾸세요. 로컬 파일로 코드를 사용하지 않고 시험하려면 Playground를 통해 이미지를 업로드하고, API 요청에서는 호스팅된 URL을 input.image_urls에 제공하세요.
캡션을 포함하려면 input 내부에 "prompt": "The caption being reviewed"을 추가하세요. 게시물에 이미지가 여러 개 있다면 별도의 작업으로 제출하고 각 결과가 어느 이미지에 해당하는지 기록하세요. 하나의 이미지를 승인했다고 해서 나머지 이미지까지 자동으로 승인해서는 안 됩니다.
제출 결과로 task_id이 반환됩니다. 다음을 사용하여 상태를 가져오세요:
curl https://api.poyo.ai/api/generate/status/YOUR_TASK_ID \
-H "Authorization: Bearer YOUR_POYO_API_KEY"
작업은 not_started으로 시작하여 비동기적으로 실행되고 finished 또는 failed로 완료됩니다. 완료된 작업의 경우 data.output.results 아래에서 결과를 읽으세요.
제출 시 최상위 수준의 callback_url도 제공할 수 있습니다. 콜백 본문은 바깥쪽 래퍼가 없는 상태 데이터 객체이므로 결과는 output.results 아래에 있습니다. Poyo 웹훅 지침을 사용하여 콜백을 검증하고 핸들러가 동일한 전달을 반복해서 받아도 처리할 수 있도록 하세요.
평가를 결정으로 전환하기
먼저 해당 영역에 중요한 각 카테고리에 대해 평이한 언어로 규칙을 정하세요. 그런 다음 모델 신호가 해당 규칙을 적용하는 데 도움이 되는지 평가하세요.
정책을 명확하게 위반하는 이미지는 적절한 검사를 거친 후 거부할 수 있습니다. 허용되는 이미지는 필요한 모든 검사가 완료되면 게시할 수 있습니다. 모호한 사례는 타이머가 만료되었다는 이유로 결정을 강제로 내리기보다 계속 검토 상태로 유지해야 합니다.
높은 점수는 해당 카테고리를 살펴봐야 할 이유입니다. 그것이 정책 위반임을 보장하는 백분율은 아닙니다. 해석은 해당 이미지가 예술 작품인지, 의료 일러스트인지, 뉴스 사진인지, 일반적인 사용자 사진인지에 따라 달라질 수 있습니다.
직접 라벨링한 예시를 사용하여 라우팅 임계값을 선택하세요. 불필요하게 보류된 허용 이미지와 워크플로에서 놓친 금지 이미지 모두를 확인하세요. 임계값을 변경하는 경우 자동 조치를 확대하기 전에 이전 정책과 결과를 비교하세요.
결정을 설명할 수 있을 만큼 충분한 정보를 기록하세요. 콘텐츠 버전, 작업 ID, 카테고리 신호, 적용된 규칙, 검토자 결과가 있는 경우 그 결과, 결정 시간을 기록합니다. 모든 원본 이미지를 영구적으로 저장하기보다 이 기록에 대한 보존 기간과 액세스 제어를 설정하세요.
오류, 수정 및 이의 제기 처리하기
이미지를 가져올 수 없습니다. URL이 이미지 자체를 가리키는지, 여전히 유효한지, 사용자 세션 없이 접근할 수 있는지 확인하세요. 기술적 문제를 해결하는 동안 업로드를 대기 상태로 유지하세요.
페이지가 대기를 중지했을 때도 요청이 실행 중입니다. 작업 ID를 보존하고 상태를 확인하세요. 즉시 중복으로 제출하면 동일한 버전을 두 개의 작업이 검토하게 될 수 있습니다. 제한된 재시도와 처리를 계속 사용할 수 없을 때의 명확한 대체 경로를 사용하세요.
사용자가 파일을 교체하거나 캡션을 변경합니다. 변경 사항을 새로운 검토 대상 버전으로 취급하세요. 이전 승인이 새로운 콘텐츠를 승인해서는 안 됩니다. 관련 입력을 다시 확인하고 이전 버전에 대한 늦은 콜백이 새 버전을 게시하지 못하도록 하세요.
사용자가 결정에 이의를 제기합니다. 사람이 콘텐츠와 적용된 규칙을 평가할 수 있도록 충분한 맥락과 함께 이의 제기 경로를 제공하세요. 이의 제기가 성공하면 게시 상태를 업데이트하고 감사 가능한 수정 기록을 남겨야 합니다.
게시물에 여러 이미지가 포함되어 있습니다. 게시 규칙을 명확하게 정하세요. 예를 들어 필요한 모든 이미지 작업이 완료될 때까지 기다리거나, 검토가 필요한 이미지를 사용자가 제거하도록 허용할 수 있습니다. 하나의 성공적인 결과를 전체 게시물에 대한 검토로 해석하지 마세요.
자주 묻는 질문
이미지 모더레이션이란 무엇인가요?
이미지 모더레이션은 플랫폼의 콘텐츠 규칙에 따라 사진을 검토하는 프로세스입니다. 자동 검사와 사람의 판단을 결합하여 업로드를 게시할지, 검토를 위해 보류할지, 거부할지를 결정할 수 있습니다.
Poyo에서 이미지 모더레이션은 무료인가요?
Poyo의 Omni Moderation 이미지 호출은 크레딧이 0입니다. Playground에서 지원되는 이미지 평가를 테스트한 다음 호출당 모더레이션 요금 없이 애플리케이션에서 사용할 수 있습니다. 이미지 저장, 전달 및 사람 검토에 드는 비용은 별도로 계획하세요. 무료 액세스 가이드에서 이러한 차이를 설명합니다.
이미지와 캡션을 함께 검토할 수 있나요?
예. 하나의 HTTPS 이미지 URL과 함께 input.image_urls을 추가하고 동일한 요청에 캡션과 함께 input.prompt을 추가하세요. Playground에서는 이미지와 텍스트를 함께 제공하세요. category_applied_input_types을 읽어 제공된 텍스트, 이미지 또는 둘 모두에 어떤 신호가 적용되는지 확인하세요.
어떤 이미지 위험을 확인할 수 있나요?
Omni Moderation은 성적 콘텐츠, 폭력, 그래픽 폭력, 자해, 자해 의도 및 자해 지침을 다루는 6개의 이미지 카테고리를 지원합니다. Poyo는 규칙에 따라 업로드를 분류하는 데 사용할 수 있는 카테고리 플래그와 점수를 반환합니다. 위의 기능 섹션에서는 다른 요구 사항에 대한 입력 범위와 추가 처리를 설명합니다.
완료된 이미지 결과를 어떻게 받을 수 있나요?
반환된 Poyo 작업 ID를 저장하고 상태를 조회하거나 완료 알림을 위해 callback_url을 제공하세요. 상태 응답에서는 data.output.results를, 콜백에서는 output.results을 읽으세요. 결과를 업로드된 이미지 버전에 일치시킨 다음 애플리케이션에서 게시하거나 기존 검토 도구로 보내도록 하세요.
코드 없이 이미지 모더레이션을 테스트하려면 어떻게 해야 하나요?
Poyo Playground에 로그인하고 이미지 하나를 추가한 다음 선택적으로 캡션을 입력하고 Run을 선택하세요. 이미지 전용 테스트를 하려면 텍스트 필드를 지우세요. 새로 완료된 작업을 검사하고 자동 게시 규칙을 구성하기 전에 대표적인 허용 예시를 테스트하세요.
Poyo Playground에서 이미지 하나를 테스트한 다음 팀에서 설명할 수 있는 게시 규칙에 결과를 연결하세요. AI 모더레이션 소개에서는 응답 필드를 설명하고, UGC 모더레이션 가이드에서는 보다 광범위한 팀 프로세스를 다룹니다.