Select an example to view its real input and result.
Calling this model through PoYo is free. Sign in and use your PoYo API key to review text and images.
omni-moderation-latestText / one image (HTTPS URL)
PoYo에서 다국어 텍스트 및 이미지 검토 API를 무료로 이용
Omni Moderation은 다국어 텍스트와 이미지의 잠재적 위험을 식별하고 범주별 플래그와 신뢰도 점수를 반환하여 게시 및 사람의 검토를 지원합니다. 이미지 지원 여부는 범주마다 다릅니다. 자체 콘텐츠를 바탕으로 점수 임계값을 조정하세요.
PoYo는 이 모델의 무료 이용, 작업 추적 및 완료 콜백을 제공하는 모델 API 플랫폼입니다. API 키를 만들고 Playground에서 요청을 테스트한 다음 애플리케이션에 API를 통합하세요.
PoYo에서 Omni Moderation을 무료로 호출하여 다국어 텍스트와 이미지를 검토하고 범주별 플래그와 신뢰도 점수를 확인하세요. 이미지 지원 여부는 범주마다 다릅니다.
01
게시물 설명, 상품 설명 및 관련 이미지는 함께 검토해야 할 때가 많습니다. Omni Moderation은 한 요청에 텍스트, 이미지 한 장 또는 둘 다 받아 게시 전 잠재적 위험을 식별하도록 돕습니다. 텍스트는 13개 범주 모두를 지원하며, 이미지는 성적 콘텐츠, 폭력, 자해 관련 6개 범주를 지원합니다. 나머지 범주는 텍스트만 지원합니다.
02
하나의 위험 플래그만으로는 콘텐츠에 검토가 필요한 이유를 설명할 수 없습니다. Omni Moderation은 범주별 플래그, 신뢰도 점수 및 각 범주에서 지원하는 입력 유형도 반환하므로 애플리케이션이 콘텐츠를 적절한 처리 흐름으로 보낼 수 있습니다. 자체 콘텐츠로 임계값을 조정하고 모델 업데이트 후 다시 평가하세요.
03
국제 커뮤니티와 제품은 영어 이외의 콘텐츠도 검토해야 합니다. Omni Moderation은 다국어 텍스트를 지원하며, OpenAI가 공개한 다국어 평가에서 이전 검토 모델보다 향상된 성능을 보였습니다. 여러 언어의 제출 콘텐츠에 동일한 모델을 사용하고, 언어별 샘플로 동작을 검증하며, 모호한 콘텐츠에는 사람이 검토할 수 있는 경로를 유지하세요.
게시물과 댓글을 게시하기 전에 잠재적 위험을 확인하세요. 커뮤니티 규칙을 적용하고 추가 판단이 필요한 콘텐츠를 사람의 검토로 보낼 수 있습니다.
사용자 메시지와 모델 생성 답변을 검토하고, 결과를 채팅 애플리케이션의 콘텐츠 처리 흐름에 연결하며, 검토 작업을 별도로 추적하세요.
업로드한 이미지와 설명을 함께 제출하고 지원되는 이미지 범주 및 점수를 확인하여 게시 및 사람의 검토에 참고할 수 있습니다.
상품 설명과 상품 이미지 한 장의 잠재적 위험을 확인하고 검토가 필요한 상품을 게시 전 검토 대기열로 보내세요.
학습자 제출물과 토론 텍스트를 검토하고 교육 맥락에 맞게 결과를 해석하며, 모호한 콘텐츠에는 사람이 검토할 수 있는 경로를 유지하세요.
플레이어 메시지, 커뮤니티 게시물 및 업로드 이미지를 검토하여 커뮤니티 팀이 공개되는 사용자 생성 콘텐츠를 관리하도록 돕습니다.
1. API 키를 받으세요.PoYo에 로그인하여 API 키를 만드세요. PoYo는 Omni Moderation API 액세스를 제공하며 이 모델의 호출은 무료입니다. API 키 만들기 →
2. 콘텐츠를 제출하세요.model을 omni-moderation-latest로 설정하고 input.prompt, input.image_urls 또는 둘 다 제공하세요. 각 요청에는 HTTPS URL로 제공하는 이미지를 최대 한 장 포함할 수 있습니다. Playground에서 테스트 →
3. 검토 결과를 받으세요.task_id로 작업 상태를 조회하거나 요청 최상위에 callback_url을 설정하여 완료 콜백을 받으세요. 작업이 끝나면 data.output.results에서 범주별 플래그와 점수를 읽으세요. API 계약 보기 →
Omni Moderation은 다국어 텍스트와 이미지에서 잠재적으로 유해한 콘텐츠를 식별하는 OpenAI의 멀티모달 모델입니다. PoYo는 omni-moderation-latest 이용, 작업 추적 및 완료 콜백을 제공하는 모델 API 플랫폼입니다. PoYo를 통한 이 모델의 호출은 무료입니다. 결과에는 범주별 플래그, 신뢰도 점수 및 각 범주에서 지원하는 입력 유형이 포함됩니다.
네. PoYo를 통한 Omni Moderation 호출은 텍스트, 이미지 및 결합 입력 모두 무료입니다. PoYo API 키로 인증하세요. 다른 모델에는 각각의 요금이 적용됩니다.
input.prompt를 텍스트 문자열로, input.image_urls를 HTTPS 이미지 URL을 최대 하나 포함하는 배열로 제공하거나 둘 다 제공하세요. 적어도 하나의 유효한 입력이 필요합니다. 이 모델의 PoYo 엔드포인트는 Base64 이미지나 한 요청의 여러 이미지를 허용하지 않습니다.
아니요. 이미지는 sexual, violence, violence/graphic, self-harm, self-harm/intent 및 self-harm/instructions를 지원합니다. sexual/minors, hate, harassment, illicit 등 다른 범주는 텍스트만 지원합니다. 지원 범위는 category_applied_input_types에서 확인하세요. 이미지 미지원 범주의 점수가 0이라고 해서 해당 범주를 평가했다는 뜻은 아닙니다.
category_scores에는 0에서 1 사이의 신뢰도 값이 포함됩니다. 값이 높을수록 모델이 해당 범주에 속한다고 더 확신한다는 뜻입니다. 자체 콘텐츠로 임계값을 검증하고 사람의 검토를 지원하며, 모델 업데이트 후 정책을 다시 평가하세요. 점수는 안전성을 보장하지 않습니다.
아니요. flagged=true는 콘텐츠가 잠재적 위험으로 표시되었다는 뜻이며, 검토 작업 자체는 finished 상태로 완료됩니다. failed 상태는 처리 실패를 나타냅니다. 전체 검토 결과는 data.output.results에서 읽으세요. 이 API는 구조화된 데이터를 반환하므로 files 배열은 비어 있습니다.
/api/generate/submit으로 제출한 후 finished 또는 failed가 될 때까지 /api/generate/status/{task_id}를 폴링하세요. 요청 최상위에 선택 사항인 callback_url을 제공할 수 있습니다. 콜백 본문은 상태의 data 객체이며 외부 code/data 래퍼는 포함하지 않습니다. 스트리밍은 지원하지 않습니다.
이 엔드포인트는 텍스트와 HTTPS URL로 제공하는 이미지 한 장을 지원하며 오디오나 비디오 파일은 지원하지 않습니다. 오디오 전사 텍스트나 비디오 프레임을 검토하려면 먼저 별도로 전사하거나 프레임을 추출한 뒤, 지원되는 텍스트 또는 이미지를 검토 작업으로 제출하세요.
PoYo는 다른 지원 API와 동일한 인증 흐름으로 Omni Moderation 무료 API 액세스를 제공하여 자격 증명 관리를 한곳에 모을 수 있습니다.
작업 ID로 조회하거나 완료 콜백을 받고 검토 결과를 애플리케이션의 게시 및 사람의 검토 흐름에 연결하세요.
Playground에서 텍스트, 이미지 및 결합 입력을 테스트하고 범주별 플래그와 점수를 확인한 뒤, 검증한 요청을 애플리케이션에 통합하세요.
내장 API 참조에서 요청과 응답을 확인하거나 LLM 문서를 개발 도구에 제공하여 API 계약을 전달하세요.
