Sim. O endpoint de moderação autónomo da OpenAI é de utilização gratuita, e a Poyo oferece o omni-moderation-latest a zero créditos por pedido suportado. Através da Poyo, podes rever texto, uma imagem ou ambos, experimentar os resultados no Playground e acompanhar os pedidos no mesmo workflow de tarefas usado pelas outras APIs de modelos suportadas da Poyo.
O valor é prático: começa com um teste no navegador e usa depois uma chave de API da Poyo para integrar a moderação na tua aplicação. O estado das tarefas e os callbacks de conclusão ajudam a ligar a avaliação à publicação, às notificações ou à revisão humana.
As secções seguintes explicam o que o acesso gratuito inclui, como começar e porque pode ser útil um workflow unificado de modelos. Consulta a documentação de moderação da OpenAI e a referência do Omni Moderation da Poyo para cada um dos serviços.
O que a moderação gratuita abrange
Neste modelo, na Poyo, o preço publicado é de zero créditos por pedido. A entrada suportada é texto, um URL HTTPS de imagem ou uma combinação dos dois. A tarefa concluída devolve dados de classificação, incluindo as categorias assinaladas e as pontuações.
| Elemento | O que a chamada gratuita ao modelo fornece |
|---|---|
| Avaliação de texto | Classificação do texto fornecido nas categorias suportadas pelo modelo |
| Avaliação de imagem | Classificação de uma imagem nas categorias de imagem suportadas |
| Texto e imagem em conjunto | Avaliação de uma legenda ou de outro texto juntamente com uma imagem |
| Resultado estruturado | Indicadores de risco, pontuações por categoria e tipos de entrada aplicados |
| Tratamento de pedidos na Poyo | Um ID de tarefa, consulta do estado e um callback de conclusão opcional |
Uma chamada de moderação produz dados estruturados e não um ficheiro de imagem ou de vídeo gerado. Por isso, um resultado pode estar completo mesmo que o array files da tarefa esteja vazio.
Podes acrescentar esta avaliação de zero créditos depois de gerares uma imagem ou uma resposta de um assistente, mantendo a geração e a revisão num workflow ligado. Os outros modelos e serviços de armazenamento mantêm os seus próprios preços, por isso planeia esses recursos à parte da chamada de moderação gratuita.
Planeia um workflow gratuito de moderação de conteúdo
As chamadas de moderação de zero créditos da Poyo permitem-te acrescentar verificações de texto e imagem sem um custo adicional por chamada ao Omni Moderation. Podes começar por uma só superfície, como comentários ou fotografias carregadas, e reutilizar o mesmo acesso ao modelo à medida que ligas mais conteúdo suportado.
Usa o ID da tarefa para acompanhar cada submissão desde a criação até à conclusão. Se a tua aplicação precisar do resultado mais tarde, configura um callback de conclusão para desencadear o passo seguinte, como atualizar o estado de publicação de uma publicação ou acrescentar um caso à tua ferramenta de revisão.
Para carregamentos concentrados depois de um evento ou de uma campanha, coloca os pedidos na fila da tua aplicação e usa o acompanhamento do estado para seguir o seu progresso. Mantém cada tarefa associada à versão do respetivo conteúdo, para que os resultados posteriores cheguem à submissão correta.
A capacidade segue as condições atuais da conta de serviço que utilizas. Consulta os limites aplicáveis à tua conta Poyo ao planear o tráfego; para o acesso direto à OpenAI, consulta os limites oficiais do modelo.
Começa com a moderação gratuita de texto e imagem na Poyo
Experimenta um exemplo no Playground
Inicia sessão e abre o Playground da Poyo. Introduz texto, adiciona uma imagem ou combina os dois e seleciona Run para ver um novo resultado. O formulário, a vista JSON e os exemplos permitem-te perceber o pedido e o resultado antes de escreveres código ou de criares manualmente uma chave de API.
Escolhe o conteúdo a avaliar
Num pedido à API, coloca texto não vazio em input.prompt, um URL HTTPS de imagem em input.image_urls ou indica ambos. Assim, comentários, legendas, imagens e submissões combinadas ficam todos numa única estrutura de pedido.
O Playground carrega uma imagem local selecionada antes de submeter o respetivo URL. Numa integração de servidor, fornece um recurso de imagem que o serviço consiga obter e mantém as ligações temporárias válidas durante o tempo necessário para processar a tarefa. Submete várias imagens como tarefas separadas.
Liga a tua aplicação
Cria uma chave de API da Poyo e chama o endpoint de submissão unificado a partir do teu servidor. Usa o ID da tarefa devolvido para consultar o estado ou acrescenta um callback de conclusão. O mesmo processo de autenticação da Poyo também pode ser usado com outras APIs de modelos suportadas, o que te ajuda a gerir as credenciais num só sítio.
A referência da Poyo especifica a entrada por URL HTTPS e o formato assíncrono do resultado. Mantém a chave no teu servidor e usa os campos documentados para a rota que chamares.
Porquê usar a Poyo para o Omni Moderation
A Poyo combina o acesso gratuito ao Omni Moderation com o workflow de modelos da plataforma: uma chave de API da Poyo, submissão unificada de tarefas, acompanhamento do estado e callbacks opcionais. As equipas que usam várias APIs de modelos suportadas podem integrar a avaliação de conteúdo na mesma conta e na mesma abordagem de gestão de tarefas.
Ambas as vias oferecem moderação autónoma gratuita. O valor adicional da Poyo está na forma como experimentas, ligas e acompanhas o pedido.
| Comparação | Acesso direto à OpenAI | Valor do acesso pela Poyo |
|---|---|---|
| Custo da chamada de moderação | O endpoint de moderação autónomo é gratuito | O Omni Moderation custa zero créditos e integra-se num workflow Poyo já existente |
| Gestão de credenciais | Usar uma chave de API da OpenAI | Usar uma chave de API da Poyo para os modelos suportados de vários fornecedores |
| Acompanhamento de tarefas | Tratar o pedido e a resposta nativos da moderação | Seguir um ID de tarefa ao longo do ciclo de vida de estados unificado da plataforma |
| Notificação de conclusão | A tua aplicação lê a resposta da moderação | Configurar um callback para ligar a avaliação concluída à publicação ou à revisão |
| Experimentar o modelo | Documentação oficial e exemplos da API nativa | Formulário do Playground, vista JSON, exemplos e pré-visualizações dos resultados por categoria |
Para uma equipa que já usa a Poyo, isto mantém o acesso aos modelos e o tratamento de tarefas no mesmo sítio. Uma equipa nova pode começar no Playground e integrar depois o formato de pedido que já inspecionou.
Referência de integração para programadores
Submete para POST /api/generate/submit com uma chave de API da Poyo. O endpoint de estado devolve os resultados por categoria em data.output.results. Um callback de conclusão contém o objeto de dados do estado sem o invólucro exterior code e data, pelo que os resultados do callback ficam em output.results.
Estes caminhos documentados permitem que a tua aplicação leia a mesma informação por categoria através de qualquer um dos métodos de obtenção. Consulta os exemplos completos de pedido e resposta da Poyo.
Planeia os recursos em torno da moderação gratuita
As chamadas de zero créditos da Poyo permitem-te concentrar o orçamento restante nos recursos que o teu produto usa em redor de cada avaliação.
Armazenamento e entrega. As imagens carregadas precisam de armazenamento, e o serviço de moderação tem de as conseguir obter. Os carregamentos temporários, os ficheiros aprovados, as miniaturas e o tráfego de transferência podem ter custos separados. Decide durante quanto tempo conservas os carregamentos rejeitados e abandonados.
Integração e manutenção. Usa os IDs de tarefa, as consultas de estado e os callbacks da Poyo para ligar as submissões aos resultados. Planeia a lógica da aplicação para repetições, versões de conteúdo e estados de publicação, de modo que cada avaliação chegue ao passo seguinte certo e os utilizadores consigam perceber o seu progresso.
Revisão humana. Usa os sinais por categoria para identificar os casos que precisam de contexto e reserva tempo de revisores para submissões ambíguas, reclamações e recursos. Mede o volume com o teu próprio conteúdo e as tuas próprias regras para escolheres uma carga de trabalho que a tua equipa consiga sustentar.
Outras verificações. Combina a avaliação de conteúdo nocivo suportada com verificações dedicadas para spam, informações pessoais, qualidade de imagem e restrições específicas do produto. Associa cada requisito à ferramenta ou ao revisor que o trata.
Eis um cálculo ilustrativo de carga de trabalho, não uma previsão do desempenho do modelo. Imagina que chegam 10 000 submissões num mês e que as regras que escolheste enviam 2% para pessoas. Isso dá 200 revisões humanas. Com três minutos por revisão, valor que se assume, o trabalho demora 600 minutos, ou 10 horas, antes dos recursos. Se alterares essa taxa de revisão para 5%, obténs 500 revisões e 25 horas com o mesmo tempo de revisão assumido.
A chamada à API continua gratuita nos dois casos. O exemplo mostra por que razão um pequeno piloto deve medir a carga de trabalho dos revisores e não apenas se os pedidos têm êxito.
Como planear um teste
Escolhe uma superfície de conteúdo, como novas publicações públicas ou fotografias de perfil. Define as categorias que importam e como vais tratar os resultados antes de submeteres um grande volume.
Depois, testa conteúdo normal, violações claras e exemplos no limite. Verifica como o serviço se comporta com o padrão de tráfego que esperas. Regista as falhas de processamento separadamente das marcações de conteúdo, para que os erros operacionais não inflacionem a tua contagem de conteúdo proibido.
Numa integração assíncrona, define um prazo razoável para a espera visível ao utilizador. Se a tua aplicação deixar de esperar, guarda o ID da tarefa e verifica o seu estado real antes de enviares um pedido duplicado. Um timeout local não prova que a tarefa remota falhou.
Decide o que acontece quando uma avaliação está indisponível. Num carregamento de uma fotografia pública, pode ser adequado manter o ficheiro num estado pendente. A alternativa certa depende da superfície e das tuas regras, e deve ser desenhada antes do lançamento.
Para uma explicação mais ampla das decisões sobre conteúdo, lê o guia de moderação de UGC para pequenas equipas.
Perguntas frequentes
O que é a API OpenAI Moderation?
A API OpenAI Moderation é um serviço de classificação de conteúdo que usa modelos como o omni-moderation-latest para avaliar texto e imagens quanto a possíveis danos. Devolve categorias assinaladas e pontuações de confiança que as aplicações podem usar nos seus próprios workflows de moderação.
Quanto custa o Omni Moderation na Poyo?
Cada chamada suportada ao Omni Moderation custa zero créditos Poyo. Podes submeter uma avaliação autónoma de texto ou de imagem sem a associar a um pedido de geração pago. Isto torna prático testar primeiro a moderação e acrescentá-la depois a um workflow Poyo já existente. O armazenamento, os outros modelos e a revisão humana continuam a ser recursos à parte.
Como posso experimentar a moderação gratuita primeiro?
Abre o Playground da Poyo, inicia sessão e executa texto representativo, uma imagem ou texto com uma imagem. Podes inspecionar as classificações antes de criares uma integração, sem escreveres código nem criares manualmente uma chave de API. Começa com exemplos que reflitam as tuas regras de publicação reais.
Porquê usar a Poyo para aceder ao Omni Moderation?
A Poyo combina a moderação de zero créditos com uma chave de API partilhada para os modelos suportados, um fluxo de estado de tarefas consistente, callbacks de conclusão opcionais e um Playground de teste. Estas funcionalidades ajudam a ligar as avaliações às tuas ferramentas de geração e de publicação existentes. O endpoint Moderation autónomo da OpenAI também é gratuito; o valor acrescentado da Poyo está na comodidade da plataforma e do workflow.
Que categorias de imagem estão incluídas no acesso gratuito?
A chamada gratuita da Poyo inclui as seis categorias de imagem suportadas: conteúdo sexual, violência, violência explícita, automutilação, intenção de automutilação e instruções de automutilação. Podes incluir uma legenda para avaliar também o texto fornecido. Usa category_applied_input_types para perceberes a cobertura; consulta o guia de moderação de imagens para os pormenores das categorias.
Como pode a minha aplicação receber os resultados automaticamente?
Inclui um callback_url de nível superior ao submeteres uma tarefa Poyo e faz com que o teu servidor trate a notificação de conclusão e a associe ao ID de tarefa guardado e à versão do conteúdo. Lê as classificações do callback em output.results. O teu handler pode atualizar o registo de publicação ou de revisão existente de acordo com as tuas regras. Segue as orientações de webhook da Poyo; as consultas de estado continuam disponíveis para obtenção e reconciliação.
Podes começar com o Playground gratuito do Omni Moderation e usar depois o guia de moderação de conteúdo com IA para interpretares o resultado antes de o ligares à tua aplicação.