Regras Mais Estritas da OpenAI: Por Que o ChatGPT Não Falará Mais Sobre Goblins

Lisa Ernst · 04.05.2026 · Inteligência Artificial · 7 min

Em nosso mundo cada vez mais interconectado, as conversas que temos online moldam profundamente como nos entendemos e interagimos uns com os outros. À medida que os modelos de inteligência artificial se tornam mais acessíveis e integrados à vida diária, a responsabilidade de garantir que essas plataformas promovam ambientes seguros e construtivos cresce exponencialmente. A OpenAI, uma empresa líder em pesquisa e implantação de IA, enfrenta esse desafio por meio de suas políticas e ferramentas abrangentes de moderação de conteúdo.

Fonte: A crescente presença da IA na vida diária destaca a necessidade crítica de moderação de conteúdo robusta para promover interações online seguras.

Resumo Rápido: Moderação de Conteúdo da OpenAI

• Políticas de Uso Universal: Atualizadas em 29 de outubro de 2025, essas políticas garantem diretrizes consistentes em todos os produtos e serviços da OpenAI, priorizando a segurança e o controle do usuário.
• Conteúdo Proibido: A OpenAI proíbe estritamente conteúdo relacionado a ameaças, assédio, automutilação, violência sexual, material de abuso sexual infantil (CSAM) e terrorismo.
• API de Moderação: Uma ferramenta técnica gratuita para desenvolvedores identificarem e filtrarem textos e imagens prejudiciais, oferecendo sinalização e categorização detalhadas.
• Sistema de Proteções: Validação em tempo real de mensagens de assistentes de IA, impedindo que conteúdo ofensivo ou que viole políticas chegue aos usuários.
• Atualizações Contínuas: A OpenAI refina regularmente seus modelos e políticas de moderação, exigindo que os desenvolvedores se mantenham informados e se adaptem.

A Base da Moderação: Políticas de Uso da OpenAI

A OpenAI tem refinado consistentemente sua abordagem à moderação de conteúdo. Em 29 de outubro de 2025, a empresa atualizou suas políticas de uso para estabelecer um conjunto unificado de diretrizes em todos os seus produtos e serviços. Essas políticas priorizam o uso seguro e responsável de suas ferramentas, ao mesmo tempo que maximizam o controle do usuário. Anteriormente, em 29 de janeiro de 2025, essas diretrizes universais foram further clarificadas para detalhar proibições com base na lei aplicável.

Mudanças significativas também ocorreram em 10 de janeiro de 2024, quando as diretrizes ofereceram uma articulação mais clara e instruções mais específicas para serviços. Uma grande consolidação ocorreu em 15 de fevereiro de 2023, mesclando diretrizes específicas de aplicativos e de conteúdo em um único conjunto de políticas de uso, fornecendo orientação detalhada sobre atividades proibidas em indústrias de alto risco. Desde 9 de novembro de 2022, a OpenAI não exige mais o registro de aplicativos, confiando em métodos automatizados e manuais para monitorar violações de políticas. O próprio processo de revisão de aplicativos teve uma atualização em 25 de outubro de 2022, permitindo que os desenvolvedores implantem aplicativos sem aguardar aprovação, desde que cumpram as diretrizes estabelecidas, conforme descrito em suas

A OpenAI proíbe estritamente o uso de seus serviços para uma série de atividades prejudiciais. Isso inclui ameaças explícitas, intimidação, assédio ou difamação. A promoção ou facilitação de suicídio, conceitos de automutilação ou transtornos alimentares também é proibida. Conteúdo envolvendo violência sexual ou material íntimo não consensual se enquadra nessas proibições. As políticas também proíbem explicitamente terrorismo ou qualquer forma de violência, incluindo violência odiosa. Crucialmente, qualquer material envolvendo abuso sexual infantil (CSAM) é proibido, independentemente de ser gerado por IA.' políticas de uso.

A solicitação de menores e a exposição de menores a conteúdo inadequado para a idade, como material gráfico de automutilação, sexual ou violento, também são proibidas. Além disso, o incentivo a comportamentos alimentares ou de exercício não saudáveis em menores por meio dos serviços da OpenAI não é permitido, conforme detalhado em suas

As políticas de uso da OpenAI proíbem explicitamente uma ampla gama de conteúdo prejudicial, desde assédio e ameaças até material de abuso sexual infantil.' políticas de uso.

Fonte: roborhythms.com

As políticas de uso da OpenAI proíbem explicitamente uma ampla gama de conteúdo prejudicial, desde assédio e ameaças até material de abuso sexual infantil.

A API de Moderação na Prática

A API de Moderação da OpenAI serve como uma ferramenta técnica chave na identificação de conteúdo potencialmente prejudicial em texto e imagens. Este endpoint está disponível gratuitamente, permitindo que os desenvolvedores filtrem conteúdo ou intervenham com contas de usuários que geram material ofensivo. Ao enviar arquivos de imagem para o endpoint de Moderação, um limite de tamanho de 20 MB se aplica, conforme descrito em sua' documentação da API.

Fonte: community.openai.com

Este painel ilustra como a API de Moderação processa o conteúdo, sinalizando-o como potencialmente prejudicial ou em conformidade.

Os desenvolvedores podem utilizar dois modelos distintos para o endpoint de Moderação: omni-moderation-latest para entradas multimodais e uma gama mais ampla de categorias, e text-moderation-latest como uma opção legada exclusivamente para texto. A saída da API de Moderação fornece vários indicadores principais:

• flagged 'status': Verdadeiro se o conteúdo for potencialmente prejudicial.
• categories: Mostra sinalizadores de violação por categoria.
• category_scores: Fornece valores de confiança entre 0 e 1.
• category_applied_input_types: Para modelos Omni, especifica quais tipos de entrada (imagem, texto) acionaram sinalizadores para cada categoria.

A OpenAI atualiza continuamente o modelo subjacente do endpoint de Moderação, o que pode exigir a recalibração de políticas personalizadas.

Categorias da API de Moderação

A API de Moderação categoriza o conteúdo em vários tipos de danos. Aqui está um detalhamento das principais categorias e seu suporte a tipos de entrada:

A categoria ilícito abrange conteúdo que oferece conselhos ou instruções para ações ilegais, enquanto ilícito/violento refere-se especificamente a conteúdo que inclui violência ou a obtenção de uma arma. A categoria sexual/menores sinaliza conteúdo sexual envolvendo indivíduos menores de 18 anos de idade, conforme documentado no' guia de Moderação da OpenAI.

Gerenciando Conteúdo Gerado pelo Usuário com Proteções

O gerenciamento eficaz de conteúdo gerado pelo usuário é crucial para defender as políticas da OpenAI e evitar banimentos da API. A implementação de identificadores de usuário exclusivos (user_id) em cada chamada de API ajuda a OpenAI a atribuir violações de políticas a usuários específicos, protegendo os aplicativos contra penalidades gerais. As empresas devem educar os usuários sobre as diretrizes de conteúdo aceitáveis para minimizar violações.

O registro detalhado das interações do usuário auxilia na identificação de padrões de uso indevido e no refinamento de estratégias de moderação. Mecanismos de limitação de taxa e throttling impedem solicitações excessivas e submissões repetidas de conteúdo problemático. Um robusto sistema de tratamento de erros também deve fornecer feedback claro e informativo aos usuários quando a moderação rejeita solicitações. Devido à natureza evolutiva das políticas de conteúdo da OpenAI, a revisão regular e as atualizações das políticas internas e estratégias de moderação são essenciais.

O sistema de Proteções e Moderação de Conteúdo valida as mensagens do assistente em tempo real antes que elas cheguem aos usuários. Este sistema classifica as saídas do agente com base nas políticas de moderação, identificando conteúdo ofensivo, mensagens fora da marca e violência. Mensagens que violam políticas são marcadas como FAIL e ocultas, enquanto mensagens em conformidade são marcadas como PASS e exibidas normalmente. O sistema de Proteções opera de forma assíncrona durante o streaming de mensagens, empregando um classificador LLM separado (gpt-4o-mini). As categorias de Proteções incluem OFENSIVO (abrangendo discurso de ódio e linguagem discriminatória), FORA DA MARCA (como discussões sobre concorrentes), VIOLÊNCIA (como ameaças explícitas ou descrições de violência) e NENHUMA para mensagens perfeitamente em conformidade. O componente de classificação principal, runGuardrailClassifier, avalia o conteúdo da mensagem. O prompt do classificador define um papel de especialista, o nome da empresa, a mensagem para classificação e descrições detalhadas das classes de saída.

Conclusão

A abordagem em várias camadas da OpenAI para moderação de conteúdo, abrangendo políticas de uso claras, uma API de moderação robusta e proteções em tempo real, demonstra um profundo compromisso em promover ambientes online seguros. À medida que a tecnologia de IA avança, o aprimoramento contínuo desses sistemas permanece primordial para navegar pelas complexidades da comunicação digital e manter os padrões éticos.

Perguntas Frequentes