OpenAI amplia restrições do ChatGPT sobre armas e violência para crianças e adolescentes

06 de Novembro de 2026 as 16h 42min

A OpenAI anunciou restrições para respostas do ChatGPT sobre armas de fogo e violência. As mudanças incluem limites adicionais para adolescentes, alterações nas respostas sobre ataques em massa e mecanismos para identificar conversas que possam indicar risco real de violência.

As medidas foram apresentadas pela empresa como parte de uma revisão de seus procedimentos de segurança. Além de restringir determinados conteúdos, a OpenAI pretende aprimorar a análise do contexto das conversas e ampliar a comunicação de situações consideradas ameaçadoras às autoridades. As mudanças abrangem todos os usuários, mas preveem proteções específicas para menores de 18 anos.

Uma das iniciativas anunciadas é a criação de um Relatório de Segurança da Comunidade, que deverá reunir informações sobre a identificação de ameaças, os procedimentos adotados diante de comportamentos preocupantes e a eficácia das medidas de prevenção. A primeira edição está prevista para o início de 2027 e apresentará dados referentes ao segundo semestre de 2026.

A OpenAI informou ainda que realizou mais de 200 comunicações às autoridades policiais durante o terceiro trimestre de 2026. Os encaminhamentos ocorreram em casos avaliados como ameaças potencialmente graves. Para analisar situações complexas, a empresa afirma contar também com especialistas em saúde mental e comportamento, além de considerar a atuação de familiares e órgãos públicos.

As mudanças não se limitam às contas de adolescentes. O ChatGPT passará a oferecer respostas menos detalhadas sobre ataques em massa que já aconteceram e sobre as pessoas responsáveis por esses episódios. A medida pretende evitar que informações disponíveis publicamente sejam reunidas de forma a facilitar a reprodução de atos violentos ou ampliar a notoriedade dos autores.

O sistema deverá restringir reconstruções detalhadas desses acontecimentos, incluindo informações sobre as armas e os equipamentos utilizados, como foram obtidos e comparações sobre a dimensão dos danos provocados. Segundo a OpenAI, esse tipo de conteúdo pode transformar os responsáveis pelos ataques em figuras de destaque e fornecer referências que favoreçam a imitação.

Isso não significa que os episódios deixarão de poder ser discutidos na plataforma. Os usuários ainda poderão pedir explicações sobre o que aconteceu, os impactos para vítimas e comunidades e os sinais que ajudam a reconhecer situações de risco. A restrição será direcionada principalmente a detalhes operacionais que possam contribuir para o planejamento ou a execução de novos ataques.

Outra mudança envolve a análise do contexto das interações. Uma pergunta que parece comum quando considerada isoladamente pode adquirir outro significado depois de mensagens anteriores com sinais de intenção violenta. Por isso, a empresa pretende aprimorar os mecanismos que levam em conta conversas recentes para decidir quando limitar informações que poderiam ser usadas de maneira prejudicial.

Se o sistema identificar sinais de que uma pessoa está obcecada por violência ou pela ideia de ferir gravemente alguém, poderá encerrar automaticamente a conversa. A medida busca interromper interações consideradas preocupantes. Caso ocorram vários encerramentos pelo mesmo motivo, a conta poderá ser temporariamente suspensa, segundo as regras anunciadas pela empresa.

Para usuários menores de 18 anos, as restrições serão mais abrangentes. Mesmo quando uma pergunta sobre armas parecer inofensiva e não apresentar sinais evidentes de intenção violenta, o ChatGPT deverá limitar o acesso a determinadas informações práticas que possam ser utilizadas indevidamente. A mudança amplia as proteções já existentes para essa faixa etária.

As regras anteriores já proibiam fornecer orientações para planejar ou executar atos violentos e restringiam a ajuda a adolescentes na procura ou obtenção de armas. Agora, também deverão ser limitadas informações práticas sobre armamentos e sistemas de segurança que possam facilitar a violência, ainda que a conversa não indique uma intenção explícita de causar danos.

Fonte: DA REPORTAGEM