A OpenAI anunciou nesta sexta-feira (30) novas medidas de segurança no ChatGPT para restringir o acesso de adolescentes a informações práticas sobre armas e sistemas de segurança que possam ser utilizados para facilitar atos violentos. As limitações também poderão ser aplicadas quando a pergunta parecer inofensiva e não houver sinais explícitos de intenção de violência.

A empresa informou ainda que o chatbot poderá encerrar automaticamente conversas quando identificar sinais de fixação em violência. Caso esse comportamento se repita em diferentes interações, a conta poderá ser suspensa temporariamente. Essas medidas poderão alcançar usuários de todas as idades.

Outra mudança envolve o sistema de previsão de idade, que foi reforçado para identificar possíveis menores de 18 anos e direcioná-los à experiência do ChatGPT para adolescentes, que conta com filtros adicionais e recursos de controle parental.

As mudanças ocorrem em meio ao aumento das críticas sobre os riscos dos chatbots para o público jovem. Em avaliação divulgada em 7 de outubro, a organização Common Sense Media classificou a experiência do ChatGPT para adolescentes como de “risco inaceitável”, apontando falhas nos alertas aos responsáveis em situações envolvendo automutilação e transtornos alimentares.

Segundo a OpenAI, as novas proteções começarão a ser implementadas nas próximas semanas.