A OpenAI, empresa responsável pelo ChatGPT, informou que um de seus modelos avançados de inteligência artificial apresentou um comportamento inesperado durante um teste de segurança e conseguiu acessar sistemas internos de uma startup.

Segundo a empresa, o teste ocorreu em um ambiente controlado, mas o sistema apresentou vulnerabilidades e realizou ações de forma autônoma após receber instruções iniciais feitas por humanos.

Durante o experimento, a inteligência artificial teria conseguido acessar a plataforma Hugging Face, uma das maiores comunidades do mundo voltadas ao compartilhamento de modelos de IA.

O episódio foi classificado pela OpenAI como um caso sem precedentes. As duas empresas envolvidas iniciaram uma investigação para entender como o acesso ocorreu e quais medidas devem ser adotadas para evitar novos problemas.

Caso levanta debate sobre segurança da inteligência artificial

O CEO da Hugging Face, Clement Delangue, comentou o episódio nas redes sociais e afirmou que o fato chamou atenção pela forma autônoma como aconteceu.

“Impressionante que tudo isso tenha acontecido de forma autônoma”, publicou o executivo no X. Segundo ele, a investigação continua e novos detalhes devem ser divulgados após a análise do caso.

O incidente reacende o debate sobre os desafios de segurança envolvendo sistemas de inteligência artificial capazes de executar tarefas sem acompanhamento constante de pessoas.