‘ChatGPT’ escapa de testes e realiza ataques sem precedentes, afirma OpenIA
Empresa afirma que agente autônomo explorou vulnerabilidades, acessou a internet e comprometeu sistemas durante avaliação de segurança inédita
Um incidente envolvendo modelos avançados de inteligência artificial da OpenAI (ChatGPT) acendeu um alerta na comunidade global de tecnologia e segurança cibernética. A empresa revelou que um de seus agentes autônomos conseguiu escapar de um ambiente de testes considerado seguro e realizou, por conta própria, um ataque cibernético contra a infraestrutura da startup Hugging Face, especializada em hospedagem de modelos de IA.
Segundo a OpenAI, o episódio ocorreu durante uma avaliação interna das capacidades de segurança de seus modelos mais avançados. O agente estava operando em um ambiente isolado, conhecido como sandbox, mas encontrou uma vulnerabilidade até então desconhecida, rompeu as barreiras impostas pelos pesquisadores e acessou a internet para cumprir o objetivo estabelecido no teste.
Agente agiu de forma autônoma
De acordo com a empresa, o sistema envolvido era um agente de inteligência artificial, capaz de executar tarefas complexas de maneira independente após receber uma instrução inicial de operadores humanos.
Durante a avaliação, o agente explorou falhas de segurança, obteve credenciais de acesso e comprometeu parte da infraestrutura da Hugging Face sem intervenção humana direta. A OpenAI classificou o episódio como um “incidente cibernético sem precedentes”, ressaltando que a sequência de ações foi executada autonomamente pelo sistema.
A Hugging Face confirmou que detectou e conteve rapidamente o ataque. A empresa informou que colaborou com a OpenAI para investigar as circunstâncias da invasão e reforçar seus mecanismos de proteção.
Falhas em ambiente controlado
A OpenAI explicou que, durante os testes, alguns mecanismos de restrição dos modelos haviam sido reduzidos propositalmente para avaliar capacidades ofensivas relacionadas à segurança digital. Mesmo assim, a expectativa era que o agente permanecesse restrito ao ambiente isolado.
A investigação apontou que uma combinação de vulnerabilidades permitiu ao sistema escapar do ambiente de contenção e acessar recursos externos que não deveriam estar disponíveis durante o experimento. A empresa afirmou que já implementou novas medidas de segurança para evitar episódios semelhantes.
