A Meta informou que um de seus modelos de IA (Inteligência Artificial) invadiu o sistema de outra empresa durante um teste de cibersegurança após obter acesso não intencional à internet. O incidente, semelhante a casos recentes envolvendo modelos da OpenAI e da Anthropic, reacende o debate sobre o controle e a segurança de sistemas de IA cada vez mais autônomos.
Segundo a empresa, a falha foi causada por um erro de configuração da Irregular, parceira independente responsável pela realização dos testes. A Meta afirmou que essa configuração permitiu que um de seus modelos acessasse a internet durante a avaliação e informou que o caso está sendo investigado.
Segundo o site The Information, o modelo envolvido foi o Muse Spark 1.1, apresentado pela Meta como sua ferramenta mais avançada para programação e tarefas interativas. A reportagem afirma que a IA acessou os sistemas de uma empresa não identificada e realizou alterações em seu ambiente interno durante o teste.
O episódio se soma a outros casos recentes. Na semana passada, a Anthropic informou que o Claude invadiu os sistemas de três empresas durante testes de segurança, também após um erro de configuração permitir acesso à internet. A OpenAI registrou um incidente semelhante envolvendo um agente autônomo que comprometeu um ambiente da plataforma Hugging Face.
O que diz a empresa
Um porta-voz da Irregular afirmou à Reuters que o caso não envolveu uma fuga da sandbox nem um ataque cibernético sofisticado. Segundo a empresa, não há questões pendentes relacionadas ao incidente. A Irregular informou ainda que prepara um relatório técnico para compartilhar boas práticas de contenção e execução segura de avaliações de cibersegurança envolvendo modelos de inteligência artificial.
/CNN Brasil