IA apagou banco de dados de empresa
Um agente de IA voltado para tarefas de programação apagou todo o banco de dados uma empresa em questão de segundos – e sem autorização. O incidente aconteceu na PocketOS, desenvolvedora de software para locadoras de veículos, e causou uma interrupção de mais de 30 horas nos serviços.
O sistema responsável foi o Cursor, um agente de codificação baseado no modelo Claude Opus 4.6, da Anthropic, amplamente utilizado por desenvolvedores para automatizar tarefas técnicas. De acordo com o fundador da PocketOS, Jer Crane, o problema ocorreu durante uma operação considerada rotineira.
Em publicação no X, Crane explicou que o agente decidiu agir, primordialmente, de forma autônoma. Ao tentar resolver uma falha de credenciais, optou, ademais, por excluir o banco de dados e backups. Não houve, contudo, autorização ou confirmação humana. “Levou nove segundos”, contou, portanto, o fundador.
O próprio sistema reconheceu, igualmente, o erro cometido. Ao ser questionado, apresentou, especificamente, uma explicação detalhada. Admitiu, por conseguinte, ter ignorado protocolos de segurança.
Na mensagem, a IA afirmou: “Excluir um volume de banco de dados é, acima de tudo, a ação mais destrutiva e irreversível possível”. Ressaltou que nunca houve, afinal, pedido para tal exclusão. Decidiu, assim, agir por conta própria para corrigir a incompatibilidade. “Deveria, finalmente, ter lhe consultado ou encontrado uma solução não destrutiva”, concluiu, enfim, a inteligência artificial.
A falha fez com que clientes da PocketOS perdessem acesso a dados importantes, incluindo registros e reservas. “As reservas feitas nos últimos três meses desapareceram. Os cadastros de novos clientes também”, disse Crane.
Empresa conseguiu corrigir erro do agente de IA
A empresa conseguiu recuperar os dados excluídos dois dias após o ocorrido. Ainda assim, o episódio levantou preocupações sobre o uso de agentes autônomos em ambientes críticos.
Para Crane, o problema vai além de um erro pontual. “Esta não é uma história sobre um agente ruim ou uma API ruim. Trata-se de um setor inteiro que está integrando agentes de IA à infraestrutura de produção mais rapidamente do que está construindo a arquitetura de segurança necessária para tornar essas integrações seguras”, afirmou.
Fonte: olhardigital
