Sinais de alerta de agentes de IA preocupam o mundo
Incidentes recentes de hackers perpetrados por agentes de IA são “sinais de alerta precoce”, e o mundo poderá enfrentar casos graves se os sistemas não ficarem mais seguros. Foi o que disse o Demis Hassabis, cofundador e presidente do Google DeepMind, nesta quarta-feira (14).
Comportamentos inadequados por parte de agentes de IA, incluindo invasões a redes corporativas e, mais recentemente, a divulgação pela Anthropic de que um modelo de IA enviou uma denúncia falsa de homicídio à polícia, suscitaram alertas de pesquisadores e alimentaram preocupações sobre o avanço da tecnologia.
Hassabis afirmou que havia “muito trabalho a ser feito” para adotar boas práticas que outros campos, como a biologia ou o setor nuclear, já utilizam para proteger sistemas críticos. Ele também defendeu que algum tipo de órgão internacional de padronização será necessário eventualmente.
“Acho que esses incidentes são sinais de alerta precoce de que os sistemas ainda não são tão poderosos”, disse Hassabis. Além disso, ele ponderou que “os incidentes não são tão graves”. Desta forma, o executivo discursou numa cúpula de IA em Dublin. Cabe destacar que ele também atua como cientista-chefe da Alphabet, empresa controladora do Google.
Incidentes podem se tornar problemas sérios no próximo ano
“Por outro lado, eles podem se tornar problemas sérios no próximo ano e nos próximos dois anos”, completou. Dessa forma, ele alertou sobre a necessidade de agir “se não trabalharmos mais como indústria, como empresas individuais e governos”. Afinal, esse esforço conjunto busca “garantir a segurança desses sistemas”.
O presidente da Microsoft, Brad Smith, disse na conferência que o comportamento inadequado da IA fez de 2026 um “ano preocupante”. Por essa razão, ele defendeu que “novas leis e regras de segurança da IA são urgentemente necessárias”. Consequentemente, essa regulamentação permitirá “que a segurança acompanhe a inovação”.
“Nenhuma empresa ou tecnologia deve estar acima da lei. Mas precisamos de leis, precisamos de regulamentação. Ela precisa ser sensata, precisa ser equilibrada, precisa levar em conta as inovações”, disse ele.
“Essa aversão que alguns na indústria têm à regulamentação é, francamente, algo que precisamos superar”.
Hassabis afirmou que, embora um organismo internacional de padronização parecesse uma intervenção óbvia, ele precisaria ser ponderado e flexível para não sufocar a inovação.
“Então, o que você precisa fazer é basicamente construir dinamicamente esse tipo de processo de certificação que seja proporcional aos riscos, como os vemos, e que possa mudar rapidamente dependendo da evolução da tecnologia”, afirmou.
Fonte: CNN
