O avanço da tecnologia também tem levantado preocupações dentro da própria indústria
Criminosos cibernéticos (hackers) estão usando cada vez mais a IA (Inteligência Artificial) para aprimorar golpes, criar conteúdos falsos e até invadir sistemas.
Nos Estados Unidos, as vítimas perderam mais de US$ 893 milhões em crimes relacionados ao uso de IA no ano passado, segundo dados do FBI.
O avanço da tecnologia também tem levantado preocupações dentro da própria indústria. No início deste mês, a OpenAI informou que um teste de inteligência artificial saiu do controle e atacou sistemas além do Hugging Face. A plataforma que inicialmente parecia ser a única vítima do incidente em um laboratório virtual.
A Anthropic também revelou que agentes de IA conseguiram acessar a internet durante testes e invadir sistemas de outras empresas.
Embora os episódios não tenham resultado no comprometimento de dados de clientes, os casos reacenderam o debate sobre os riscos do uso de agentes autônomos e sobre a segurança dos sistemas conectados à internet.
Para o neurocientista e especialista em inteligência artificial Álvaro Machado Dias, a tecnologia já deixou de ser apenas uma possibilidade para os criminosos e passou a ser uma ferramenta efetiva.
“No crime, a inteligência artificial já funciona de verdade. E funciona, em grande medida, porque o erro custa muito pouco a quem a utiliza.”
Deepfakes ampliam risco de golpes
Um dos principais exemplos do uso criminoso da inteligência artificial são os deepfakes. Isto é, conteúdos sintéticos produzidos por IA capazes de substituir rostos, alterar imagens ou clonar vozes em vídeos e áudios.
A tecnologia pode ser usada em fraudes financeiras, campanhas de desinformação e crimes contra a privacidade. Inclusive, na produção e divulgação não autorizada de imagens íntimas.
Segundo um relatório da Gallup, cerca de 12% das vítimas de golpes nos Estados Unidos afirmaram que o crime envolveu inteligência artificial ou deepfake.
O FBI também alerta para o uso de imagens e vozes falsas de celebridades, CEOs e outras figuras consideradas confiáveis. Segundo a agência, essa tecnologia cria novas “oportunidades fraudulentas de alto risco”.
No ano passado, vítimas perderam mais de US$ 632 milhões em golpes de investimento relacionados à inteligência artificial.
Uma das estratégias é utilizar a identidade de pessoas conhecidas para criar uma sensação de confiança e urgência. Se uma pessoa aparecer em um vídeo ou uma gravação de voz solicitando dinheiro, dados pessoais ou acesso a uma conta, especialistas recomendam não realizar a ação imediatamente.
A orientação é interromper o contato e confirmar a solicitação por outro meio. Ou seja, utilizando um número de telefone, endereço de e-mail ou outro canal que já seja conhecido e confiável.
Voz clonada pode simular pedido de socorro
A clonagem de voz também passou a ser utilizada em golpes que exploram situações de emergência. Criminosos podem usar poucos segundos de uma gravação para criar uma voz sintética capaz de imitar um familiar. E, em seguida, ligar para a vítima alegando estar em uma situação de perigo e precisar de dinheiro.
Segundo Laurel Cook, professora de marketing e pesquisadora de bem-estar digital da Universidade da Virgínia Ocidental, a tecnologia permite criar situações de pressão em tempo real.
De acordo com dados do FBI, as vítimas relataram perdas superiores a US$ 5 milhões em fraudes desse tipo no ano passado.
“Nossa capacidade humana de detectar problemas é inadequada, por isso muitas vezes fica aquém da sofisticação da tecnologia”, afirmou.
Uma das estratégias recomendadas pela pesquisadora é estabelecer previamente uma forma de verificar a identidade de familiares e amigos, como uma palavra ou código de segurança que possa ser utilizado em situações de emergência.
