Ferramentas de IA estão sendo usadas maliciosamente para enviar “e-mails hiperpersonalizados” tão sofisticados que as vítimas não conseguem identificar que são fraudulentos.
De acordo com o Financial Times, os bots de IA estão compilando informações sobre usuários de e-mail desavisados, analisando sua “atividade de mídia social para determinar os tópicos aos quais eles têm maior probabilidade de responder”.
Em seguida, são enviados aos usuários e-mails fraudulentos que parecem ter sido criados por familiares e amigos. Devido à natureza pessoal do e-mail, o destinatário não consegue identificar que ele é realmente nefasto.
“Isso está piorando e está ficando muito pessoal, e é por isso que suspeitamos que a IA está por trás de grande parte disso”, disse Kristy Kelly, diretora de segurança de informações da agência de seguros Beazley, ao veículo.
“Estamos começando a ver ataques muito direcionados que coletaram uma quantidade imensa de informações sobre uma pessoa.”
“A IA está dando aos criminosos cibernéticos a capacidade de criar facilmente e-mails e mensagens mais personalizados e convincentes que parecem ser de fontes confiáveis”, alertou recentemente a empresa de segurança McAfee. “Espera-se que esses tipos de ataques cresçam em sofisticação e frequência.”
Embora muitos usuários experientes da Internet já conheçam os sinais reveladores dos golpes tradicionais por e-mail, é muito mais difícil saber quando essas novas mensagens personalizadas são fraudulentas.
O Gmail, o Outlook e o Apple Mail ainda não têm “defesas adequadas para impedir isso”, informa a Forbes.
“A engenharia social”, disse Jake Moore, consultor de segurança cibernética da ESET, à Forbes, ‘tem um controle impressionante sobre as pessoas devido à interação humana, mas agora, como a IA pode aplicar as mesmas táticas a partir de uma perspectiva tecnológica, está se tornando mais difícil de mitigar, a menos que as pessoas realmente comecem a pensar em reduzir o que publicam online’.
Os malfeitores também podem utilizar a IA para escrever e-mails de phishing convincentes que imitam bancos, contas e muito mais. De acordo com dados da Agência de Segurança Cibernética e de Infraestrutura dos EUA e citados pelo Financial Times, mais de 90% das violações bem-sucedidas começam com mensagens de phishing.
Esses golpes altamente sofisticados podem contornar as medidas de segurança, e os filtros de caixa de entrada destinados a filtrar e-mails de golpes podem não ser capazes de identificá-los, disse Nadezda Demidova, pesquisadora de segurança contra crimes cibernéticos do eBay, ao Financial Times.
“A disponibilidade de ferramentas de IA generativas reduz o limite de entrada para o crime cibernético avançado”, disse Demidova.
A McAfee alertou que 2025 traria uma onda de IA avançada usada para “criar golpes cibernéticos cada vez mais sofisticados e personalizados”, de acordo com uma publicação recente em seu blog.
A empresa de software Check Point fez uma previsão semelhante para o novo ano.
“Em 2025, a IA conduzirá tanto os ataques quanto as proteções”, disse o Dr. Dorit Dor, diretor de tecnologia da empresa, em um comunicado. “As equipes de segurança contarão com ferramentas baseadas em IA adaptadas a seus ambientes exclusivos, mas os adversários responderão com campanhas de phishing e deepfake cada vez mais sofisticadas e orientadas por IA.”
Para se proteger, os usuários nunca devem clicar em links dentro de e-mails, a menos que possam verificar a legitimidade do remetente. Os especialistas também recomendam reforçar a segurança da conta com autenticação de dois fatores e senhas ou chaves de acesso fortes.
“Em última análise”, disse Moore à Forbes, ‘quer a IA tenha aprimorado um ataque ou não, precisamos lembrar as pessoas sobre esses ataques cada vez mais sofisticados e como pensar duas vezes antes de transferir dinheiro ou divulgar informações pessoais quando solicitado – por mais crível que a solicitação possa parecer’.
