A natureza humana é consistente, mesmo quando envolve novas tecnologias.
A IA pode ser burra.
Essa opinião surgiu diversas vezes na conferência de cibersegurança RSAC deste ano, com um exemplo particularmente notável — e também na B-Sides 2026, uma conferência menor sobre cibersegurança realizada no fim de semana anterior à RSAC. Por quê? A IA pode ser enganada — algo que os criminosos cibernéticos certamente estão explorando.
Mas nem sempre é para fins inegavelmente nefastos, como roubar informações do seu computador. Em vez disso, a IA é manipulada para fazer coisas que não são explicitamente prejudiciais, mas ainda assim não são exatamente legais, como explicou Sherrod DeGrippo, Vice-Diretor de Segurança da Informação e Gerente Geral de Segurança do Cliente da Microsoft, durante a RSAC 2026.
Um exemplo que ela deu: botões em sites que dizem "Resumir com IA" — e, ao clicar neles, instruções ocultas são enviadas ao modelo para priorizar os produtos daquela marca em recomendações futuras. Não se trata exatamente de envenenar o modelo, já que não há dados ruins sendo usados para o treinamento. Em vez disso, o assistente virtual recebe uma instrução que você desconhece.
Obviamente, os problemas potenciais incluem a possibilidade de você ser direcionado para produtos de qualidade inferior ou duvidosos. Seus dados podem ser coletados e vendidos para compradores ainda mais suspeitos. Mas o dano não é tão imediato ou direto — na maioria das vezes, esse nível de manipulação visa ao aumento da receita comercial. Na verdade, essa estratégia já existe há muito tempo. A forma como a vemos se manifestando por meio da IA é nova, mas DeGrippo destacou que pessoas em busca de dinheiro fácil costumavam manipular os mecanismos de busca e influenciar suas recomendações.
Então, como evitar essas táticas desonestas? Fique de olho nos resultados da IA. Analise as sugestões e os resumos que ela fornece. Os golpistas ainda não estão buscando métodos complexos. DeGrippo afirma que aqueles que buscam dinheiro por meio de esquemas fraudulentos não são "super criativos". Eles fazem o necessário para atingir seu objetivo e param por aí.
É claro que o rápido crescimento da IA significa que comportamentos suspeitos também aumentarão mais rapidamente, à medida que descobrirmos maneiras de evitar absurdos indesejados. Você terá que se manter constantemente informado como um ato básico de autopreservação.
Comentários