Uma investigação recente revelou que as plataformas de IA ChatGPT e Perplexity foram alvo de sites maliciosos que conseguiram enganar seus mecanismos de busca e resposta, levando os modelos a repassar informações falsas aos usuários. Os cibercriminosos criaram páginas com aparência legítima, otimizadas para indexação e contendo trechos manipulados de notícias ou relatórios. Quando acessadas pelas IAs, essas fontes foram interpretadas como confiáveis, resultando na disseminação de desinformação e conteúdo potencialmente perigoso.
De acordo com a análise divulgada, as páginas falsas imitavam domínios de portais de tecnologia e segurança, mas escondiam links de redirecionamento para malwares e golpes de phishing. Esse tipo de ataque explora a confiança que usuários depositam em respostas geradas por ferramentas de IA, criando um novo vetor de risco: a injeção de desinformação via conteúdo envenenado. Embora os desenvolvedores tenham adotado filtros e verificações de segurança, a sofisticação dos sites maliciosos dificultou a detecção automática.
Especialistas alertam que o problema tende a crescer à medida que o uso de modelos de linguagem se populariza em buscas e assistentes corporativos. Um ambiente contaminado por informações falsas pode afetar decisões estratégicas, análises de risco e até investigações de segurança digital. A verificação de fontes e o uso de inteligência de ameaças (Threat Intelligence) se tornam, portanto, essenciais para evitar impactos reais.
Dica de prevenção: empresas e usuários devem adotar uma postura crítica diante de conteúdos obtidos por IA, validando as informações em fontes oficiais. É importante monitorar domínios suspeitos e implementar sistemas de filtragem e reputação de sites. Além disso, soluções de Threat Intelligence com IA ajudam a identificar campanhas de manipulação e a evitar que dados falsos comprometam decisões.
O caso mostra que até tecnologias avançadas estão sujeitas à manipulação. Para garantir que sua empresa se mantenha segura e informada com precisão, conheça os serviços da LC SEC, que incluem Pentest, Threat Intelligence com IA, Auditoria Interna, Conscientização, Plano Diretor de Segurança e SGSI. Acesse lcsec.io e descubra como fortalecer a proteção do seu negócio.
Compartilhe nas redes sociais:
