O Instituto Nacional de Padrões e Tecnologia (NIST) dos Estados Unidos publicou, em agosto de 2025, uma proposta de diretrizes voltadas para o fortalecimento da segurança em sistemas de inteligência artificial (IA). O objetivo é criar parâmetros que ajudem empresas e desenvolvedores a protegerem modelos de IA contra ataques e manipulações maliciosas.
As recomendações incluem práticas de gestão de riscos, validação contínua dos modelos e monitoramento de possíveis tentativas de exploração, como envenenamento de dados de treinamento (data poisoning), manipulação de saídas (model evasion) e uso indevido de aplicações baseadas em IA. Além disso, o NIST propõe que as organizações documentem de forma transparente como seus sistemas foram treinados, quais dados foram utilizados e quais limitações precisam ser consideradas.
Esse movimento acontece em um cenário de crescente adoção da IA em setores críticos como saúde, finanças e segurança pública. Ao mesmo tempo, cresce também o interesse de cibercriminosos em explorar vulnerabilidades nesses sistemas, seja para fraudar resultados, roubar informações confidenciais ou comprometer operações.
Segundo especialistas, a iniciativa do NIST pode servir como base para regulamentações mais amplas em diferentes países, criando padrões internacionais de confiança e segurança em IA. Para empresas, isso significa a necessidade de se adaptar não apenas tecnologicamente, mas também em termos de governança e conformidade.
Dica de Prevenção
Organizações que utilizam IA devem implementar camadas adicionais de segurança em seus modelos, incluindo testes adversariais, monitoramento em tempo real e auditorias independentes. Além disso, é essencial adotar frameworks de boas práticas, como os propostos pelo NIST, para reduzir riscos e aumentar a resiliência.
As diretrizes propostas pelo NIST representam um passo importante para garantir que a inteligência artificial seja utilizada de forma segura e responsável. Empresas que se anteciparem a essas práticas estarão mais preparadas para enfrentar ameaças emergentes. Se a sua organização busca reforçar sua postura de segurança digital e conformidade, conheça os serviços especializados da LC SEC em lcsec.io.
Compartilhe nas redes sociais:
