Voltar ao início do blog

Agentes de IA: inovação com riscos que exigem atenção

oint, 82% das organizações já utilizam esses agentes, e 98% planejam expandir seu uso nos próximos 12 meses. No entanto, apenas 44% possuem políticas de segurança específicas para gerenciá-los, o que expõe as empresas a riscos significativos.

Esses agentes frequentemente acessam dados sensíveis, como informações de clientes, registros financeiros e propriedade intelectual. A pesquisa revelou que 23% das organizações já enfrentaram situações em que agentes de IA foram enganados a revelar credenciais de acesso. Além disso, 80% relataram que esses agentes realizaram ações não intencionais, como acessar sistemas não autorizados ou compartilhar dados inadequados.

A falta de visibilidade é um problema crítico: apenas 52% das empresas conseguem rastrear e auditar todas as ações realizadas por agentes de IA. Enquanto a equipe de TI geralmente está ciente das permissões concedidas, áreas como compliance, jurídico e executivos têm conhecimento limitado, o que dificulta a governança eficaz desses sistemas.

Para mitigar esses riscos, é fundamental adotar uma abordagem de segurança centrada em identidade, aplicando os mesmos controles rigorosos usados para usuários humanos. Isso inclui a implementação de políticas de acesso com privilégios mínimos, monitoramento contínuo das atividades dos agentes e auditorias regulares para garantir conformidade com as normas de segurança e privacidade.

A LC SEC oferece soluções especializadas para fortalecer a segurança digital de empresas de médio porte, especialmente nos setores financeiro e de saúde. Com serviços de pentest, conscientização em segurança e conformidade com a LGPD e a ISO 27001, ajudamos sua empresa a antecipar riscos e proteger seus ativos digitais.

Conheça nossos serviços: lcsec.io

Referência:

 

Compartilhe nas redes sociais: