Especialista alerta que controle de acesso e governança serão decisivos para evitar riscos com agentes de inteligência artificial
A rápida expansão da inteligência artificial dentro das empresas está criando um novo desafio para as áreas de tecnologia e segurança da informação. Se durante décadas as organizações concentraram esforços para controlar o acesso de funcionários a sistemas, dados e aplicações, agora surge uma nova preocupação: como monitorar, limitar e auditar as ações de agentes de IA capazes de acessar informações, executar tarefas e tomar decisões de forma cada vez mais autônoma.
O tema ganha relevância à medida que empresas ampliam o uso de inteligência artificial para automatizar processos, analisar dados, movimentar informações entre plataformas e até executar operações sem intervenção humana constante. Nesse cenário, especialistas defendem que as mesmas práticas de controle aplicadas aos usuários humanos precisam ser adaptadas para esse novo tipo de agente digital.
Segundo Thiago R. de Souza, Senior Cloud/DevOps Engineer com mais de nove anos de experiência em infraestrutura corporativa, AWS Community Builder e detentor de múltiplas certificações AWS, o debate sobre segurança da inteligência artificial não pode ficar restrito apenas à qualidade dos modelos utilizados.
“Há muito tempo, empresas têm investido milhões para responder a uma pergunta aparentemente simples: quem pode acessar o quê? Criamos políticas de identidade, autenticação multifator, segregação de funções, princípio do menor privilégio e mecanismos de auditoria. Porém, agora, a inteligência artificial está obrigando as organizações a fazerem a mesma pergunta para um novo tipo de usuário: a máquina”, afirma.
IA deixa de ser apenas ferramenta e passa a atuar dentro da operação
A evolução recente dos chamados agentes de IA vem alterando a forma como empresas enxergam a automação. Diferentemente dos sistemas tradicionais, que executam tarefas específicas e delimitadas, os agentes conseguem interagir com diferentes aplicações, consultar bases de dados, acessar documentos, executar comandos e tomar decisões com base em informações coletadas em tempo real.
Na prática, isso significa que uma única inteligência artificial pode ter acesso simultâneo a diversos ambientes corporativos para cumprir uma determinada função.
Essa autonomia crescente traz ganhos de produtividade, mas também amplia a superfície de risco. Afinal, um agente com permissões excessivas pode acessar dados sensíveis, executar ações indevidas ou ser influenciado por instruções maliciosas inseridas em sistemas e documentos.
Para Thiago R. de Souza, esse novo contexto exige uma mudança de mentalidade nas organizações.
“Agentes já podem consultar bancos de dados, acessar documentos, executar códigos, interagir com APIs, movimentar informações entre sistemas e iniciar ações sem que uma pessoa acompanhe cada etapa”, destaca.
A preocupação não é apenas teórica. À medida que a inteligência artificial passa a integrar operações críticas, qualquer falha de controle pode gerar impactos financeiros, operacionais e reputacionais significativos.
Gartner coloca segurança de IA entre as principais tendências de tecnologia
A crescente atenção do mercado ao tema também aparece em estudos internacionais.
O Gartner incluiu as chamadas AI Security Platforms entre as dez principais tendências estratégicas de tecnologia para 2026. Essas plataformas têm como objetivo centralizar controles, monitorar atividades e ampliar a visibilidade sobre o uso de aplicações de inteligência artificial, sejam elas desenvolvidas internamente ou adquiridas de fornecedores externos.
O movimento reflete uma preocupação crescente entre líderes de tecnologia e segurança.
Dados do Cloud Security Report 2025, produzido pela Check Point, mostram que 68% das organizações pesquisadas consideram a adoção da inteligência artificial uma prioridade de cibersegurança. Apesar disso, apenas 25% afirmaram estar preparadas para enfrentar ataques conduzidos por sistemas automatizados ou agentes inteligentes.
Os números revelam um cenário de maturidade ainda desigual. Enquanto a adoção da tecnologia avança rapidamente, os mecanismos de proteção e governança ainda caminham em ritmo mais lento.
O desafio das identidades digitais dos agentes
Entre os pontos que mais preocupam especialistas está a gestão das identidades digitais atribuídas aos agentes de IA.
Em ambientes corporativos tradicionais, cada colaborador possui uma identidade definida, vinculada a grupos específicos e com permissões compatíveis com sua função. Existem processos formais para concessão, revisão e remoção desses acessos.
Com a inteligência artificial, essa lógica precisa ser aplicada de forma ainda mais rigorosa.
Segundo Thiago R. de Souza, um agente pode acessar diferentes sistemas simultaneamente para realizar uma única tarefa. Isso torna essencial o controle detalhado sobre quais informações e operações estão realmente autorizadas.
“Em uma arquitetura tradicional, um funcionário recebe uma identidade, pertence a determinados grupos e possui permissões compatíveis com sua função. Há processos para conceder, revisar e retirar esses acessos. Com agentes de IA, essa lógica precisa ser ainda mais rigorosa”, explica.
O especialista alerta que permissões excessivas podem transformar pequenos problemas em incidentes de grandes proporções.
“Um agente pode receber acesso a um banco de dados, consultar documentos internos, chamar diferentes APIs e acionar outras ferramentas para concluir uma única tarefa. Se essas permissões forem excessivas, uma instrução maliciosa ou mesmo um comportamento inesperado pode gerar consequências relevantes”, afirma.
Zero Trust também precisa chegar à inteligência artificial
Uma das abordagens apontadas como fundamentais para enfrentar esse desafio é a aplicação do modelo Zero Trust aos agentes de IA.
O conceito parte do princípio de que nenhum usuário, dispositivo ou sistema deve ser considerado automaticamente confiável. Em vez disso, acessos precisam ser continuamente verificados e limitados ao estritamente necessário para a execução das atividades.
Segundo o especialista, essa mesma lógica deve ser aplicada às inteligências artificiais corporativas.
“Se um agente precisa consultar um sistema para realizar determinada tarefa, isso não significa que deva ter acesso permanente a todas as informações daquele ambiente. Se precisa executar uma ação específica, não deveria automaticamente receber permissão para realizar dez outras”, ressalta.
Na prática, isso envolve a adoção de mecanismos como identidades específicas para agentes, credenciais temporárias, segregação de funções, monitoramento contínuo, trilhas de auditoria e fluxos de aprovação humana para atividades consideradas críticas.
O objetivo é garantir que a autonomia da inteligência artificial aconteça dentro de limites bem definidos e monitorados.
A pergunta que toda empresa deveria fazer
Para organizações que já utilizam agentes inteligentes ou planejam expandir sua adoção, Thiago sugere uma reflexão simples, mas estratégica.
“Há uma pergunta simples que considero útil para qualquer organização que esteja implantando agentes: se esse agente cometer um erro ou for manipulado agora, até onde ele consegue chegar? Se ninguém consegue responder rapidamente, existe um problema de arquitetura antes mesmo de existir um ataque.”
A questão ajuda a identificar vulnerabilidades que muitas vezes passam despercebidas durante a implementação inicial dos projetos.
Em muitos casos, a preocupação das empresas está concentrada no desempenho da IA, na qualidade das respostas ou na produtividade gerada pela automação. Entretanto, sem governança adequada, os riscos podem crescer na mesma velocidade dos benefícios.
AI Red Teaming ganha espaço como ferramenta de prevenção
Outra prática que tende a ganhar relevância nos próximos anos é o chamado AI Red Teaming.
Inspirada nos tradicionais testes de invasão utilizados em segurança cibernética, a metodologia consiste em criar equipes responsáveis por atuar como adversários, tentando explorar vulnerabilidades e induzir comportamentos inesperados nos sistemas de inteligência artificial.
Esses testes buscam responder perguntas importantes para a segurança corporativa.
É possível induzir a IA a revelar informações confidenciais? Um documento pode conter instruções ocultas capazes de alterar o comportamento do sistema? O agente consegue acessar recursos além daqueles previstos originalmente? Ele pode executar ações sem a devida autorização?
Segundo Thiago, essas respostas precisam ser descobertas antes que um incidente real aconteça.
“É possível induzi-lo a revelar informações que não deveria? Uma instrução escondida em um documento pode modificar seu comportamento? Ele consegue acessar uma API fora do escopo previsto? É possível fazê-lo executar uma ação sem a autorização adequada? Esses testes precisam acontecer antes que as respostas sejam descobertas em um incidente real”, alerta.
Segurança passa a ser parte da estratégia de IA
A expansão da inteligência artificial nas empresas deixa claro que o debate sobre segurança não pode mais ser tratado como uma etapa posterior da implementação.
À medida que agentes ganham capacidade para executar tarefas complexas e interagir diretamente com sistemas corporativos, cresce a necessidade de mecanismos robustos de controle, auditoria e governança.
A discussão deixa de ser apenas tecnológica e passa a fazer parte da estratégia empresarial.
Para Thiago R. de Souza, a maturidade construída pelas empresas ao longo das últimas décadas na gestão de acessos humanos precisa agora ser replicada para os agentes inteligentes.
“Empresas passaram décadas seguindo a lógica de que nenhum funcionário deveria possuir acesso ilimitado apenas porque era confiável. Agora precisamos aplicar a mesma maturidade aos agentes de inteligência artificial”, conclui.
