O avanço acelerado da Inteligência Artificial generativa em setores críticos como Judiciário, bancos, governos e grandes empresas tem ampliado também os riscos ligados à segurança digital desses sistemas. Especialistas em tecnologia alertam que técnicas conhecidas como “prompt injection” já figuram entre as principais vulnerabilidades enfrentadas por modelos de IA utilizados em operações institucionais.
O tema ganhou repercussão após o caso envolvendo advogadas multadas por supostamente tentarem manipular uma Inteligência Artificial utilizada pelo Tribunal Regional do Trabalho da 8ª Região (TRT-8). O episódio trouxe para o centro do debate um problema ainda pouco discutido no Brasil, mas que já preocupa especialistas em segurança de IA em diversos países.
Segundo especialistas, o crescimento da adoção de ferramentas generativas ocorre em ritmo mais acelerado do que a criação de protocolos de proteção, governança e supervisão desses sistemas.
O que é o “prompt injection”
O chamado “prompt injection” ocorre quando usuários inserem comandos estrategicamente elaborados para alterar o comportamento esperado de uma Inteligência Artificial.
Na prática, a técnica busca fazer com que o sistema ignore instruções anteriores, gere respostas inadequadas ou execute ações fora do fluxo originalmente programado.
Embora o conceito ainda seja pouco conhecido fora do setor tecnológico, especialistas em segurança digital apontam esse tipo de vulnerabilidade como um dos maiores desafios atuais da IA generativa.
O problema ganhou relevância global conforme empresas e instituições passaram a utilizar modelos de IA em atividades ligadas à análise documental, automação de processos, atendimento ao público e apoio à tomada de decisões.
Especialistas alertam que, diferentemente de softwares tradicionais baseados apenas em regras fixas, sistemas generativos interpretam linguagem, contexto e intenção humana, o que amplia significativamente as possibilidades de manipulação.
Especialistas defendem maior maturidade técnica
Para Renato Asse, fundador do Instituto Brasileiro de Educação em Inteligência Artificial (ibe.IA), o episódio envolvendo o TRT-8 evidencia uma discussão mais profunda sobre maturidade tecnológica e segurança operacional.
“O grande ponto não é apenas alguém tentar interferir na IA. O verdadeiro debate está na maturidade técnica das instituições para entender que modelos generativos são naturalmente suscetíveis à manipulação contextual. Tratar esses sistemas como ferramentas infalíveis em ambientes críticos é um erro perigoso”, afirma.
Segundo o especialista, muitas organizações ainda implementam soluções de Inteligência Artificial sem compreender completamente os riscos envolvidos no uso dessas ferramentas.
“A IA generativa não funciona como um software tradicional, baseado apenas em regras fixas. Ela interpreta contexto, linguagem e intenção. Isso traz enorme potencial de produtividade, mas também cria superfícies inéditas de vulnerabilidade quando não existem protocolos adequados de segurança, validação e monitoramento”, explica.
IA Security ganha força globalmente
Com a popularização dos modelos generativos, cresce também no cenário internacional o debate sobre AI Security, área voltada à proteção, governança e segurança operacional de sistemas de Inteligência Artificial.
Especialistas afirmam que a segurança em IA começa a ocupar posição estratégica semelhante à já observada na cibersegurança tradicional.
Empresas, tribunais, instituições financeiras e órgãos públicos vêm sendo pressionados a criar políticas mais robustas para monitoramento, rastreabilidade e validação das respostas produzidas por sistemas inteligentes.
Além disso, cresce a preocupação com tentativas de manipulação de modelos generativos, vazamento de informações e produção de conteúdos falsos ou indevidos.
O desafio se torna ainda maior diante da rápida expansão da IA em ambientes sensíveis e críticos.
Engenharia de prompts amplia riscos e oportunidades
Outro ponto destacado pelos especialistas é o avanço da chamada engenharia de prompts, técnica utilizada para melhorar a interação entre humanos e Inteligência Artificial.
Originalmente voltada à otimização da produtividade e da qualidade das respostas geradas pelos sistemas, a engenharia de prompts também pode ser utilizada para explorar vulnerabilidades operacionais.
Segundo especialistas, usuários experientes conseguem estruturar comandos complexos capazes de contornar restrições, induzir comportamentos inadequados ou manipular respostas produzidas pela IA.
A popularização desse conhecimento aumenta a necessidade de treinamento técnico e conscientização dentro das organizações.
Empresas e instituições passam a precisar não apenas de ferramentas avançadas, mas também de equipes preparadas para compreender os riscos envolvidos na utilização desses sistemas.
Falta de supervisão preocupa especialistas
O crescimento acelerado da Inteligência Artificial também levanta debates jurídicos e éticos sobre responsabilidade, supervisão humana e rastreabilidade das decisões tomadas com apoio de IA.
Especialistas apontam que muitas organizações ainda não possuem protocolos robustos para:
- Validar respostas geradas por IA
- Detectar tentativas de manipulação
- Monitorar interações críticas
- Estabelecer níveis adequados de supervisão humana
A ausência dessas estruturas pode ampliar riscos operacionais, jurídicos e reputacionais em ambientes corporativos e institucionais.
Segundo Renato Asse, a tendência é que episódios semelhantes se tornem mais frequentes nos próximos anos.
“A discussão sobre Inteligência Artificial não pode ficar restrita à produtividade ou automação. Segurança, governança e compreensão técnica dos riscos precisam fazer parte da implementação desde o início. Quanto mais a IA entrar em ambientes críticos, mais essencial será entender que esses sistemas precisam ser supervisionados, auditados e protegidos continuamente”, conclui.
IA avança mais rápido que regulação
Especialistas avaliam que a velocidade de adoção da Inteligência Artificial atualmente supera a evolução das regulamentações e práticas de segurança.
O cenário aumenta a pressão sobre empresas, governos e instituições para desenvolvimento de políticas mais claras sobre uso responsável da IA.
Além da segurança operacional, os debates também envolvem privacidade de dados, responsabilidade civil, transparência algorítmica e limites éticos da automação.
A tendência é que os próximos anos sejam marcados pela criação de novas normas, frameworks de governança e exigências regulatórias voltadas à proteção de sistemas de Inteligência Artificial.
Sobre o Instituto Brasileiro de Educação em Inteligência Artificial
O ibe.IA é uma instituição voltada à formação de profissionais e empresas no uso estratégico e seguro de Inteligência Artificial. O instituto oferece cursos e treinamentos em engenharia de prompts, automação corporativa e desenvolvimento de sistemas baseados em IA.
