A inteligência artificial já faz parte da rotina jurídica, mas um caso recente no Tribunal de Contas do Paraná trouxe um alerta importante sobre o uso dessas ferramentas.
O episódio envolve o chamado prompt injection, uma técnica usada para inserir comandos ocultos em textos com a intenção de enganar um sistema de IA. Em vez de apenas analisar o conteúdo normalmente, a ferramenta pode ser induzida a ignorar instruções anteriores, mudar a leitura de um documento ou até responder
de forma influenciada por essas mensagens escondidas.
Na prática, isso significa que alguém pode tentar manipular uma inteligência artificial sem que a instrução maliciosa fique visível de forma imediata para quem lê o texto. No ambiente jurídico, esse tipo de conduta preocupa porque pode afetar a análise de documentos, comprometer a segurança da informação e gerar desconfiança sobre o uso da tecnologia.
Segundo a notícia, o TCE-PR identificou uma tentativa desse tipo em uma petição relacionada ao programa Olho Vivo. A ocorrência chamou atenção justamente porque mostra que, além dos benefícios da IA, também existem novos riscos quando ela entra na rotina forense.
O ponto central não é abandonar a tecnologia. É entender que, no Direito, a inteligência artificial precisa ser usada com cautela, revisão humana e controle.
Eficiência é importante, mas segurança e responsabilidade continuam sendo indispensáveis.
Fonte: GE – RPC
