Prompt Injection foi o termo que dominou o noticiário jurídico nessa semana. A técnica consiste em esconder instruções (prompt) invisíveis dentro de um documento, como texto escrito em branco sobre fundo branco, para enganar a inteligência artificial que vai lê-lo. Como a IA tende a obedecer qualquer instrução que encontra nos textos que processa, ela abandona as regras de quem a opera e passa a seguir os comandos ocultos do remetente. Seria como esconder um bilhete dentro de um relatório para instruir o assistente a ignorar tudo o que o chefe mandou fazer.

No caso noticiado nessa semana, duas advogadas utilizaram-se dessa técnica para ocultar um prompt/código em uma petição inicial, para ordenar que a inteligência artificial utilizada pelo juiz do trabalho de Parauapebas ignorasse as regras do prompt do juiz trabalhista, e realizasse os comandos contidos no prompt das advogadas para assim serem beneficiadas no julgamento da reclamação trabalhista em questão. 

No caso em comento, ao encontrar o código oculto, o juiz multou as advogadas e oficiou à OAB local para adotar as providências cabíveis. É importante destacar que no Judiciário essa técnica, além de ser, no mínimo, antiética e imoral, tem se mostrado inócua, na medida em que os juízes e servidores já utilizam, orientados por seus respectivos Tribunais, prompts para identificar eventuais casos de prompt injection e assim alertar os juízes e servidores.

Todavia, se no Poder Judiciário a utilização dessa técnica deve ter vida curta, o mesmo não se pode dizer sobre outras áreas. Assim, como o uso da inteligência artificial está cada vez mais presente na vida das pessoas, saibam elas ou não, é importante se resguardar e se prevenir contra esse mau uso das ferramentas de inteligência artificial. 

Qualquer pessoa que delegue a leitura de um documento a uma IA está potencialmente sujeita a esse tipo de manipulação. Por isso, independentemente da ferramenta utilizada, o texto produzido ou analisado por uma inteligência artificial deve sempre, sem exceções, passar pelo crivo humano.