STJ multa advogados por tentar manipular IA com comandos ocultos

Contexto

O Superior Tribunal de Justiça multou em R$ 20 mil advogados que inseriram instruções ocultas em petições para tentar manipular a IA do tribunal.

Como funciona o ataque

O chamado prompt injection consiste em inserir comandos dentro de textos que a IA pode interpretar como instruções, desviando o resultado da tarefa.

No caso, os advogados colocaram comandos na faixa decorativa do rodapé, invisíveis a olho nu, buscando que a IA considerasse o acórdão questionado como violador da coisa julgada.

Riscos para decisões e documentos

Quando a IA aceita comandos maliciosos, pode:

• Gerar análises jurídicas enviesadas;
• Produzir resumos distorcidos;
• Oferecer recomendações comprometidas.

Decisão do STJ

O relator, ministro Paulo Sérgio Domingues, classificou a conduta como de gravidade acentuada e impôs a multa, além de enviar as peças à OAB do Paraná e ao Ministério Público Federal para possíveis sanções administrativas e criminais.

A decisão deixa claro que o uso legítimo de IA na elaboração de documentos não é proibido, mas a inserção clandestina de comandos que influenciam o sistema do tribunal é vedada.