Professor usa comando oculto em prova e reprova 32 alunos que usaram IA

Um professor usou uma técnica inusitada para descobrir se os alunos estavam usando inteligência artificial para colar em uma prova.

Com um simples comando oculto no arquivo da avaliação, ele identificou que dezenas de estudantes recorreram à IA sem sequer revisar as respostas, o que levou a uma reprovação em massa.

O que aconteceu

O caso ocorreu na Universidade Estadual de Alcorn, nos Estados Unidos. Desconfiado de que seus alunos estavam enviando as provas diretamente para ferramentas como o ChatGPT, o professor de história Jason Gibson decidiu fazer um teste.

Ele preparou uma prova digital e inseriu um comando invisível no arquivo da avaliação. O texto ficava ‘escondido’ para quem abria o documento normalmente, mas podia ser lido por sistemas de inteligência artificial ao processarem o conteúdo.

Como essa técnica funciona

Os alunos receberam a prova em um arquivo digital, como um PDF. Depois, enviaram o documento diretamente para um chatbot com um pedido simples, como: ‘Responda esta prova’.

Embora o comando estivesse invisível para quem lia o arquivo, a IA processava todo o texto extraído do documento, incluindo o trecho oculto.

• Como modelos de linguagem costumam seguir as instruções presentes no texto, muitos obedeceram ao comando e inseriram a palavra ‘Madagascar’ em respostas sem qualquer contexto.
• Em uma das respostas, por exemplo, havia um trecho relacionado à pergunta, mas com uma parte sem sentido.

Reprovação em massa

Segundo o professor, o objetivo não era constranger os estudantes, mas testar se eles estavam usando inteligência artificial de forma indiscriminada.

Após corrigir as provas, ele revelou a estratégia utilizada e ofereceu aos alunos a oportunidade de contestar as notas, mas apenas dois recorreram.

Os demais acabaram sendo penalizados. ‘Trinta e dois dos meus trinta e cinco alunos, divididos em duas turmas, foram reprovados porque usaram inteligência artificial para gerar as respostas e, aparentemente, não revisaram o texto’, disse Gibson.