Mecanismo escondido no enunciado de redação utilizou técnica de injeção de comandos para identificar cópias
Um professor da Alcorn State University, nos Estados Unidos, reprovou 32 de 35 alunos após aplicar um teste com uma instrução oculta. O historiador Jason Gibson inseriu uma frase em fonte branca sobre fundo branco no enunciado enviado pela internet sobre a Revolução Industrial.
A mensagem oculta exigia a inclusão da palavra “Madagascar” em contextos sem sentido ao longo do texto.
Os estudantes que copiaram o comando completo e colaram em ferramentas de inteligência artificial geraram respostas com frases desconexas. Os textos entregues apresentaram trechos citando objetos e situações irrelevantes associadas ao nome do país. O docente divulgou o resultado das avaliações nas redes sociais após a correção do material.
A estratégia aplicada pelo professor utiliza o princípio da injeção de comandos. A técnica consiste em inserir orientações em textos para alterar o comportamento padrão dos modelos de linguagem. O método é monitorado por especialistas em segurança digital desde as primeiras identificações de falhas nos sistemas de inteligência artificial.
O caso reacendeu o debate acadêmico sobre o uso de ferramentas de automação na elaboração de trabalhos escolares. A instituição de ensino não informou se os estudantes reprovados apresentaram recurso contra a avaliação.