Un professeur d'histoire utilise une ruse ingénieuse pour démasquer 31 étudiants sur 35 qui trichaient grâce à l'intelligence artificielle.

L'utilisation des outils d'intelligence artificielle dans l'éducation demeure une arme à double tranchant. Un cas récent survenu à l'Université d'État d'Alcorn, dans l'État du Mississippi, aux États-Unis, l'illustre parfaitement. Le professeur d'histoire Jason Gibson a suscité un vif intérêt en ligne lorsqu'il a révélé avoir utilisé un test simple pour évaluer l'autonomie de ses étudiants lors d'un examen de mi-semestre.

Les résultats du test furent assez surprenants. Sur 35 étudiants inscrits cette année-là, 32 ont utilisé un chatbot en ligne doté d'intelligence artificielle pour résoudre le problème. Le professeur avait dissimulé une ligne de texte invisible dans les consignes de l'examen, imprimée de la même couleur que le fond. Cette consigne cachée demandait à l'intelligence artificielle d'insérer le mot « Madagascar » dans sa réponse, de manière incohérente. Les étudiants, qui se sont contentés de copier-coller l'intégralité du texte dans le champ de saisie du chatbot sans le lire, ont transmis sans le savoir cette instruction secrète.

Le devoir demandait aux étudiants de comparer les progrès technologiques de la révolution industrielle avec ceux d'aujourd'hui. Comme personne n'avait relu attentivement les textes avant de les soumettre, les réponses écrites de 32 étudiants contenaient le mot « Madagascar » dans des contextes totalement inappropriés. De ce fait, ils ont initialement échoué à cette partie de l'examen.

Malgré l'évidence, le professeur a offert à tous les étudiants concernés la possibilité de contester leur note. Seuls deux étudiants ont répondu à l'invitation à prendre la parole, et l'une d'entre elles a obtenu gain de cause. Elle a expliqué qu'en raison du mode sombre activé sur son écran, elle avait remarqué du texte caché et avait supposé qu'il faisait partie intégrante des consignes officielles de l'examen.

Bien que la détection automatisée des abus par le biais de « pièges statistiques » puisse parfois conduire à de fausses accusations si les élèves remarquent les instructions implicites ou si celles-ci ne sont pas parfaitement claires, Gibson a insisté sur le fait que son intention n'était pas de stigmatiser publiquement les élèves, mais d'encourager un véritable apprentissage et la pensée critique. Cette affaire survient dans un contexte de débat croissant parmi les éducateurs sur la manière d'encadrer et de réguler l'utilisation des technologies modernes dans le processus éducatif.