Pangram et la confiance humaine

Dave Anctil

Depuis la sortie de ChatGPT en novembre 2022, on m’a confié différents rôles pour aider les cégeps et universités à s’adapter à la réalité déstabilisante de l’IA. J’ai rencontré un grand nombre de profs et de directions dépassés par les événements. J’ai aussi rencontré d’autres organisations qui partagent avec le monde de l’éducation supérieure des inquiétudes légitimes sur l’effondrement perçu de l’intégrité.

Ces questions se ressemblent : un étudiant est-il l’auteur de son travail ? Un chercheur a-t-il vraiment produit l’article scientifique soumis à l’évaluation par les pairs ? Un professionnel a-t-il réellement produit la tâche demandée ?

Nous assistons, en d’autres mots, à une crise de la confiance. Récemment, l’affaire Thélyson Orélien a secoué le monde littéraire francophone; on parle maintenant de la « mort de l’auteur », rien de moins! Je reconnais dans le climat actuel une tentation commune des sociétés : faute de pouvoir revenir au monde ancien, nous désirons retrouver confiance en rétablissant l’ordre – n’importe quel ordre!

Et le système de détection de contenus d’IA Pangram répond très précisément à ce désir. Au plan technique (informatique), Pangram (v. 4) est la machine la plus performante sur le marché pour détecter les textes générés ou modifiés par l’IA. Sa soudaine popularité tient au fait qu’il offre une solution facile pour démasquer les tricheurs. Au grand plaisir de l’entreprise, son produit est devenu une Machine de Vérité.

Je suis pour ma part extrêmement inquiet à propos de ce que cette fiabilité technique annonce pour la justice et la confiance dans nos relations sociales. Et c’est le sujet de ma première chronique robopolitique.

L’institution de la confiance

Pour commencer, rappelons une évidence pour les philosophes et les sciences humaines : les institutions façonnent le comportement des humains en société. Pour prendre l’exemple de mon monde académique : les institutions d’enseignement et de recherche produisent la confiance en enseignant et en encadrant les étudiant.es et chercheur.es par des normes, comme l’intégrité intellectuelle, scientifique et professionnelle.

Dans mon monde académique, le plagiat et la fraude intellectuelle sont honnis. Pangram arrive ainsi parmi nous comme une bénédiction des dieux afin de retrouver l’équilibre : les tricheurs pourront enfin être démasqués efficacement! Nous détenons maintenant le pouvoir technique de protéger l’intégrité et la confiance contre l’IA!

Alors pourquoi ne suis-je pas parmi les célébrants ? N’est-ce pas une bonne nouvelle ?

Comme l’a argumenté le philosophe Philip Pettit dans un article classique intitulé « The Cunning of Trust » (1), une bonne institution est une architecture de confiance. Pettit s’objectait à une longue tradition de pensée, plus vivante que jamais, qui incite la société à construire des institutions capables de surveiller et punir les opportunistes et les tricheurs pour fonder la confiance sociale. N’est-il pas plus prudent de se représenter toutes les personnes comme des tricheurs potentiels, afin de se prémunir contre les véritables tricheurs ?

C’est une intuition très répandue. L’objection de Pettit, que je partage, est qu’une institution ainsi conçue risque plutôt de produire le genre de comportements qu’elle cherche à prévenir. Pour le comprendre, il faut dire certaines choses à propos de la manière dont émerge la confiance dans les relations institutionnalisées par des normes.

On croit à tort que la confiance est une sorte de récompense attribuée par une personne lorsqu’une autre a fait la preuve de son honnêteté. Mais c’est faux. Cela décrit plutôt l’exception à la norme, soit les cas de réparations pour une confiance diminuée à la suite d’une faute. Pensez à la relation avec vos proches : votre confiance leur est donnée. Elle est testée uniquement lorsque vous avez des raisons légitimes de douter de leur parole. Ce qui est vrai dans les relations personnelles vaut également pour les relations sociales impersonnelles.

Lire la suite

Note de Dave Anctil: Je commence aujourdhui la publication d'une série de petits textes pour mon projet Robopolis, sur la plateforme européenne Fika (que je préfère à la Californienne Substack).
Les textes seront toujours gratuits. Si vous voulez m'encourager, je vous invite à me suivre sur cette plateforme ou simplement à partager mes textes dans votre réseau à partir de Linked'In. Mon but est simple : alimenter notre réflexion collective sur les enjeux de l'IA.
À lire avec un café!
https://lnkd.in/geE4Xqgi