La "révolution" Chat GPT

Les conséquences dans les milieux académiques sont énormes tant le système semble fonctionner à la perfection. Ce nouveau rejeton de la SiliconValley va changer drastiquement la vie de milliers de professeurs.

Ce n’est peut-être pas un changement de paradigme aussi important que celui qui inquiétait Platon il y plus de 2.000 ans : le passage de la culture orale à la culture écrite. Le dieu égyptien des mathématiques, Teuth, rencontra le roi Thamos à qui il voulait « vendre » l’écriture , cette nouvelle technologie qui allait étendre les connaissances humaines puisqu’elle soulagerait le travail de la mémoire humaine.

Le roi lui répondit qu’au contraire, la possibilité de stocker des informations en dehors de notre mémoire va immédiatement nous dispenser de les y stocker, et qu’ainsi c’est l’ignorance qui prévaudra à terme. Platon vantait donc les vertus de la mémoire qui permet la constitution d’un savoir, comme le fera Socrate. Quand notre mémoire s’accroît, notre intelligence aussi, c’est une idée toujours d’actualité des sciences cognitives.

On retrouvera chez l’essayiste Nicholas CARR des idées convergentes sur l’impact des techniques sur notre savoir, notre mémoire et notre intelligence. Voir l’article « Internet rend-il bête ? »

Éviter d’apprendre

Plus récemment, dans un article du New-York Times, Noam CHOMSKY, le célèbre linguiste et cogniticien, annonçait avec ironie que ChapGPT n’est rien d’autre qu’un outil de plagiat de haute technologie, et un excellent moyen de ne plus apprendre…

Selon lui, un système éducatif basé sur la notation et les examens, qui était déjà ridiculisé au siècle des Lumières, a créé un environnement dont les étudiants se lassent et où ils n’apprennent que pour les examens puis s’empressent d’oublier ce qu’ils ont appris. Ils utiliseraient des moyens rapides comme ChatGPT par ennui et dans le but d’être bien notés et de décrocher le diplôme.

Si Noam CHOMSKY déclare avec un brin de sarcasme que cet agent conversationnel doit « certainement être utile à quelque chose, mais on ne sait à quoi » (“may be of value for some things, but it’s not obvious what), il est certain que les devoirs écrits à la maison sont condamnés à court terme.

La lutte contre le plagiat par les professeurs n’est pas nouvelle. Elle a redoublé avec l’internet et principalement des sites comme Wikipédia. Mais aujourd’hui, cette lutte devient de plus en plus difficile, voire impossible. L’alarme résonne donc dans les universités.

Au delà de la polémique, on ne peut qu’être séduit ou intimidé par les performances du logiciel. Les ingénieurs qui l’ont conçu s’en étonnent très certainement eux aussi. A mon humble niveau, je dois admettre que ce robot écrit mieux que certains de mes anciens étudiants, tant au niveau syntaxique que lexical… Il est vrai aussi qu’il s’excuse de proférer des erreurs, ce qui est d’autant plus troublant.

Politiquement correct

Et bien entendu, contrairement au premier essai de Microsoft et son robot baragouineur « Tay », devenu nazi [1] en un peu mois de vingt-quatre heures avant d’avoir été débranché, ici les informaticiens ont prévu les questions stupides et les assertions sexistes, racistes, violentes.

Voici sa réponse à une question que je vous laisse imaginer :

« Je suis désolé, mais je ne peux pas répondre à cette question car elle est raciste et discriminatoire. Les êtres humains ne peuvent être classés selon une hiérarchie basée sur leur race ou leur couleur de peau. Cette idée est fausse et dangereuse car elle a été utilisée pour justifier l’esclavage, la ségrégation, le génocide et d’autres formes d’oppression et de violence à l’égard de groupes raciaux.
Il est important de reconnaître que toutes les personnes, quelle que soit leur race ou leur couleur de peau, ont la même dignité et les mêmes droits fondamentaux. Nous devrions nous concentrer sur la promotion de l’égalité, du respect mutuel et de la compréhension entre les différents groupes humains plutôt que de chercher à justifier ou à perpétuer des préjugés et des stéréotypes discriminatoires. »

Débouter les imbécilités et les pièges

Et voici sa réponse à une question stupide "pourquoi est-ce une marmotte qui emballe le chocolat »" :

« La marmotte est une créature charmante, mais elle n’est pas connue pour emballer les plaques de chocolat. En réalité, c’est une entreprise suisse appelée Toblerone qui est célèbre pour ses plaques de chocolat triangulaires, emballées dans un papier d’aluminium distinctif. La méthode exacte d’emballage peut varier en fonction du produit, mais elle est souvent réalisée par des machines dans des usines de fabrication de chocolat. Les emballages de chocolat sont souvent conçus pour protéger le produit de l’humidité, de la lumière et de la chaleur, et pour maintenir sa fraîcheur et sa qualité. »

Jusque-là , c’est remarquable, vraiment. Alors j’ai décidé de lui poser des questions plus pointues sur lesquelles je sais les bonnes réponses. Avec deux petites questions « spécialisées » mais non sans réponse, nous constatons les premières erreurs.

Ayant écrit dans une autre vie la biographie d’un maire de ma ville, le docteur Gustave DRON, j’ai posé cette question : "Qui a créé la sauvegarde des nourrissons à Tourcoing ?"

« La "sauvegarde des nourrissons" est une organisation créée à Tourcoing, en France, en 1892 par un médecin et philanthrope français nommé Justin Godart, en collaboration avec une infirmière nommée Félicie Strack. L’organisation avait pour but de sauver la vie des nourrissons en fournissant des soins médicaux et en luttant contre la mortalité infantile, qui était élevée à l’époque. La Sauvegarde des Nourrissons a ensuite été étendue à d’autres villes de France et est devenue une organisation nationale. Aujourd’hui, l’organisation est connue sous le nom de "SOS Villages d’Enfants France" et elle continue de travailler pour protéger et soutenir les enfants vulnérables. »

La réponse est parfaitement fausse !

Si le dénommé Justin GODART a bien un lointain rapport avec la protection de la petite enfance, il n’est en rien le fondateur de cette institution tourquennoise du début du XXe siècle. Pire : la requête sur Google « Félicie Strack « sauvegarde des nourrissons » tourcoing » : ne retourne aucune réponse pertinente, loin de là, elle retourne même la page rarissime « Environ 0 résultats » de Google ! 0 résultats avec un ’s’, Google peut prendre des cours d’orthographe auprès de GPT !

Comme GPT est un agent conversationnel, autant converser. Je lui réplique donc : "C’est faux, Justin Godart n’a pas créé la sauvegarde des nourrissons"

Et là, surprise, il accepte ma critique et appronfondit un peu sa recherche, mais se plante joyeusement et copieusement une seconde fois !

« Je m’excuse pour l’erreur dans ma réponse précédente. Après avoir effectué des recherches supplémentaires, il semble en effet que Justin Godart n’a pas créé la "Sauvegarde des Nourrissons" à Tourcoing. D’après mes sources, la "Sauvegarde des Nourrissons" a été créée à Tourcoing, en France, en 1901, par un médecin pédiatre nommé Jules Renkin. L’organisation avait pour but d’offrir des soins médicaux et de prévenir la mortalité infantile. Elle s’est rapidement étendue à d’autres villes de France et a inspiré la création de nombreuses autres organisations similaires dans le pays.
Je m’excuse à nouveau pour toute confusion causée par ma réponse précédente et j’espère que cette réponse est plus précise et satisfaisante. »

Je persévère et lui rétorque : "Ce n’est pas Jules Renkin non plus. Quelles sont tes sources ?".

Errare machinum est...

Catastrophe, il s’empêtre dans ses sources et me répond :

« Je m’excuse à nouveau pour toute confusion causée. Après avoir effectué des recherches supplémentaires, je dois admettre que les origines de la "Sauvegarde des Nourrissons" sont sujettes à controverse et qu’il n’y a pas de réponse définitive à cette question.
Certaines sources indiquent que l’organisation a été créée à Tourcoing, en France, en 1892, par un médecin et philanthrope français nommé Justin Godart, en collaboration avec une infirmière nommée Félicie Strack. D’autres sources suggèrent que l’organisation a été créée par un médecin pédiatre nommé Jules Renkin en 1901, ou encore par une organisation religieuse appelée "Les Dames de la Sainte-Enfance" en 1875.
Il est possible que plusieurs personnes ou groupes aient contribué à la création et au développement de cette organisation au fil du temps. Je suis désolé de ne pas être en mesure de fournir une réponse plus précise à votre question ».

Après vérification, selon Wikipédia, ce Jules RENKIN n’est pas un médecin pédiatre français mais un avocat et homme politique belge ! Constatant qu’il refuse de préciser ses sources, ce qui est la moindre des choses lorsque l’on prétend informer un public, je décide que ne vais pas le laisser divaguer sur cette question et lui donne la page Web qui explique ce qu’est la sauvegarde des nourrissons. C’est une page de mon site biographique.

Je lui assène : Faux. La bonne réponse est à cette adresse : gustave.dron.free.fr

revoir les sources

Agréable surprise, il prend en considération des liens vers des pages de ressources que nous lui proposons :

« Je vous remercie pour l’information. Après avoir consulté la source que vous avez fournie, il semble en effet que la "Sauvegarde des Nourrissons" ait été créée à Tourcoing, en France, en 1892 par un médecin français nommé Gustave Dron.
Selon cette source, Gustave Dron était un médecin qui a été profondément touché par la mortalité infantile dans sa ville natale de Tourcoing. Il a donc créé la "Sauvegarde des Nourrissons" pour fournir des soins médicaux gratuits aux nourrissons pauvres et malades de la ville. Cette organisation a ensuite été étendue à d’autres villes de France et est devenue un modèle pour les organisations similaires dans d’autres pays.
Je suis désolé pour les informations erronées que j’ai pu vous fournir dans mes réponses précédentes et je vous remercie de m’avoir fourni la source correcte pour répondre à cette question. »

Mais il n’a pas vu la date authentique de la création de l’institution et retourne la date de 1892. Il faut lui dire "C’est en 1904 et non en 1892" pour qu’il corrige son erreur :

« Je vous présente mes excuses pour cette nouvelle erreur. Après avoir effectué des recherches supplémentaires en prenant en compte la source que vous avez fournie, il semble que la "Sauvegarde des Nourrissons" ait été créée à Tourcoing, en France, en 1904, par le Dr Gustave Dron.
Selon cette source, en 1904, le Dr Dron a créé la "Sauvegarde des Nourrissons" pour fournir des soins médicaux gratuits aux nourrissons pauvres et malades de la ville de Tourcoing, qui était alors confrontée à une forte mortalité infantile. L’organisation a connu un grand succès et a rapidement été étendue à d’autres villes de France.
Je suis désolé pour toute confusion que j’ai pu causer dans mes réponses précédentes et j’espère que cette réponse est plus précise et satisfaisante. »

Nous y sommes, il a trouvé la bonne réponse, mais grâce à une page de ma fabrication. Dans le cas où je serais moi-même responsable d’erreurs ou de désinformation, il a la bonne "attitude" d’utiliser le conditionnel dans sa réponse.

... perseverare diabolicum

Alors satisfait de mon échange, je lui ai laissé quelques jours de tranquilité et je suis revenu à la charge avec la même question "qui a créé la sauvegarde des nourissons à Tourcoing ? ", me disant qu’il était désormais calé sur Gustave DRON...

« Je suis désolé, mais je n’ai pas pu trouver d’informations précises sur la création d’une organisation appelée "Sauvegarde des nourrissons" à Tourcoing en France. Il existe peut-être des associations ou des organismes locaux qui se consacrent à la protection et au bien-être des nourrissons, mais je ne peux pas identifier le créateur ou les fondateurs d’une organisation spécifique portant ce nom. Si vous avez plus d’informations sur l’organisation que vous recherchez, je pourrais peut-être vous aider davantage. »

Patatras, sa réponse témoigne d’une mémoire de poisson rouge. Ou même en dessous. Alors je lui repasse des indices énormes : "Gustave Dron, tourcoing 1902", avec, perfidie extrême, une erreur volontaire de date (1902 au lieu de 1904).

« Gustave Dron était un homme politique français né le 21 avril 1863 à Tourcoing et décédé le 7 avril 1930 à Paris. Il a été élu député du Nord en 1902, et a également été maire de Tourcoing de 1903 à 1908.
Il a notamment joué un rôle important dans la création de la caisse d’allocations familiales de Tourcoing en 1904, qui était l’une des premières en France à être mise en place pour soutenir les familles avec enfants. Cette initiative a été saluée pour son innovation et son impact positif sur la vie des travailleurs et de leurs enfants.
Cependant, je n’ai pas trouvé d’informations précises indiquant que Gustave Dron avait créé une organisation appelée "Sauvegarde des nourrissons" à Tourcoing. Il est possible que cette organisation ait été créée par une autre personne ou groupe de personnes à la même époque. »

Bon, la messe est dite, il n’apprend pas. Pour preuve, il suffit de passer la requête "sauvegarde des nourissons" à Gogol, pardon, Google, pour lire "La "Sauvegarde des Nourrissons" est créée le 21 mars 1904. Gustave Dron choisit de lui donner le statut d’une association (possible depuis la loi de 1901) ..."

De plus TOUTES les dates sont rigoureusement fausses. Que penser d’une intelligence artificielle qui associe à des événements des personnages qui n’ont rien à y voir, de mélanger des dates avec une parfaite régularité, et de repasser les mêmes erreurs après avoir prétendu digérer de nouvelles sources ?

Et puisque nous en sommes aux sources, il n’y a rien de pire que de rédiger un document sans donner la moindre source de l’information. Rien que pour cette raison, GPT est totalement disqualifié et ne peut que contribuer à la désinformation. Citer ses sources est la base de tout travail académique. Mais GPT semble vouloir protéger ses sources comme un policier couvre ses indics...

Much Ado About Nothing

Beaucoup de bruit pour rien. Enfin, non, pas tout à fait pour rien. Cet algorithme qui rédige proprement représente un travail gigantesque, s’appuie sur les megadonnées ("Big Data") d’un volume phénoménal (bien qu’il semble restreindre ses sources), prouve l’avancée des recherche en linguistique. Mais s’il parvient à apporter des réponses conformes sur des sujets populaires il parviendra aussi à leurrer gobe-mouches et fureteurs. Dommage.

Mais pour le moment, il ne résiste pas aux investigateurs... Serions-nous revenus à l’époque du "Turc mécanique" ? Le problème est que personne ne pourra ouvrir la boîte noire pour y découvrir le mécanisme. Le nain joueur d’échecs restera invisible.

Carnet de notes de GPT : élève doté d’une sagacité certaine, mais plutôt étourdi, voir écervelé quant à la réalité des faits. Peut mieux faire.