Évaluer le potentiel de ChatGPT: Sept leçons d’histoire de l’innovation

[version in English here]

À moins d’avoir vécu sur Mars ces dernières semaines, vous n’avez pas pu échapper à ChatGPT, l’outil d’intelligence artificielle qui répond à toutes vos questions: résumer un article, faire une synthèse sur la crise économique, écrire un poème, etc. Comme pour toute nouvelle technologie, elle est présentée comme révolutionnaire par certains et futile, inutile, voire dangereuse par d’autres. S’il faudra du temps pour que la lumière se fasse, on peut néanmoins éviter quelques écueils, et surtout des positions tranchées, en s’appuyant sur l’histoire de l’innovation qui offre au moins sept leçons pour une approche plus nuancée du débat.

L’histoire de l’innovation est compliquée. Elle est parsemée de technologies promises à un grand avenir mais qui n’ont rien donné. D’autres ont mis des années avant de réussir: la première automobile naît en 1765 mais il faut attendre la fin des années 1880 pour qu’on puisse en acheter. D’autres, enfin, sont nées dans l’indifférence, totalement sous-estimées à leurs débuts. Le premier vol des frères Wright en 1903, un événement historique, a fait trois lignes dans le journal local et il a fallu très longtemps pour voir l’aviation comme autre chose qu’un caprice de riches. Les plus grands esprits se sont trompés dans leur estimation du potentiel et de l’impact d’une nouvelle technologie, et l’auteur de ces lignes n’a pas l’intention d’ajouter son nom à cette liste. Voici toutefois sept leçons historiques pour mieux réfléchir au potentiel de ChatGPT.

1) La réussite d’une nouvelle technologie résulte rarement de ses seules performances techniques. La diffusion est en effet un processus social: le corps social accepte la technologie mais par son utilisation en conduit généralement à une modification. C’est donc un processus complexe. Une très bonne technologie peut donc être rejetée en raison de critères sociaux liés aux modèles mentaux dominants. Par exemple, les OGM sont rejetés en France parce qu’il existe un modèle mental « OGM = danger » qui s’est opposé avec succès au modèle « OGM= excellente solution ». Les conséquences économiques, sociales et politiques d’une nouvelle technologie sont donc impossibles à prévoir. Ce qu’il advient d’une technologie est le produit d’un processus à la fois technique (son invention et son amélioration) et social (son adoption, son rejet, son adaptation pour des usages parfois inattendus). Quand on pense au potentiel de ChatGPT, on ne peut donc se limiter à une discussion de ses performances techniques. On sait par exemple que certaines de ses réponses iront nécessairement à l’encontre des croyances de certains groupes, ce qui pourra entraîner des réactions hostiles. ChatGPT va donc être « modéré » (c’est-à-dire censuré) ce qui va entraîner d’autres réactions hostiles.

2) Toute technologie, comme tout outil, a ses limites; ce n’est par sur celles-ci qu’il faut la juger. Aucune n’est universelle. Ainsi, les limites de ChatGPT ont très rapidement été pointées: manque de références, positions discutables, résultats parfois bizarres, manque de créativité, faiblesses dans certaines tâches, etc. Il est essentiel de comprendre ces limites pour déterminer où la technologie sera pertinente et où elle ne le sera pas. Pointer ces limites pour la rejeter en bloc est une erreur. Un logiciel de dessin ne peut pas vous transformer en artiste, ce n’est pas pour ça qu’il n’a pas d’utilité. Ce qu’il faut, ce n’est pas rejeter une technologie à cause de ses limites, mais se focaliser sur son potentiel, pour comprendre ce qu’elle nous permet de faire de nouveau.

3) On tend à juger une nouvelle technologie à l’aune de la technologie actuelle. Or, une nouvelle technologie introduit de nouveaux critères de performance, et c’est sur eux qu’il faut la juger. Les imprimantes 3D n’offrent pas la qualité d’une fabrication traditionnelle en usine, et elles sont donc comparées défavorablement à cette dernière, mais ce n’est pas ce qu’elles essaient de faire. Elles apportent, dans les domaines où la qualité qu’elles offrent est suffisante, une souplesse et une personnalisation très utiles. Elles sont donc pertinentes pour certains usages, et pas pour d’autres. Le fait que la performance d’une nouvelle technologie soit inférieure sur certains critères et supérieure sur d’autres à la technologie existante explique ainsi pourquoi elle remplace rarement complètement cette dernière. Nous continuons à utiliser des fours traditionnels en plus des fours à micro-ondes, des avions à hélice et pas seulement des avions à réaction, des agendas papier et pas seulement électroniques, etc. Parfois, elle va rester inférieure sur les critères historiques (un téléphone mobile peut être à court de batterie ou perdre le réseau, au contraire d’un téléphone fixe), et parfois elle va finir par dépasser la technologie actuelle sur tous les critères, comme ce fut le cas pour la photographie numérique à partir des années 2000, auquel cas le basculement devient total et l’ancienne technologie disparaît.

4) Une nouvelle technologie améliore ses performances au cours du temps. Pour l’évaluer, il faut donc regarder non pas où elle est à ses débuts, mais où elle peut aller, ce qui est évidemment difficile, voire impossible. Le service de traduction automatique en ligne Google Translate a été lancé en 2006. Quelle magie de soumettre un texte qui revenait traduit en Anglais en quelques secondes! Bien-sûr, celui-ci nécessitait un re-travail important. Disons que GT faisait environ 50% du travail, mais le gain de temps était considérable. Puis la qualité s’est progressivement améliorée. En 2017 est apparu DeepL, qui a marqué un progrès notable. Un texte traduit ne nécessitait plus que quelques minutes de finition, on arrivait à environ 80%. Aujourd’hui, la qualité est devenue remarquable. Il n’y a pratiquement plus besoin de retravailler le texte. Si on avait jugé la traduction automatique en 2006 à l’aune de la traduction humaine, on l’aurait définitivement rejeté.

Adoption et rejet de la nouvelle technologie

5) Une nouvelle technologie tend à être adoptée d’abord par des non-consommateurs. La qualité de la traduction automatique à partir de 2006 était très inférieure à celle d’un traducteur professionnel, sauf que je n’avais ni le temps, ni les moyens de m’en payer un, sans compter qu’aucun d’entre eux ne travaillerait pour traduire trois paragraphes par-ci, par-là. Malgré sa performance médiocre, la traduction automatique me rendait déjà un service immense. Pour moi, l’alternative, c’était GT ou rien. Or, quelle que soit sa médiocrité, GT était mieux que rien; sa performance était donc suffisante pour le non-consommateur que j’étais. C’est pour cela qu’une nouvelle technologie est adoptée par les non-consommateurs malgré sa performance limitée. Elle leur apporte quelque chose qu’ils ne pouvaient pas avoir avant.

6) Les utilisateurs de la technologie existante tendent à rejeter la nouvelle technologie. C’est le corollaire du point précédent. Cela est dû au fait que cette dernière n’est généralement pas assez performante pour eux. J’ai commencé à utiliser la téléphonie sur Internet à partir de 1998. La qualité était exécrable, mais je pouvais appeler à l’étranger pour le prix d’une communication locale. Autrement dit, la performance de la téléphonie Internet était suffisante pour moi au regard de son coût. En revanche, pour une entreprise, il était hors de question de l’utiliser, la performance étant insuffisante au regard de ses exigences. Pour elle, « ça ne marchait pas », ce qu’il faut entendre par « Au regard de mes exigences, ses performances sont insuffisantes, donc je ne peux pas l’utiliser ». Fort logiquement, les entreprises ont initialement rejeté la téléphonie par Internet, qui a donc décollé par les usages individuels.

7) On tend à mettre en avant les inconvénients d’une nouvelle technologie plutôt que ses avantages. Parlez robots, on vous répond chômage. Parlez biotech et génétique, on vous répond Frankenstein. Parlez IA, on vous répond Skynet et domination des machines. Ce n’est pas nouveau. L’apparition de la photo a fait craindre la disparition des artistes, et de la radio celle des musiciens. On se focalise sur ce qui va disparaître, ou risque de disparaître, sans imaginer ce qui peut naître: le livre imprimé de Gutenberg a fait disparaître les magnifiques manuscrits enluminés, véritables ouvrages d’art, privant les moines copistes d’une source de revenu, mais il a ouvert la lecture et l’écriture à tous. Avec les livres, un érudit n’avait plus besoin d’apprendre les textes par cœur; il pouvait donc utiliser la capacité de son cerveau ainsi libérée pour des tâches bien plus créatives. Impossible de ne pas penser à un possible effet similaire pour ChatGPT, qui va nous libérer de certaines tâches pour nous permettre d’en faire d’autres.

Homo ludens

L’histoire de l’innovation est complexe et il est difficile, voire impossible, de prédire l’impact d’une technologie sur la société. Son succès dépend souvent de facteurs sociaux et de modèles mentaux sociétaux, et son potentiel ne doit pas être jugé uniquement sur ses limites ou ses performances techniques. Son succès dépend de ce qu’on en fera, et donc d’une danse étrange entre ses promoteurs et ses utilisateurs. Et donc, si vous voulez vous forger une idée sur chatGPT, commencez à l’utiliser pour en découvrir les forces et les faiblesses. Tirez parti des premières et soyez indulgents pour les secondes; regardez-le évoluer, comme pour la traduction automatique. En bref, ignorez les professeurs de morale et les experts trop sûrs d’eux-mêmes et jouez avec. Amusez-vous bien!

😉 Le titre de cet article a été trouvé par ChatGPT

➕Pour aller plus loin sur le sujet on pourra lire mes articles précédents: ▶️Evaluer le potentiel de rupture d’une nouvelle technologie: Les courbes de valeur ▶️Sur les MOOC qui font pschitt… et sur l’innovation de rupture en général. La technologie comme démultiplication des capacités cognitives est une idée évoquée par Michel Serres. Voir ici: ▶️Conférence de Michel Serres : la technologie démultiplie nos capacité cognitives.

📬 Si vous avez aimé cet article, n’hésitez pas à vous abonner pour être averti des prochains par mail (« Je m’abonne » en haut à droite sur la page d’accueil).

🎧 Cet article est disponible en format audio podcast: Apple Podcast – Google Podcast – Tumult – Deezer – Spotify – Podinstall

3 réponses à “Évaluer le potentiel de ChatGPT: Sept leçons d’histoire de l’innovation

  1. Pingback: Assessing the Potential of ChatGPT: Seven Lessons from the History of Innovation | Philippe Silberzahn

  2. Bonjour,
    C’est en effet assez impressionnant. Et même sur des demandes a priori peu usitées (variantes de langage de programmation peu commune…).
    Cela peut représenter une sacrée aide pour le gros de tâches un peu rébarbatives pour se concentrer sur l’essentiel ou se trouve en général la valeur, mais gare à la production de contenus automatisée et sans réelle valeur ajoutée sans même parler de créativité: En ligne, ou tout va très vite, cela peut faire un carnage dans une information déjà très dense et ou tirer le bon grain de l’ivraie devenait déjà compliqué. Et les contre-mesures s’annoncent fort difficiles. Ne parlons pas de l’enseignement ou les devoirs pompés sur Wikipédia étaient facilement reconnaissables par les enseignants. Ce sera fini. Gros problème en devenir aggravé par un système qui laisse une part croissante au contrôle continu vs examen national (le BAC n’en est déjà plus vraiment un) dans des conditions ou on peut maîtriser la triche.
    Au moins le grand public va pouvoir expérimenter un peu et constater ce dont ces outils sont désormais capables.

  3. Cher Monsieur, Merci pour vos articles très professionnels. Pourquoi ne vous intéresseriez-vous pas au management catastrophique de nos dirigeants (présidents, gouvernements, députés) dont les décisions souvent catastrophiques affectent des millions de français ? Exemples: développement du Minitel au moment de l’arrivée d’internet, abandon de la filière nucléaire, passage aux 35h, avions renifleurs, abandon de l’industrie au profit des services, etc. A vous lire, AG