La Commission européenne vient de dévoiler un projet très ambitieux de réglementation des usages de l’intelligence artificielle (IA). Les plus de cent pages (!) de règles proposées couvrent un large éventail de sujets. Si les risques liés à des utilisations non éthiques de l’IA existent réellement, cette volonté de réglementation repose cependant sur une conception erronée de l’innovation technologique et pose un grave danger à l’industrie européenne en compromettant les chances que nous disposions d’acteurs majeurs dans le domaine. Si ce projet était adopté, il constituerait un formidable cadeau à la Chine et aux États-Unis.
Un spectre hante l’Europe, le spectre du principe de précaution. Hier berceau de l’innovation et du progrès, l’Europe est désormais paralysée par la peur du risque. C’est cette peur du risque qui motive le funeste projet de réglementation de l’IA. Sans même parler du fait que le terme “intelligence artificielle” est très contesté et mal choisi, le projet repose sur une conception erronée de l’innovation technologique.
En effet, une innovation technologique n’est pas un objet parfaitement identifiable et stable dans le temps. C’est un processus émergent étalé dans le temps. L’innovation “Internet” débute dans les années 60 et se poursuit aujourd’hui. De fait, ce processus est enveloppé d’incertitude sur les implications et les possibilités de la technologie. Toute l’histoire humaine montre ainsi qu’on ne peut pas juger aujourd’hui de l’impact qu’aura une technologie demain car il est impossible d’en anticiper les développements. En 1911, des ingénieurs découvrent qu’on peut utiliser des ultrasons pour détecter des sous-marins. En 1951, la technologie est promue par un médecin et un électronicien pour lutter contre le cancer. Leurs efforts ne mènent à rien mais à partir des années 1970 l’échographie commence à être utilisée dans l’obstétrique. A partir des années 90, elle est largement utilisée en Asie pour les avortements sélectifs, usage qui sera responsable d’un fort déséquilibre hommes/femmes. Question: qu’aurait pu dire un régulateur aux ingénieurs de 1911? Il aurait été tout à fait incapable d’anticiper les utilisations de cette technologie. Autrement dit, une réglementation précoce, sur des applications qui n’existent pas encore, se fera de façon tout à fait aveugle, et reposera donc sur des croyances, voire sur des fantasmes, plutôt que sur des faits. Pour réglementer il faut comprendre, et pour comprendre une technologie émergente il faut faire. Réglementer trop tôt empêche de faire, et donc de comprendre.
Une réglementation précoce est d’autant plus dommageable que toute technologie est duale: elle peut servir à faire le bien comme le mal, et la nuance entre les deux est circonstancielle. Un couteau me sert à découper mon steak, mais il peut aussi me servir à tuer quelqu’un. Faut-il interdire le couteau? Mais tuer, est-ce toujours mal? Non si je suis en situation de légitime défense.
Une charge de preuve en défaveur de l’innovation
Le problème du principe de précaution est que les risques peuvent être facilement imaginés, il n’y a aucune limite, tandis que les bénéfices doivent être prouvés. Le principe considère les dangers potentiels, mais pas les bénéfices probables d’une innovation, et déplace ainsi la charge de la preuve vers l’innovateur à qui il incombe de prouver que son produit ne va pas nuire, sans lui permettre de démontrer qu’il sera bénéficiaire, ou qu’il remplacera un produit actuel nuisible.
Par exemple, en suivant ce principe de précaution, on interdira très certainement l’utilisation de l’IA dans la prise de décision de justice. Après tout, qui voudrait être jugé par une machine aux algorithmes probablement biaisés? C’est oublier que les juges le sont beaucoup plus. Dans une célèbre étude, des scientifiques ont montré que les peines étaient plus lourdes lorsque les juges avaient faim que quand ils venaient de manger! Quand on pointe les dangers de l’IA, on la compare souvent à une situation idéalisée qui est loin, très loin de la réalité. Quelque biaisée qu’elle soit, une IA sera sans doute plus objective et moins biaisée par des circonstances ou des états physiologiques. Une technologie ne doit donc pas être évaluée ex nihilo ou par rapport à un idéal, mais par rapport à la technologie actuelle et à ses insuffisances et ses nuisances.
Un énorme risque de se priver des avantages de la technologie
Aucune technologie, quelle qu’elle soit, n’est sans risque. Imaginez que vous soyez le ministre de l’industrie d’un grand pays au début du siècle dernier. Un ingénieur vient vous voir avec une toute nouvelle technologie qui va révolutionner la vie de tous les habitants du pays. Seul bémol: cette technologie causera directement la mort de 30.000 personnes par an en moyenne, ainsi que de nombreux accidents. Autoriserez-vous cette technologie? Avec le principe de précaution, probablement pas: 30.000 morts! Et pourtant, cette technologie s’appelle l’automobile, et elle tue effectivement 30.000 personnes par an aux États-Unis (environ un million dans le monde). Le grave danger du principe de précaution a été particulièrement avéré ces dernières semaines avec la désastreuse affaire du vaccin AstraZeneca. Parce que l’on soupçonnait que dans certaines situations, une personne vaccinée pouvait développer une thrombose, la vaccination a été interrompue, suscitant une forte inquiétude dans l’opinion; ceci alors que le risque de thrombose était infime, en tout cas inférieur à celui, par exemple, de la prise d’une pilule contraceptive. Pour éviter, peut-être, quelques thromboses dont la plupart ne sont pas mortelles, on s’est privé de vacciner des centaines de milliers de personnes, ce qui entraînera des morts, mais aussi un prolongement de l’épidémie, augmentant ainsi le risque d’apparition de variants non couverts par les vaccins actuels. En résumé: le principe de précaution tue. Il tue les humains mais aussi les industries.
Une logique de mort industrielle
La démarche de la Commission européenne s’inscrit dans une longue série visant à brider l’innovation européenne. Sous couvert de concilier éthique et compétitivité, elle reflète une peur de l’avenir conçu exclusivement comme dangereux. Au final elle n’aura guère d’impact sur l’éthique: l’industrie européenne étant bridée, l’innovation se fera ailleurs, avec les emplois et la richesse qui vont avec, et on viendra pleurer sur notre souveraineté perdue. Sans acteur de poids dans le domaine, l’éthique nous sera finalement dictée par nos concurrents américains et chinois. Il est grandement temps d’inverser complètement la logique de mort industrielle qui prévaut dans cette instance.◼︎
Lire mes articles précédents sur la question de l’éthique et de la technologie: ▶︎IA et éthique: le contresens navrant de Cédric Villani et ▶︎Tech for good: Et si c’était une très mauvaise idée? Pour en savoir plus sur le projet de réglementation, lire l’article de France 24.
9 réflexions au sujet de « Réglementation de l’IA: La logique de mort industrielle de la Commission européenne »
En somme, ce principe de précaution en dirait long sur notre (UE) vision pessimiste du futur. Nous philosophons quand la Chine et les Etats-unis ..agissent.
En substance c’est ça. Une forme inversée du renard et les raisins.
Nous pourrions avoir les raisins et nous nous mettons nous mêmes, avec cette réglementation, la treille qui les rend inaccessibles. Et si ce modèle mental était erroné ? Notre renard est frustré, plutôt que de reconnaître la réalité qui diminue sa valeur (qu’elle est sa valeur s’il ne peut attraper les raisins), il nie cette réalité et la transforme en situation qui rehausse, à ses yeux, son estime de lui. En effet, j’ai une meilleure estime de moi si c’est moi qui juge que ces raisins sont vert et que je n’ai pas alors le désir de les manger. Quel magnifique mensonge a soi même pour diminuer son sentiment d’infériorité et compenser sa frustration par un sentiment de supériorité même si cette compensation repose sur un mensonge que Lafontaine souligne en décrivant le caractère mûr des raisin couverts d’une peau vermeille dont le renard ferait bien un repas.
Par ce subterfuge, nous pouvons admirer la mobilité intellectuelle du Renard. Ainsi il passe intelligemment d’une proposition A frustrante à une proposition B moins frustrante et sa capacité à se dissocier de la réalité : les grains sont mûrs et inaccessibles en affirmant qu’ils sont verts. La justification de ce comportement, le bénéfice obtenu c’est de moins souffrir, de réduire sont mal-être. J’aime se renard et cette fable car je reconnais mon imperfection. Je reconnais que je me ment et que je me dissocie de la réalité pour plus facilement la transformer pour un plaisir immédiat : moins souffrir de la frustration que j’éprouve et je fais ça grâce à la mobilité intellectuelle à laquelle je suis bien entraîné.
Ce que ne pratique pas directement le renard dans cette fable pour alléger sa souffrance, sa frustration c’est la mobilité émotionnelle qui lui permettrait directement de diminuer son mal-être sans se dissocier ou nier la réalité. Nous ne nous identifions pas à un tel comportement car comme le renard nous en ignorons la pratique. Pourtant la mobilité émotionnelle est en nous de manière innée.
Prolongeons la fable. Notre renard ressentant sa faim et sa frustration médite cette situation. Il se souvient alors des situation analogue où son mal-être l’a entravé et où le retour à son bien-être la sauver. Fort de ses souvenirs il d’admirer et se gratifie pour sa sagesse. Souriant car ainsi il s’est à nouveau convaincu de sa valeur il se réjouit de l’intelligence du pacsant d’avoir fixé sa treille si haut et du plaisir que prendra celui-ci à déguster les raisin à maturité en lui souhaitant de ne pas les oublier pour ne pas les cueillir trop mûrs. Au plaisir de ces douces réflexions qui attestent de sa mobilité émotionnelle sa frustration a disparu son coutumier bien-être est réapparu il a rebroussé chemin et ne voilà t-il pas qu’il tombe sur un excellent morceau de volaille abandonné là à portée de patte. Assis sur son séant notre renard médite à nouveau. Comment n’a-t-il pas vu cette opportunité à l’aller ? Personne n’a emprunté le chemin lorsqu’il était sous la treille, il s’en serait aperçu elle est si proche. Le ventre plein il se souvient qu’à l’aller son ventre vide criait famine et il sait que ce petit mal-être est sûrement à l’origine de son inattention à ce morceau de choix. Notre sage renard loue à nouveau la puissance de son bien-être, la vertu de sa mobilité émotionnelle et heureux de l’instant présent il gambade.
Face au mal-être que je ressens à la lecture de cette nouvelle réglementation puis-je m’arrêter et méditer pour me souvenir des succès que j’ai obtenu, des protections dont j’ai bénéficié, des imperfections que j’ai su contourner face à des réglementations déjà existantes et admise qu’il ne vient plus à l’esprit de personnes de contester. Puis-je ainsi chasser mon mal-être et restaurer mon bien-être et regarder alors, à nouveau, mon environnement pour y trouver l’opportunité que je n’ai pas encore remarquée lorsque j’étais bloqué par ma frustration qui de plus me conduisait à nier les bienfaits de la réalité… Ressentez-vous que la mobilité émotionnelle conduit directement à la sagesse sans se dissocier du réel ? Ressentez-vous le bien-être qui l’accompagne ? Ou, malheureusement, ressentez-vous encore et toujours un sentiment de danger ou de diminution de votre liberté que vous êtes prêt à nier avec une mobilité intellectuelle sans limites. Si c’est encore le cas se sont vos défenses et c’est ok. Vous les avez appris à une époque où elles vous ont sauvées. Vérifiez si elles sont toujours adaptées.
Belle journée.
Bonjour, plutôt que de faire un débat sur l’innovation, totalement éculé, il aurait été plus convaincant de faire une analyse de la réglementation et expliquer pourquoi elle est trop contraignante / limitante. Sans cette analyse votre article au titre si prometteur n’a malheureusement pas de substance / se limite à des généralités. Au plaisir de vous lire une fois ce travail effectué.
A vos ordres mon général.
Bonjour,
Pourquoi ce point d’exclamation à coté du nombre de pages ? 100 pages, c’est tout à fait modéré pour du “jus de bureaucratie” bruxellois…
Après, vu le vide sidéral que recouvre l’expression “I.A.” (“imbécilité artificielle” où “on a toujours fait comme cela donc on continue sans comprendre”), peut-être que cette réglementation tordue a pour but de lui “inventer” une valeur ? Un peu comme dans cette histoire (apocryphe ?) de Parmentier, le “promoteur de la patate, qui aurait fait garder un champ par l’armée pour inciter les gens à en voler, et à les consommer…
Un excellent article comme d’habitude.
Pour résumer et pour se faire un modèle mental de la situation actuelle, l’Europe du XXIeme siècle est le monde arabe du XIeme siècle : brillant encore de mille feux mais déjà ankylosé, entravé de l’intérieur et condamné à la stagnation, au retard technologique et, à terme, à la domination extérieure.
Bonjour , oui en voyant arriver cela , l ‘ Europe a clairement tiré un chargeur dans le pied . La ou on devrait , nous laissé tranquille . Je travaille dans le secteur de la smart city , qui a , a la fois besoin de machine learning et de données et je ne comprends pas . Le ML n’es pas , loin non plus la panacée , mai peux rendre de très grands services et c ‘est but , bref en un mot , comme cent : je suis consterné
Que peut-on attendre de mieux d’une institution aussi foutraque que la Commission, qui doit tenir compte de 27 “actionnaires” aux intérêts divergents, responsables chacun devant 27 parlements et opinions publiques, sans compter les autres institutions transverses, l’Eurogroupe, le Conseil, et j’en oublie sûrement ( voir la pantalonnade du sofagate ).
Les commentaires sont fermés.