Alors que s’accélère son développement, l’IA suscite une crainte croissante à la fois par son ampleur et par sa puissance. Et ce n’est que le début. La principale crainte souvent énoncée est qu’elle ne sait pas expliquer comment elle arrive à un résultat donné, et qu’elle est donc dangereuse. Comment peut-on utiliser une intelligence non humaine si on ne sait pas comment elle marche? Et pourtant c’est ce que nous faisons depuis des milliers d’années… avec le chien.
Le chien identifié le plus ancien date d’environ 16.000 ans. Les chiens proviennent des loups que nous avons domestiqués. Ils se sont peu à peu transformés par sélection successive au cours des millénaires. Le chien est donc un être artificiel, une création de l’homme; il n’existait pas dans la nature. Et c’est un être incroyablement utile. Très tôt il a été utilisé pour la chasse et pour la garde. Mais aussi pour nous tenir compagnie. Ainsi, l’homme n’a pas seulement créé des objets extraordinaires (lances, habits, etc.) mais il a également créé des intelligences artificielles dès le Paléolithique supérieur.
Or, un chien peut être incroyablement stupide, bien moins intelligent que de nombreux animaux. Il échoue à des tâches pourtant très simples, qu’un corbeau exécute sans difficulté. C’est parfois à se taper la tête contre les murs de voir leur stupidité. Et difficile de savoir comment ils réfléchissent, si ce terme peut d’ailleurs leur être appliqué. Mais demandez-leur quelque chose qui rentre dans ce pourquoi nous les avons patiemment fabriqués depuis tant d’années, et tout change. Ils vous ramènent un troupeau de brebis seuls en quelques minutes. Ils sentent quand vous avez un problème. Ils sont à vos côtés pour la chasse. Ils avertissent du danger. Ils vous protègent. Ils sont une source de bien-être. Ils guident les aveugles. Et en plus, ils nous aiment. En gros, avec le chien, nous avons créé une intelligence spécialisée pour des tâches vitales. Nous ne savons pas comment il fonctionne, il peut être très dangereux, mais il est pourtant remarquablement utile s’il est bien utilisé.
L’IA est comme un chien
Eh bien l’IA, c’est comme le chien. Nous n’avons pas besoin de savoir comment elle fonctionne pour qu’elle puisse être utile. Les deux sont des outils. Comme pour tout outil, il faut bien savoir comment il peut être employé, où il est utile, et où il est inutile, voire dangereux, et il faut bien l’utiliser sinon il peut y avoir des accidents. Le marteau est parfait pour enfoncer des clous, médiocre pour enfoncer des vis, inutile pour bêcher votre jardin, et dangereux pour les doigts. Un outil est typiquement remarquablement efficace dans son champ, pathétiquement inutile en dehors. Idem pour le chien, et donc pour l’IA.
L’IA est simplement une manière différente de créer une intelligence artificielle. Le chien, c’est bien, mais avec lui nous sommes soumis à l’évolution pour l’améliorer, c’est-à-dire qu’il faut des générations pour obtenir des traits intéressants. Avec le développement de la génétique et de technologies comme CRISPR, on peut imaginer aller beaucoup plus vite. Mais l’IA, c’est du logiciel, et là les cycles d’évolution ne sont plus en centaines d’années, mais en dizaines de semaines. Nous pouvons enfin nous affranchir de l’évolution pour développer une intelligence non-humaine.
Et donc l’argument souvent avancé selon lequel l’IA doit être « systématiquement explicable, auditable et transparente », comme je l’entendais récemment dans une conférence, est erroné. Exiger cela de l’IA, c’est renoncer à l’utiliser, comme nos ancêtres auraient dû renoncer à utiliser le chien, incompréhensible, se privant ainsi d’un outil qui leur a considérablement facilité la vie, et probablement la survie. Ne commettons pas cette erreur. Comme pour le chien, comprenons là où elle peut être utile, ce qu’elle peut faire, ses avantages et ses limites, et ne lui en demandons pas plus.
➕Sur le même sujet on pourra lire mon article: Les sept raisons pour lesquelles vous êtes (déjà) en train de rater le virage de l’IA.
🎧 Cet article est disponible en format audio podcast: Apple Podcast – Google Podcast – Tumult – Deezer – Spotify – Podinstall
📬 Si vous avez aimé cet article, n’hésitez pas à vous abonner pour être averti des prochains par mail (“Je m’abonne” en haut à droite sur la page d’accueil).
En savoir plus sur Philippe Silberzahn
Subscribe to get the latest posts sent to your email.
16 réflexions au sujet de « Ce qu’un chien peut vous apprendre sur les dangers de l’IA »
Rappeler que l’IA n’est qu’un outil et que celui-ci n’est pas le seul dont on ne comprenne pas le fonctionnement interne est très intéressant.
Je me demande par contre s’il ne manque pas une dimension dans cette explication, car vous suggérez que notre limite de compréhension du fonctionnement interne de l’IA est du même ordre de grandeur que celle du chien.
Le simple fait que le chien soit un être biologique n’est-il pas un élément qui pourrait remettre cette assertion en cause ?
La comparaison est bonne jusqu’au bout : ce n’est pas du chien qu’on a peur, c’est du maître et pour l’IA, c’est de connaître les tables des lois de ceux qui la mettent en service.
euh oui mais un peur du chien aussi, surtout si le maître n’est pas là…
Bonjour,
En effet, c’est tout à fait intéressant de voir le chien comme une IA.
Étant entendu qu’il ne s’agit pas, ici, de débattre du fait qu’un outil peut être utilisé à mauvais escient par des personnes mal intentionnées, le « mal » en question étant de plus tout relatif …
Néanmoins, bien que je trouve vos interventions pertinentes et intéressantes, je suis assez critique avec cette tribune IA vs Chien.
Tout d’abord, vous faites une corrélation trompeuse :
Vous indiquez avec justesse : « L’IA, c’est comme le chien. Nous n’avons pas besoin de savoir comment elle fonctionne pour qu’elle puisse être utile ».
Et dans tout votre exposé, vous développez l’utilité du chien … pour nous expliquer qu’il ne faut pas avoir peur, comme si « crainte » et « utilité » étaient antinomiques.
Ce n’est pas parce que l’utilité de quelque chose (ou de quelqu’un) est reconnue, qu’il n’y a pas de danger !
Pour mémoire : les médicaments sont autorisés lorsque leur efficacité est reconnue, pour autant, il y a des risques d’effets secondaires indésirables, parfois graves, eux aussi reconnus.
L’utilité de l’IA n’est d’ailleurs pas mise en cause il me semble, pas plus que celle des chiens de bergers, des chiens guides, etc.
Ce qui est mis en cause, ce sont les risques encourus.
Il semble tout à fait raisonnable de vouloir déterminer quels pourraient être les effets indésirables de l’IA.
Cela fait partie des limites d’utilisation, justement évoquées dans votre conclusion.
Comme cela est parfaitement rappelé dans le texte, on remarquera que le chien est utilisé pour des tâches bien définies et limitées. Et qu’il a été testé pour ces tâches durant des siècles, ce qui donne du recul, et vous permet de lister des tâches pour lesquelles le chien est utile, et d’autres pour lesquelles on ne peut pas l’utiliser de façon fiable.
C’est un point de divergence avec l’IA, qui est toute récente : on n’a pas ce recul, et de ce fait, on ne peut pas lister empiriquement ce pour quoi elle est fiable ou non. Même si notre monde numérique mondialisé fait qu’il y a eu des utilisateurs qui se sont amusés à la tester, montrant d’ailleurs parfois qu’elle pouvait donner des réponses erronées voire complètement à côté de la plaque.
Lorsqu’on n’a pas de recul pour analyser des résultats, il faut tenter de prévoir ce qui pourrait arriver. Et pour prévoir, il faut savoir. Il faut savoir et comprendre comment fonctionne le système pour prévoir ce qui peut en sortir.
Et puisque le fonctionnement d’une IA est par essence évolutif, l’argument selon lequel l’IA doit être « systématiquement explicable, auditable et transparente » n’est pas erroné, car c’est justement le moyen de déterminer ses limites.
D’autre part, vous ne nous dites pas si, au début de l’existence des chiens, les hommes n’ont pas parfois craint que ces créatures ne se retournent contre eux, voire même si certains hommes ne se sont pas faits attaquer par des chiens. Cela arrive encore parfois malheureusement, et on peut supposer que lorsqu’ils étaient encore presque des loups, ça a dû arriver bien plus souvent qu’aujourd’hui !
Et lorsque cela arrive, ce n’est pas forcément dû à une utilisation en dehors de la liste des tâches adéquates (contrairement à ce qui est indiqué dans le texte) : les chiens peuvent être autonomes, et notamment décider d’une action sans avoir reçu un ordre humain. Ils sont en mesure d’attaquer de leur propre initiative.
La même problématique pourrait se poser avec l’IA : y a-t-il un risque que parfois elle décide ou agisse en dehors des limites qu’on aurait définies ? C’est une crainte régulièrement évoquée.
Finalement, vous nous démontrez que l’IA peut être utile à l’humanité comme le chien l’a été et l’est encore, ce que peu de gens contestent aujourd’hui.
Mais vous n’expliquez pas comment définir les limites dont vous-même reconnaissez qu’il faut les connaitre, et ne démontrez nullement qu’il n’y aurait aucun risque avec l’IA.
Vous mettez simplement en cause le principe de précaution en proposant de faire passer l’avantage de l’utilisation avant l’analyse des risques.
Entièrement d’accord et j’ajouterais que le risque que représentait le chien est, tout en pouvant être tragique pour ceux qui l’ont subi, bien moindre que celui de l’IA en termes de dimension spatiale (interconnexion mondiale), dimension sociale (nb de victimes potentielles), rapidité de réaction, piratage, etc.
Avant d’avoir le recul nécessaire pour délimiter les champs d’application risqués. les dégâts risquent d’être Kolossaux!
Doit-on donner à notre chien la capacité de piloter notre armement nucléaire ?
Lui laisser bâtir les prochaines équations financières qui régissent notre vie économique à tous ? Piloter notre santé ? Assurer la diffusion, la rédaction ou la validation de nos informations ? Gérer les relations ou les crises internationales ? la paix dans le monde …
Je pense que le mot est « simplement » ne s’applique malheureusement pas à une avancée aussi complexe que l’IA laisse entrevoir. Je pense sincèrement qu’il va nous falloir forcément encadrer ces pratiques et leur développement, comme cela se fait déjà sur la génétique par exemple.
savoir où il faut et où il ne faut pas utiliser l’IA, n’est-ce pas précisément ce que je dis dans l’article???
Article passionnant, comme souvent ! Il y a en effet mille choses utiles que nous comprenons mal (voire presque pas) et que l’on régule par l’observation des effets.
Il me semble toutefois que la cinétique du développement a une influence majeure sur nos capacités de régulation. L’évolution est certes lente, le dressage un peu moins (je dis « un peu » car devoir le recommencer sur chaque individu induit, de fait, une très forte inertie). Et l’usage du chien est donc peu scalable.
Sommes-nous capables d’identifier les bons et mauvais usages de l’IA, puis d’en tirer les conséquences, compte tenu des échelles (temps/espace) où elle se développe ?
Cette question d’échelle limite fortement, à mon avis, la comparaison.
Merci. Identifier les bons et les mauvais usages c’est effectivement la clé, et c’est d’autant plus difficile que ce sont des notions subjectives… liées à nos valeurs…
« Demain les chiens » c’est le cas de le dire. Titre original « City » de Clifford D. Simak
J’adore cette comparaison.
Hello Philippe, merci pour ce billet qui, comme toujours m’a fait réfléchir.
J’adhère à ta comparaison mais tu ne vas pas jusqu’au bout des choses. Au-delà de ce qu’est l’IA (« c’est comme un chien ») le danger ne vient pas du fait qu’on ne la comprenne pas. Mais plutôt qu’on observe déjà qu’elle n’est pas utilisée à bon escient, ou en tout cas au service d’humains et pas de systèmes déshumanisants.
C’est donc l’usage, et notamment son usage politique (au sens de l’organisation sociétale), et non sa définition, qui est discutable et effrayant.
Je t’invite à lire les excellents travaux d’Eric Sadin sur ce sujet et notamment son livre « Intelligence artificielle, l’enjeu du siècle » https://www.lechappee.org/collections/pour-en-finir-avec/intelligence-artificielle-ou-enjeu-du-siecle
Bonjour,
Je vous invite à écouter l’interview d’Éric Sadin pour un contre point de votre réflexion sur l’IA.
https://www.thinkerview.com/eric-sadin-ia-le-devenir-legume-de-lhumanite/
Je suis curieux de connaître votre analyse sur les thèses avancées par ce philosophe.
J’étais prêt à écouter mais je me méfie des écrivains-philosophes à longue chevelure lustrée.