Les dangers de l’intelligence artificielle

Cela relève de la science-fiction, mais plusieurs savants prévoient qu’elle posera un grave danger, à mesure que nous créons des systèmes d’intelligence artificielle dépassant nos propres capacités. Quel est l’avenir de l’humanité ?

L’intelligence humaine a façonné notre monde. Nous avons élargi nos horizons et nos capacités dans des milliers de domaines, et il semble que nous nous préparions à présent à créer une intelligence artificielle capable de nous dépasser dans pratiquement tous les domaines. Qu’est-ce qui pourrait mal tourner ?

La question que l’on devrait se poser ne devrait pas être celle de savoir si nous pouvons en fait fabriquer des machines dotées d’une intelligence et d’une conscience analogues à celle des humains. Il importe avant tout de nous demander si nos progrès technologiques phénoménaux peuvent s’accompagner d’une sagesse et d’un comportement moral accrus. Allons-nous tous – y compris nos ordinateurs, nos robots et autres outils dotés d’intelligence artificielle – agir pour l’amélioration des humains ?

Les leçons de l’histoire n’incitent guère à l’optimisme. Nos plus grands progrès technologiques ont toujours été accompagnés de nouveaux dangers et de dilemmes moraux plus épineux. (Nous vous proposons à cet effet notre article Y aura-t-il une Troisième Guerre mondiale ?). Pour mesurer les implications de l’IA, nous devons commencer par définir de quoi il s’agit.

Le professeur B.J. Copeland – auteur d’Artificial Intelligence – a écrit : « L’intelligence artificielle (IA) est la capacité qu’a un ordinateur ou un robot guidé par un ordinateur, d’effectuer des tâches liées à des êtres intelligents. Ce terme est fréquemment appliqué au programme de développement de systèmes dotés des caractéristiques des processus intellectuels des  humains, comme le pouvoir de raisonner, de découvrir des raisons, de généraliser, ou d’apprendre quelque chose d’expériences passées » (Britannica.com)

L’introduction d’IBM sur l’intelligence artificielle est tirée du manuel d’IA de Stuart Russell et de Peter Norvig – Artificial Intelligence : A Modern Approach. Ils s’y plongent dans quatre objectifs possibles – ou quatre définitions – de l’IA :

« L’approche humaine »

Des systèmes qui raisonnent comme des humains

Des systèmes qui agissent comme des humains

« L’approche idéaliste »

Des systèmes qui pensent rationnellement

Des systèmes qui agissent rationnellement.

Hélas, ces approches ne correspondent pas à ce que font les humains. Les pensées et les comportements humains sont souvent irrationnels et néfastes, que nous soyons disposés ou non à l’admettre.

À faible intelligence et à intelligence supérieure

IBM fait également une distinction entre l’IA faible — l’intelligence artificielle étroite ou limitée utilisée pour accomplir des tâches précises comme le Siri d’Apple, l’assistant vocal infonuagique d’Amazon, le programme Watson d’IBM ou ceux des véhicules autonomes – et l’IA supérieure.

« L’IA supérieure comprend l’Intelligence Artificielle Généralisée (IAG) et l’Intelligence Artificielle Supérieure (IAS). L’Intelligence Artificielle Généralisée (ou IAG) est une forme théorique de l’IA dans laquelle une machine aurait une intelligence égale à un être humain ; serait consciente d’exister et pourrait résoudre des problèmes, apprendre, et faire des projets d’avenir. L’Intelligence Artificielle Supérieure (IAS) surpasserait l’intelligence et les capacités du cerveau humain. Bien qu’elle demeure théorique, sans application pratique à présent, cela ne veut pas dire que les chercheurs ne s’affairent pas à son développement. Le meilleur exemple d’IAS relève uniquement, pour le moment, de la science-fiction, comme HAL – l’ordinateur surhumain du film 2001 — L’odyssée de l’espace.

Une prise en charge de l’IA ?

L’IA semble être omniprésente dans les médias et dans la culture populaire. Va-t-elle nous remplacer ? Sommes-nous disposés à la laisser faire ? Jennifer Karppinen, du Future Today Institute, fait remarquer que les humains ont à ce sujet des avis différents : « D’après un récent sondage, plus de la moitié des Européens sont prêts à remplacer leurs législateurs par une IA. En revanche, les avis diffèrent – les plus jeunes étant plus enclins à le faire que les plus anciens, et les personnes interrogées dans des pays comme l’Angleterre, les Pays-Bas et l’Allemagne doutent que confier le pouvoir politique à des machines améliore la situation. Ce qui ne surprend pas, vu l’avance qu’a ce pays dans l’IA, la majorité des personnes sondées en Chine approuvaient cette idée, tandis que les Américains ne l’étaient pas. »

Il va sans dire qu’un tel scénario – un gouvernement par IA – est purement hypothétique pour le moment. Néanmoins, nous confions de plus en plus de décisions à conséquences à une intelligence artificielle limitée, et pourtant loin d’être faible. Ne franchirions-nous pas la barrière invisible nous amenant à confier le pouvoir à une IA supérieure si on l’avait développée ?

La question néanmoins demeure : La création d’une IA supérieure est-elle imminente ? C’est possible, bien que les nouvelles technologies soient testées, et Lex Fridman (un expert de l’informatique) – lors d’une présentation du MIT (Massachusetts Institute of Technology) en 2019 – a déclaré que nous nous attendons à des prodiges dans ce domaine. Par conséquent, à son avis, nous approchons l’abreuvoir du désenchantement.

Les dangers de l’IA

Certains futuristes voient malgré tout l’IA comme inévitable et comme le pire risque à la survie de l’humanité. Toby Ord est directeur de recherche en philosophie à l’université d’Oxford. Dans The Precipice : Existential Risk and the Future of Humanity – thèse dont il est l’auteur et qui s’inscrit dans ses recherches sur les risques menaçant l’extinction de l’humanité – il présente les risques naturels (comme les astéroïdes, les comètes et les super volcans) et les risques liés aux activités humaines (comme les armes nucléaires, les dégâts de l’environnement, les pandémies et, surtout… l’IA). Il en conclut que « les risques naturels sont insignifiants, comparés à ceux que nous nous créons » et qui, selon lui, sont pratiquement 1 000 fois pires (2020, p. 87).

Pour lui, l’IA risque d’être le plus dangereux. Vu le débordement d’activité dans la recherche et les investissements dans l’intelligence artificielle, selon lui, « c’est une période très prometteuse mais aussi de grands défis éthiques. On s’inquiète énormément de l’ingérence sociale et de la discrimination de l’IA risquant de produire beaucoup de chômage, soutenant une surveillance oppressive et violant les normes de la guerre » (p. 141).

Mais pire encore, pour lui, l’IA menace l’existence de l’humanité. « Le risque existentiel le plus plausible serait, pour les chercheurs, de réussir à achever leur plus grande ambition, à savoir de créer des agents dotés d’une intelligence générale surpassant la nôtre » (p. 141). Cela relève de la science-fiction, mais Toby Ord explique que, pour bon nombre d’experts, il s’agit de l’issue logique des progrès actuels dans ce domaine.

« Dans le paradigme actuel, des agents suffisamment intelligents finiraient par avoir des objectifs instrumentaux capables de nous tromper et de nous écraser. Et si leur intelligence devait considérablement dépasser la nôtre, nous ne devrions pas nous attendre à ce que l’humanité ait le dessus et conserve la maîtrise de notre avenir » (p.146).

Reste à savoir si c’est tiré par les cheveux ou si c’est pour un avenir lointain. Quoi qu’il en soit, les savants sérieux s’en inquiètent et s’inquiètent de plusieurs autres menaces à notre existence.

Des armements autonomes, la surveillance de l’IA et les risques

Bien que l’IAS (l’intelligence artificielle supérieure) soit pour plus tard, les technologies  de l’IA actuelles ont leurs propres risques. Parlons de deux de leurs applications :

Les armes autonomes (comme les drones et les robots tueurs) : « Décrites comme la troisième révolution militaire après la poudre à canon et les armes nucléaires, les armes mortelles autonomes sont des systèmes d’armement capable d’identifier, de choisir et de viser une cible sans contrôle humain significatif.

« Plus de 4 500 chercheurs dans l’IA et la robotique, plus de 250 organisations, plus de 30 nations et le Secrétaire général des Nations Unies  ont réclamé un traité contraignant bannissant les armes mortelles autonomes. Ils ont rencontré une vive résistance de la part de pays fabriquant de telles armes et craignant de perdre leur supériorité stratégique » (Future of Life Institute).

D’après le président russe Vladimir Poutine, « l’avenir est dans l’intelligence artificielle, non seulement pour la Russie mais aussi pour toute l’humanité. Elle s’accompagne de possibilités énormes, mais aussi de risques difficiles à prédire. Celui qui est en tête de file dans ce domaine dominera le monde. »

Les dispositifs de surveillance par IA, sous diverses formes, se répandent globalement, de la reconnaissance faciale à la reconnaissance de la démarche, en passant par la prévention policière et le dépistage précoce d’une maladie. En dépit des diverses restrictions légales, les États aussi bien autoritaires que démocratiques se servent de plus en plus d’instruments permettant de suivre, de surveiller, de prévoir et même de noter le comportement de leurs propres citoyens. L’application de ces systèmes de surveillance par IA joue un rôle-clé dans la tendance croissante  vers l’autoritarisme numérique » (Atlantic Council).

À raisonner comme les humains

Dans le fond, que dire du risque d’enseigner à des machines à raisonner comme nous ? Comme le disait le titre d’un article de Nathalie Wolchover, « L’intelligence artificielle fera ce qu’on lui demande ; c’est problématique ! ». Elle cite plusieurs exemples d’IA dans les médias, qui accentuent nos préférences au point de « polariser et radicaliser les gens ». Puis elle pose plusieurs questions pertinentes sur les dangers qu’il y a à raisonner comme les humains :

« Que dire des préférences des individus méchants ? Qu’est-ce qui empêcherait un robot d’agir pour satisfaire les désirs abominables de son mauvais propriétaire ? Les systèmes à IA ont tendance à trouver le moyen de contourner les interdictions, comme les riches qui trouvent des combines pour ne pas payer d’impôts ; par conséquent, leur interdire de commettre des crimes ne réussira probablement pas. Ou, pour être encore plus sinistre, que dire si nous étions tous plutôt mauvais ? »

Le prophète Jérémie cite une évaluation que Dieu donne du cœur humain : « Le cœur est tortueux par-dessus tout, et il est méchant : Qui peut le connaître ? » (Jérémie 17:9). L’humanité, dès le départ, a choisi un mélange de bien et de mal (Genèse 2:17 ; 3:4-6) et il semble que le mal rôde toujours, prêt à saboter le bien.

Notre curiosité humaine innée ; notre désir d’avancement ; notre soif de profit, de puissance et de sécurité, nous ont tous poussés à augmenter nos capacités. À travers l’histoire, nos armes, nos outils et notre capacité à contrôler notre milieu se sont améliorés. Ces dernières années, notre science et notre technologie ont accompli des progrès exponentiels. Néanmoins, ces progrès ont souvent apporté de nouveaux dangers et provoqué d’autres dilemmes moraux pour l’humanité. Notre capacité à nous gouverner et à maîtriser notre technologie est loin d’égaler nos progrès matériels.

Les dangers liés à la hâte qu’ont les humains de contrôler et d’améliorer leur milieu ne datent pas d’hier. Souvent, notre arrogance dépasse notre sagesse. Notre créativité illimitée pousse les limites de nos capacités bien avant que nous sachions ce que nous devrions faire. À un tournant décisif dans l’histoire, Dieu intervint pour ralentir la course des humains vers l’autodestruction. À la tour de Babel, l’Éternel diagnostiqua le danger : « Rien ne les empêchera d’exécuter tout ce qu’ils ont projeté » (Genèse 11:6 ; version Ostervald). Dieu confondit les langues afin de ralentir ces courants.

L’humanité a, une fois de plus, atteint de hauts sommets en matière de connaissances et de créativité. Nous sommes à deux doigts de réaliser des progrès énormes  – possiblement dans le domaine de l’IA. Mais bien que notre créativité soit énorme, notre éthique est bien faible. On n’accepte aucun manuel pour naviguer au travers des dilemmes éthiques qui prolifèrent. À présent notre manque de maîtrise sur nos impulsions autodestructives nous place au bord du précipice de l’extinction. Jésus nous a avertis : « Si ces jours n’étaient abrégés, personne ne serait sauvé » (Matthieu 24:22).

Connaissance, compréhension et sagesse

Les humains sont doués pour accumuler des connaissances ; doués pour parvenir à une certaine compréhension des choses, mais loin d’être sages. Toby Ord contraste les prouesses technologiques et les pouvoirs de l’homme avec sa sagesse :

« Alimenté par nos progrès technologiques, notre pouvoir a augmenté à tel point que – pour la première fois dans la longue histoire de l’humanité – nous avons la capacité de nous détruire, en altérant notre avenir et tout ce que nous pourrions devenir. La sagesse de l’humanité n’a augmenté que par faibles à-coups  – si même l’on peut dire « augmenté » – et elle est dangereusement à la traine. Il manque à l’humanité la maturité, la coordination et la vision nécessaires pour lui éviter de commettre des erreurs desquelles nous ne pourrions jamais nous remettre. À mesure que le fossé entre notre pouvoir et notre sagesse se creuse, notre avenir est sujet à un niveau toujours croissant de risque » (The Precipice, p.3).

Peu importe la rapidité avec laquelle nos connaissances en matière d’IA augmentent, nous allons manquer de l’élément non physique essentiel qu’est « la sagesse d’en haut » (Jacques 3:17). La Bible décrit la source de cette sagesse, qui produit de bons résultats à une échelle universelle et éternelle. « Le commencement de la sagesse, c’est la crainte de l’Éternel. Tous ceux qui pratiquent ses commandements sont vraiment sages » (Psaume 111:10 ; version Ostervald).

Une telle vénération du Créateur n’est pas une crainte irrationnelle, mais l’aveu logique de la supériorité de Dieu. Lui qui nous a faits sait pertinemment ce qui réussit. Ses lois définissent ce qui donne de bons résultats et ce qui produit la paix, la sécurité, la joie, et un bonheur éternel.

Dieu possède la solution à nos dilemmes éthiques. Ces solutions ne peuvent ni être découvertes ni appliquées par une intelligence artificielle. En fait, elles dépassent même l’intelligence humaine, car elles sont de nature spirituelle. La sagesse divine nous est communiquée par la réception du Saint-Esprit qui, ajouté à l’esprit humain, nous permet de discerner la seule solution à nos problèmes spirituels (1 Corinthiens 2:11-14). Et notre incroyable potentiel est ce qui fait l’énorme différence entre l’IA et l’humanité.

L’avenir de l’humanité : notre potentiel

Nous avons lu plus haut l’avertissement de Jésus que l’humanité allait être un jour sur le point de s’annihiler totalement, mais il a suivi cet avertissement d’un message d’espoir : « Mais, à cause des élus, ces jours seront abrégés » (Matthieu 24:22). Les élus sont ceux dont le cœur et l’esprit ont été transformés par le Saint-Esprit et par la sagesse spirituelle qu’il apporte. Ce petit groupe ouvrira la voie pour des millions et des milliards d’êtres humains qui auront un jour une relation avec Dieu le Père et Christ, notre frère aîné.

Jésus a annoncé qu’il va revenir sur terre et y  instaurer une paix que le monde n’a jamais connue. Il va enseigner la voie de l’amour et de la charité. Il fournira l’accès à la sagesse d’en-haut. Au lieu d’avoir une IA qui apprend à raisonner comme les humains imparfaits, nous aurons un monde où les humains apprendront à raisonner et à agir comme notre Créateur aimant. Pour en savoir plus sur le potentiel de l’humanité, nous vous proposons notre brochure gratuite intitulée : Le dessein que Dieu a pour vous – la raison pour laquelle vous êtes né.