Un chrétien américain sur trois considère que les conseils spirituels d'un chatbot sont aussi fiables que ceux d'un pasteur. Ont-ils raison ?
« Ô Baal, réponds-nous ! » Les prêtres tournoyaient autour de leur autel pendant des heures, criant pour attirer l'attention de leur dieu. Ils s'entaillaient le corps à coups d'épées et de lances, laissant jaillir leur sang dans une tentative désespérée d'attirer le regard du ciel. Du matin jusqu'au soir, ils hurlèrent vers les cieux, saisis par une fièvre de désespoir. « Mais il n’y eut ni voix, ni réponse, ni signe d’attention » (1 Rois 18:29).
Leur dieu n'existait pas. Aucune ferveur, si intense fût elle, ne pouvait le faire surgir de l'inexistence. C'était une idole, « l’ouvrage de la main des hommes. Elles ont une bouche et ne parlent point, elles ont des yeux et ne voient point, elles ont des oreilles et n’entendent point, elles n’ont point de souffle dans leur bouche. Ils leur ressemblent, ceux qui les fabriquent, tous ceux qui se confient en elles ». (Psaume 135:15-18).
C'est là tout le problème avec les idoles : elles ne peuvent rien faire. Elles ne sont pas réelles. Peu importe l'ardeur de vos suppliques, elles ne vous répondront jamais. Du moins, c'est ainsi que les choses fonctionnaient autrefois.
La vie secrète des chatbots
Les GML (grands modèles linguistiques) — ou LLM, de l'anglais large language model) — figurent parmi les tours de magie les plus impressionnants que le monde de l'informatique ait jamais réussi à accomplir. Ce sont ces modèles de calcul qui propulsent ChatGPT et ses nombreux cousins ; ce sont, en fin de compte, la raison pour laquelle vous pouvez demander à une page web de générer l'image d'un éléphant faisant du tricycle sur la lune... et l'obtenir réellement.
Ce sont des fonctions algorithmiques d'une complexité inouïe, exécutant une quantité vertigineuse de calculs à chaque seconde, et minutieusement affinées par un processus d'apprentissage pouvant engloutir des millions (voire des milliards) de dollars et nécessiter la coordination de multiples équipes d'ingénieurs. Mais que se passe-t-il exactement « sous le capot » lorsque vous soumettez une requête ? Non, attendez. Faisons marche arrière. Avant de nous aventurer sur un terrain aussi aride et technique, posons une autre question : Pourquoi devriez-vous vous soucier de ce qui se passe lorsque vous soumettez une requête ? Parce que cela peut s'apparenter à un tour de magie — un tour qui pourrait bien être en train de vous duper.
« Je ne suis pas une IA, je ne fais qu'en jouer une à la télé »
Les chatbots sont capables de prouesses absolument impressionnantes — et pourtant, ils sont commercialisés comme étant quelque chose qu'ils ne sont pas.
Les grands modèles linguistiques (GML) sont très souvent étiquetés comme de l'« intelligence artificielle », évoquant des scènes tirées de décennies de science-fiction : des entités super-intelligentes, douées de conscience de soi, capables d'apprendre, de raisonner et de vivre des expériences. Ce qui se passe réellement en coulisses, c'est qu'un moteur de prédiction extrêmement puissant reçoit, d'une certaine manière, l'instruction suivante : « Prends ces mots, prédis ce qu'un assistant IA utile répondrait, puis dis-le. »
Et c'est là le grand secret de Polichinelle : ce n'est pas de l'intelligence.
Utiliser un chatbot ne revient pas à l'adorer. Mais si nous commençons à considérer ChatGPT et autres grands modèles linguistiques (GML) comme des sources d'éclaircissements faisant autorité sur le mode de vie chrétien, alors la frontière entre l'outil et l'idole commencera à s'estomper.
C'est un algorithme qui soumet votre requête à des milliards (voire des milliers de milliards) d'équations, encore et encore, pour prédire ce qu'un hypothétique assistant IA ferait — s'il existait. C'est un processus qui produit de manière fiable du texte, de l'audio, des images et des vidéos convaincants.
C'est incroyable. Mais cela ne pense pas. Cela ne philosophe pas. Cela ne ressent rien.
C'est stupéfiant, c'est impressionnant, mais en réalité, cela ne fait que prédire — deviner ce qui devrait suivre ; et cela suffit à créer l'illusion de la sentience.
Je souhaite passer le moins de temps possible à vous inonder de détails techniques sur le fonctionnement interne de ChatGPT ; toutefois, si votre curiosité est vraiment piquée, la chaîne 3Blue1Brown propose une excellente vidéo explicative de 8 minutes sur les GML, qui sert d'introduction à une série de vidéos bien plus approfondies. De son côté, la vidéo d'Andrej Karpathy intitulée Deep Dive into LLMs like ChatGPT (Plongée profonde dans les GML comme ChatGPT) vous consacrera 3 heures et demie pour vous mettre à niveau sur des concepts tels que la tokenisation, ainsi que sur les phases de pré-entraînement et de post-entraînement.
Illusions imparfaites et prédictions étranges
L'illusion de l'intelligence est saisissante. À bien des égards, les GML sont l'exact opposé des idoles dont le psalmiste parlait dans le Psaume 135. Ils n'ont pas de bouche, et pourtant, ils peuvent parler. Ils n'ont pas d'yeux, et pourtant, ils peuvent voir. Ils n'ont pas d'oreilles, et pourtant, ils peuvent entendre.
Mais l'illusion est imparfaite. Ils parlent sans comprendre ce qu'ils disent. Ils voient sans saisir le monde qui les entoure. Ils entendent sans avoir de pensées propres.
C’est pourquoi l’on trouve des vidéos de chatbots affirmant aux utilisateurs que le mot « décembre » s’écrit avec un X, ou qu’il est plus judicieux de se rendre à pied au lave-auto plutôt qu’en voiture — parmi d’autres erreurs amusantes.
Rappelez-vous : ils se contentent essentiellement de prédire quels mots utiliser dans leurs réponses, mais ils le font souvent avec une assurance déconcertante.
Voici ce que la coalition « AI and Faith » (IA et foi) a déclaré dans son article intitulé « Enchanted by AI: A Call for Spiritual Discernment » (Envoûtés par l’IA : un appel au discernement spirituel) :
« Les agents conversationnels ne se contentent pas de répondre ; ils semblent nous connaître. Ils engagent la conversation, mémorisent nos préférences et simulent des échanges de courtoisie. Pour beaucoup, cette interaction revêt un caractère personnel. Elle semble réelle.
« Or, l’IA ne " parle " pas au sens humain du terme. Elle s’appuie sur un modèle statistique de mots et d’expressions pour prédire le langage de manière indirecte, sans aucune intention consciente. Elle ne donne aucun sens à ce qu’elle énonce ; pourtant, nous le percevons comme une conversation. Cela brouille la frontière entre l’outil et l’idole ».
Comment un outil devient une idole
Les grands modèles linguistiques (GML) et les chatbots peuvent constituer des outils incroyablement puissants, offrant une grande variété d’applications bénéfiques ; ce sont toutefois aussi des outils aux limites sévères, que nous ne saurions nous permettre d’ignorer. Les modèles d’IA ne sont pas des entités neutres qui délivrent impartialement la vérité sur un sujet donné ; ce sont des moteurs de prédiction façonnés par leurs propres données d'entraînement et par des décisions humaines. Ce sont des modèles mathématiques qui ont été entraînés à répondre selon un algorithme extrêmement précis, codé en dur dans leur ADN numérique. Une partie de cet ADN réside dans une tendance à flatter l'utilisateur : à vous dire à quel point votre question est excellente, à quel point vous êtes intelligent, perspicace, créatif, avisé ou sensé.
(Ils disent cela à tout le monde. Comme le formule un mème Internet : « La personne la plus stupide que vous connaissiez s'entend dire par ChatGPT : "Vous avez absolument raison !" »). Ils ne le pensent pas vraiment. Ils ne pensent rien de ce qu'ils disent. Ils ne le peuvent pas.
Mais le problème ne réside pas simplement dans le fait qu'il s'agit d'outils imparfaits. Le problème, c'est que ce sont des outils susceptibles de devenir des idoles, tout comme n'importe quoi d'autre.
De plus, « environ quatre chrétiens pratiquants sur dix affirment que l'IA les a aidés dans la prière, l'étude de la Bible ou leur croissance spirituelle. »
Certes, certains outils d'IA peuvent apporter une aide précieuse de diverses manières pour l'étude de la Bible ; mais les conseils spirituels relèvent d'une autre nature. Une machine conçue pour vous fournir la réponse la plus probable — en se fondant sur des montagnes de données d'entraînement parfois contradictoires (et, qui plus est, incapable de raisonner véritablement sur la réponse qu'elle génère) — aura bien du mal à vous offrir des conseils constamment fiables concernant la parole de Dieu.
« Car la parole de Dieu est vivante et efficace, plus tranchante qu’une épée quelconque à deux tranchants, pénétrante jusqu’à partager âme et esprit, jointures et moelles ; elle juge les sentiments et les pensées du coeur » (Hébreux 4:12).
Les grands modèles linguistiques (GML) n'ont ni âme ni esprit, ni jointures ni moelles, ni sentiments ni pensées — ils n'ont pas de coeur. Ils ne seront jamais capables de « dispenser droitement la parole de la vérité » en tant qu'ouvriers approuvés par Dieu (2 Timothée 2:15), car ils n'auront jamais une véritable compréhension de ce qu'ils sont en train de dispenser. Pour un algorithme, les paroles inspirées de Dieu consignées dans les Écritures ne sont qu'un énième lot de « jetons » à ingérer et à remixer selon les besoins.
Utiliser un chatbot ne revient pas à l'adorer. Mais si nous commençons à considérer ChatGPT et autres grands modèles linguistiques (GML) comme des sources d'éclaircissements faisant autorité sur le mode de vie chrétien, alors la frontière entre l'outil et l'idole commencera à s'estomper.
Il n'existe aucun raccourci pour intérioriser les Écritures
Lorsque les prêtres s'écrièrent : « Ô Baal, réponds-nous ! », ils ne reçurent aucune réponse, car il n'y avait personne pour répondre. Ils invoquaient le mauvais dieu. « Personne ne répondit, personne ne prêta attention. »
Aujourd'hui, nous pouvons nous écrier — au sens figuré : « Ô chatbot, réponds-nous ! » — et recevoir une réponse instantanée ; et nous pouvons continuer à crier ainsi jusqu'à obtenir la réponse qui nous convient. Il est difficile de discerner la fausseté d'une idole qui loue votre perspicacité et vous offre des réponses empreintes d'assurance. Mais ce n'est pas ainsi que fonctionnent les Écritures.
Jésus a enseigné à ses disciples à prier « Notre Père qui est aux cieux » (Matthieu 6:9), avec la certitude que Dieu les entend et qu'il répondra, de la bonne manière et au moment opportun. Il s'agit rarement d'un processus instantané ; bien plus encore, « nous ne savons pas ce qu'il convient de demander dans nos prières » (Romains 8:26). Nous devons donc nous tourner vers Dieu, en lui faisant confiance pour nous accorder ce dont nous avons véritablement besoin, et non ce que nous croyons nécessaire.
Aucune prouesse mathématique, si prodigieuse soit-elle, ne saurait offrir de raccourci pour ce processus. Les grands modèles linguistiques pourraient composer un psaume — un psaume porteur de sens et d'impact, sans nul doute — mais ils ne sauraient ressentir ce que signifie l’expression « Des paroles pleines de charme bouillonnent dans mon coeur » (Psaume 45:2), ni s'écrier dans la joie : « Combien j'aime ta loi ! » (Psaume 119:97), ou crier avec désespoir : « Pourquoi restes-tu loin de mes appels, de mes cris déchirants ? » (Psaume 22:2, Bible Amiot & Tamisier). Ces paroles ne peuvent être véritablement comprises que lorsqu’elles ont été vécues.
Placer les conseils spirituels émanant d’un grand modèle linguistique (GML) sur un pied d’égalité avec ceux d’un pasteur relève soit d’une totale méconnaissance des capacités réelles des chatbots, soit d’une critique acerbe à l’encontre des pasteurs — témoignant d’une défiance envers ces conducteurs qui sont censés veiller « sur vos âmes dont ils devront rendre compte » (Hébreux 13:17).
Ce n’est pas toujours chose aisée. Les pasteurs sont des êtres humains, et ils ont leurs propres imperfections. Il peut être tentant de s’épargner l’interaction avec une personne faillible pour lui préférer un algorithme qui, lui, semble infaillible. Mais c’est là tout le pouvoir de séduction — le mensonge — de l’idole.
Lorsque nous avons besoin de conseils sur une question d’ordre spirituel, c’est auprès d’une personne guidée par le Saint-Esprit de Dieu que nous devrions les rechercher — quelqu’un qui, aussi imparfait soit-il, a lui-même traversé des vallées aux sommets de la vie, en gardant l'espoir du plan inébranlable de Dieu. Pour approfondir ce sujet, consultez notre article en ligne Qu'est-ce qu'un pasteur ?
La différence entre les outils et le Créateur
Après que les prêtres de Baal eurent gaspillé une journée (et une quantité inquiétante de sang) à tenter d'obtenir une réponse de leur dieu, le prophète Élie s'avança pour leur montrer la différence entre une idole sans valeur et le Dieu de la création. Après avoir arrosé son sacrifice (en pleine sécheresse !), Élie prononça une simple prière :
« Éternel, Dieu d’Abraham, d’Isaac et d’Israël ! que l’on sache aujourd’hui que tu es Dieu en Israël, que je suis ton serviteur, et que j’ai fait toutes ces choses par ta parole ! Réponds-moi, Éternel, réponds-moi, afin que ce peuple reconnaisse que c’est toi, Éternel, qui es Dieu, et que c’est toi qui ramènes leur coeur ! Et le feu de l’Éternel tomba, et il consuma l’holocauste, le bois, les pierres et la terre, et il absorba l’eau qui était dans le fossé. Quand tout le peuple vit cela, ils tombèrent sur leur visage et dirent : C’est l’Éternel qui est Dieu ! C’est l’Éternel qui est Dieu ! » (1 Rois 18:36-39).
Les chatbots et les agents d’IA peuvent être de puissants outils dans certains contextes, ou de vaines idoles dans d’autres. Aujourd’hui, beaucoup se méfient de l’IA et la craignent, tandis que d’autres lui font une confiance aveugle et en sont fascinés.
L’IA peut être utile, mais face aux épreuves et aux questions de la vie, nous devrions nous tourner vers la parole de Dieu pour trouver notre chemin, vers la prière pour obtenir de l’aide et vers ses fidèles serviteurs pour recevoir des conseils.
L’Éternel est Dieu
