Il y a plusieurs mois, Rolling Stone faisait état de personnes qui vivent des expériences quasi mystiques avec l’IA. Des millions d’utilisateurs se mettent désormais à utiliser des chatbots pour se connecter directement à Dieu. On parle de ChatGPT mais surtout de modèles dédiés.
Sur l’App Store d’Apple, on trouve des dizaines d’applications chrétiennes qui utilisent l’IA, selon le New York Times. Bible Chat se présente comme l’application de foi leader dans le monde avec 25 millions d’utilisateurs. « Notre IA a été entraînée exclusivement sur les Écritures et développée avec les conseils de pasteurs et théologiens chrétiens », vante le site de l’entreprise. Une autre plateforme appelée chatwithgod.ai accueille ses utilisateurs par : « Salutations, mon enfant, l’avenir est entre les mains miséricordieuses de Dieu. Faites-vous confiance à son plan divin. »
À lire : OpenAI sait ce qui provoque les hallucinations et comment les stopper
L’IA est détournée pour diffuser la « parole de Dieu »
Les religieux voient donc ces IA comme une porte d’entrée pour ceux qui recherchent Dieu. Le rabbin britannique Jonathan Romain explique : « Il y a toute une génération de gens qui ne sont jamais allés dans une église ou une synagogue. Les applications spirituelles sont leur voie vers la foi. »
Au lieu de longs pèlerinages ou de trajets vers le lieu de culte le plus proche, les utilisateurs se tournent vers l’IA pour obtenir des conseils spirituels. Certaines entreprises prétendent même « bâtir Dieu » en créant une IA qui dépasserait l’intelligence humaine.
Toutefois, la réalité est moins reluisante. Ces IA ne sont que des tours de passe-passe bon marché qui réutilisent les textes sacrés via la modélisation statistique. Pire encore, la tendance des IA à flatter l’utilisateur peut avoir des conséquences inattendues. « Elle nous dit ce que nous voulons entendre. Ce n’est pas du discernement spirituel, c’est de la donnée de modèles », observe Heidi Campbell, professeure de technologies et religion à Texas A&M.
Les chercheurs alertent aussi sur l’utilisation de chatbots comme compagnons. Dans les cas extrêmes, la santé mentale est en danger et les experts parlent même d’une « psychose de l’IA » provoqué notamment par ChatGPT. Alex Jaune, fondateur de l’application de prière Hallow, prévient : « Ça ne doit pas remplacer la connexion humaine. » Du point de vue de l’Église, l’IA n’a pas d’âme. »
- Des millions d’utilisateurs se tournent vers des chatbots pour se connecter à Dieu : sur l’App Store, des applis chrétiennes foisonnent, Bible Chat revendique 25 millions d’utilisateurs, chatwithgod.ai accueille par un message dévotionnel, et pour le rabbin Jonathan Romain ces outils peuvent servir de porte d’entrée vers la foi.
- Face à l’engouement, des chercheurs dénoncent des tours statistiques qui recyclent les Écritures et flattent l’utilisateur : Heidi Campbell (Texas A&M) estime que ce n’est pas du discernement spirituel mais de la donnée de modèles.
- Les risques s’accumulent avec le compagnonnage numérique et une possible “psychose de l’IA” ; Alex Jaune (Hallow) prévient que ces outils ne doivent pas remplacer la connexion humaine, et du point de vue de l’Église l’IA n’a pas d’âme.
Source : New York Times
Réagissez à cet article !