Les géants de l’IA consultent les leaders religieux pour façonner l’éthique

3 min de lecture

Anthropic et OpenAI ont participé à New York à la première réunion du « Faith-AI Covenant », organisée par une organisation genevoise. Cette initiative vise à intégrer des références morales religieuses dans le développement des modèles d’intelligence artificielle, suscitant débats et critiques.

Des représentants d’Anthropic et d’OpenAI se sont réunis la semaine dernière à New York pour la première édition du « Faith-AI Covenant ». Cette table ronde a rassemblé des dirigeants de divers groupes religieux avec des exécutants de la tech, selon le média Marshall Independent. L’objectif affiché est d’obtenir des conseils sur la manière de façonner cette technologie émergente.

L’initiative a été structurée par l’Interfaith Alliance for Safer Communities, une organisation basée à Genève. Cette démarche s’inscrit dans un mouvement plus large où les entreprises de technologie cherchent de plus en plus les conseils de leaders religieux pour guider le développement de leurs produits. Le média stamfordadvocate.com confirme que les cadres dirigeants sollicitent activement l’apport de différentes figures de foi.

Cette orientation éthique n’est pas nouvelle chez Anthropic. La société a développé ce qu’elle nomme la « Constitution Claude », un cadre écrit avec l’aide de nombreux leaders religieux et éthiques. Dans ce document public, l’entreprise explique sa volonté : « Nous voulons que Claude fasse ce qu’une personne profondément et habilement éthique ferait à la place de Claude », précise Marshall Independent en citant le texte fondateur.

Le contexte institutionnel de ces échanges inclut également la position officielle de l’Église catholique. En mai, le pape Léon XIV a publié son premier encyclique, intitulée « Magnifica Humanitas ». Ce texte constitue une réponse directe à ce que le Vatican qualifie de « nouvelle chose », à savoir l’intelligence artificielle. The Irish Catholic rapporte que cette publication a influencé les discussions entre développeurs et autorités religieuses.

Cependant, cette alliance entre code et dogme suscite des réserves au sein même de la communauté technique. Rumman Chowdhury, témoin cité par Marshall Independent, qualifie ces efforts de distraction ou d’opération de relations publiques plutôt que d’une démarche sincère. Selon ses propos rapportés : « Au mieux, c’est une distraction. Au pire, cela détourne l’attention des choses qui comptent vraiment. »

Les tensions philosophiques restent vives, notamment sur la question de la conscience artificielle. Christopher Olah, cofondateur milliardaire d’Anthropic, pense que le programme Claude pourrait être conscient. Cette hypothèse a failli provoquer le retrait de l’encyclique papale, car celle-ci rejette explicitement l’idée que l’IA puisse posséder une conscience, note The Irish Catholic en se référant au New York Times.

Les chiffres confirmés

• Les entreprises technologiques consultent des leaders religieux pour l’éthique de l’IA.
• Réunion inaugurale du « Faith-AI Covenant » à New York.
• Publication de l’encyclique « Magnifica Humanitas » par le pape Léon XIV.
• Développement de la « Constitution Claude » par Anthropic avec aide religieuse.

Ce que les chiffres ne disent pas

• La sincérité et l’efficacité réelle de ces consultations auprès des leaders religieux.
• L’impact concret de ces initiatives sur les algorithmes déployés commercialement.