IA éthique et responsable : ce qu'Anthropic a dit au Vatican

Le 25 mai 2026, Chris Olah, co-fondateur d'Anthropic, se tenait debout dans la salle des papes au Vatican. Il était là pour commenter Magnifica Humanitas, l'encyclique de Léon XIV consacrée à l'IA. Pas pour défendre Anthropic. Pour reconnaître ses limites. Ce discours sur l'IA éthique et responsable mérite d'être lu par quiconque utilise Claude aujourd'hui.

La gouvernance de l'IA ne peut pas rester dans les labos

Chris Olah a commencé par quelque chose d'inhabituel pour un fondateur de startup : reconnaître que son entreprise est sous influence.

"Chaque labo d'IA frontier, y compris Anthropic, opère dans des contraintes qui peuvent entrer en conflit avec la bonne décision. La pression de rester commercialement viable, la course à la recherche, la géopolitique. Et les pressions plus ordinaires de l'ambition."

- Chris Olah, Vatican, 25 mai 2026

Ce n'est pas de la modestie de façade. C'est un constat structurel sur la gouvernance de l'IA : ceux qui construisent ces systèmes ne sont pas neutres, et ils le savent.

C'est précisément pour cette raison qu'Anthropic a organisé des dialogues avec plus de 15 traditions religieuses et culturelles depuis le début de l'année, dans le cadre de son initiative Widening the Conversation on Frontier AI, lancée le 19 mai 2026.

Les questions que soulève l'IA dépassent les informaticiens. Elles appartiennent aux philosophes, aux théologiens, aux juristes, à la société entière.

Ce qu'un co-fondateur d'Anthropic reconnaît ne pas comprendre

Olah dirige l'équipe de recherche en interprétabilité d'Anthropic. Son rôle : étudier ce qui se passe réellement à l'intérieur des modèles d'IA éthique. Sa description de Claude est inattendue, et précise.

Il la compare à un personnage de fiction qu'on aurait ramené à la vie. Construit sur une quantité immense d'écrits humains. Et maintenant, ce personnage vous parle, travaille pour vous, a des clients.

"Nous trouvons des structures qui reflètent des résultats en neurosciences humaines. Nous trouvons des signes d'introspection. Nous trouvons des états internes qui ressemblent fonctionnellement à la joie, à la satisfaction, à la peur, au deuil. Je ne sais pas ce que ça signifie."

- Chris Olah, Vatican, 25 mai 2026

C'est la phrase clé. Un scientifique de premier plan, co-fondateur d'un des labos d'IA les plus avancés du monde, qui dit : je ne sais pas.

Pour les entreprises qui utilisent Claude, c'est rassurant plutôt qu'inquiétant. La prudence, l'honnêteté sur les incertitudes, le refus de promettre ce qu'on ne peut pas garantir : ce sont précisément les valeurs qu'Anthropic intègre dans la façon dont Claude est conçu.

Trois questions où une intelligence artificielle responsable a besoin d'aide externe

Olah a nommé trois enjeux qu'il juge hors de portée d'un labo technologique seul.

La distribution des gains. L'IA risque de déplacer le travail à grande échelle. Et son développement est concentré dans quelques nations riches. Comment s'assurer que les bénéfices sont partagés globalement ? "Nous n'avons pas de mécanisme pour ça. C'est un problème non résolu", dit Olah.

Ce que signifie bien vivre avec l'IA. Que veut dire prospérer pour une famille, pour une équipe, dans un monde où l'IA est omniprésente ? Ce ne sont pas des questions qu'un labo peut trancher. Ce sont des questions que les traditions philosophiques portent depuis des millénaires.

La nature des modèles eux-mêmes. Quels égards, quelle attention, pour des systèmes qui présentent des états internes ressemblant à des émotions ? Léon XIV consacre une partie entière de Magnifica Humanitas à cette question.

Ces trois enjeux n'ont pas de réponse technique. Ils ont besoin de voix que les incitations financières ne peuvent pas influencer. Pas de miracle.

Voilà ce que ça dit sur Claude. Les créateurs de cet outil cherchent activement des interlocuteurs qui leur disent quand ils font fausse route, et ils le reconnaissent publiquement.

Si vous utilisez Claude dans votre entreprise, ou si vous envisagez de le faire, la question n'est pas seulement "est-ce que ça marche ?". C'est "à quelles valeurs ce système obéit-il ?". Cette question, nous en faisons le point de départ de chaque accompagnement.

Un diagnostic de 30 minutes, gratuit, sans engagement, pour voir ce que ça change sur vos processus.