Vatikan kooperiert mit Anthropic zur Entwicklung ethischer KI-Richtlinien

Der Vatikan befasst sich seit etwa zehn Jahren aktiv mit der Technologiebranche im Silicon Valley. Der Ausgangspunkt der jüngsten Zusammenarbeit mit dem KI-Unternehmen Anthropic ist eine konkret benannte Sorge: Papst Leo XIV. erklärte gegenüber Journalisten in Castel Gandolfo, Kriege würden heute mit KI geführt. Die Aufforderung an Anthropic sei gewesen, nach einer „entwaffneten Künstlichen Intelligenz“ zu suchen.

Der Heilige Stuhl und Anthropic führen mehrtägige Arbeitstreffen durch, an denen Theologen, Philosophen und Programmierer gemeinsam teilnehmen. Diese Treffen fanden im Anthropic-Hauptquartier statt. Daraus gingen laut den vorliegenden Berichten konkrete Vorschläge zum Umgang mit „schlummernden Gefahren in KI-Modellen“ hervor.

Vor der Veröffentlichung der Enzyklika trafen sich Kirchenvertreter und KI-Entwickler zu ethischen Fragen der Technologie. Papst Leo XIV. bestätigte, dass vatikanische Mitarbeiter der Entwicklungsbehörde und Mitarbeiter von Anthropic sich getroffen haben und die Zusammenarbeit fortgesetzt wird.

Im Mittelpunkt steht nicht der Einsatz eines konkreten KI-Produkts, sondern die gemeinsame Erarbeitung ethischer Leitlinien. Der Begriff „entwaffnete KI“, den Leo XIV. selbst verwendete, beschreibt das normative Ziel: KI-Systeme, die nicht für militärische oder destruktive Zwecke eingesetzt werden. Die inhaltliche Arbeit erfolgt im Format strukturierter Dialogrunden zwischen Fachleuten aus Theologie, Philosophie und Softwareentwicklung.

Am Montag wurde die erste Enzyklika Leos XIV. veröffentlicht, die sich den ethischen Herausforderungen der Künstlichen Intelligenz widmet und den Titel „Magnifica humanitas“ trägt. Bei der Präsentation dieses Lehrschreibens im Vatikan trat Anthropic-Mitgründer Christopher Olah als Redner auf. Papst Leo XIV. und Olah kündigten an, im Gespräch bleiben zu wollen.

Der Fall ist insofern ungewöhnlich, als eine religiöse Institution nicht als Anwender einer KI-Technologie auftritt, sondern als normativer Akteur in der Gestaltung von KI-Entwicklungsprinzipien. Die Kooperation zielt auf ethische Rahmenbedingungen ab und mündete bislang in einem kirchlichen Lehrschreiben sowie in konkreten Vorschlägen aus den gemeinsamen Arbeitstreffen. Ob und wie diese Vorschläge in Anthropics Produktentwicklung einfließen, geht aus den vorliegenden Quellen nicht hervor.