Das Vordringen Künstlicher Intelligenz ist das große Thema unserer Zeit. Kein Lebensbereich, der nicht in absehbarer Zeit davon durchdrungen sein wird – Wissen, Gesundheit, Wirtschaft, staatliche Einrichtungen – eine große Transformation ist im Gange. Gewaltige Summen werden in Rechenzentren investiert, die großen Tech-Firmen kämpfen um Marktanteile, aber auch ganze Staaten konkurrieren um immer schnellere Systeme. Dem Menschen scheint nichts zu bleiben, was die Maschine nicht auch oder sogar schon besser kann. Hängt die KI den Menschen ab?
In dieser Situation wirkt schon der Titel der Papst-Enzyklika wie ein kraftvoller Aufruf: Magnifica Humanitas, also die großartige, herrliche Menschheit, oder, treffender noch: das großartige Menschsein! Eine fast trotzig wirkende Behauptung gegen jede Form der Infragestellung des Menschlichen durch die Technik. Aber wie tragfähig ist diese Behauptung?
Babel oder Jerusalem
Leo XIV. knüpft an den Impuls seines Namens-Vorgängers Leo XIII. an, der gegen Ende des 19. Jahrhunderts erstmals die Soziale Frage zum Thema für die Kirche machte. Die häufigen Bezüge auf ihn und andere Päpste sowie auf innerkirchliche Anknüpfungspunkte lassen den Text für Nicht-Katholiken manchmal etwas mühsam werden. Der inhaltliche Kern dagegen ist hoch aktuell. Waren es Ende des 19. Jahrhunderts die Folgen von Industrialisierung und Kapitalismus, zu denen die Kirche Stellung bezog, sind es heute die Digitalisierung und das Vordringen der KI. Dass sich die Kirche hierzu grundsätzlich äußert, ist keineswegs selbstverständlich. Gleich zu Beginn seines Sendschreibens präsentiert der Papst ein wirkungsmächtiges Bild, das eine Entscheidungssituation evoziert: Hier der Turmbau zu Babel, wie er in der Genesis als Geschichte technischen Größenwahns geschildert wird (und sich heute zu wiederholen droht) – dort der Wiederaufbau des zerstörten Jerusalems nach dem Propheten Nehemia, der aus dem babylonischen Exil nach Jerusalem geschickt wird, um ein gemeinschaftliches Werk anzuleiten. Für welchen Weg der Papst plädiert, ist klar.
In seiner Auseinandersetzung lassen sich dabei immer wieder zwei Schichten unterscheiden. Die erste betrifft ganz grundlegend die Verteidigung der Menschenwürde, die ihrem Wesen nach „weder erworben noch verdient werden und auch nicht erst bewiesen“ werden muss. Diese Menschenwürde grenzt der Papst von allen künstlichen Imitationsversuchen des Menschlichen ab. Im Gegensatz zum Drang nach technischer Vollkommenheit erweise sich das Menschsein gerade auch in Zuständen von Schwäche, Hilfsbedürftigkeit und Not als wesentlich. Dagegen machen sogenannte Künstliche Intelligenzen „keine Erfahrungen, besitzen keinen Leib, empfinden weder Freude noch Schmerz, reifen nicht in Beziehungen, wissen nicht von ihrem Inneren her, was Liebe, Arbeit, Freundschaft und Verantwortung bedeutet.“ Leo XIV. setzt sich über weite Strecken undiplomatisch und kämpferisch mit der transhumanistischen und posthumanistischen Ideologie auseinander. Er weist ihren Anspruch zurück, grundlegende Schwächen des Menschseins durch biotechnische Eingriffe beseitigen zu können. Solche Ideologien, so sagt er, „kolonisieren vereinfachend das kollektive Bewusstsein insbesondere in den Medien und sozialen Netzwerken, indem sie mit einer futuristischen Vision vom ‚verbesserten Menschen‘ oder vom ‚Hybriden aus Mensch und Maschine‘ Begeisterung für die neuen Technologien wecken.“
Im Gegensatz dazu skizziert die Enzyklika ein subtiles Verständnis des Menschseins, zu dem auch Begrenztheit und Schmerz gehören. „Wer liebt und etwas ersehnt, kann Prüfungen und Leiden nicht vermeiden“, heißt es da, wir sind immer auf einem „Weg zwischen Freiheit und Niederlagen“ und nur „dank der Verflechtung dieser Elemente geschehen im Herzen jene Wunder der Seele, die uns den höchsten Genuss unseres Menschseins kosten lassen.“
Wahrer Trans-Humanismus
Diese so ganz weltliche und doch schon überweltliche Anthropologie krönt der Papst dann mit der für viele sicher überraschenden Perspektive, dass uns Menschen tatsächlich ein „Mehr-als-Menschliches“ verheißen ist. Dies aber nicht im technokratischen Sinne des Transhumanismus, sondern in Form der geistigen Erhöhung des Menschen, die durch die Menschwerdung Gottes in Christus zur Tatsache geworden ist. Denn dadurch wurde die Trennung zwischen Endlichem und Unendlichem real aufgehoben: „Wenn es ein wahres more than human gibt, wo ist es dann zu finden? Die Antwort des christlichen Glaubens verweist auf eine Vollendung, die nicht von einer technologischen Vergöttlichung kommt, sondern von jener, die die Gnade Gottes bewirkt, die wir in Christus empfangen.“ Und mit Thomas von Aquin verweist er darauf, dass es für uns Menschen möglich ist, „in das Herz des unerschöpflichen Lebens aufgenommen zu werden, auch wenn wir noch innerhalb der Grenzen dieser Welt wandeln“. So ist die eigentliche Antwort auf den Transhumanismus und auf die Allmachtsansprüche der Künstlichen Intelligenz nichts Geringeres als die Nachfolge der Menschwerdung Christi!
Gefährdete Wahrheit
Wenn auch nicht jeder diesen spirituellen Zielpunkt, was das „großartige Menschsein“ letztlich umfasst, mitvollziehen mag, so haben die vom Papst daraus gezogenen Konsequenzen für die Bewahrung der Menschenwürde vor den Zugriffen der KI doch wieder ganz allgemein verständliche Bedeutung. Zum Beispiel wird kritisiert, dass die Entwicklung der großen KI-Modelle in den Händen weniger liegt (Namen werden nicht genannt) und dass die Entwicklungsprozesse selbst intransparent verlaufen. Man darf hier dem Papst durchaus solide Szene-Kenntnisse unterstellen, unter anderem weil schon durch seinen Vorgänger Papst Franziskus in der päpstlichen Akademie der Wissenschaften regelmäßig Fachkongresse zum Thema Ethik und KI auch unter Einschluss wichtiger Branchenvertreter initiiert wurden, die Papst Leo fortsetzt. Die Forderungen des Papstes nach wirksamer Kontrolle der KI münden in der formelhaften Aufforderung, die „KI zu entwaffnen“. Entsprechende Appelle an die Politik bleiben allerdings vage: Welche Institutionen wären es denn, die die KI-Revolution noch steuern könnten? Und ich frage mich auch: Welche ganz anderen Intransparenzen, etwa in Richtung einer Zensur der KI, könnten drohen, wenn etwa Organe der Europäischen Union Einfluss auf die KI-Entwicklung nehmen würden. Das Eigentum an Daten dürfe nicht ausschließlich privaten Einrichtungen anvertraut werden, sondern müsse wie ein „kollektives Gut“ behandelt werden – das ist wieder ein durchaus interessanter Gedanke, wobei auch hier konkrete Umsetzungsvorschläge fehlen. Der Papst scheint allerdings insgesamt dem Staat mehr zu trauen als privaten Akteuren, was seiner Enzyklika immer wieder einmal einen eher „linken“ Einschlag gibt.
Ein für den Papst wichtiges Thema bilden darüber hinaus die vielfältigen Gefährdungen der Wahrheitsfindung, die insbesondere durch die von KI noch verstärkten Desinformationen in den sozialen Netzwerken entstehen. Allerdings greift es meiner Ansicht nach zu kurz, den Verlust von Wahrheit und Wahrheitsfähigkeit erst dem Auftreten der KI anzulasten, weil die Destruktion des Wahrheitsbegriffs unter dem Einfluss der Postmoderne schon viel länger im Mainstream verankert ist.
Unerwartete Verknüpfungen
Bei der Präsentation der Enzyklika saß unter anderem als fachlicher Berater Christopher Olah mit auf dem Podium. Olah ist Mitgründer des KI-Unternehmens Anthropic, das 2021 als Start-up begann und sich seither zu einem milliardenschweren Tech-Unternehmen entwickelt hat. Das Unternehmen hatte zu Fachgesprächen auch Vertreter der Kirchen nach San Francisco eingeladen. Im Hintergrund stand dabei das Ansinnen, in die Entwicklung des immer wichtiger werdenden KI-Modells Claude auch moralische Werte zu implementieren. Eine vermittelnde Rolle spielte dabei der KI-Entwickler und katholische Priester Brendan McGuire. Einem Bericht des britischen Observer zufolge hat Anthropic über ihn beim Vatikan angefragt, ob es Interesse an einer Zusammenarbeit gäbe.
Hinter der Anfrage stand sicher zunächst die Frage der Regulierung von KI. Vielleicht reizte die Entwickler aber auch die Frage, inwiefern Künstliche Intelligenz tatsächlich in Richtung einer gottähnlichen Moralität entwickelbar ist. „KI-Entwicklern wurde oft vorgeworfen, Gott zu spielen. Es scheint, dass Anthropic diese Rolle wörtlich nimmt”, kommentiert der Observer. Wenn man die KI intellektuell für überlegen hält – dann irgendwann vielleicht auch in ethischen Fragen? Interessant ist, dass das Unternehmen zuletzt mit einem ungewöhnlichen Vorschlag hervorgetreten ist und dazu aufrief, dass sich alle führenden KI-Unternehmen auf einen internationalen Entwicklungsstopp einigen sollten. Grund dafür sind Befürchtungen, dass der viel beschworene Zeitpunkt in Reichweite gerät, an dem die Künstliche Intelligenz ihre eigene Entwicklung selbsttätig bestimmt und sich dann jeglicher Kontrolle durch den Menschen entziehen könnte. Der Fachbegriff dafür lautet recursive self-improvement. Aber ob sich durch einen solchen Aufruf die Dynamik zumindest verlangsamen lässt? Welches Unternehmen im internationalen Wettbewerb wäre bereit, auf seinen Vorteil zu verzichten?
Egal, wie aussichtsreich der Ruf nach einem solchen Moratorium auch sein mag, es ist ein Symptom dafür, wie ernst die Lage ist. Und das hat auch der Papst erkannt. ///
Ein Artikel aus der Zeitschrift Info3 / 7-2026. Hier kann man die Zeitschrift abonnieren.
