Blog

 ChatGPT klingt sehr überzeugend. Klare Sätze, logischer Aufbau, selbstsicherer Ton. Aber hier ist der Punkt, den die meisten übersehen: Es versteht kein einziges Wort davon.

Was wie Denken aussieht, ist Statistik. Was wie Wissen klingt, ist Mustererkennung. Was wie Überzeugung wirkt, ist die wahrscheinlichste Wortfolge basierend auf Milliarden von Textfragmenten.

Künstliche Intelligenz klingt schlau, aber versteht nichts. Ein Problem, das wir ernst nehmen sollten.

Künstliche Intelligenz interessiert mich von Berufs wegen. Wir können ihr im Alltag nicht mehr ausweichen. Sie ist in den technischen Bereichen unseres Lebens fast allgegenwärtig – und wir nutzen sie alle. Oft bewusst, um unsere Arbeit zu erleichtern. Oft aber auch unbewusst, weil sie längst in vielen täglichen Abläufen steckt: beim Kauf eines Bahntickets, bei der Navigation im Stadtverkehr, bei der Sortierung unserer E-Mails.

Ich nenne es meine «Open Sky University»: unzählige Wanderungen in unserer schönen Bergwelt, bei denen ich mich per Smartphone und Kopfhörer durch Vorträge kluger Leute weiterbilde. Dabei war die KI in den letzten Jahren immer wieder ein zentrales Thema. Mich interessiert dabei nicht nur ihre Funktionsweise, sondern vor allem, was sie mit uns Menschen macht.

Und dabei ist mir etwas aufgefallen: Die Schwächen der KI haben mit einem Thema zu tun, das mich als Theologe seit langem beschäftigt: Was können wir wissen – und woher wissen wir, dass wir es wissen? Wie unterscheiden wir Wahrheit von Lüge, echt von fake? Was ist überhaupt Wahrheit – und wie finden wir Zugang zu ihr?

In der Philosophie nennt man das Erkenntnistheorie – oder mit dem Fachbegriff: Epistemologie. Klingt erstmal nach staubigem Hörsaal-Stoff, der mit deinem Alltag oder deinem Glauben rein gar nichts zu tun hat, oder? Aber genau das Gegenteil ist der Fall – das geht dich mehr an, als du denkst. Denn Hand aufs Herz: Woher weisst du eigentlich, dass du diese Zeilen gerade wirklich liest – und nicht einfach nur träumst?

Leute wie Sam Altman oder Elon Musk hoffen, dass KI so klug wird wie der Mensch – oder ihn sogar übertrifft. Aber kann ein System ohne Wahrheitsbezug jemals «wissen»? Die Antwort ist klar: Nein.

Ein Restaurant, das es nicht gibt

Stell dir vor, du fragst einen Freund nach einem Restaurant-Tipp. Er sagt mit fester Stimme: «Das Ristorante Bellavista an der Spirenwaldstrasse 12 in Beatenberg – fantastisches Risotto, seit 1987 im Familienbesitz.» Klingt überzeugend. Nur: Das Restaurant existiert nicht. Dein Freund hat es frei erfunden – aber er merkt es nicht einmal. Er hat kein Gefühl dafür, ob das stimmt oder nicht. Genau so funktioniert ChatGPT.

Ein KI-Experte hat das kürzlich in einem vielbeachteten Vortrag auf den Punkt gebracht: Das Problem ist nicht, dass KI ab und zu daneben liegt – das tun wir schliesslich auch. Das eigentliche Problem ist viel grundsätzlicher: KI hat keine Ahnung, ob sie gerade die Wahrheit sagt oder kompletten Unsinn von sich gibt. Ihr fehlt schlicht der innere Kompass dafür.

Und genau hier – das ist mein Fazit – liegt der fundamentale Unterschied: Gott hat uns Menschen die moralische Fähigkeit gegeben, Wahrheit von Lüge zu unterscheiden. Und nicht nur das – er hat uns auch einen Kompass mitgegeben, an dem wir uns orientieren können: Sein Wort. Wir können erkennen, wenn etwas nicht stimmt. Wir können bewusst bei der Wahrheit bleiben – oder eben lügen. Eine KI kann keines von beidem. Sie redet einfach drauflos, ohne zu wissen, was sie tut.

Erfinden ist kein Fehler – es ist der Job der KI

Wenn du ChatGPT eine Frage stellst, passiert etwas anderes, als die meisten denken: Es durchsucht zwar seit 2023 in seiner Browsing-Funktion aktiv das Internet nach der richtigen Antwort und liefert sogar die Quellen. Aber in vielen Fällen erzeugt es eine Antwort – Wort für Wort, basierend auf Wahrscheinlichkeiten. Im Grunde fragt es sich nur: Welches Wort folgt als nächstes am wahrscheinlichsten?

Das ist so, als würdest du jemanden bitten, einen überzeugend klingenden Zeitungsartikel zu schreiben – aber diese Person hat noch nie eine Zeitung gelesen, sondern nur gelernt, wie Zeitungsartikel klingen.

Oft liegt KI richtig – vor allem bei Mathematik, Logik, sprachlichen Aufgaben, Allgemeinwissen, beim Strukturieren von Texten und beim Programmieren. Bei persönlicher Beratung oder ethischen Fragen wird es dagegen deutlich unzuverlässiger.

Und dann gibt es die Fälle, in denen KI Dinge schlicht erfindet. Komplett. Mit derselben Selbstsicherheit wie bei einer korrekten Antwort. In der Fachsprache heisst das «Halluzination» – ein Begriff, der nach Fehlfunktion klingt, nach etwas, das sich beheben lässt.

Doch genau hier liegt das Missverständnis: Es ist kein Fehler im System. Es ist das System selbst. Ein strukturelles Problem, das die Wissenschaft zu lösen versucht.

Der Papagei in der Bibliothek

Um zu verstehen, warum das so grundlegend ist, hilft ein Bild.

Stell dir einen Papagei vor, der jahrelang in einer riesigen Bibliothek sitzt und alles hört, was Menschen dort besprechen. Er lernt, wie Sätze klingen. Irgendwann kann er ganze Absätze wiedergeben, die sich vernünftig anhören. Er kann sogar auf Fragen antworten – weil er gelernt hat, welche Sätze typischerweise auf welche Fragen folgen.

Aber versteht der Papagei, was er sagt? Natürlich nicht. Er weiss nicht, was «Schwerkraft» bedeutet, auch wenn er dir einen perfekten Satz darüber sagen kann. Er hat keine Ahnung, ob seine Antwort stimmt – weil er gar nicht weiss, was «stimmen» bedeutet.

ChatGPT ist – vereinfacht gesagt – dieser Papagei. Ein unglaublich beeindruckender Papagei. Aber ein Papagei.

Wenn Erfundenes Konsequenzen hat

Ich erinnere mich, wie ein Redner ein eindrückliches Beispiel erzählte: Er bat ChatGPT, Gewaltdrohungen in Online-Foren zu finden. Die KI lieferte drei sehr konkrete, beunruhigende Zitate. Nur: Niemand hatte das je geschrieben. Die KI hatte die Zitate frei erfunden – überzeugend genug, dass ein Journalist sie hätte veröffentlichen können.

Noch drastischer im Rechtsbereich: Anwälte benutzten ChatGPT, um Gerichtsdokumente zu schreiben. Die KI zitierte dabei Gerichtsurteile, die nie existiert haben – mit korrekten Fallnummern, überzeugenden Zusammenfassungen, aber komplett erfunden. Die Anwälte standen vor dem Richter und mussten erklären, warum ihre Quellen nicht existieren.

Selbst Firmen, die «garantiert halluzinationsfreie» KI für Juristen verkaufen, liefern laut einer Stanford-Studie in 17 von 100 Fällen falsche Informationen. Stell dir vor, dein Arzt würde dir in jedem fünften Gespräch eine Krankheit diagnostizieren, die du gar nicht hast.

Was wie Wissen klingt, ist noch kein Wissen

«Was ist Wahrheit?» – diese Frage stellte Pilatus ausgerechnet Jesus. Jesus hatte ihm gerade erklärt, dass er in die Welt gekommen sei, um für die Wahrheit Zeugnis abzulegen (Joh 18,37-38). Pilatus hätte einfach nur zuhören müssen. Er hatte die Wahrheit direkt vor sich stehen.

Andere versuchten, sich der Wahrheit auf einem anderen Weg zu nähern – nämlich durch reines Nachdenken. Platon zum Beispiel, jener geniale griechische Philosoph. Für ihn war klar: Wenn du etwas wirklich weisst, dann stecken drei Dinge dahinter:

1. Du glaubst es – du bist überzeugt, dass es stimmt.
2. Es stimmt tatsächlich – es entspricht der Realität.
3. Du hast gute Gründe dafür – du hast es erfahren, gelernt, überprüft.

Klingt erstmal solide, oder? Und für uns Christen ist diese Definition auch nicht falsch – aber sie ist unvollständig. Sie beschreibt menschliches Wissen aus rein menschlicher Perspektive. Und genau da liegt das Problem: Am Ende drehen wir uns im Kreis. Wir wissen nur, was wir mit unseren fünf Sinnen wahrnehmen und mit unserem Verstand verarbeiten können. Mehr nicht. Wir bleiben mit unserem Wissen buchstäblich bei uns selbst stecken.

Aber es gibt Wahrheiten, die wir aus uns selbst heraus schlicht nicht erkennen können. Sie müssen uns mitgeteilt werden – von Gott selbst. Die christliche Erkenntnistheorie fügt deshalb eine entscheidende Dimension hinzu: Gott als Quelle und Garant der Wahrheit. Pilatus hätte diesen direkten Zugang gehabt. Seine Frage wäre ein für alle Mal beantwortet worden.

Und ChatGPT? Das hat von alledem nichts. Es trifft zwar oft das Richtige – aber nicht, weil es die Wahrheit sucht, sondern weil wahre Aussagen in seinen Trainingsdaten (hoffentlich) häufiger vorkommen als falsche. Aber es «glaubt» nichts. Es hat keine Überzeugungen. Es hat keinen Massstab für «stimmt» oder «stimmt nicht». Es hat kein Konzept von wahr und falsch. Und es hat keine Gründe – nur Muster in riesigen Textmengen.

Es produziert etwas, das aussieht wie Wissen, ohne echtes Wissen zu sein. Wie eine Attrappe: Von aussen sieht der Kuchen perfekt aus – aber in Wirklichkeit ist er aus Styropor.

Kann man das nicht einfach reparieren?

Wahrscheinlich nicht. Zumindest nicht mit der heutigen Grundarchitektur – ob künftige Ansätze das lösen können, darüber streiten sich die Experten. Denn das Problem ist kein Bug, den irgendjemand in der nächsten Version beheben wird – es steckt in der Grundarchitektur des ganzen Systems.

Die Experten erklären es so: Wenn der Job der KI darin besteht, jedes Mal etwas neu zu erzeugen, dann kann man ihr nicht gleichzeitig beibringen, nur Korrektes zu liefern. Das wäre, als würdest du jemandem sagen: «Erfinde jedes Mal eine neue Geschichte – aber sie muss immer wahr sein.» Das ist ein Widerspruch in sich.

Ein Beispiel: Google hatte ein Vorurteilsproblem mit seiner KI. Ärzte wurden überproportional als Männer dargestellt, bestimmte Ethnien mit negativen Stereotypen verknüpft, historische Perspektiven einseitig westlich beschrieben. Also baute Google «Leitplanken» ein – Regeln, die das verhindern sollten.

Das Ergebnis? Die KI generierte ein Bild der Unterzeichnung der amerikanischen Unabhängigkeitserklärung – mit People of Colour am Tisch. Historisch kompletter Unsinn. Der Versuch, das eine Problem zu «reparieren», schuf einfach ein neues.

Die Lektion dahinter ist nicht ganz so simpel, wie man meinen könnte – aber ziemlich ernüchternd: Selbst wenn man ein KI-System mit Leitplanken, Feedback-Schleifen und Sicherheitsfiltern ausstattet, bleibt ein Grundproblem bestehen: Das System hat kein eigenständiges Verständnis davon, was «richtig» oder «wahr» bedeutet – zumindest nicht in dem Sinne, wie wir Menschen es kennen. Es kann durch Training lernen, bestimmte Normen einzuhalten, ähnlich wie ein Hund lernt, nicht auf die Strasse zu laufen – ohne zu verstehen, warum Autos gefährlich sind.

Was die KI hat, sind riesige Mengen an Texten: wahre, halbwahre, erfundene, tendenziöse, brillante und banale – alles in einen Topf geworfen. Dazu kommen menschliche Bewertungen, die dem System beibringen, welche Antworten «erwünscht» sind. Das funktioniert erstaunlich gut – aber es ersetzt kein echtes Urteilsvermögen. Denn am Ende optimiert der Algorithmus nicht auf Wahrheit, sondern auf Wahrscheinlichkeit und menschliche Zustimmung. Was dabei herauskommt, ist oft korrekt – aber nicht, weil das System die Wahrheit erkennt, sondern weil es gelernt hat, was Menschen als gute Antwort bewerten. Das ist ein feiner, aber in theologisch-moralischer Hinsicht entscheidender Unterschied – und ein Problem, dem wir uns als Christen stellen müssen.

Die unsichtbare Rückkopplungsschleife

Doch das Problem geht noch tiefer. KI verzerrt nicht nur die Realität – sie verändert auch uns.

Algorithmen auf Social Media zeigen dir nicht die Welt, wie sie ist – sie zeigen dir eine verzerrte, extremere Version davon. Und KI-Chatbots? Die prägen inzwischen sogar unsere Sprache. Wörter wie «vertiefen», «differenziert» oder «vielschichtig» tauchen plötzlich explosionsartig häufig auf – weil ChatGPT sie ständig verwendet. Und wir? Wir übernehmen das unbewusst. Wir fangen an, so zu reden wie die Maschine. Ich merke das selbst: Gefühlt höre ich zehnmal pro Gespräch mit Theologenkollegen den Satz: «Wir müssen das differenziert betrachten.» Klingt klug – aber ist es inzwischen noch eigenes Denken oder schon ein Echo der KI?

So entsteht eine Rückkopplungsschleife, die sich selbst füttert: Die KI verzerrt die Realität → wir halten das für echt → wir übernehmen es → und füttern die KI damit erneut. Ein Kreislauf ohne Ausgang. Und diese Tools auf Social Media sind niemals neutral. Nie. Sie filtern alles – wirklich alles – durch kommerzielle Interessen und ein vereinfachtes Bild von dir als Nutzer.

Ein Lehrbuchbeispiel: Im April 2024 postete der K-Pop Superstar Lisa Blackpink mit 106 Millionen Followern Stories über ein Plüschtier namens «Labubu». Harmlos, oder? Aber der Algorithmus erkannte hohes Engagement – und pushte den Inhalt aggressiv. Innerhalb kurzer Zeit Hunderte von Millionen Views. Das Ergebnis? Über 400 Millionen Dollar Umsatz! Nicht, weil das Plüschtier irgendwie relevant war. Sondern weil es der Plattform Geld brachte.

Trends werden nicht entdeckt – sie werden künstlich erzeugt. Die Frage hinter dem Algorithmus ist nie: «Was ist gerade wichtig?» – sondern immer: «Was bringt der Plattform Profit?»

Was uns als Menschen ausmacht

Der Mensch ist nicht Mensch, weil er schneller rechnet, besser formuliert oder mehr Daten verarbeitet. Er ist Mensch, weil er Gottes Ebenbild ist.

Was uns ausmacht, ist biblisch gesehen kein Zufall der Evolution – es ist Absicht des Schöpfers. Wir sind geschaffen als Gegenüber: fähig zu lieben, zu leiden, zu schaffen und umzukehren. All das setzt etwas voraus, das keine Maschine hat – ein Inneres. Ein Selbst. Eine Seele.

KI hat nichts davon.

Sie kann nicht lieben, weil Liebe ein Gegenüber erfordert.
Sie kann nicht mitleiden, weil Mitleid Emotionalität erfordert.
Sie kann nicht schöpferisch sein, weil Kreativität Intention und Bedeutung erfordert.
Sie kann nicht bereuen, weil Reue einen Willen voraussetzt.
Sie kann sich nicht ändern, weil sie kein Selbst besitzt.

Aber – und das macht es so trügerisch – sie kann all das imitieren. Sie kann einen tröstenden Satz schreiben, der sich anfühlt wie Empathie. Aber es ist keine Empathie – genauso wenig, wie ein Foto eines Feuers wärmt. Sie kann Worte der Umkehr formulieren – aber nicht die Tränen des Petrus weinen. Sie kann keinen Irrtum erkennen, weil sie keinen Begriff von «richtig» hat.

ChatGPT ist wie ein brillanter Improvisationsschauspieler: Es kann überzeugend einen Arzt spielen, einen Anwalt, einen Historiker. Aber es ist keiner. Es weiss nichts. Es versteht nichts. Es besitzt keinen moralischen Kompass, hat kein Gewissen, das es zwickt, wenn es falsch liegt.

Und das ist kein Problem, das mit dem nächsten Update verschwindet. Es ist das Wesen der Technologie. Wer das versteht, kann sie klug nutzen. Wer es nicht versteht, wird früher oder später auf Styropor-Kuchen hereinfallen.

Was heisst das jetzt für dich?

Die Botschaft ist nicht: «KI ist nutzlos – Finger weg.» Ich selbst nutze ChatGPT und andere KI-Tools regelmässig und finde sie ehrlich gesagt ziemlich hilfreich. Die Botschaft ist eine andere:

Vertraue KI nicht blind – weder bei Fakten und schon gar nicht bei moralisch-ethischen Fragen. Denn sie orientiert sich nicht an Gottes Wort, sondern an dem, was in ihren Trainingsdaten und Bewertungen als «erwünscht» gilt. Behandle sie wie einen Hammer, der beeindruckend leistungsfähig ist – aber keine Ahnung hat, ob er gerade einen Nagel trifft oder daneben haut.

Verwechsle flüssigen Text nicht mit Wissen. Nur weil etwas gut klingt, heisst das noch lange nicht, dass es stimmt. Styropor-Kuchen, du erinnerst dich.

Frag dich bei allem, was du online siehst: Warum sehe ich das gerade? Warum denke ich das? Kommt das von mir – oder hat mir das ein Algorithmus eingepflanzt?

Vergiss nie, was dich als Mensch ausmacht. Kein Algorithmus der Welt kann das ersetzen. Nicht heute, nicht morgen, nicht in hundert Jahren.

Und das Wichtigste – und damit sind wir wieder bei Pilatus: Zugang zur Wahrheit finden wir nicht über Künstliche Intelligenz. Für diese gilt, was Paulus vor fast 2000 Jahren über gewisse Personen in Ephesus schrieb: „… die zwar ständig lernen und die doch nie zur Erkenntnis der Wahrheit gelangen können“ (2Tim 3,7).

Wahrheit finden wir bei dem, der in diese Welt gekommen ist, um Zeugnis von der Wahrheit abzulegen: Jesus Christus. Unser Denken bleibt bei sich selbst stehen – es dreht sich im Kreis, bis Gott von aussen einbricht. Wir können uns nicht an den eigenen Haaren aus dem Sumpf ziehen. Das hat noch nie funktioniert. Wir brauchen eine Hand von aussen.

Und genau das meint die Bibel mit Offenbarung: Gott selbst teilt uns mit, was wir aus eigener Kraft nie herausfinden könnten. Nicht um uns mit Informationen zu versorgen – sondern um uns echtes, erfülltes und ewiges Leben zu schenken.