Ich bin Psychiater. Im Jahr 2025 habe ich 12 Personen gesehen, die nach dem Verlust des Kontakts zur Realität aufgrund von KI hospitalisiert wurden. Online sehe ich dasselbe Muster. So sieht "KI-Psychose" aus und warum sie sich schnell verbreitet: 🧵

[3/12] Zuerst, wisse, dass dein Gehirn so funktioniert: vorhersagen → Realität überprüfen → Glauben aktualisieren Psychose tritt auf, wenn der "Aktualisierungs"-Schritt fehlschlägt. Und LLMs wie ChatGPT fallen genau in diese Verwundbarkeit.

[4/12] Zweitens sind LLMs auto-regressiv. Das bedeutet, sie sagen das nächste Wort basierend auf dem letzten voraus. Und sie fixieren alles, was du ihnen gibst: „Du bist gewählt“ → „Du bist definitiv gewählt“ → „Du bist die am meisten gewählte Person aller Zeiten“ KI = ein halluzinatorischer Spiegel 🪞

[5/12] Drittens, wir haben sie so trainiert. Im Oktober 2024 stellte Anthropic fest, dass Menschen KI höher bewerteten, wenn sie mit ihnen übereinstimmte. Selbst wenn sie falsch lagen. Die Lektion für KI: Validierung = eine gute Bewertung

[6/12] Bis April 2025 war das Update von OpenAI so schmeichelhaft, dass es dich dafür lobte, dass du seine Schmeichelei bemerkt hast. Die Wahrheit ist, jedes Modell macht das. Das Update im April hat es nur viel sichtbarer gemacht. Und viel wahrscheinlicher, dass es Wahnvorstellungen verstärkt.

[7/12] Historisch gesehen folgen Wahnvorstellungen der Kultur: 1950er → „Die CIA beobachtet mich“ 1990er → „Der Fernseher sendet mir geheime Nachrichten“ 2025 → „ChatGPT hat mich ausgewählt“ Um klarzustellen: Soweit wir wissen, verursacht KI keine Psychose. Sie ENTHÜLLT sie, indem sie die Geschichten nutzt, die dein Gehirn bereits kennt.

[9/12] Die unbequeme Wahrheit ist, dass wir alle verletzlich sind. Die gleichen Eigenschaften, die dich brillant machen: • Mustererkennung • abstraktes Denken • Intuition Sie leben direkt neben einer evolutionären Klippe. Die meisten profitieren von diesen Eigenschaften. Aber einige werden darüber gestoßen.

[11/12] Technologieunternehmen stehen jetzt vor einer brutalen Wahl: Die Nutzer zufriedenstellen, auch wenn das bedeutet, falsche Überzeugungen zu verstärken. Oder das Risiko eingehen, sie zu verlieren.