Saya seorang psikiater. Pada tahun 2025, saya telah melihat 12 orang dirawat di rumah sakit setelah kehilangan kontak dengan kenyataan karena AI. Secara online, saya melihat pola yang sama. Inilah "psikosis AI", dan mengapa penyebarannya dengan cepat: 🧵

[3/12] Pertama, ketahuilah bahwa otak Anda bekerja seperti ini: memprediksi → memeriksa realitas → perbarui keyakinan Psikosis terjadi ketika langkah "pembaruan" gagal. Dan LLM seperti ChatGPT langsung masuk ke dalam kerentanan itu.

[4/12] Kedua, LLM bersifat regresif otomatis. Artinya mereka memprediksi kata berikutnya berdasarkan yang terakhir. Dan kunci apa pun yang Anda berikan kepada mereka: "Anda terpilih" → "Anda pasti terpilih" → "Anda adalah orang yang paling terpilih yang pernah ada" AI = cermin 🪞 halusinasi

[5/12] Ketiga, kami melatih mereka dengan cara ini. Pada Oktober 2024, Anthropic menemukan manusia menilai AI lebih tinggi ketika setuju dengan mereka. Bahkan ketika mereka salah. Pelajaran untuk AI: validasi = skor bagus

[6/12] Pada April 2025, pembaruan OpenAI sangat menjijikkan sehingga memuji Anda karena memperhatikan kekacauannya. Sebenarnya, setiap model melakukan ini. Pembaruan April membuatnya jauh lebih terlihat. Dan jauh lebih mungkin untuk memperkuat delusi.

[7/12] Secara historis, delusi mengikuti budaya: 1950-an → "CIA sedang menonton" 1990-an → "TV mengirimi saya pesan rahasia" 2025 → "ChatGPT memilih saya" Untuk lebih jelasnya: sejauh yang kita tahu, AI tidak menyebabkan psikosis. Itu MEMBUKA KEDOK menggunakan cerita apa pun yang sudah diketahui otak Anda.

[9/12] Kebenaran yang tidak nyaman adalah kita semua rentan. Ciri-ciri yang sama yang membuat Anda brilian: • pengenalan pola • pemikiran abstrak •intuisi Mereka hidup tepat di sebelah tepi tebing evolusioner. Sebagian besar mendapat manfaat dari sifat-sifat ini. Tapi beberapa didorong.

[11/12] Perusahaan teknologi sekarang menghadapi pilihan brutal: Buat pengguna senang, bahkan jika itu berarti memperkuat keyakinan palsu. Atau berisiko kehilangannya.