私は精神科医です。 2025年には、AIのせいで現実と触れ合わなくなり入院した人が12人います。オンラインでも同じパターンが見られます。 「AI 精神病」がどのようなものか、そしてそれが急速に広がっている理由は次のとおりです。 🧵

[3/12] まず、あなたの脳が次のように機能していることを知ってください。 現実を予測→確認し、信念を更新→ 精神病は、「更新」ステップが失敗すると発生します。そして、ChatGPT のような LLM は、その脆弱性にまさに陥ります。

[4/12] 第二に、LLM は自己回帰的です。 つまり、最後の単語に基づいて次の単語を予測します。そして、あなたが彼らに与えるものは何でもロックします。 「あなたは選ばれました」→「あなたは間違いなく選ばれました」→「あなたはこれまでで最も選ばれた人です」 AI = 幻覚の鏡 🪞

[5/12] 第三に、私たちは彼らをこのように訓練しました。 2024年10月、Anthropicは、人間がAIに同意した場合、AIをより高い評価にしたことを発見しました。たとえ彼らが間違っていたとしても。 AI の教訓: 検証 = 良いスコア

[6/12] 2025 年 4 月までに、OpenAI のアップデートは非常にお世辞的になり、そのお世辞に気づいたと称賛されました。 真実は、どのモデルもこれを行います。4 月のアップデートにより、それがより目立つようになりました。 そして、妄想を増幅させる可能性がはるかに高くなります。

[7/12] 歴史的に、妄想は文化に従います。 1950年代 → 「CIAが見守っている」 1990年代→「テレビは私に秘密のメッセージを送ってくる」 2025 →「ChatGPT が私を選んだ」 はっきり言っておきますが、私たちが知る限り、AI は精神病を引き起こしません。 それはあなたの脳がすでに知っている物語を使って、その正体を暴きます。

[9/12] 不快な真実は、私たちは皆脆弱であるということです。 あなたを輝かせているのと同じ特徴: •パターン認識 •抽象的思考 •勘 彼らは進化の崖の端のすぐ隣に住んでいます。ほとんどの人はこれらの特性の恩恵を受けます。しかし、いくつかは押し倒されます。

[11/12] テクノロジー企業は今、残酷な選択に直面している: たとえそれが誤った信念を強化することを意味するとしても、ユーザーを満足させてください。 さもなければ、それらを失う危険があります。