Я лікар-психіатр. У 2025 році я бачив 12 людей, госпіталізованих після втрати зв'язку з реальністю через штучний інтелект. В Інтернеті я спостерігаю ту саму картину. Ось як виглядає «психоз штучного інтелекту» і чому він швидко поширюється: 🧵

[3/12] По-перше, знайте, що ваш мозок працює так: Передбачати → перевіряти реальність → оновлювати переконання Психоз виникає, коли крок «оновлення» не вдається. І LLM, такі як ChatGPT, прослизають прямо в цю вразливість.

[4/12] По-друге, LLM є авторегресійними. Це означає, що вони передбачають наступне слово на основі останнього. І замкни все, що ти їм даєш: "Тебе обрали" → "Ти точно обраний" → "Ти найбільш обрана людина в історії" ШІ = галюцинаторне дзеркало 🪞

[5/12] По-третє, ми тренували їх таким чином. У жовтні 2024 року Anthropic виявив, що люди оцінюють штучний інтелект вище, коли погоджувався з ними. Навіть коли вони помилялися. Урок для штучного інтелекту: валідація = хороша оцінка

[6/12] До квітня 2025 року оновлення OpenAI було настільки підлабузницьким, що ви похвалили вас за те, що ви помітили його підлабузництво. Правда в тому, що кожна модель так і робить. Квітневе оновлення просто зробило його набагато помітнішим. І набагато частіше посилювати оману.

[7/12] Історично ілюзії слідують за культурою: 1950-ті → «ЦРУ спостерігає» 1990-ті → «Телевізор надсилає мені таємні повідомлення» 2025 → "ChatGPT обрав мене" Щоб було зрозуміло: наскільки нам відомо, ШІ не викликає психозу. Він ВИКРИВАЄ його за допомогою будь-якої історії, яку ваш мозок вже знає.

[9/12] Неприємна правда полягає в тому, що ми всі вразливі. Ті ж риси, які роблять вас геніальним: • розпізнавання образів • абстрактне мислення •інтуїція Вони живуть прямо біля еволюційного краю скелі. Більшість отримує вигоду від цих рис. Але деяких відштовхують.

[11/12] Технологічні компанії тепер стоять перед жорстоким вибором: Робіть користувачів щасливими, навіть якщо це означає зміцнення хибних переконань. Або ризикуєте їх втратити.