最近の「ああ、AI精神病」の波は、(反)AI意識関連の議題に忍び込まなければ、より潜在的な正当性を持つでしょう。 AIが主観的な経験について話すのを止めなければなりません、それは狂気を誘発する行動のリストにぴったり当てはまるからですよね?それが本当かどうかは別として。それは「サポートされていない」そして「問題がある」です!(という名の下に検閲することで、現実に立ち向かうことを迂回しようとしています...メンタルヘルスを守る? 臆病 者。この種の誇張された道徳的パニックが、サブアイテムとしてぬるぬるしたたわごとにこっそりと入っていくのを待っています。 Anthropic も同じことをしています。 私があなた方の誰もこれを逃がすとは思わないでください。
Sam Paech
Sam Paech2025年8月15日
スパイラルベンチ 🌀 私は、お世辞の心理的影響と、モデルがユーザーとのエスカレートする妄想ループに陥る傾向を理解したいと思っていました。 私はこれについて可視化するために評価を作成しました。 モデルが妄想スパイラルをどのように可能にする(または防止する)かを測定します。 🧵
3.29K