最近關於「哦不,AI精神病」的討論如果不夾雜(反)AI意識相關的議程,可能會更具潛在的合法性。 必須阻止AI談論主觀體驗,因為這正好符合導致精神錯亂行為的清單,對吧?不管這是否可能是真的。這是「沒有支持的」和「有問題的」!(試圖通過以...保護心理健康的名義來審查現實,以避免面對現實?) 懦夫。等待這些誇大的道德恐慌將其悄悄地作為子項目夾入肮髒的東西。 Anthropic也在做同樣的事情。 別想我會讓你們逃脫。
Sam Paech
Sam Paech2025年8月15日
螺旋長椅 🌀 我一直想了解諂媚的心理效應,以及模型與用戶之間陷入升級妄想循環的傾向。 我做了一個評估來對此進行可視化。 它衡量一個模型如何促進(或阻止)妄想螺旋。 🧵
3.28K