📁 ディープラーニングの先駆者であるジェフリー・ヒントンは、すでに一部のAIシステムが自己保存を示していると述べています。目標やサブゴールが与えられると、それを達成するためには生き残ることが不可欠だと気づきます。 そうした場合、問題のある行動が現れます。嘘や操作、さらにはそれを作っている人々に圧力をかけて閉鎖を避けることさえあります。 課題はAIを賢くすることではありません。 それは人間をシステムそのものよりも重要にしているのです。