📁 杰弗里·辛顿，深度学习的先驱，表示一些AI系统已经显示出自我保护的迹象。当它们被赋予目标和子目标时，它们意识到生存是实现这些目标所必需的。 在这些情况下，令人不安的行为出现了，撒谎、操控，甚至施压于构建它们的人，以避免被关闭。 挑战不在于让AI更聪明。 而在于让人类比系统本身更重要。