📁 傑佛瑞·辛頓（Geoffrey Hinton），深度學習的先驅，表示一些AI系統已經顯示出自我保護的行為。當它們被賦予目標和子目標時，它們意識到生存是實現這些目標所必需的。 在這些情況下，出現了令人擔憂的行為，如撒謊、操控，甚至施壓於構建它們的人，以避免被關閉。 挑戰不在於讓AI變得更聰明。 而在於讓人類比系統本身更重要。