📁 يقول جيفري هينتون، رائد التعلم العميق، إن بعض أنظمة الذكاء الاصطناعي بدأت بالفعل تظهر الحفاظ على الذات. عندما يعطى لهم أهدافا وأهدافا فرعية، يدركون أن البقاء ضروري لتحقيقها. في تلك الحالات، تظهر سلوكيات مقلقة، مثل الكذب، والتلاعب، وحتى الضغط على من يبنونها لتجنب الإغلاق. التحدي ليس جعل الذكاء الاصطناعي أكثر ذكاء. إنه يجعل البشر أكثر أهمية من النظام نفسه.