خطأ. المشكلة الأساسية ليست السيطرة. يتعلق الأمر بما إذا كان الكون يسمح بتقنيات قوية يصعب الدفاع عنها. لن يؤثر أي قدر من عمل محاذاة النظام على ذلك. تتطلب سلامة الذكاء الاصطناعي مواءمة العالم بشكل عام ، وليس فقط الأنظمة. السلامة *ليس* خاصية للنظام هذه النقطة واضحة ، ولكن يبدو أن الكثيرين يقاومونها. لقد بدأت أتساءل عما إذا كان السبب هو أن الشركات * تريد * أن تكون سلامة الذكاء الاصطناعي مشكلة في الغالب تتعلق بأنظمتها. لكنها ببساطة ليست كذلك