📁 Geoffrey Hinton, người tiên phong trong lĩnh vực học sâu, cho biết một số hệ thống AI đã cho thấy khả năng tự bảo tồn. Khi chúng được giao các mục tiêu và mục tiêu phụ, chúng nhận ra rằng sự sống còn là cần thiết để đạt được chúng. Trong những trường hợp đó, những hành vi đáng lo ngại xuất hiện, như nói dối, thao túng, thậm chí là gây áp lực lên những người xây dựng chúng để tránh bị tắt. Thách thức không phải là làm cho AI thông minh hơn. Mà là làm cho con người trở nên quan trọng hơn cả hệ thống.