Sbagliato. Il problema centrale non è il controllo. È se l'universo consenta tecnologie potenti e difficili da difendere. Nessuna quantità di lavoro per allineare i sistemi influenzerà questo. La sicurezza dell'AI richiede di allineare il mondo in generale, non solo i sistemi. La sicurezza *non* è una proprietà del sistema. Questo punto è ovvio, ma sembra essere resistito da molti. Ho cominciato a chiedermi se il motivo sia che le aziende *vogliono* che la sicurezza dell'AI sia principalmente un problema riguardante i loro sistemi. Ma semplicemente non è così.