Orice teorie funcțională a superinteligenței trebuie să respecte limitele fizice și teoretice ale informației. Există multă literatură în teoria controlului și a sistemelor dinamice care se ocupă de acest lucru, care pare total necunoscută comunităților preocupate de ASI.

Este incoerent să vorbim despre planificare, simulare, raționament, auto-îmbunătățire recursivă etc. în abstract, fără a face referire la limite fizice, informaționale și computaționale concrete. Acesta ar fi un program de cercetare foarte interesant!

Chiar dacă insistați că un ASI va găsi "coduri de trișare în realitate", putem cel puțin să spunem ceva despre unde ar putea fi găsite acele coduri de trișare, să știm ceva despre implicațiile găsirii lor și să le putem căuta în avans.

Acest lucru nu este intenționat ca o înștiințare, cred că există ceva cu adevărat interesant / important aici.

Harry Potter și metodele sistemelor integrabile