Cualquier teoría viable de la superinteligencia debe respetar los límites físicos y teóricos de la información. Hay mucha literatura en teoría de control y sistemas dinámicos que se ocupa de esto que parece totalmente desconocida para las comunidades preocupadas por la ASI.

Es incoherente hablar de planificación, simulación, razonamiento, superación personal recursiva, etc. en abstracto sin referirse a límites físicos, informativos y computacionales concretos. ¡Este sería un programa de investigación muy interesante para arrancar!

Incluso si insiste en que un ASI encontrará 'códigos de trucos en la realidad', al menos podemos decir algo sobre dónde podrían encontrarse esos códigos de trucos, saber algo sobre las implicaciones de encontrarlos y poder buscarlos con anticipación.

Esto no pretende ser una llamada, creo que hay algo realmente interesante / importante aquí.

Harry Potter y los métodos de los sistemas integrables