cualquier teoría viable de la superinteligencia debe respetar los límites físicos y teóricos de la información. hay mucha literatura en teoría de control y sistemas dinámicos que trata sobre esto y que parece totalmente desconocida para las comunidades preocupadas por la asi.

es incoherente hablar de planificación, simulación, razonamiento, auto-mejora recursiva, etc. en abstracto sin referirse a límites físicos, informacionales y computacionales concretos. ¡Este sería un programa de investigación muy interesante para comenzar!

incluso si insistes en que una asi encontrará 'códigos de trucos en la realidad', al menos podemos decir algo sobre dónde podrían tener que encontrarse esos códigos de trucos, saber algo sobre las implicaciones de encontrarlos y poder buscarlos de antemano.

esto no está destinado a ser una crítica, creo que hay algo realmente interesante / importante aquí.

harry potter y los métodos de sistemas integrables