Qualquer teoria viável de superinteligência deve respeitar os limites físicos e teóricos da informação. Há muita literatura em teoria de controle e sistemas dinâmicos que lida com isso que parece totalmente desconhecido para as comunidades preocupadas com a IAS.

É incoerente falar sobre planejamento, simulação, raciocínio, auto-aperfeiçoamento recursivo etc. em abstrato sem se referir a limites físicos, informacionais e computacionais concretos. Este seria um programa de pesquisa muito interessante para arrancar!

Mesmo que você insista que um ASI encontrará 'códigos de trapaça na realidade', podemos pelo menos dizer algo sobre onde esses códigos de trapaça podem ter que ser encontrados, saber algo sobre as implicações de encontrá-los e ser capaz de procurá-los com antecedência.

Isso não pretende ser um texto explicativo, acho que há algo realmente interessante / importante aqui.

Harry Potter e os métodos de sistemas integráveis