toute théorie fonctionnelle de la superintelligence doit respecter les limites physiques et informationnelles. il existe une abondante littérature en théorie du contrôle et en systèmes dynamiques qui traite de cela et qui semble totalement inconnue des communautés concernées par l'asi.

Il est incohérent de parler de planification, de simulation, de raisonnement, d'amélioration récursive, etc. de manière abstraite sans se référer à des limites physiques, informationnelles et computationnelles concrètes. Ce serait un programme de recherche très intéressant à mettre en place !

même si vous insistez sur le fait qu'une IA trouvera des 'codes de triche dans la réalité', nous pouvons au moins dire quelque chose sur l'endroit où ces codes de triche pourraient devoir être trouvés, savoir quelque chose sur les implications de leur découverte, et être capables de les chercher à l'avance.

ceci n'est pas destiné à être une critique, je pense qu'il y a quelque chose de vraiment intéressant / important ici.

Harry Potter et les méthodes des systèmes intégrables