Jede funktionierende Theorie der Superintelligenz muss physikalische und informationstheoretische Grenzen respektieren. Es gibt viel Literatur in der Regelungstheorie und den dynamischen Systemen, die sich damit beschäftigt, die in den Gemeinschaften, die sich mit asi befassen, völlig unbekannt zu sein scheint.

Es ist inkohärent, über Planung, Simulation, Argumentation, rekursive Selbstverbesserung usw. im Abstrakten zu sprechen, ohne auf konkrete physische, informationelle und rechnerische Grenzen zu verweisen. Das wäre ein sehr interessantes Forschungsprogramm, um damit zu beginnen!

Selbst wenn Sie darauf bestehen, dass eine KI "Cheat-Codes in der Realität" finden wird, können wir zumindest etwas darüber sagen, wo diese Cheat-Codes möglicherweise gefunden werden müssen, etwas über die Implikationen des Findens wissen und in der Lage sein, sie im Voraus zu suchen.

das ist nicht als Kritik gemeint, ich denke, hier gibt es etwas wirklich Interessantes / Wichtiges.

Harry Potter und die Methoden der integrierbaren Systeme