elke werkbare theorie van superintelligentie moet rekening houden met fysieke en informatie-theoretische grenzen. er is veel literatuur in de regeltheorie en dynamische systemen die hiermee te maken heeft en die totaal onbekend lijkt te zijn voor gemeenschappen die zich bezighouden met asi.

het is onsamenhangend om te praten over planning, simulatie, redenering, recursieve zelfverbetering enz. in het abstract zonder te verwijzen naar concrete fysieke, informatieve en computationele grenzen. dit zou een zeer interessant onderzoeksprogramma zijn om te beginnen!

zelfs als je volhoudt dat een asi 'cheatcodes in de realiteit' zal vinden, kunnen we in ieder geval iets zeggen over waar die cheatcodes misschien gevonden moeten worden, iets weten over de implicaties van het vinden ervan, en in staat zijn om ze van tevoren te zoeken.

dit is niet bedoeld als een oproep, ik denk dat hier iets echt interessants / belangrijks aan de hand is.

harry potter en de methoden van integreerbare systemen