любая работоспособная теория суперразума должна учитывать физические и информационно-теоретические ограничения. существует много литературы в области теории управления и динамических систем, которая с этим связана и, похоже, совершенно неизвестна сообществам, занимающимся asi.

нелогично говорить о планировании, моделировании, рассуждении, рекурсивном самоулучшении и т.д. в абстрактном смысле, не ссылаясь на конкретные физические, информационные и вычислительные ограничения. это было бы очень интересной исследовательской программой!

даже если вы настаиваете на том, что ИИ найдет «чита-коды в реальности», мы по крайней мере можем сказать что-то о том, где эти чита-коды могут быть найдены, знать что-то о последствиях их нахождения и иметь возможность искать их заранее.

это не призыв к действию, я думаю, здесь есть что-то действительно интересное / важное.

Гарри Поттер и методы интегрируемых систем