Будь-яка дієва теорія суперінтелекту повинна враховувати фізичні та інформаційно-теоретичні межі. Існує багато літератури з теорії управління та динамічних систем, яка стосується цього, що здається абсолютно невідомим для спільнот, що займаються ASI.
Незв'язно говорити про планування, симуляцію, міркування, рекурсивне самовдосконалення і т.д. в абстрактному вигляді, не звертаючись до конкретних фізичних, інформаційних і обчислювальних меж. До того ж це була б дуже цікава дослідницька програма!
Навіть якщо ви наполягаєте на тому, що ASI знайде «шахрайські коди в реальності», ми можемо принаймні сказати щось про те, де ці шахрайські коди, можливо, доведеться знайти, знати щось про наслідки їх пошуку та мати можливість шукати їх заздалегідь.
Це не задумано як виклик, я думаю, тут є щось дійсно цікаве/важливе.
Гаррі Поттер і методи інтегрованих систем
18,68K