Stephen Wolfram tiene el argumento mejor articulado contra la perdición de la IA que he escuchado. ¿Qué significa para nosotros si la IA se vuelve más inteligente que los humanos, si ya no somos la inteligencia ápice? si vivimos en un mundo donde están sucediendo muchas cosas que son más inteligentes que nosotros, en alguna definición de inteligencia. En un momento te das cuenta de que el mundo natural ya es un ejemplo de esto. El mundo natural está lleno de cálculos que van mucho más allá de lo que nuestros cerebros son capaces de hacer y, sin embargo, encontramos una manera de coexistir con él de manera satisfactoria. No importa que llueva, porque construimos casas que nos cobijan. No importa que no podamos ir al fondo del océano, porque construimos una tecnología especial que nos permite ir allí. Estos son los focos de reducibilidad computacional que nos permiten encontrar atajos para vivir. no está tan preocupado por la rápida progresión de la IA porque ya hay muchas cosas que la computación puede hacer en el mundo físico que no podemos hacer con nuestras mentes sin ayuda.