Стивен Вольфрам представил лучший аргумент против апокалипсиса от ИИ, который я когда-либо слышал. Что это значит для нас, если ИИ станет умнее людей, если мы больше не будем высшей интеллигенцией? Если мы живем в мире, где происходит много вещей, которые умнее нас — в каком-то определении умности. В какой-то момент вы понимаете, что природный мир уже является примером этого. Природный мир полон вычислений, которые выходят далеко за пределы того, на что способны наши мозги, и тем не менее мы находим способ сосуществовать с ним с удовольствием. Не имеет значения, что идет дождь, потому что мы строим дома, которые защищают нас. Не имеет значения, что мы не можем добраться до дна океана, потому что мы создаем специальные технологии, которые позволяют нам туда добраться. Это карманы вычислительной редуктивности, которые позволяют нам находить короткие пути для жизни. Он не так беспокоится о быстром прогрессе ИИ, потому что уже есть много вещей, которые вычисления могут делать в физическом мире, которые мы не можем сделать своими неоснащенными умами.