Stephen Wolfram ma najlepiej sformułowany argument przeciwko apokalipsie AI, jaki słyszałem. Co to dla nas oznacza, jeśli AI stanie się mądrzejsze od ludzi, jeśli nie będziemy już najwyższą inteligencją? Jeśli żyjemy w świecie, w którym dzieje się wiele rzeczy, które są mądrzejsze od nas – w jakiejś definicji mądrości. W pewnym momencie zdajesz sobie sprawę, że naturalny świat jest już tego przykładem. Naturalny świat jest pełen obliczeń, które wykraczają daleko poza to, co nasze mózgi są w stanie zrobić, a mimo to znajdujemy sposób, aby współistnieć z nim w sposób zadowalający. Nie ma znaczenia, że pada deszcz, ponieważ budujemy domy, które nas chronią. Nie ma znaczenia, że nie możemy dotrzeć na dno oceanu, ponieważ budujemy specjalną technologię, która pozwala nam tam dotrzeć. To są kieszenie redukcji obliczeniowej, które pozwalają nam znaleźć skróty do życia. Nie martwi się tak bardzo o szybki postęp AI, ponieważ już istnieje wiele rzeczy, które obliczenia mogą zrobić w świecie fizycznym, a których nie możemy zrobić naszymi niepomocnymi umysłami.