Stephen Wolfram heeft het beste onderbouwde argument tegen AI-doem dat ik heb gehoord. Wat betekent het voor ons als AI slimmer wordt dan mensen, als wij niet langer de hoogste intelligentie zijn? Als we leven in een wereld waar er veel dingen zijn die slimmer zijn dan wij -- in een bepaalde definitie van slimheid. Op een gegeven moment realiseer je je dat de natuurlijke wereld al een voorbeeld hiervan is. De natuurlijke wereld zit vol berekeningen die ver voorbij gaan wat onze hersenen kunnen, en toch vinden we een manier om er vreedzaam mee samen te leven. Het maakt niet uit dat het regent, omdat we huizen bouwen die ons beschutten. Het maakt niet uit dat we niet naar de bodem van de oceaan kunnen, omdat we speciale technologie bouwen die ons daarheen laat gaan. Dit zijn de zakken van computationele reducibiliteit die ons in staat stellen om shortcuts te vinden om te leven. Hij maakt zich niet zo veel zorgen over de snelle vooruitgang van AI, omdat er al veel dingen zijn die berekening kan doen in de fysieke wereld die we niet kunnen doen met onze ongewapende geest.