Stephen Wolfram har det best artikulerte argumentet mot AI-undergang jeg har hørt. hva betyr det for oss hvis AI blir smartere enn mennesker, hvis vi ikke lenger er apex intelligence? hvis vi lever i en verden der det er mange ting som skjer som er smartere enn vi er - i en eller annen definisjon av smarthet. På et tidspunkt innser du at den naturlige verden allerede er et eksempel på dette. Den naturlige verden er full av beregninger som går langt utover hva hjernen vår er i stand til, og likevel finner vi en måte å sameksistere med den på en tilfredsstillende måte. Det spiller ingen rolle at det regner, for vi bygger hus som gir ly til oss. Det spiller ingen rolle at vi ikke kan gå til havets bunn, fordi vi bygger spesiell teknologi som lar oss gå dit. Dette er lommene med beregningsreduserbarhet som lar oss finne snarveier for å leve. han er ikke så bekymret for den raske utviklingen av AI fordi det allerede er mange ting som beregning kan gjøre i den fysiske verden som vi ikke kan gjøre med vårt eget sinn.