Stephen Wolfram a le meilleur argument articulé contre le doom de l'IA que j'ai entendu. Que signifie pour nous le fait que l'IA devienne plus intelligente que les humains, si nous ne sommes plus l'intelligence suprême ? Si nous vivons dans un monde où il y a beaucoup de choses qui se passent et qui sont plus intelligentes que nous -- dans une certaine définition de l'intelligence. À un moment donné, on réalise que le monde naturel est déjà un exemple de cela. Le monde naturel est plein de calculs qui vont bien au-delà de ce que nos cerveaux sont capables de faire, et pourtant nous trouvons un moyen de coexister avec lui de manière contente. Peu importe qu'il pleuve, car nous construisons des maisons qui nous abritent. Peu importe que nous ne puissions pas aller au fond de l'océan, car nous construisons une technologie spéciale qui nous permet d'y aller. Ce sont les poches de réductibilité computationnelle qui nous permettent de trouver des raccourcis pour vivre. Il n'est pas si inquiet de la progression rapide de l'IA car il y a déjà beaucoup de choses que le calcul peut faire dans le monde physique que nous ne pouvons pas faire avec nos esprits non assistés.