J'étais à un événement sur l'IA pour la science hier, une table ronde ici à NeurIPS. Les intervenants ont discuté de la manière dont ils prévoient de remplacer les humains à tous les niveaux du processus scientifique. Alors je me suis levé et j'ai protesté que ce qu'ils faisaient était maléfique. Regardez autour de vous, ai-je dit. La salle est remplie de chercheurs de divers types, la plupart d'entre eux sont jeunes. Ils sont ici parce qu'ils aiment la recherche et veulent contribuer à l'avancement des connaissances humaines. Si vous retirez l'humain de l'équation, ce qui signifie que les humains n'ont plus aucun rôle dans la recherche scientifique, vous les privez de l'activité qu'ils aiment et d'une source clé de sens dans leur vie. Et nous voulons tous faire quelque chose de significatif. Pourquoi, ai-je demandé, voulez-vous nous priver de l'opportunité de contribuer à la science ? Ma question a changé le cours de la table ronde et a donné le ton pour le reste de la discussion. Par la suite, un certain nombre de participants sont venus me voir, soit pour me remercier d'avoir mis en mots ce qu'ils ressentaient, soit pour demander si je pensais vraiment ce que j'avais dit. Alors j'ai pensé que je reviendrais sur la question ici. Un des intervenants a demandé si je préférais vraiment la joie de faire de la science à celle de trouver un remède contre le cancer et de permettre l'immortalité. J'ai répondu que nous finirons par guérir le cancer et qu'à un moment donné, nous pourrions probablement choisir l'immortalité. La science progresse déjà énormément avec des humains aux commandes. Nous obtiendrons un jour l'énergie de fusion et le voyage spatial aussi. Peut-être que couper les humains de l'équation pourrait accélérer ce processus, mais je ne pense pas que cela en vaille la peine. Je pense qu'il est d'une importance cruciale que nous, les humains, soyons en charge de notre propre progrès. Élargir les connaissances collectives de l'humanité est, je pense, la chose la plus significative que nous puissions faire. Si les humains ne pouvaient plus contribuer utilement à la science, ce serait une catastrophe. Donc, non. Je ne pense pas qu'il vaille la peine de trouver un remède contre le cancer plus rapidement si cela signifie que nous ne pouvons plus jamais faire de science. Beaucoup de ceux qui sont venus me parler hier soir, ceux qui m'ont demandé si j'étais sérieux ou si je faisais juste du trolling, pensaient que le postulat était absurde. Bien sûr, il y aurait toujours de la place pour les humains dans la science. Il y aura toujours des tâches que seuls les humains peuvent accomplir, des idées que seuls les humains ont, et ainsi de suite. Par conséquent, nous devrions accueillir l'IA. La recherche est difficile, et nous avons besoin de toute l'aide que nous pouvons obtenir. J'ai répondu que j'espérais qu'ils avaient raison. C'est-à-dire que j'espère vraiment qu'il y aura toujours des parties du processus de recherche pour lesquelles les humains seront essentiels. Mais ce contre quoi je plaidais n'était pas ce que nous pourrions appeler "l'automatisation scientifique faible", où les humains restent dans la boucle dans des rôles importants, mais "l'automatisation scientifique forte", où les humains sont redondants. D'autres ont pensé qu'il était immature de discuter de cela, car l'automatisation scientifique complète n'est pas à l'horizon. Encore une fois, j'espère qu'ils ont raison. Mais je ne vois aucun mal à en discuter maintenant. Et je ne pense certainement pas que nous ayons besoin de recherches sur l'automatisation scientifique pour aller plus loin. D'autres ont fait remarquer que c'était un argument inutile. L'automatisation scientifique arrive que nous le voulions ou non, et nous ferions mieux de nous y habituer. Le train arrive, et nous pouvons monter à bord ou nous mettre en travers de son chemin. Je pense que c'est un argument remarquablement lâche. C'est à nous, en tant que société, de décider comment nous utilisons la technologie que nous développons. Ce n'est pas un train, c'est un camion, et nous ferions mieux de saisir le volant. Un des intervenants a fait une analogie avec les échecs, arguant que beaucoup de gens jouent aux échecs même si les ordinateurs sont maintenant bien meilleurs que les humains aux échecs. Donc, nous pourrions nous engager dans la science comme une sorte de passe-temps, même si la vraie science est faite par des ordinateurs. Nous jouerions loin de la frontière, peut-être en remplissant les blancs que les systèmes d'IA ne se soucient pas de combler. Cela n'était, pour le dire légèrement, pas une réponse satisfaisante. Bien que j'aime les jeux, je ne considère certainement pas le fait de jouer comme aussi significatif que d'avancer les connaissances humaines. Merci, mais non merci. Dans l'ensemble, cependant, il était frappant que la plupart de ceux à qui j'ai parlé m'ont remercié d'avoir soulevé le point, car j'ai articulé des inquiétudes qu'ils avaient déjà. L'un d'eux a fait remarquer que si vous travaillez sur l'automatisation de la science et que vous n'êtes même pas un peu inquiet au sujet de l'objectif final, vous êtes un psychopathe. J'ajouterais qu'une autre possibilité est que vous ne croyez pas vraiment en ce que vous faites. Certains pourraient demander pourquoi je fais cet argument sur la science et pas, par exemple, sur l'art visuel, la musique ou la conception de jeux. C'est parce que l'événement d'hier était sur l'IA pour la science. Mais je pense que le même argument s'applique à tous les domaines de l'expression créative et intellectuelle humaine. Rendre le travail intellectuel ou créatif humain redondant est quelque chose que nous devrions éviter quand nous le pouvons, et nous devrions absolument l'éviter s'il n'y a pas de nouveaux rôles tout aussi significatifs pour les humains dans lesquels se réorienter. On pourrait également soutenir que travailler à couper les humains de travaux créatifs significatifs tels que la recherche scientifique est incroyablement égoïste. Vous obtenez la satisfaction intellectuelle d'inventer de nouvelles méthodes d'IA, mais la prochaine génération n'a pas la chance de contribuer. Pourquoi voulez-vous priver vos enfants (académiques et biologiques) de la chance de s'engager dans l'activité la plus significative au monde ? Alors, en quoi crois-je, étant donné que je suis un chercheur en IA qui travaille activement sur le type de méthodes d'IA utilisées pour automatiser la science ? Je crois que les outils d'IA qui nous aident à être plus productifs et créatifs sont formidables, mais que les outils d'IA qui nous remplacent sont mauvais. J'aime la science, et j'ai peur d'un avenir où nous serions renvoyés aux âges sombres parce que nous ne pouvons plus contribuer à la science. L'agence humaine, y compris dans les processus créatifs, est vitale et doit être protégée à presque tout prix. Je ne sais pas exactement comment orienter le développement et l'utilisation de l'IA afin que nous obtenions de nouveaux outils mais ne soyons pas remplacés. Mais je sais qu'il est d'une importance capitale.

Ceci est un nouveau livre important sur un domaine de recherche important et sous-estimé. Merci aux auteurs pour l'avoir écrit, et félicitations pour l'avoir terminé !

La prochaine saison de notre référence aura beaucoup d'améliorations. De plus, nous avons plein d'autres choses en cours chez @the_nof1 que nous n'avons pas encore rendues publiques. Les marchés sont amusants à jouer et à créer des joueurs AI.