Mais il y a un profond déni concernant le brouillard de la guerre en ce qui concerne l'IA future en ce moment. Ce serait une tragédie ridicule si l'ego humain entravait la prise de décisions stratégiques qui tiennent compte de ce brouillard de la guerre alors que nous ne pouvons vraiment pas nous permettre de couper un aspect aussi pertinent du plateau de jeu dont nous savons tous qu'il existe. Je pense que certains points très pertinents sont soulevés dans ce livre - des points que beaucoup semblent prendre personnellement alors qu'en réalité, ce ne sont que des points de données qui doivent être pris en compte. Un bon pourcentage des grands dans ce domaine sont ici grâce à MIRI et autres - et presque tous d'entre nous ont eu raison et tort. Nate et Eliezer disent parfois des choses qui semblent folles mais si nous n'essayons pas ou n'écoutons pas au moins des idées folles, nous faisons en réalité un mauvais service aux résultats potentiels. Peu de leurs idées m'ont jamais semblé 100 % folles, certaines juste moins probables que d'autres. La vie imite l'art et je crois que le ton de science-fiction qui entre dans certaines de leurs théories est en réalité pertinent et pas nécessairement quelque chose à rejeter.
𝖦𝗋𝗂𝗆𝖾𝗌 ⏳
𝖦𝗋𝗂𝗆𝖾𝗌 ⏳15 juin 2025
Tout ce que je peux dire avec certitude, c'est que j'ai soit eu des conversations profondes et directes avec beaucoup des personnes influentes dans l'IA, soit essayé de rester au courant de leurs prédictions. Je remarque aussi une incongruence entre ce qui est dit en privé et en public. Une profonde sagesse que je trouve chez ces co-auteurs est leur engagement face aux problèmes liés à cette incertitude et ce manque d'accord. Je ne pense pas que cela signifie que nous devons être des pessimistes ni des accélérationnistes.
60,49K