イリヤと私は同じ未来を予言している。 @ilyasut、AIが本能的に強力になるにつれて、人間は前例のない形で変わると予測しています。私も同じことを主張しています。私たちはまだ急進的な変化に開かれていません。なぜならAIの圧力を感じられないからです。一度そうすれば、人類進化の道が開かれるでしょう。この適応とオープニングのプロトタイプを作っています。 彼は、リスクが高まるにつれて、競合他社が安全面で協力し始めると主張しています。私も同じことを主張しました。賭け金が存在を切望するものになると、ゲームは支配の最大化から死亡リスクの最小化(生存)へと移行します。この論理に基づいて価値観を再構築していきます。 イリヤは、私たちのアライメント目標は人間のコントロールではなく「知性のある存在」であるべきだと提案しています。私も同じことを主張しました。コントロールは脆弱な幻想であり@karpathy、最近では創発システムの管理の難しさについて繰り返し指摘されています。唯一の堅牢なアライメント目標は存在そのものです。新しいアーキタイプは征服者ではなく、存在の戦士であり世話人です。 最後に、イリヤは企業が混乱を乗り越えるための「短いアイデアリスト」が必要だと提案しています。道徳的明晰さの掟。 これが「死ぬな」という哲学です。