ダリオ・アモデイはWEFで『Machines of Loving Grace』の続編を出版しようとしていると語りました。本日リリース予定で、AxiosはAnthropicによって早期に公開されました。タイトルは「テクノロジーの思春期:強力なアルのリスクに立ち向かい、克服する」です。

いくつかの引用: 「私は、我々が通過儀礼に入ろうとしていると信じている。それは激動であり避けられないもので、我々が種として何者であるかを試すものだ。人類はほとんど想像を絶する力を手にしようとしており、私たちの社会的、政治的、技術的システムがそれを行使する成熟度を持っているかどうかは不透明です。」

「今やAIモデルは未解決の数学的問題を解決する進展を見せ始め、私がこれまで会った中で最も優れたエンジニアの多くがほぼすべてのコーディングをAIに委ねている段階に来ています。3年前、AIは小学校の算数問題に苦戦し、コードの一行も書くのがやっとでした。生物科学、金融、物理学、そしてさまざまな主体的な課題でも同様の改善率が見られます。もし指数関数的な変化が続くなら—確実ではないが、10年以上にわたる実績がある—AIがほぼすべての面で人間より優れているのは数年以内に済むだろう。 実際、その状況は進歩の見込みを過小評価している可能性があります。現在、Anthropicのコードの多くをAIが書いているため、次世代AIシステムの構築の進展速度を大幅に加速させています。このフィードバックループは月々勢いを増しており、現行のAIが自律的に次の世代を構築するまで、あと1〜2年しか経っていないかもしれません。このループはすでに始まっており、今後数か月から数年で急速に加速するでしょう。Anthropic内部から過去5年間の進展を見守り、今後数ヶ月のモデルがどう形作られているかを見ると、その進歩のペースと時間の刻みを感じることができます。」

「AI企業のCEOとして言うのは少し気まずいかもしれませんが、次のリスク層は実際にはAI企業自身だと思います。AI企業は大規模なデータセンターを管理し、フロンティアモデルを訓練し、それらのモデルの使い方に最も精通し、場合によっては数千万、数億のユーザーと日々接触し、影響を及ぼす可能性を持っています。彼らに欠けている主なものは国家の正当性とインフラであり、AI独裁体制のツールを構築するために必要な多くのことは違法か、少なくとも非常に疑わしいことになるでしょう。しかし、その一部は不可能ではありません。例えば、彼らはAI製品を使って膨大な消費者ユーザー層を洗脳する可能性があり、一般市民はそのリスクに警戒すべきです。AI企業のガバナンスは多くの精査に値すると思います。

「『データセンターの天才の国』という表現が示唆するように、AIは非常に幅広い人間の認知能力を持つことになるでしょう—おそらくすべてです。これは機械化農業や交通、さらにはコンピューターといった従来の技術とは大きく異なります。これにより、職を失った人から自分に合う似た職種に簡単に転職するのが難しくなります。例えば、金融、コンサルティング、法律のエントリーレベルの仕事に必要な一般的な知的能力は、たとえ具体的な知識が大きく異なってもかなり似ています。これら3つのうち1つだけを破壊する技術であれば、従業員は他の2つの近い代替教材に切り替えたり、学部生が専攻を変えたりできるようになります。しかし、これら3つを同時に崩す(他の多くの類似の仕事も含む)は、人々が適応するのが難しいかもしれません。さらに、既存の多くの仕事が混乱するだけではありません。この部分は以前にも起きています――農業が雇用の大きな割合を占めていたことを思い出してください。しかし農民は、以前は一般的ではなかったものの、比較的似たような工場機械の操作に切り替えることができました。対照的に、AIは人間の一般的な認知プロファイルにますますマッチしており、従来の仕事が自動化された際に通常は生まれるはずの新しい仕事にも適しているでしょう。言い換えれば、AIは特定の人間の仕事の代替ではなく、人間の一般的な労働の代替品であるということです。

例えば、コーディングにおいて、私たちのモデルは「平凡なコーダー」から「強いコーダー」、そして「非常に強いコーダー」へと進化してきました。今では、ホワイトカラーの仕事全体でも同様の進展が見られ始めています。したがって、特定のスキルや職業(再訓練によって適応できる)を持つ人々に影響を与えるのではなく、AIが特定の内在的な認知特性、すなわち知的能力の低下(これは変えるのが難しい)を持つ人々に影響を与えるリスクにさらされています。これらの人々がどこへ行き、何をするのかは不明であり、失業者や非常に低賃金の「アンダークラス」を形成するのではないかと懸念しています。

Anthropicは、従業員が「伝統的な意味での経済的価値をもたらさなくなった後も」雇用を維持する計画です。 「第三に、企業は従業員のケア方法を考えるべきです。短期的には、企業内で従業員の再配置を工夫することが、レイオフの必要性を回避する有望な方法かもしれません。長期的には、生産性の向上と資本集中によって多くの企業が価値を大きく向上させる巨大な総資産を持つ世界では、伝統的な意味での経済的価値をもはや提供していない人間従業員に給与を支払うことが現実的かもしれません。Anthropicは現在、自社従業員向けのさまざまな進路を検討しており、近い将来共有する予定です。」

「Anthropicの共同創業者全員が、私たちの資産の80%を寄付することを約束しました。」

重い真実もいくつかありますが、私はこれに完全に同意し、似たようなことを何度も言ってきました。 「さらに、ここ数年は技術を停止したり大幅に遅らせたりする考えが根本的に成り立たないことを明確に示すべきです。強力なAIシステムを構築するための公式は非常にシンプルで、データと生の計算が適切に組み合わされば自然に生まれると言っても言えるほどです。その誕生は、人類がトランジスタを発明した瞬間、あるいは火の制御を初めて学んだ時点で、むしろそれ以前から避けられなかった可能性が高いです。ある会社が建設しなければ、他の会社もほぼ同じ速さで完成させます。もし民主主義国の企業が相互合意や規制により開発を停止または遅らせれば、権威主義国はただ進み続けるでしょう。この技術の驚異的な経済的・軍事的価値と、実質的な執行手段の欠如を考えると、彼らを止めさせる説得は到底可能ではないと思います。」

素晴らしい内容で、全文読む価値は間違いありません。 「これからの年月は信じられないほど厳しく、自分たちが与えられると思っている以上のことを求められる。しかし、研究者、リーダー、市民としての経験を通じて、私は十分な勇気と高潔さを見て、私たちは勝利できると信じています。最も暗い状況に置かれたとき、人類はまるで最後の瞬間に、勝利に必要な力と知恵を集める方法を持っていると。時間がない。」