人々が ChatGPT をどのように使用しているかに関する OpenAI のこの論文を本当に楽しんでいました。 推論の需要は、今後1〜2年間で爆発的に増加し続けるでしょう。その有意義なシェアには、ウェブへのリアルタイムアクセスが必要であることは明らかです。 現在、AI 企業が持っている選択肢は、Google をスクレイピングするか、Bing (API を強制終了した人) をスクレイピングするか、ニューラル ネットを使用してキャッシュ/スクレイピングされた検索結果を再ランク付けすることです (一部のスタートアップはこれを行っています)。これらのどれも実際には拡張できません。 現在、Grassは企業によって信じられないほどの量のトレーニングデータ(1日あたり2〜3ペタバイト)を提供するために使用されており、そのほとんどがマルチモーダルです。 推論のコンピューティング需要がトレーニングを反転させるため、トレーニングデータの収集に使用されているのと同じインフラストラクチャがライブコンテキスト取得に使用されることが予想されます。