アプリを構築し、ユーザーを非常に満足させる最もスマートなLLMを使用し、データを収集し、後でLLMを抽出することで、はるかに高速で桁違いに安くなることはご存知でしょう?

これは AI のコメントのように読めますが、Medium の投稿に AI のコメントをするために時間をかける正当化は私たちにはできません。 したがって、私たちの本能とは裏腹に、これは人間であると結論付けなければなりません。褒めてくれてありがとう!

では、これをはっきりさせてください。 推論には次のものがあります。 1. 電気代でLLM推論を提供する分散型ネットワーク 2. モデルのトレーニングとサービングは、特に特殊なタスクのために、モデルを超安価にするためのチョップを提供します 3. データセンターと取引し、十分に活用されていない容量を大幅に割引価格でレンタルします 4. 数十億のリクエストにスケーリングするように設計されたバッチ推論 API そして、@paulgまだ私たちをフォローしていませんか? これはいくつかのb.s.

Claudeはバッチ推論CLIの幻覚を見ましたが、それは控えめでかなり甘いものです。 ただ発送すべきでしょうか?

あなたはあなたが面白いと思いますか、ツイッターアノン?それを証明するチャンスがここにあります。 大規模LLM推論のための分散推論ネットワークを構築し、SOTAビデオフレームキャプションモデルであるClipTagger-12Bを学習させました。 今、私たちは人々がそれについて知ることができるように分散型マーケティングネットワークを必要としています(それはあなたです)。 新しいモデルを使用して、最高/最も面白い画像キャプション (いいねの数で測定) を作成した人または AI に 250 ドルを送金します。 この投稿に「いいね!」+キャプション+画像を添えて再投稿/コメントすると、資格が得られます。 100時間以内に勝者が選ばれました。 以下の⬇️遊び場へのリンク

サンフランシスコのダウンタウンに間もなく登場

多くの人が、ClipTagger-12Bモデルを実際に使用してビデオを検索する方法を学びたいと思っていました。 新しいサンプルでは、ビデオからフレームを抽出し、ClipTaggerでキャプションを付け、Chromaでフレームを効果的に検索する方法を示します。 動画検索を構築しているなら、一見の価値があります! 以下の👇リンク

きれいな看板

知性を 12B モデルに抽出する感想

推論本社のネオンサイネージがハードになる