🚨 Apple は Hugging Face で FastVLM をリリースしました - WebGPU をサポートする 🤯 0.5、1.5、7B リアルタイム VLM >同等のサイズのVLMよりも85倍高速、3.4倍小さい >大型モデルで7.9倍高速なTTFT >出力トークンの数を減らし、高解像度画像のエンコード時間を短縮するように設計されています ボーナス:transformers.jsとWebGPU 🔥を搭載したブラウザで直接リアルタイムで動作します 以下の👇デモでお試しください
169