Jadi izinkan saya meluruskan ini. Inferensi memiliki: 1. Jaringan terdesentralisasi yang memasok inferensi LLM dengan harga listrik 2. Pelatihan model dan menyajikan daging untuk membuat model super murah, terutama untuk tugas-tugas khusus 3. Berurusan dengan pusat data untuk menyewa kapasitas yang kurang dimanfaatkan dengan harga diskon besar-besaran 4. API inferensi batch yang dirancang untuk menskalakan hingga miliaran permintaan Dan @paulg masih tidak mengikuti kami? Ini beberapa b.s.

Claude berhalusinasi CLI inferensi batch tetapi itu sederhana cukup manis. Haruskah kita mengirimkannya saja?

Anda pikir Anda lucu, twitter anon? Inilah kesempatan Anda untuk membuktikannya. Kami membangun jaringan inferensi terdistribusi untuk inferensi LLM skala besar dan melatih ClipTagger-12B, model teks bingkai video SOTA. Sekarang kita membutuhkan jaringan pemasaran terdistribusi agar orang mengetahuinya (itu Anda). Kami mengirimkan $250 ke orang atau AI yang membuat keterangan gambar terbaik/paling lucu (diukur dengan jumlah suka) menggunakan model baru kami. Suka posting ini + posting ulang/komentar dengan keterangan + gambar Anda agar memenuhi syarat. Pemenang dipilih dalam 100 jam. Tautan ke taman bermain di bawah ini ⬇️

Segera hadir di pusat kota San Francisco

Banyak orang ingin mempelajari cara benar-benar menggunakan model ClipTagger-12B kami untuk mencari video. Sampel baru kami menunjukkan kepada Anda cara mengekstrak bingkai dari video, memberi keterangan dengan ClipTagger, lalu mencari bingkai secara efektif dengan Chroma. Jika Anda membuat pencarian video, layak untuk dilihat! Tautan di bawah ini 👇

Papan reklame cantik

Bagaimana rasanya menyaring kecerdasan ke dalam model 12B

Inferensi papan nama neon HQ menjadi sulit

Ada sesuatu yang sangat istimewa tentang skema yang @grass dikembangkan untuk ClipTagger-12B. Setelah Anda mulai mencari kumpulan data video besar-besaran, menggunakan filter metadata untuk objek, kualitas produksi, logo, atau tindakan menjadi sangat berharga. Model yang kami latih sangat bagus, tetapi ini adalah inovasi nyata yang mereka datang kepada kami.

Kami melatih model ini untuk membalik ekonomi unit teks bingkai, pelabelan, dan pencarian video. Memproses bingkai 1B dulunya berharga jutaan tetapi sekarang layak untuk tim yang bukan perusahaan terbesar. Kami melihat ini membuka perpustakaan video skala petabyte+, yang sebelumnya tidak mungkin untuk dicari, dikategorikan, atau diekstrak klipnya. Kami telah menerapkan model ini dalam skala internet dalam kemitraan dengan @grass. Jika Anda memiliki kasus penggunaan untuk model ini memotret, gunakan dm. Kami bergerak sangat cepat.