Saya baru saja membaca makalah baru ini yang benar-benar menghancurkan otak 🤯 saya Para peneliti menemukan cara mentransfer adaptor LoRA antara model AI yang sama sekali berbeda tanpa data pelatihan apa pun, dan ini bekerja lebih baik daripada metode yang membutuhkan kumpulan data besar. Ini disebut TITOK, dan inilah bagian liarnya: Alih-alih menyalin semuanya dari model sumber, mereka hanya mentransfer token yang benar-benar penting. Mereka melakukan ini dengan membandingkan model dengan dan tanpa LoRA untuk menemukan di mana adaptor menambah nilai nyata. Pikirkan seperti ini: jika model yang disetel Anda yakin tentang token tetapi model dasarnya tidak, token tersebut berisi pengetahuan yang ingin Anda transfer. Hasilnya gila: +8% lebih baik dari model vanilla +6% lebih baik daripada penyulingan pengetahuan tradisional +4,4% lebih baik dari TransLoRA Dan itu bekerja di seluruh skenario liar: → Mistral ke Llama (keluarga yang berbeda) → model 3B hingga 8B (ukuran berbeda) → Llama 2 hingga Llama 3 (versi berbeda) Keuntungan pembunuh? Tidak diperlukan model tambahan. TransLoRA memerlukan pelatihan diskriminator terpisah hanya untuk memfilter data sintetis. TITOK menggunakan model sumber itu sendiri untuk mengidentifikasi token penting. Bahkan lebih gila: mereka menangani tokenizer yang berbeda secara otomatis. Ketika model membagi teks secara berbeda, algoritme mereka menyelaraskan token dan menyebarkan skor kepentingan di seluruh celah. Ini bukan hanya akademis. Setiap kali model baru turun, adaptor Anda yang disetel dengan baik menjadi usang. TITOK berarti Anda dapat memigrasikan pengetahuan yang diperoleh dengan susah payah itu ke tulang punggung baru dalam beberapa jam, bukan berminggu-minggu. Kami baru saja beralih dari "setiap model membutuhkan adaptornya sendiri" menjadi "pengetahuan mengalir bebas antar model." ...