Un'altra (piccola) cosa: presentazione di mxbai-colbert-edge-v0 17M e 32M.
Sono il risultato di un modo facilmente riproducibile per addestrare modelli ColBERT da zero.
Sono anche potenti: la variante 17M si posizionerebbe al primo posto nella classifica LongEmbed per modelli sotto 1B parametri.
Varianti di Proiezione Migliori Migliorano ColBERT
Introduciamo un raro pranzo gratis: una piccola modifica architettonica che migliora le prestazioni di ColBERT in tutti i settori, senza alcun vero compromesso.
La modifica? Proiezioni finali migliori rispetto alla proiezione lineare attualmente utilizzata.