Noch eine (kleine) Sache: Einführung von mxbai-colbert-edge-v0 17M und 32M.
Sie sind das Ergebnis einer leicht reproduzierbaren Methode, um ColBERT-Modelle von Grund auf zu trainieren.
Sie sind auch stark: Die 17M-Variante würde auf der LongEmbed-Rangliste für Modelle unter 1B Parametern den ersten Platz belegen.
Bessere Projektionsvarianten verbessern ColBERT
Wir stellen ein seltenes kostenloses Mittagessen vor: eine kleine architektonische Modifikation, die die Leistung von ColBERT in allen Bereichen verbessert, ohne echte Kompromisse einzugehen.
Die Modifikation? Bessere finale Projektionen als die derzeit verwendete lineare Projektion.