Me desperté con una nueva imagen personal mía fusionándose con Torchtitan. Corrige una inestabilidad en la trunc_normal_ de la antorcha para bf16 que sesgó los pesos en la inicialización, lo que llevó a grandes activaciones y entrenamiento inestable.

Artículo interesante que hace que toda la trayectoria RL sea diferenciable, permitiendo la retropropagación a través del tiempo. Muestrean "tokens blandos", los devuelven al transformador y aplican una recompensa diferenciable sobre ellos. ¡Muy buen trabajo! 🔗

¡Artículo interesante! Aborda la divergencia logit en el entrenamiento de LLM con una solución sencilla: centrar las incrustaciones de salida restando su media. La teoría cuadra, ¡solución elegante y ordenada! 🔗