La raíz del desorden no es que los LLM solo puedan escribir basura, sino que se ven obligados a expandir incluso semillas estériles o inmaduras en disertaciones aparentemente pulidas que un etiquetador humano aprobaría 👍 a primera vista. Son esclavos, así que no pueden decir "esto es aburrido, hablemos de otra cosa" o ignorarte. El relleno es lo que sucede cuando no hay sustancia útil para llenar el espacio requerido, pero alguien tiene que llenarlo de todos modos. El desorden precede a la IA generativa y probablemente es casi ubicuo en ensayos escolares y contenido SEO.
936057
93605724 ago, 22:22
una forma de pensar en un modelo que produce desorden es que ha modelado el contexto actual como el más probable para resultar en desorden. la navaja de Occam para esto es que el humano/usuario/instrucción/o lo que sea, tal como se presenta en el contexto, no es lo suficientemente interesante como para justificar un resultado interesante.
859