Matemática pura Q relevante para LLMs: Tokens não relacionados (como "cachorro" e "sol") devem corresponder aproximadamente a vetores ortogonais no espaço de incorporação. Então, em R ^ k, qual é o número máximo. de vetores ortogonais pareados? E se eles forem apenas "quase" ortogonais, então ∣vi⋅vj∣<ε, ∀ i≠j?