Czysta matematyka Q istotna dla LLM: Niepowiązane tokeny (jak "pies" i "słońce") powinny w przybliżeniu odpowiadać ortogonalnym wektorom w przestrzeni osadzeń. Więc, w ℝ^k, jaka jest maksymalna liczba par wektorów ortogonalnych? A co jeśli są tylko "prawie" ortogonalne, więc ∣vi⋅vj∣<ε, ∀ i≠j?