Matematică pură Q relevantă pentru LLM-uri: Jetoanele neînrudite (cum ar fi "câine" și "soare") ar trebui să corespundă aproximativ vectorilor ortogonali în spațiul de încorporare. Deci, în R^k, care este numărul maxim. de vectori ortogonali perechi? Ce se întâmplă dacă sunt doar "aproape" ortogonale, deci ∣vi⋅vj∣<ε, ∀ i≠j?