LLM に関連する純粋な数学 Q: 無関係なトークン ("dog" や "sun" など) は、埋め込み空間の直交ベクトルにほぼ対応する必要があります。 だから、R^kでは、最大番号は何ですか。ペアワイズ直交ベクトルの?それらが「ほぼ」直交しているだけなので、∣vi⋅vj∣<ε、∀ i≠j の場合はどうでしょうか?