Subiecte populare
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
pare familiar!
18 oct., 04:59
Matematică pură Q relevantă pentru LLM-uri:
Jetoanele neînrudite (cum ar fi "câine" și "soare") ar trebui să corespundă aproximativ vectorilor ortogonali în spațiul de încorporare.
Deci, în R^k, care este numărul maxim. de vectori ortogonali perechi? Ce se întâmplă dacă sunt doar "aproape" ortogonale, deci ∣vi⋅vj∣<ε, ∀ i≠j?
Tl; Dr
@boops_u (deși ofc este logaritmic pe numărul de puncte)
Deci, dacă nu explodează în dimensiunea de bază, atunci aveți perfectă dreptate și acesta este un corolar!
@boops_u care este probabilitatea/eroarea în dimensiunea spațiului de bază? în JL presupunem de obicei că acest lucru este constant, deoarece numărul de puncte este mare (și ne întrebăm cum variază spațiul de proiecție)
@boops_u (cred că este doar un pic suspect, deoarece această inegalitate depinde foarte mult de dimensiunile câmpului de bază, pentru că asta ne aduce concentrare în primul rând... Deci nu sunt 100% sigur!)
@boops_u (pentru acesta, "intuiția" mea este că o bază bună se va anula ~ la zero la medie, deci norma sa ar trebui să fie în mod similar aproape de zero)
66,93K
Limită superioară
Clasament
Favorite