تبدو مألوفة !
CreativeMath
CreativeMath‏18 أكتوبر، 04:59
الرياضيات البحتة Q ذات الصلة ب LLMs: يجب أن تتوافق الرموز غير ذات الصلة (مثل "" و "الشمس") تقريبا مع المتجهات المتعامدة في مساحة التضمين. لذا ، في R ^ k ، ما هو الحد الأقصى لا. من المتجهات المتعامدة الزوجية؟ ماذا لو كانت متعامدة "تقريبا" فقط ، لذا ∣vi⋅vj∣<ε ، ∀ i≠j؟
TL; د
@boops_u (على الرغم من أنه لوغاريتمي في عدد النقاط) لذلك إذا لم ينفجر في البعد الأساسي ، فأنت على حق تماما وهذه نتيجة طبيعية!
@boops_u مثل ما هو الاحتمال / الخطأ في بعد المساحة الأساسية؟ في JL ، عادة ما نفترض أن هذا ثابت لأن عدد النقاط كبير (ونسأل كيف تختلف مساحة الإسقاط)
@boops_u (أعتقد أنه من المشكوك فيه بعض الشيء أن هذا التفاوت يعتمد إلى حد كبير على أبعاد المجال الأساسي ، لأن هذا هو ما يجعلنا نركز في المقام الأول ... لذلك لست متأكدا بنسبة 100٪!)
@boops_u (بالنسبة لهذا ، فإن "حدسي" هو أن الأساس الجيد سوف يلغي ~ إلى الصفر على المتوسط ، لذلك يجب أن يكون معياره قريبا بالمثل من الصفر)
‏‎45.41‏K