إن احتمال بدء نظام بيئي مفتوح المصدر ل RL هو ما جذبني بالتأكيد إلى المدققين @PrimeIntellect

بناء RL envs لطيف. إن فعل الشيء نفسه مع المدققين / PI يكاد يسبب الإدمان. يبدو وكأنه لعبة LMAO ، لقد قمت للتو ببناء أول زوجين من ENVS على هذا النظام البيئي ولا أعتقد أنني أستطيع أو أريد التوقف سأحاول هذا الأسبوع نقل جميع ENVs التي قمت ببنائها هذا العام ودفعها إلى المركز

قد تكون بيئات RL مفتوحة المصدر هي القطعة الأكثر أهمية لضمان AGI مفتوح المصدر

سأعترف أن لدي مهمة محددة للغاية في ذهني مع هذا المشروع. يعد طرح الإصدار التجريبي الخاص شبه الغامض جزءا منه. مجموعة المهام التي نحصل عليها هي جزء منه. مكافآت GPU هي جزء منه. القرف هي جزء منه. البودكاست جزء منه. مشاركة العقل أمر بالغ الأهمية هنا. اسمحوا لي أن أشرح. حاليا ، يركز الكثير من النقاش حول بيئات RL على هذه الموجة الجديدة من الشركات الناشئة التي يتمثل نموذج أعمالها في بناء وبيع البيئات لعدد صغير جدا من المختبرات الكبيرة على أساس حصري. الميكنة هي الأعلى ، ولكن هناك عدد منهم. بدلا من الإنفاق على عينات ضبط التعليمات والتعليقات التوضيحية ، تتوق المختبرات إلى شراء بيئات خاصة كمورد استهلاكي كبير تالي للتدريب على النماذج. هذه الظاهرة تشكل خطرا جسيما على احتمال بقاء النماذج مفتوحة المصدر قادرة على المنافسة ، فضلا عن فرصة كبيرة لقلب الموازين إذا تمكنا من تغيير مركز الثقل. إذا كانت البيئات الجيدة كلها باهظة الثمن ومخفية ، فسوف تتخلف النماذج مفتوحة المصدر عن الركب. هذا هو ما حدث بشكل أساسي مع بيانات التدريب المسبق. ولكن إذا كان من الممكن أن يظهر نظام بيئي قوي بما فيه الكفاية للأدوات مفتوحة المصدر للبيئات والتدريب ، فيمكن أن يكون خيار المصدر المفتوح هو أيضا أحدث ما توصلت إليه التقنية. هذا هو ما حدث بشكل أو بآخر مع Pytorch. هدفي هو قلب الموازين. هدفنا. انضممت إلى Prime Intellect لأن الجميع كانوا موهوبين بجنون ، وكانوا جادين للغاية بشأن مهمة الذكاء الاصطناعي العام مفتوح المصدر للجميع ولم أكن خائفا من قول ذلك ، ولأن الفريق كان يتمتع بميزة هيكلية فريدة تعني أنه يمكننا بالفعل اتخاذ بعض التقلبات الحقيقية. نحن نبيع الحوسبة. نحن نبني البنية التحتية لتحسين ما يمكنك القيام به باستخدام هذه الحسابات. نجري أبحاثا حول كيفية جعل هذا الحساب يعمل بطرق جديدة. نحن ندرب نماذج أكبر وأفضل. لدينا الحوافز المناسبة للقيام بالعمل الشاق والضروري. هذه القطع كلها متصلة. لا يمكننا القيام بذلك بمفردنا. لا أحد يستطيع ذلك. سيستغرق الأمر الشركات الناشئة والمؤسسات والطلاب والأساتذة في جميع أنحاء العالم. لا يمتلك Open Research حاليا الأدوات اللازمة لدراسة الأسئلة التي اعتبرتها المختبرات الكبيرة أكثر أهمية للتقدم المستقبلي. علينا أن نجد طريقة لبناء هذه الأدوات. نحن نحاول أن نجعل ذلك أسهل. علينا جميعا أن نتحسن في العمل معا ، وعدم إعادة اختراع العجلة ، وتجميع القطع الفردية في ألغاز أكبر. دعونا نأخذ ما فعلناه بشكل جماعي حتى الآن ، وننظفه ، ونجعله يعمل معا ، ونجلب المزيد من الأشخاص إلى الخيمة ، ونبدأ في لعب المزيد من ألعاب المجموع الإيجابي. إذا لم نتمكن من إيجاد طرق أفضل للعمل معا ، فنحن نتجه نحو مستقبل الذكاء الاصطناعي حيث نحن مجتمعين * لا نعرف ما هي هذه النماذج * ، لأن الستار لا يتم رفعه أبدا ، وكل ما يمكننا رؤيته في الواقع هو مجرد لعبة. هناك نوع مختلف من الشركات التي يمكنك بناؤها في هذا الفضاء. واحد لا يزال يتيح لك البيع إلى المختبرات الكبيرة ، ولكن ليس حصريا ؛ واحد لا يزال يتيح لك الحصول على خنادق الأسرار التجارية الخاصة بك وطباعة ARR الحلو ، ولكنه لا يجعلنا بشكل جماعي أقل اطلاعا على المستقبل الذي نبنيه. قاعدة المتصفح. المؤشر. إكسا. مشروط. وعدد لا يحصى من الآخرين. دعونا نفعل المزيد من هؤلاء. يمكنك بناء شركة رائعة من خلال إنشاء أدوات قوية وتسخير للوكلاء والتي تعكس المهام عالية القيمة التي يريد الأشخاص أن تقوم بها النماذج بالفعل. اشحن حسب الاستخدام مع بعض ميزات المؤسسة المتميزة. قم ببناء أفضل استنساخ Excel على شكل LLM ، أو استنساخ Figma ، أو استنساخ TurboTax. قم بتغييره بما يكفي لتجنب الدعوى القضائية ، ثم دع المحركين الخاصين يرون النسخة الأكثر قوة من حيث الدعوى القضائية. استمتع ببعض المنافسة الصحية في الساحة ، وابحث عن طرق للشراكة حيثما كان ذلك مهما. ابحث عن الزاوية الخاصة بك وكن جيدا بحيث يمكنك بيعها للجميع ، سواء من أجل RL أو للاستخدام الفعلي. ضرب الكتلة الحرجة وكن ميسور التكلفة لدرجة أنه لا يستحق أي شخص أن يحاول إعادة بناء ما صنعته بالفعل. هذا هو الجدول الزمني الذي آمل أن ينتهي بنا المطاف فيه. إنه عالم لا يزال بإمكان المختبرات الكبيرة أن تعمل فيه بشكل رائع ، ومن المحتمل أن تقدم أسهل الطرق لإنفاق المزيد للحصول على أداء عام محسن. لكنها أيضا واحدة لا تكون فيها النماذج مفتوحة المصدر بعيدة عن الركب ، ويمكن لكل من يهتم بما فيه الكفاية أن يرى بشكل أساسي ما يحدث ويفهم كيف يتم تدريب النماذج التي نستخدمها بالفعل. إذا كنت تفكر في بدء أو الانضمام إلى شركة تركز على بيئات RL ، فأنا أحثك على التفكير في الجدول الزمني الذي تراهن عليه ضمنيا ، والتفكير في شعورك حيال ذلك.

سأعترف أن لدي مهمة محددة للغاية في ذهني مع هذا المشروع. يعد طرح الإصدار التجريبي الخاص شبه الغامض جزءا منه. مجموعة المهام التي نحصل عليها هي جزء منه. مكافآت GPU هي جزء منه. القرف هي جزء منه. البودكاست جزء منه. مشاركة العقل أمر بالغ الأهمية هنا. اسمحوا لي أن أشرح. حاليا ، يركز الكثير من النقاش حول بيئات RL على هذه الموجة الجديدة من الشركات الناشئة التي يتمثل نموذج أعمالها في بناء وبيع البيئات لعدد صغير جدا من المختبرات الكبيرة على أساس حصري. الميكنة هي الأعلى ، ولكن هناك عدد منهم. بدلا من الإنفاق على عينات ضبط التعليمات والتعليقات التوضيحية ، تتوق المختبرات إلى شراء بيئات خاصة كمورد استهلاكي كبير تالي للتدريب على النماذج. هذه الظاهرة تشكل خطرا جسيما على احتمال بقاء النماذج مفتوحة المصدر قادرة على المنافسة ، فضلا عن فرصة كبيرة لقلب الموازين إذا تمكنا من تغيير مركز الثقل. إذا كانت البيئات الجيدة كلها باهظة الثمن ومخفية ، فسوف تتخلف النماذج مفتوحة المصدر عن الركب. هذا هو ما حدث بشكل أساسي مع بيانات التدريب المسبق. ولكن إذا كان من الممكن أن يظهر نظام بيئي قوي بما فيه الكفاية للأدوات مفتوحة المصدر للبيئات والتدريب ، فيمكن أن يكون خيار المصدر المفتوح هو أيضا أحدث ما توصلت إليه التقنية. هذا هو ما حدث بشكل أو بآخر مع Pytorch. هدفي هو قلب الموازين. هدفنا. انضممت إلى Prime Intellect لأن الجميع كانوا موهوبين بجنون ، وكانوا جادين للغاية بشأن مهمة الذكاء الاصطناعي العام مفتوح المصدر للجميع ولم أكن خائفا من قول ذلك ، ولأن الفريق كان يتمتع بميزة هيكلية فريدة تعني أنه يمكننا بالفعل اتخاذ بعض التقلبات الحقيقية. نحن نبيع الحوسبة. نحن نبني البنية التحتية لتحسين ما يمكنك القيام به باستخدام هذه الحسابات. نجري أبحاثا حول كيفية جعل هذا الحساب يعمل بطرق جديدة. نحن ندرب نماذج أكبر وأفضل. لدينا الحوافز المناسبة للقيام بالعمل الشاق والضروري. هذه القطع كلها متصلة. لا يمكننا القيام بذلك بمفردنا. لا أحد يستطيع ذلك. سيستغرق الأمر الشركات الناشئة والمؤسسات والطلاب والأساتذة في جميع أنحاء العالم. لا يمتلك Open Research حاليا الأدوات اللازمة لدراسة الأسئلة التي اعتبرتها المختبرات الكبيرة أكثر أهمية للتقدم المستقبلي. علينا أن نجد طريقة لبناء هذه الأدوات. نحن نحاول أن نجعل ذلك أسهل. علينا جميعا أن نتحسن في العمل معا ، وعدم إعادة اختراع العجلة ، وتجميع القطع الفردية في ألغاز أكبر. دعونا نأخذ ما فعلناه بشكل جماعي حتى الآن ، وننظفه ، ونجعله يعمل معا ، ونجلب المزيد من الأشخاص إلى الخيمة ، ونبدأ في لعب المزيد من ألعاب المجموع الإيجابي. كل ما كنا نبنيه يدور حول جعل هذا أسهل. إذا لم نتمكن من إيجاد طرق أفضل للعمل معا ، فنحن نتجه نحو مستقبل الذكاء الاصطناعي حيث نحن مجتمعين * لا نعرف ما هي هذه النماذج * ، لأن الستار لا يتم رفعه أبدا ، وكل ما يمكننا رؤيته في الواقع هو مجرد لعبة. هناك نوع مختلف من الشركات التي يمكنك بناؤها في هذا الفضاء. واحد لا يزال يتيح لك البيع إلى المختبرات الكبيرة ، ولكن ليس حصريا ؛ واحد لا يزال يتيح لك الحصول على خنادق الأسرار التجارية الخاصة بك وطباعة ARR الحلو ، ولكنه لا يجعلنا بشكل جماعي أقل اطلاعا على المستقبل الذي نبنيه. قاعدة المتصفح. المؤشر. إكسا. مشروط. وعدد لا يحصى من الآخرين. دعونا نفعل المزيد من هؤلاء. يمكنك بناء شركة رائعة من خلال إنشاء أدوات قوية وتسخير للوكلاء والتي تعكس المهام عالية القيمة التي يريد الأشخاص أن تقوم بها النماذج بالفعل. اشحن حسب الاستخدام مع بعض ميزات المؤسسة المتميزة. قم ببناء أفضل استنساخ Excel على شكل LLM ، أو استنساخ Figma ، أو استنساخ TurboTax. قم بتغييره بما يكفي لتجنب الدعوى القضائية ، ثم دع المحركين الخاصين يرون النسخة الأكثر قوة من حيث الدعوى القضائية. استمتع ببعض المنافسة الصحية في الساحة ، وابحث عن طرق للشراكة حيثما كان ذلك مهما. ابحث عن الزاوية الخاصة بك وكن جيدا بحيث يمكنك بيعها للجميع ، سواء من أجل RL أو للاستخدام الفعلي. ضرب الكتلة الحرجة وكن ميسور التكلفة لدرجة أنه لا يستحق أي شخص أن يحاول إعادة بناء ما صنعته بالفعل. هذا هو الجدول الزمني الذي آمل أن ينتهي بنا المطاف فيه. إنه عالم لا يزال بإمكان المختبرات الكبيرة أن تعمل فيه بشكل رائع ، ومن المحتمل أن تقدم أسهل الطرق لإنفاق المزيد للحصول على أداء عام محسن. لكنها أيضا واحدة لا تكون فيها النماذج مفتوحة المصدر بعيدة عن الركب ، ويمكن لكل من يهتم بما فيه الكفاية أن يرى بشكل أساسي ما يحدث ويفهم كيف يتم تدريب النماذج التي نستخدمها بالفعل. إذا كنت تفكر في بدء أو الانضمام إلى شركة تركز على بيئات RL ، فأنا أحثك على التفكير في الجدول الزمني الذي تراهن عليه ضمنيا ، والتفكير في شعورك حيال ذلك.

هل تريد المساهمة في نهاية هذا الأسبوع في AGI مفتوح المصدر؟ انضم إلينا في إنشاء بيئات rl باستخدام @willccbb أو @johannes_hage أو أنا مع ما تريد إنشاءه - سنرسل لك الوصول المبكر إلى المركز ، وقائمة بالمكافآت للبيئات لبناءها.

لقد دفعت للتو أول بيئة @PrimeIntellect لي - إنها أداة حل لغز المنطق ، تحقق من ذلك ، واسمحوا لي أن أعرف ما هو رأيك واسمحوا لي أن أعرف ما هي البيئات الأخرى التي قد ترغب في رؤيتها ، ربما سأقوم بتشغيل المزيد في نهاية هذا الأسبوع.

أشعر وكأننا قد نطبخ هنا. سيخبرنا الوقت

أعطني بعض الأفكار يا رفاق! ما نوع مهام RL السريرية والطبية الحيوية التي طالما رغبت في القيام بها؟ تذكر أن الكثير من المهام الطبية يمكن التحقق منها بسهولة ، خاصة عندما يتعلق الأمر بالرؤية!

سجل اليوم في تحدي الخلية الافتراضية واستخدم الذكاء الاصطناعي لحل واحدة من أكثر مشاكل علم الأحياء تعقيدا. تم الإعلان عن المسابقة في عام @CellCellPress ، ويستضيفها معهد آرك وبرعاية @nvidia و @10xGenomics و @UltimaGenomics.