Создание RL-окружений — это здорово. Делать то же самое с проверяющими/PI почти что затягивает. Чувствуется как игра, лол, я только что создал свои первые несколько окружений в этой экосистеме, и не думаю, что смогу или хочу остановиться. На этой неделе я собираюсь попробовать перенести все окружения, которые я создал в этом году, и загрузить их на хаб.

Открытые среды RL могут быть самым важным элементом для обеспечения открытого AGI.

Я признаюсь, у меня есть очень конкретная миссия в этом проекте. Полуразмытое частное бета-тестирование — это часть этого. Набор задач, которые мы собираем, — это часть этого. GPU-вознаграждения — это часть этого. Шитпосты — это часть этого. Подкасты — это часть этого. Важно завоевать умы. Позвольте мне объяснить. В настоящее время много обсуждений вокруг RL-окружений сосредоточено на новой волне стартапов, чья бизнес-модель заключается в создании и продаже окружений очень небольшому числу крупных лабораторий на эксклюзивной основе. Mechanize — самый громкий, но их много. Вместо того чтобы тратить деньги на образцы и аннотации для обучения, лаборатории стремятся купить частные окружения как свой следующий большой потребляемый ресурс для обучения моделей. Это явление представляет собой как серьезный риск для перспектив открытых моделей оставаться конкурентоспособными, так и большую возможность изменить ситуацию, если мы сможем сместить центр тяжести. Если хорошие окружения будут дорогими и скрытыми, открытые модели будут еще дальше отставать. Это, по сути, то, что произошло с данными для предварительного обучения. Но если сможет возникнуть достаточно надежная экосистема открытых инструментов для окружений и обучения, то открытый вариант также может стать передовым. Это более-менее то, что произошло с PyTorch. Изменить ситуацию — моя цель. Наша цель. Я присоединился к Prime Intellect, потому что все были безумно талантливы, были чертовски серьезны в отношении миссии открытого AGI для всех и не боялись это говорить, и потому что команда имела единственное структурное преимущество, которое означало, что мы действительно можем предпринять реальные шаги. Мы продаем вычисления. Мы строим инфраструктуру, чтобы улучшить то, что вы можете делать с этими вычислениями. Мы проводим исследования о том, как сделать так, чтобы эти вычисления взаимодействовали новыми способами. Мы обучаем более крупные и лучшие модели. У нас есть правильные стимулы для выполнения тяжелой, необходимой работы. Эти элементы все связаны. Мы не можем сделать это в одиночку. Никто не может. Это потребует стартапов, предприятий, студентов и профессоров по всему миру. Открытые исследования в настоящее время не имеют инструментов для изучения вопросов, которые крупные лаборатории сочли наиболее важными для будущего прогресса. Мы должны найти способ создать эти инструменты. Мы пытаемся сделать это проще. Нам всем нужно стать лучше в совместной работе, не изобретая колесо заново, собирая отдельные части в более крупные головоломки. Давайте возьмем то, что мы коллективно сделали до сих пор, приведем это в порядок, сделаем так, чтобы это работало вместе, привлечем больше людей в нашу команду и начнем играть в более позитивные игры. Если мы не сможем найти лучшие способы работать вместе, мы движемся к будущему ИИ, где мы коллективно просто *не знаем, что эти модели вообще собой представляют*, потому что занавес никогда не поднимается, и все, что мы можем на самом деле увидеть, — это просто игрушка. Существует другой тип компании, которую вы могли бы построить в этом пространстве; одна, которая все еще позволяет вам продавать крупным лабораториям, но не исключительно; одна, которая все еще позволяет вам иметь свои секреты и печатать сладкий ARR, но не делает нас коллективно менее информированными о будущем, которое мы строим. Browserbase. Cursor. Exa. Modal. Morph. И множество других. Давайте сделаем больше таких. Вы можете построить отличную компанию, создавая мощные инструменты и приспособления для агентов, которые отражают высокоценные задачи, которые люди хотят, чтобы модели действительно выполняли. Иметь элементы, которые открыты для свободного использования, и элементы, которые размещены за API. Брать плату за использование с некоторыми премиум-функциями для предприятий. Построить лучший клон Excel в форме LLM, или клон Figma, или клон TurboTax. Изменить это достаточно, чтобы избежать иска, а затем позволить частным клиентам увидеть более защищенную от исков версию. Наслаждайтесь здоровой конкуренцией на арене и находите способы партнерства там, где это важно. Найдите свой угол и будьте настолько хороши, чтобы продавать всем, будь то для RL или для фактического использования. Достигните критической массы и будьте настолько доступными, что никому не будет выгодно пытаться восстановить то, что вы уже сделали. Это временная шкала, в которой я надеюсь оказаться. Это мир, где крупные лаборатории все еще могут делать отличные вещи и, вероятно, предложат самые простые способы потратить немного больше, чтобы получить улучшенную общую производительность. Но это также мир, где открытые модели не отстают, и каждый, кто достаточно заботится, может в основном видеть, что происходит, и понимать, как на самом деле обучаются модели, которые мы используем. Если вы думаете о том, чтобы начать или присоединиться к компании, сосредоточенной на RL-окружениях, я призываю вас подумать о том, на какую временную шкалу вы неявно ставите ставку, и задуматься о том, как вы к этому относитесь.

Я признаюсь, у меня есть очень конкретная миссия в этом проекте. Полуразмытое частное бета-тестирование — это часть этого. Набор задач, которые мы собираем, — это часть этого. GPU-награды — это часть этого. Шитпосты — это часть этого. Подкасты — это часть этого. Важно завоевать умы. Позвольте мне объяснить. В настоящее время много обсуждений вокруг RL-окружений сосредоточено на новой волне стартапов, чья бизнес-модель заключается в создании и продаже окружений очень небольшому числу крупных лабораторий на эксклюзивной основе. Mechanize — самый громкий, но их много. Вместо того чтобы тратить деньги на образцы и аннотации для настройки инструкций, лаборатории стремятся купить частные окружения как свой следующий большой потребляемый ресурс для обучения моделей. Это явление представляет собой как серьезный риск для перспектив открытых моделей оставаться конкурентоспособными, так и большую возможность изменить ситуацию, если мы сможем сместить центр тяжести. Если хорошие окружения будут дорогими и скрытыми, открытые модели будут еще дальше отставать. Это, по сути, то, что произошло с данными для предварительного обучения. Но если сможет возникнуть достаточно надежная экосистема открытых инструментов для окружений и обучения, то открытый вариант также может стать передовым. Это более-менее то, что произошло с PyTorch. Изменить ситуацию — моя цель. Наша цель. Я присоединился к Prime Intellect, потому что все были безумно талантливы, были чертовски серьезны в отношении миссии открытого AGI для всех и не боялись это говорить, и потому что команда имела единственное структурное преимущество, которое означало, что мы действительно можем предпринять реальные шаги. Мы продаем вычисления. Мы строим инфраструктуру, чтобы улучшить то, что вы можете делать с этими вычислениями. Мы проводим исследования о том, как сделать так, чтобы эти вычисления взаимодействовали новыми способами. Мы обучаем более крупные и лучшие модели. У нас есть правильные стимулы для выполнения тяжелой, необходимой работы. Эти элементы все связаны. Мы не можем сделать это в одиночку. Никто не может. Это потребует стартапов, предприятий, студентов и профессоров по всему миру. Открытые исследования в настоящее время не имеют инструментов для изучения вопросов, которые крупные лаборатории сочли наиболее важными для будущего прогресса. Мы должны найти способ создать эти инструменты. Мы пытаемся сделать это проще. Нам всем нужно стать лучше в совместной работе, не изобретая колесо заново, собирая отдельные части в более крупные головоломки. Давайте возьмем то, что мы коллективно сделали до сих пор, приведем это в порядок, сделаем так, чтобы это работало вместе, привлечем больше людей в команду и начнем играть в более позитивные игры с суммами. Все, что мы строим, направлено на то, чтобы сделать это проще. Если мы не сможем найти лучшие способы работать вместе, мы движемся к будущему ИИ, где мы коллективно просто *не знаем, что эти модели вообще собой представляют*, потому что занавес никогда не поднимается, и все, что мы можем на самом деле увидеть, — это просто игрушка. Существует другой тип компании, которую вы могли бы построить в этой области; одна, которая все еще позволяет вам продавать крупным лабораториям, но не исключительно; одна, которая все еще позволяет вам иметь свои секреты и получать хороший ARR, но не делает нас коллективно менее информированными о будущем, которое мы строим. Browserbase. Cursor. Exa. Modal. Morph. И множество других. Давайте сделаем больше таких. Вы можете построить отличную компанию, создавая мощные инструменты и приспособления для агентов, которые отражают высокоценные задачи, которые люди хотят, чтобы модели действительно выполняли. Иметь элементы, которые открыты для свободного использования, и элементы, которые размещены за API. Брать плату за использование с некоторыми премиум-функциями для предприятий. Построить лучший клон Excel в форме LLM, или клон Figma, или клон TurboTax. Изменить это достаточно, чтобы избежать иска, а затем позволить частным клиентам увидеть более защищенную от исков версию. Наслаждайтесь здоровой конкуренцией на арене и находите способы партнерства там, где это важно. Найдите свой угол и будьте настолько хороши, чтобы продавать всем, будь то для RL или для фактического использования. Достигните критической массы и будьте настолько доступными, что никому не будет выгодно пытаться восстановить то, что вы уже сделали. Это временная шкала, в которой я надеюсь оказаться. Это мир, где крупные лаборатории все еще могут делать отличные вещи и, вероятно, предложат самые простые способы потратить немного больше, чтобы получить улучшенную общую производительность. Но это также мир, где открытые модели не отстают, и каждый, кто достаточно заботится, может в основном видеть, что происходит, и понимать, как на самом деле обучаются модели, которые мы используем. Если вы думаете о том, чтобы начать или присоединиться к компании, сосредоточенной на RL-окружениях, я призываю вас подумать о том, на какую временную шкалу вы неявно ставите ставку, и задуматься о том, как вы к этому относитесь.

Хотите внести свой вклад в открытый AGI в эти выходные? Присоединяйтесь к нам в создании rl-окружений, используя Напишите @willccbb, @johannes_hage или мне о том, что вы хотите построить - мы отправим вам ранний доступ к хабу и список вознаграждений за окружения, которые нужно создать.

Только что запустил свою первую среду @PrimeIntellect - это решатель логических головоломок, посмотрите и дайте знать, что вы думаете, и сообщите, какие другие среды вы хотели бы увидеть, возможно, я создам еще несколько на этих выходных.

чувствую, что мы можем что-то замышлять. время покажет

дайте мне несколько идей, ребята! какие клинические и биомедицинские задачи с использованием RL вы всегда хотели бы выполнить? помните, что многие медицинские задачи легко проверяемы, особенно когда дело касается визуализации!

The @arcinstitute Virtual Cell Challenge: призы стоимостью до 100 000 долларов США за точное прогнозирование клеточных реакций на генетические или химические возмущения.

Зарегистрируйтесь сегодня на Виртуальный Челлендж Клетки и используйте ИИ для решения одной из самых сложных проблем биологии. Объявлено в @CellCellPress, конкурс организован Arc Institute и спонсируется @nvidia, @10xGenomics и @UltimaGenomics.