perspektywa uruchomienia ekosystemu open source dla RL z pewnością przyciągnęła mnie do weryfikatorów i @PrimeIntellect

Tworzenie środowisk RL jest fajne. Robienie tego samego z weryfikatorami/PI jest prawie uzależniające. Czuję się jak w grze, lol, właśnie zbudowałem swoje pierwsze kilka środowisk w tym ekosystemie i nie sądzę, żebym mógł lub chciał przestać. W tym tygodniu spróbuję przenieść wszystkie środowiska, które zbudowałem w tym roku, i wrzucić je do hubu.

otwarte środowiska RL mogą być najważniejszym elementem zapewniającym otwartą AGI

Przyznam, że mam na myśli bardzo konkretną misję związaną z tym projektem. Wprowadzenie pół-wyraźnej wersji beta jest częścią tego. Zestaw zadań, które pozyskujemy, jest częścią tego. Nagrody za GPU są częścią tego. Shitposty są częścią tego. Podcasty są częścią tego. Współdzielenie myśli jest tutaj kluczowe. Pozwól, że wyjaśnię. Obecnie wiele dyskusji na temat środowisk RL koncentruje się na tej nowej fali startupów, których model biznesowy polega na budowaniu i sprzedaży środowisk bardzo małej liczbie dużych laboratoriów na zasadzie wyłączności. Mechanize jest najgłośniejszy, ale jest ich wiele. Zamiast wydawać na próbki dostosowywania instrukcji i adnotacje, laboratoria są chętne do zakupu prywatnych środowisk jako swojego następnego dużego zasobu do treningu modeli. To zjawisko stanowi zarówno poważne ryzyko dla perspektywy utrzymania konkurencyjności modeli open-source, jak i dużą szansę na przechylenie szali, jeśli uda nam się przesunąć środek ciężkości. Jeśli dobre środowiska będą drogie i ukryte, modele open-source będą jeszcze bardziej w tyle. To zasadniczo to, co wydarzyło się z danymi do wstępnego treningu. Ale jeśli uda się stworzyć wystarczająco solidny ekosystem narzędzi open-source dla środowisk i treningu, to opcja open-source może również stać się najlepsza w swojej klasie. To mniej więcej to, co wydarzyło się z pytorchem. Przechylenie szali jest moim celem. Naszym celem. Dołączyłem do Prime Intellect, ponieważ wszyscy byli niesamowicie utalentowani, byli cholernie poważni w kwestii misji open-source AGI dla wszystkich i nie bali się tego powiedzieć, a także dlatego, że zespół miał jedną strukturalną przewagę, która oznaczała, że mogliśmy naprawdę podjąć jakieś realne wyzwania. Sprzedajemy moc obliczeniową. Budujemy infrastrukturę, aby poprawić to, co można zrobić z tą mocą obliczeniową. Prowadzimy badania nad tym, jak sprawić, by ta moc obliczeniowa współdziałała w nowych sposób. Trenujemy większe i lepsze modele. Mamy odpowiednie zachęty, aby wykonać trudną, niezbędną pracę. Te elementy są ze sobą powiązane. Nie możemy tego zrobić sami. Nikt nie może. Będzie to wymagało startupów, przedsiębiorstw, studentów i profesorów z całego świata. Otwarte badania obecnie nie mają narzędzi do badania pytań, które duże laboratoria uznały za najważniejsze dla przyszłego postępu. Musimy znaleźć sposób na zbudowanie tych narzędzi. Staramy się to ułatwić. Wszyscy musimy stać się lepsi w pracy razem, w nieodtwarzaniu koła, w składaniu poszczególnych elementów w większe układanki. Weźmy to, co wspólnie zrobiliśmy do tej pory, uporządkujmy to, sprawmy, by działało razem, wciągnijmy więcej ludzi do naszego grona i zacznijmy grać w bardziej pozytywne gry. Jeśli nie znajdziemy lepszych sposobów na współpracę, zmierzamy w kierunku przyszłości AI, w której wspólnie po prostu *nie wiemy, czym te modele są*, ponieważ zasłona nigdy nie zostanie podniesiona, a wszystko, co możemy zobaczyć, to tylko zabawka. Można zbudować inny typ firmy w tej przestrzeni; taką, która nadal pozwala sprzedawać dużym laboratoriom, ale nie wyłącznie; taką, która nadal pozwala mieć swoje tajemnice handlowe i generować przychody, ale nie sprawia, że wspólnie jesteśmy mniej poinformowani o przyszłości, którą budujemy. Browserbase. Cursor. Exa. Modal. Morph. I niezliczone inne. Zróbmy więcej takich. Możesz zbudować świetną firmę, tworząc potężne narzędzia i systemy dla agentów, które odzwierciedlają wysokowartościowe zadania, które ludzie chcą, aby modele faktycznie wykonywały. Miej elementy, które są otwarte do swobodnego wypróbowania, oraz elementy, które są hostowane za API. Pobieraj opłaty za użycie z dodatkowymi funkcjami dla przedsiębiorstw. Zbuduj najlepszy klon excela w kształcie LLM, lub klon figmy, lub klon turbotax. Zmień to na tyle, aby uniknąć pozwu, a następnie pozwól prywatnym klientom zobaczyć bardziej odporną na pozwy wersję. Ciesz się zdrową konkurencją na arenie i znajdź sposoby na partnerstwo tam, gdzie to ma znaczenie. Znajdź swój kąt i bądź na tyle dobry, aby móc sprzedawać wszystkim, czy to dla RL, czy dla rzeczywistego użycia. Osiągnij masę krytyczną i bądź na tyle przystępny, że nikt nie będzie próbował odbudować tego, co już stworzyłeś. To jest oś czasu, w której mam nadzieję, że się znajdziemy. To świat, w którym duże laboratoria nadal mogą dobrze prosperować i prawdopodobnie będą oferować najłatwiejsze sposoby na wydanie trochę więcej, aby uzyskać lepszą ogólną wydajność. Ale to także taki, w którym modele open-source nie są daleko w tyle, a każdy, kto się tym przejmuje, może zasadniczo zobaczyć, co się dzieje i zrozumieć, jak modele, których używamy, są faktycznie trenowane. Jeśli myślisz o rozpoczęciu lub dołączeniu do firmy skoncentrowanej na środowiskach RL, zachęcam cię do zastanowienia się, na którą oś czasu implicitnie stawiasz, i refleksji nad tym, jak się z tym czujesz.

Przyznam, że mam na myśli bardzo konkretną misję związaną z tym projektem. Wprowadzenie pół-wyraźnej wersji beta jest częścią tego. Zestaw zadań, które pozyskujemy, jest częścią tego. Nagrody za GPU są częścią tego. Shitposty są częścią tego. Podcasty są częścią tego. Zrozumienie jest tutaj kluczowe. Pozwól, że wyjaśnię. Obecnie wiele dyskusji na temat środowisk RL koncentruje się na tej nowej fali startupów, których model biznesowy polega na budowaniu i sprzedaży środowisk bardzo małej liczbie dużych laboratoriów na zasadzie wyłączności. Mechanize jest najgłośniejszy, ale jest ich wiele. Zamiast wydawać na próbki dostosowywania instrukcji i adnotacje, laboratoria są chętne do zakupu prywatnych środowisk jako swojego następnego dużego zasobu do treningu modeli. To zjawisko stanowi zarówno poważne ryzyko dla perspektywy utrzymania konkurencyjności modeli open-source, jak i dużą szansę na przechylenie szali, jeśli uda nam się przesunąć środek ciężkości. Jeśli dobre środowiska są drogie i ukryte, modele open-source będą jeszcze bardziej w tyle. To zasadniczo to, co wydarzyło się z danymi do wstępnego treningu. Ale jeśli uda się stworzyć wystarczająco solidny ekosystem narzędzi open-source do środowisk i treningu, to opcja open-source może również stać się najlepsza w swojej klasie. To mniej więcej to, co wydarzyło się z pytorch. Przechylenie szali jest moim celem. Naszym celem. Dołączyłem do Prime Intellect, ponieważ wszyscy byli niesamowicie utalentowani, byli cholernie poważni w kwestii misji open-source AGI dla wszystkich i nie bali się tego powiedzieć, a także dlatego, że zespół miał jedną strukturalną przewagę, która oznaczała, że mogliśmy naprawdę podjąć jakieś realne wyzwania. Sprzedajemy moc obliczeniową. Budujemy infrastrukturę, aby poprawić to, co można zrobić z tą mocą obliczeniową. Prowadzimy badania nad tym, jak sprawić, by ta moc obliczeniowa współdziałała w nowych sposób. Trenujemy większe i lepsze modele. Mamy odpowiednie zachęty, aby wykonać trudną, niezbędną pracę. Te elementy są ze sobą powiązane. Nie możemy tego zrobić sami. Nikt nie może. Będzie to wymagało startupów, przedsiębiorstw, studentów i profesorów z całego świata. Otwarte badania obecnie nie mają narzędzi do badania pytań, które duże laboratoria uznały za najważniejsze dla przyszłego postępu. Musimy znaleźć sposób na zbudowanie tych narzędzi. Staramy się to ułatwić. Wszyscy musimy stać się lepsi w pracy razem, w nieodtwarzaniu koła, w składaniu poszczególnych elementów w większe układanki. Weźmy to, co dotychczas wspólnie zrobiliśmy, uporządkujmy to, sprawmy, by działało razem, wciągnijmy więcej ludzi do naszego grona i zacznijmy grać w bardziej pozytywne gry. Wszystko, co budujemy, ma na celu ułatwienie tego. Jeśli nie znajdziemy lepszych sposobów na współpracę, zmierzamy w kierunku przyszłości AI, w której wspólnie po prostu *nie wiemy, czym te modele są*, ponieważ zasłona nigdy nie zostanie podniesiona, a wszystko, co możemy zobaczyć, to tylko zabawka. Można zbudować inny typ firmy w tej przestrzeni; taką, która nadal pozwala sprzedawać dużym laboratoriom, ale nie wyłącznie; taką, która nadal pozwala mieć swoje tajemnice handlowe i generować przychody ARR, ale nie sprawia, że jesteśmy wspólnie mniej poinformowani o przyszłości, którą budujemy. browserbase. cursor. exa. modal. morph. i niezliczone inne. Zróbmy więcej takich. Możesz zbudować świetną firmę, tworząc potężne narzędzia i systemy dla agentów, które odzwierciedlają wysokowartościowe zadania, które ludzie chcą, aby modele faktycznie wykonywały. Miej elementy, które są otwarte do swobodnego wypróbowania, oraz elementy, które są hostowane za API. Pobieraj opłaty za użycie z dodatkowymi funkcjami dla przedsiębiorstw. Zbuduj najlepszy klon excela w kształcie LLM, lub klon figmy, lub klon turbotaxa. Zmień to na tyle, aby uniknąć pozwu, a następnie pozwól prywatnym klientom zobaczyć bardziej odporną na pozwy wersję. Ciesz się zdrową konkurencją na arenie i znajdź sposoby na współpracę tam, gdzie to ma znaczenie. Znajdź swój kąt i bądź na tyle dobry, aby móc sprzedawać wszystkim, czy to dla RL, czy dla rzeczywistego użycia. Osiągnij masę krytyczną i bądź na tyle przystępny, że nikt nie będzie próbował odbudować tego, co już stworzyłeś. To jest oś czasu, w której mam nadzieję, że się znajdziemy. To świat, w którym duże laboratoria nadal mogą odnosić sukcesy i prawdopodobnie będą oferować najłatwiejsze sposoby na wydanie trochę więcej, aby uzyskać lepszą ogólną wydajność. Ale to także świat, w którym modele open-source nie są daleko w tyle, a każdy, kto się tym przejmuje, może zasadniczo zobaczyć, co się dzieje i zrozumieć, jak modele, których używamy, są faktycznie trenowane. Jeśli myślisz o rozpoczęciu lub dołączeniu do firmy skoncentrowanej na środowiskach RL, zachęcam cię do zastanowienia się, na którą oś czasu implicitnie stawiasz, i refleksji nad tym, jak się z tym czujesz.

Chcesz w ten weekend przyczynić się do otwartego źródła AGI? Dołącz do nas w tworzeniu środowisk RL używając Napisz do @willccbb, @johannes_hage lub do mnie z tym, co chcesz zbudować - wyślemy ci wczesny dostęp do hubu oraz listę nagród za środowiska do zbudowania.

Właśnie opublikowałem moje pierwsze środowisko @PrimeIntellect - to rozwiązywacz łamigłówek logicznych, sprawdź to, daj znać, co o tym myślisz i powiedz, jakie inne środowiska chciałbyś zobaczyć, może w ten weekend stworzę jeszcze kilka.

czuję, że możemy coś z tego ugotować. czas pokaże

dajcie mi kilka pomysłów, koledzy! jakie zadania z zakresu RL w klinice i biomedycynie zawsze chcieliście zrealizować? pamiętajcie, że wiele zadań medycznych jest łatwych do weryfikacji, szczególnie jeśli chodzi o wizję!

Zarejestruj się dzisiaj na Wirtualne Wyzwanie Komórkowe i wykorzystaj AI do rozwiązania jednego z najbardziej złożonych problemów biologii. Ogłoszone w @CellCellPress, zawody są organizowane przez Arc Institute i sponsorowane przez @nvidia, @10xGenomics oraz @UltimaGenomics.