RL-miljøer med åpen kildekode kan være den viktigste brikken for å sikre åpen kildekode-AGI

Jeg skal innrømme at jeg har et veldig spesifikt oppdrag i tankene med dette prosjektet. Den semi-vage private beta-utrullingen er en del av det. settet med oppgaver vi skaffer er en del av det. GPU-dusørene er en del av det. drittpostene er en del av det. Podcastene er en del av det. Mindshare er avgjørende her. La meg forklare. for tiden er mye av diskusjonen rundt RL-miljøer fokusert på denne nye bølgen av startups hvis forretningsmodell bygger og selger miljøer til et svært lite antall store laboratorier på eksklusiv basis. Mechanize er den høyeste, men det er en rekke av dem. I stedet for å bruke på instruksjonsjusteringsprøver og merknader, er laboratorier ivrige etter å kjøpe private miljøer som sin neste store forbruksressurs for modelltrening. Dette fenomenet er både en alvorlig risiko for utsiktene til at åpen kildekode-modeller forblir konkurransedyktige, så vel som en stor mulighet til å tippe vektskålen hvis vi kan flytte tyngdepunktet. Hvis gode miljøer er dyre og skjulte, vil åpen kildekode-modeller falle enda lenger bak. Dette er i hovedsak det som har skjedd med pretraining-data. Men hvis et tilstrekkelig robust økosystem av åpen kildekode-verktøy for miljøer og opplæring kan dukke opp, kan åpen kildekode-alternativet også være state-of-the-art. Dette er mer eller mindre hva som har skjedd med Pytorch. Å tippe vekten her er målet mitt. målet vårt. Jeg ble med i Prime Intellect fordi alle var vanvittig talentfulle, var jævla seriøse med oppdraget til åpen kildekode AGI for alle og ikke var redd for å si det, og fordi teamet hadde en enestående strukturell fordel som betydde at vi faktisk kunne ta noen virkelige svingninger. Vi selger databehandling. Vi bygger Infra for å forbedre hva du kan gjøre med den databehandlingen. Vi forsker på hvordan vi kan få databehandlingen til å fungere på nye måter. Vi trener større og bedre modeller. Vi har de rette insentivene til å gjøre det harde, nødvendige arbeidet. Disse bitene henger alle sammen. vi kan ikke gjøre det alene. ingen kan. Det vil ta startups og bedrifter og studenter og professorer over hele verden. Åpen forskning har for tiden ikke verktøyene til å studere spørsmålene som store laboratorier har ansett som mest avgjørende for fremtidig fremgang. Vi må finne en måte å bygge disse verktøyene på. Vi prøver å gjøre det enklere. Vi må alle bli flinkere til å jobbe sammen, til ikke å finne opp hjulet på nytt, til å sette sammen individuelle brikker til større puslespill. La oss ta det vi kollektivt har gjort så langt, rydde opp, få det til å fungere sammen, bringe flere mennesker inn i teltet og begynne å spille flere positivsumspill. hvis vi ikke kan finne bedre måter å jobbe sammen på, er vi på vei mot en AI-fremtid der vi kollektivt bare *ikke vet hva disse modellene er*, fordi teppet aldri løftes, og alt vi faktisk kan se er bare et leketøy. Det er en annen type selskap du kan bygge på dette området; en som fortsatt lar deg selge til de store laboratoriene, men ikke utelukkende; en som fortsatt lar deg ha dine forretningshemmelige vollgraver og skrive ut søt ARR, men som ikke gjør oss kollektivt mindre informert om fremtiden vi bygger. nettleserbase. markør. eksa. Modalt. Morph. og utallige andre. La oss gjøre flere av disse. du kan bygge et flott selskap ved å lage kraftige verktøy og seler for agenter som gjenspeiler oppgavene med høy verdi folk vil at modeller faktisk skal gjøre. Belast etter bruk med noen premium Enterprise-funksjoner. bygge den beste LLM-formede excel-klonen, eller figma-klonen, eller turbotax-klonen. endre det akkurat nok til å unngå et søksmål, og la deretter private kunder se den mer søksmålsrobuste versjonen. Nyt litt sunn konkurranse på arenaen, og finn måter å samarbeide på der det teller. finn din vinkel og vær så god at du kan selge til alle, enten det er for RL eller for faktisk bruk. Nå kritisk masse og vær så rimelig at det ikke er verdt det for noen å prøve å gjenoppbygge det du allerede har laget. Dette er tidslinjen jeg håper vi havner i. Det er en verden der de store laboratoriene fortsatt kan gjøre det bra, og vil sannsynligvis tilby de enkleste måtene å bruke litt mer på for å få forbedret generell ytelse. Men det er også en der åpen kildekode-modeller ikke er langt bak, og alle som bryr seg nok kan i utgangspunktet se hva som skjer og forstå hvordan modellene vi bruker faktisk blir trent. hvis du tenker på å starte eller bli med i et selskap med fokus på RL-miljøer, oppfordrer jeg deg til å tenke på hvilken tidslinje du implisitt satser på, og reflektere over hva du føler om det.

Jeg skal innrømme at jeg har et veldig spesifikt oppdrag i tankene med dette prosjektet. Den semi-vage private beta-utrullingen er en del av det. settet med oppgaver vi skaffer er en del av det. GPU-dusørene er en del av det. drittpostene er en del av det. Podcastene er en del av det. Mindshare er avgjørende her. La meg forklare. for tiden er mye av diskusjonen rundt RL-miljøer fokusert på denne nye bølgen av startups hvis forretningsmodell bygger og selger miljøer til et svært lite antall store laboratorier på eksklusiv basis. Mechanize er den høyeste, men det er en rekke av dem. I stedet for å bruke på instruksjonsjusteringsprøver og merknader, er laboratorier ivrige etter å kjøpe private miljøer som sin neste store forbruksressurs for modelltrening. Dette fenomenet er både en alvorlig risiko for utsiktene til at åpen kildekode-modeller forblir konkurransedyktige, så vel som en stor mulighet til å tippe vektskålen hvis vi kan flytte tyngdepunktet. Hvis gode miljøer er dyre og skjulte, vil åpen kildekode-modeller falle enda lenger bak. Dette er i hovedsak det som har skjedd med pretraining-data. Men hvis et tilstrekkelig robust økosystem av åpen kildekode-verktøy for miljøer og opplæring kan dukke opp, kan åpen kildekode-alternativet også være state-of-the-art. Dette er mer eller mindre hva som har skjedd med Pytorch. Å tippe vekten her er målet mitt. målet vårt. Jeg ble med i Prime Intellect fordi alle var vanvittig talentfulle, var jævla seriøse med oppdraget til åpen kildekode AGI for alle og ikke var redd for å si det, og fordi teamet hadde en enestående strukturell fordel som betydde at vi faktisk kunne ta noen virkelige svingninger. Vi selger databehandling. Vi bygger Infra for å forbedre hva du kan gjøre med den databehandlingen. Vi forsker på hvordan vi kan få databehandlingen til å fungere på nye måter. Vi trener større og bedre modeller. Vi har de rette insentivene til å gjøre det harde, nødvendige arbeidet. Disse bitene henger alle sammen. vi kan ikke gjøre det alene. ingen kan. Det vil ta startups og bedrifter og studenter og professorer over hele verden. Åpen forskning har for tiden ikke verktøyene til å studere spørsmålene som store laboratorier har ansett som mest avgjørende for fremtidig fremgang. Vi må finne en måte å bygge disse verktøyene på. Vi prøver å gjøre det enklere. Vi må alle bli flinkere til å jobbe sammen, til ikke å finne opp hjulet på nytt, til å sette sammen individuelle brikker til større puslespill. La oss ta det vi kollektivt har gjort så langt, rydde opp, få det til å fungere sammen, bringe flere mennesker inn i teltet og begynne å spille flere positivsumspill. Alt vi har bygget handler om å gjøre dette enklere. hvis vi ikke kan finne bedre måter å jobbe sammen på, er vi på vei mot en AI-fremtid der vi kollektivt bare *ikke vet hva disse modellene er*, fordi teppet aldri løftes, og alt vi faktisk kan se er bare et leketøy. Det er en annen type selskap du kan bygge på dette området; en som fortsatt lar deg selge til de store laboratoriene, men ikke utelukkende; en som fortsatt lar deg ha dine forretningshemmelige vollgraver og skrive ut søt ARR, men som ikke gjør oss kollektivt mindre informert om fremtiden vi bygger. nettleserbase. markør. eksa. Modalt. Morph. og utallige andre. La oss gjøre flere av disse. du kan bygge et flott selskap ved å lage kraftige verktøy og seler for agenter som gjenspeiler oppgavene med høy verdi folk vil at modeller faktisk skal gjøre. Belast etter bruk med noen premium Enterprise-funksjoner. bygge den beste LLM-formede excel-klonen, eller figma-klonen, eller turbotax-klonen. endre det akkurat nok til å unngå et søksmål, og la deretter private kunder se den mer søksmålsrobuste versjonen. Nyt litt sunn konkurranse på arenaen, og finn måter å samarbeide på der det teller. finn din vinkel og vær så god at du kan selge til alle, enten det er for RL eller for faktisk bruk. Nå kritisk masse og vær så rimelig at det ikke er verdt det for noen å prøve å gjenoppbygge det du allerede har laget. Dette er tidslinjen jeg håper vi havner i. Det er en verden der de store laboratoriene fortsatt kan gjøre det bra, og vil sannsynligvis tilby de enkleste måtene å bruke litt mer på for å få forbedret generell ytelse. Men det er også en der åpen kildekode-modeller ikke er langt bak, og alle som bryr seg nok kan i utgangspunktet se hva som skjer og forstå hvordan modellene vi bruker faktisk blir trent. hvis du tenker på å starte eller bli med i et selskap med fokus på RL-miljøer, oppfordrer jeg deg til å tenke på hvilken tidslinje du implisitt satser på, og reflektere over hva du føler om det.

Vil du bidra denne helgen til åpen kildekode AGI? Bli med å lage rl-miljøer ved hjelp av Ping @willccbb, @johannes_hage eller meg med det du vil bygge – vi sender deg tidlig tilgang til huben og en liste over dusører som miljøer kan bygge.

Har nettopp trykket min første @PrimeIntellect Environment - det er en logisk puslespillløser, sjekk den ut, la meg få vite hva du synes og la meg få vite hvilke andre miljøer du kanskje vil se, kanskje jeg vil sveive noen flere ut denne helgen.

føler at vi kanskje lager mat her. Tiden vil vise

Gi meg noen ideer gutter! hva slags kliniske og biomedisinske RL-oppgaver du alltid har ønsket å gjøre? Husk at mange medisinske oppgaver er lett verifiserbare, spesielt når det kommer til synet!

venner, kjære gjensidige – hvis du ønsker å tjene en god del GPU-kreditter denne helgen i bytte mot litt selvstendig agentutviklingsarbeid, vennligst spør DM-ene mine

@arcinstitute Virtual Cell Challenge: premier verdt opptil $100 000 for nøyaktig å forutsi cellulære responser på genetiske eller kjemiske forstyrrelser.

Registrer deg i dag for Virtual Cell Challenge og bruk AI til å løse et av biologiens mest komplekse problemer. Konkurransen ble annonsert i @CellCellPress, og arrangeres av Arc Institute og sponses av @nvidia, @10xGenomics og @UltimaGenomics.