Je velmi dobré, že Anthropic neustoupil, a je pozoruhodné, že OpenAI zaujal podobný postoj.
V budoucnu přijde mnohem náročnější situace tohoto druhu a bude zásadní, aby se relevantní lídři postavili výzvě, aby tvrdí soupeři odložili své rozdíly stranou. Je fajn to dnes vidět.
Je nesmírně dobré, že Anthropic neustoupil, a je významné, že OpenAI nyní přijalo stejné podmínky.
V budoucnu přijde mnohem náročnější situace tohoto druhu a bude zásadní, aby se relevantní lídři postavili výzvě, aby tvrdí soupeři odložili své rozdíly stranou. Je fajn to dnes vidět.
Jedna věc, kterou jsem zmínil, ale nebyla jsem jasná:
- Škálování současného zařízení povede k dalším zlepšením. Zejména se nezdrží.
- Ale něco důležitého bude dál chybět.
Zde jsou nejdůležitější body z dnešního podcastu Ilya Sutskever:
- superinteligence za 5–20 let
- škálování proudu se prudce zastaví; Jsme zpět u skutečného výzkumu
- Superinteligence = superrychlý nepřetržitý student, nedokončený orákulum
- modely zobecňují 100krát hůře než lidé, největší blokátor AGI
- potřebuji zcela nový ML paradigmat (mám nápady, teď je nemůžu sdílet)
- Dopad AI bude tvrdě zasáhnout, ale až po ekonomické difúzi
- průlomy historicky téměř nevyžadovaly výpočetní výkon
- SSI má dostatek cíleného výzkumného výpočtu na úspěch
- současný RL už spotřebovává více výpočetní kapacity než předtrénink