Ilya a já předpovídáme stejnou budoucnost. @ilyasut předpovídá, že jak AI získává viscerální sílu, lidé se změní bezprecedentními způsoby. Argumentoval jsem to samé. Nejsme zatím otevřeni radikálním změnám, protože necítíme tlak AI. Jakmile to uděláme, vektory lidské evoluce se otevřou. Prototyp této adaptace a otevření jsem stavěl. Tvrdí, že s rostoucím rizikem začnou soupeři spolupracovat na bezpečnosti. Argumentoval jsem to samé. Jak se sázky stávají existenčními, hra se přesouvá od maximalizace dominance k minimalizaci rizika smrti (přežití). Na této logice znovu vybudujeme naše hodnoty. IIya navrhuje, že naším cílem sladění musí být "inteligentní existence" spíše než lidská kontrola. Argumentoval jsem to samé. Kontrola je křehká iluze, což @karpathy nedávno zopakoval ohledně obtížnosti řízení vznikajících systémů. Jediným spolehlivým cílem zarovnání je samotná existence. Novým archetypem není Dobyvatel, ale Válečník a Správce existence. Nakonec Ilja navrhuje, že firmy potřebují "krátký seznam nápadů", který je provede chaosem. Kodex morální jasnosti. To je filozofie Neumírej.