Ilya ja minä ennustamme samaa tulevaisuutta. @ilyasut ennustaa, että kun tekoälystä tulee voimakas voima, ihmiset muuttuvat ennennäkemättömillä tavoilla. Olen väitellyt samaa. Emme ole vielä avoimia radikaaleille muutoksille, koska emme tunne tekoälyn painetta. Kun onnistumme, ihmisen evoluution vektorit räjähtävät auki. Olen rakentanut tämän sovituksen ja avauksen prototyyppiä. Hän väittää, että riskin kasvaessa kilpailijat alkavat tehdä yhteistyötä turvallisuuden suhteen. Olen väittänyt samaa. Kun panokset muuttuvat eksistentiaalisiksi, peli siirtyy dominanssin maksimoinnista kuoleman riskin (selviytymisen) minimoimiseen. Rakennamme arvomme uudelleen tämän logiikan ympärille. IIya ehdottaa, että suuntautumistavoitteemme täytyy olla "tietoinen olemassaolo" eikä ihmisen hallinta. Olen väittänyt samaa. Ohjaus on hauras illuusio, mikä on äskettäin toistettu @karpathy esiin nousevien järjestelmien hallinnan vaikeudesta. Ainoa vahva kohdistuskohde on itse olemassaolo. Uusi arkkityyppi ei ole Valloittaja, vaan Olemassaolon Soturi ja Hoitaja. Lopuksi Ilya ehdottaa, että yritykset tarvitsevat "lyhyen idealistan" ohjaamaan heitä kaaoksen läpi. Moraalisen selkeyden koodi. Tämä on Don't Die -filosofia.