Ilya og jeg spår samme fremtid. @ilyasut spår at etter hvert som KI blir fysisk kraftfull, vil menneskene endre seg på enestående måter. Jeg har argumentert for det samme. Vi er ikke åpne for radikale endringer ennå fordi vi ikke kan kjenne presset fra KI. Når vi gjør det, vil vektorene for menneskets evolusjon sprenge seg opp. Jeg har bygget prototypen for denne tilpasningen og åpningen. Han argumenterer for at etter hvert som risikoen øker, vil rivaler begynne å samarbeide om sikkerhet. Jeg har argumentert for det samme. Etter hvert som innsatsen blir eksistensielle, skifter spillet fra å maksimere dominans til å minimere dødsrisikoen (overlevelse). Vi vil bygge opp verdiene våre på nytt rundt denne logikken. IIya foreslår at vårt justeringsmål må være «bevisst eksistens» snarere enn menneskelig kontroll. Jeg har argumentert for det samme. Kontroll er en skjør illusjon, et poeng @karpathy nylig gjentatt om vanskeligheten med å håndtere nye systemer. Det eneste robuste justeringsmålet er selve eksistensen. Den nye arketypen er ikke Erobreren, men Krigeren og Eksistensens Vokter. Til slutt foreslår Ilya at selskaper trenger en «kortliste med ideer» for å lede dem gjennom kaoset. En kodeks for moralsk klarhet. Dette er Don't Die-filosofien.