Men det er en dyp fornektelse om krigens tåke med hensyn til fremtidig ai akkurat nå. Det ville være en dum tragedie hvis menneskets ego kom i veien for å ta strategiske beslutninger som tar hensyn til denne krigens tåke når vi ikke har råd til å kutte ut et så relevant aspekt av spillbrettet som vi alle vet at det eksisterer. Jeg synes noen veldig gode poenger er gjort i denne boken - punkter som mange ser ut til å ta personlig når de i virkeligheten bare er datapunkter som må vurderes. en god prosentandel av de store på dette feltet er her på grunn av MIRI og hva som helst - og nesten alle av oss har hatt både rett og feil. Nate og Eliezer sier noen ganger ting som virker sprø, men hvis vi ikke prøver ut eller i det minste hører, gjør sprø ideer faktisk en bjørnetjeneste for de potensielle resultatene. Få av ideene deres har noen gang føltes 100 % gale for meg, noen bare mindre sannsynlige enn andre Livet imiterer kunst, og jeg tror sci fi-tonen som kommer inn i noen av teoriene deres faktisk er relevant og ikke nødvendigvis noe å avvise