Lucrez la o copie timpurie a noii cărți de @ESYudkowsky și Nate Soares. Și iată un link Mai multe gânduri/context mai jos:

Scrisul meu pentru cartea lor: "Oamenii sunt norocoși să-i aibă pe Nate Soares și Eliezer Yudkowsky pentru că chiar pot scrie. De exemplu, vei simți emoții reale când vei citi această carte. În prezent trăim în ultima perioadă a istoriei în care suntem specia dominantă. Avem o scurtă fereastră de timp pentru a lua decizii cu privire la viitorul nostru în lumina acestui fapt. Uneori sunt distras și uit de această realitate, până când mă lovesc de munca acestor oameni și îmi amintesc că sunt un prost să-mi dedic viața altceva în afară de această întrebare. Aceasta este avangarda actuală atât a filozofiei, cât și a teoriei politice. Nu spun asta cu ușurință."

După cum mulți dintre voi puteți spune, sunt un optimist profund AI. M-am mutat la SF în secunda în care ai a început să apară dintr-un motiv, pentru că este pasiunea mea de-o viață. Și sunt entuziasmat de implicațiile pentru medicină, fizică, anticorupție, abundență - orice altceva. Credeți-mă, pasiunea mea pentru acest subiect a fost de-a lungul vieții și provine dintr-un loc de iubire, aventură, minți noi, idei transcendente de neimaginat și bine social

Cred că încurc pe toată lumea prin ceea ce pare a fi loialitatea mea conflictuală față de ambele părți ale mișcărilor acceleraționiste doomer și tot ce se află între ele. Dar ceea ce caut nu este doar o discuție mai nuanțată în care să încetăm să mai ignorăm oamenii pentru o idee nebună sau două, deoarece călărind pe linia fină dintre geniu și nebunie este aproape o condiție prealabilă pentru a ajunge la o înțelegere profundă a implicațiilor complete ale inteligenței artificiale sau orice altceva care seamănă cu o înțelegere a tablei de joc reale.

Tot ce pot spune cu certitudine este că fie am avut conversații directe și profunde cu mulți dintre cei mai importanți oameni din inteligența artificială, fie am încercat să rămân la curent cu predicțiile lor. De asemenea, observ o incongruență cu ceea ce se spune în privat față de public. O înțelepciune profundă pe care o găsesc de la acești coautori este angajamentul lor față de problemele cu această incertitudine și lipsă de acord. Nu cred că asta înseamnă că trebuie să fim apocaliști sau acceleraționiști