Jobber meg gjennom et tidlig eksemplar av den nye boken av @ESYudkowsky og Nate Soares. Og her er en lenke Flere tanker/kontekst nedenfor:

Min artikkel for boken deres: «Mennesker er heldige som har Nate Soares og Eliezer Yudkowsky fordi de faktisk kan skrive. Som i, du vil føle faktiske følelser når du leser denne boken. Vi lever for tiden i den siste perioden av historien hvor vi er den dominerende arten. Vi har et kort tidsvindu til å ta beslutninger om fremtiden vår i lys av dette faktum. Noen ganger blir jeg distrahert og glemmer denne virkeligheten, helt til jeg støter på arbeidet til disse menneskene og blir minnet på at jeg er en idiot som vier livet mitt til noe annet enn dette spørsmålet. Dette er den nåværende fronten for både filosofi og politisk teori. Jeg sier ikke dette lettvint.»

Som mange av dere kan fortelle er jeg en dyp ai-optimist. Jeg flyttet til sf den andre ai begynte å poppe av en grunn, fordi det er min livslange lidenskap. Og jeg er spent på implikasjonene for medisin, fysikk, antikorrupsjon, overflod - you name it. Tro meg, min lidenskap for dette emnet har vært livslang og stammer fra et sted med kjærlighet, eventyr, nye sinn, transcendente ufattelige ideer og samfunnsmessige goder

Jeg tror jeg forvirrer alle med det som virker som min motstridende troskap til begge sider av dommedagsakselerasjonsbevegelsene og alt i mellom. Men det jeg egentlig ønsker er ikke bare en mer nyansert diskusjon der vi slutter å avskrive folk for en sprø idé eller to, fordi det å ri på den fine linjen mellom genialitet og galskap nesten er en forutsetning for å komme i nærheten av en dyp forståelse av de fulle implikasjonene av ai eller noe som ligner en forståelse av selve spillbrettet.

Alt jeg kan si med sikkerhet - er at jeg enten har hatt direkte dype samtaler med mange av de beste personene innen ai, eller prøvd å holde meg oppdatert på deres spådommer. Jeg legger også merke til en inkongruens med det som sies privat vs offentlig. En dyp visdom jeg finner fra disse medforfatterne er deres engasjement for problemene med denne usikkerheten og mangelen på enighet. Jeg tror ikke dette betyr at vi må være dommedagsprofeter eller akselerasjonister