Sunt profund în AI (Machine Learning atunci...) din 2007. a studiat învățarea automată în SUA, a citit majoritatea cărților, a ascultat fiecare podcast. Nimic nu m-a șocat mai mult decât recenta carte + interviu a lui Roman Yampolskiy. 🧵

Părerea sa este rară + profundă: construirea superinteligenței artificiale (ASI) nu este doar riscantă, ci este practic extincția garantată.

capacitatea este rezolvată (calcul + date = inteligență artificială mai inteligentă). siguranța nu este rezolvată. iar diferența dintre cele două crește pe zi ce trece.

Predicția Markets + Lab Liderii spun că AGI ar putea ajunge până în 2027. Superinteligența probabil urmează automat. Nu suntem pregătiți.

Roman prezice nu 10% șomaj, ci aproape total (>99%+). atât munca cognitivă cât și cea fizică au fost înlocuite. Recalificarea nu va ajuta dacă toate locurile de muncă sunt automatizabile.

"balustradele" sunt pansamente. sistemele mai inteligente se direcționează în jurul lor. Deconectarea? fantezie. Nu scoți din priză ceva care te depășește pe tine, îl trage pe al tău.

Riscul de dispariție nici măcar nu are nevoie de ASI. Biografia asistată de inteligență artificială ar putea oferi unui actor rău instrumente pentru daune la scară civilizație.

Dinamica cursei este ruptă: odată ce ASI este activat, nu contează cine l-a construit. ambele părți pierd.

Chemarea lui Roman: Pauză Asi. Păstrați AI îngust pentru probleme reale. Nu mai urmări sisteme "divine" pe care nu le putem alinia sau controla.