Ieri am fost la un eveniment despre AI pentru știință, o discuție în panel aici, la NeurIPS. Paneliștii au discutat despre cum plănuiesc să înlocuiască oamenii la toate nivelurile în procesul științific. Așa că m-am ridicat și am protestat că ceea ce fac ei este rău. Uită-te în jur, ți-am spus. Camera este plină de cercetători de diverse feluri, majoritatea tineri. Ei sunt aici pentru că iubesc cercetarea și vor să contribuie la avansarea cunoașterii umane. Dacă scoți omul din buclă, ceea ce înseamnă că oamenii nu mai au niciun rol în cercetarea științifică, îl privezi de activitatea pe care o iubește și de o sursă cheie de sens în viața lor. Și toți vrem să facem ceva semnificativ. De ce, am întrebat, vrei să ne iei oportunitatea de a contribui la știință? Întrebarea mea a schimbat cursul panelului și a stabilit tonul pentru restul discuției. După aceea, mai mulți participanți au venit la mine, fie să-mi mulțumească pentru că am pus în cuvinte ceea ce au simțit, fie să mă întrebe dacă chiar am spus ce am spus. Așa că m-am gândit să revin la întrebare aici. Unul dintre paneliști m-a întrebat dacă aș prefera cu adevărat bucuria de a face știință în loc să găsesc un leac pentru cancer și să permită nemurirea. I-am răspuns că, în cele din urmă, vom vindeca cancerul și probabil la un moment dat vom putea alege nemurirea. Știința face deja progrese mari cu oamenii la cârmă. Vom avea și energie de fuziune și călătorii spațiale într-o zi. Poate că excluderea oamenilor din buclă ar accelera acest proces, dar nu cred că ar merita. Cred că este de o importanță crucială ca noi, oamenii, să ne controlăm propriul progres. Extinderea cunoașterii colective a umanității este, cred eu, cel mai semnificativ lucru pe care îl putem face. Dacă oamenii nu ar mai putea contribui util la știință, ar fi un dezastru. Deci, nu. Nu cred că merită să găsim un leac pentru cancer mai repede dacă asta înseamnă că nu vom mai putea face știință niciodată. Mulți dintre cei care au venit să vorbească cu mine aseară, cei care m-au întrebat dacă vorbesc serios sau doar trolling, au considerat premisa absurdă. Desigur, întotdeauna va exista loc pentru oameni în știință. Vor exista întotdeauna sarcini pe care doar oamenii le pot face, o înțelegere pe care doar oamenii o au, și așa mai departe. Prin urmare, ar trebui să primim cu brațele deschise AI-ul. Cercetarea este dificilă și avem nevoie de tot ajutorul posibil. I-am răspuns că speram că au dreptate. Adică, sper cu adevărat să existe întotdeauna părți ale procesului de cercetare pentru care oamenii vor fi esențiali. Dar ceea ce contestam nu era ceea ce am putea numi "automatizare slabă a științei", unde oamenii rămân implicați în roluri importante, ci "automatizarea științifică puternică", unde oamenii sunt redundanti. Alții au considerat că este imatur să se certe pe această temă, pentru că automatizarea științifică completă nu este la orizont. Din nou, sper că au dreptate. Dar nu văd nicio problemă în a discuta acum. Și cu siguranță nu cred că avem nevoie de cercetare în automatizarea științei pentru a merge mai departe. Alții au remarcat că acesta era un argument inutil. Automatizarea științei va veni, fie că vrem sau nu, și ar fi bine să ne obișnuim. Trenul vine și putem urca în el sau să-i stăm în cale. Cred că acesta este un argument remarcabil de laș. Depinde de noi, ca societate, să decidem cum folosim tehnologia pe care o dezvoltăm. Nu e un tren, e un camion, și mai bine luăm volanul. Unul dintre paneliști a făcut o analogie cu șahul, argumentând că mulți oameni joacă șah, deși calculatoarele sunt acum mult mai bune decât oamenii la șah. Astfel, am putea să ne implicăm în știință ca pe un fel de hobby, chiar dacă știința reală este făcută de calculatoare. Ne-am juca departe de frontieră, poate completând golurile pe care sistemele AI nu le interesează. Acesta era, ca să spunem blând, un răspuns deloc satisfăcător. Deși iubesc jocurile, cu siguranță nu consider că jocul este la fel de semnificativ ca avansarea cunoașterii umane. Mulțumesc, dar nu, mulțumesc. Per ansamblu, însă, a fost remarcabil faptul că majoritatea celor cu care am vorbit mi-au mulțumit că am ridicat subiectul, în timp ce mi-am exprimat îngrijorările pe care le aveau deja. Unul dintre ei a remarcat că dacă lucrezi la automatizarea științei și nu ești nici măcar puțin îngrijorat de scopul final, ești un psihopat. Aș adăuga că o altă posibilitate este că nu crezi cu adevărat în ceea ce faci. Unii s-ar putea întreba de ce susțin acest argument despre știință și nu, de exemplu, despre arta vizuală, muzică sau designul de jocuri. Asta pentru că evenimentul de ieri a fost despre AI pentru știință. Dar cred că același argument se aplică tuturor domeniilor expresiei creative și intelectuale umane. A face munca intelectuală sau creativă umană redundantă este ceva ce ar trebui să evităm când putem, și ar trebui să o evităm absolut dacă nu există roluri noi la fel de semnificative în care oamenii să poată face tranziția. S-ar putea argumenta, de asemenea, că a exclude oamenii din munca creativă semnificativă, cum ar fi cercetarea științifică, este incredibil de egoist. Primești satisfacția intelectuală de a inventa noi metode AI, dar generația următoare nu are șansa să contribuie. De ce vrei să le furi copiilor tăi (academici și biologici) șansa de a se implica în cea mai semnificativă activitate din lume? Deci, în ce cred eu, având în vedere că sunt cercetător în AI care lucrează activ la tipul de metode AI folosite pentru automatizarea științei? Cred că instrumentele AI care ne ajută să fim mai productivi și creativi sunt grozave, dar că instrumentele AI care ne înlocuiesc sunt rele. Iubesc știința și mi-e teamă de un viitor în care vom fi împinși înapoi în evul mediu pentru că nu vom mai putea contribui la știință. Agenția umană, inclusiv în procesele creative, este vitală și trebuie protejată aproape cu orice preț. Nu știu exact cum să direcționez dezvoltarea și utilizarea AI astfel încât să primim instrumente noi, dar să nu fie înlocuite. Dar știu că este de o importanță capitală.