Jag var på ett evenemang om AI för vetenskap igår, en paneldiskussion här på NeurIPS. Paneldeltagarna diskuterade hur de planerar att ersätta människor på alla nivåer i den vetenskapliga processen. Så jag reste mig och protesterade mot att det de gör är ont. Se dig omkring, sa jag. Rummet är fyllt med forskare av olika slag, de flesta unga. De är här för att de älskar forskning och vill bidra till att främja mänsklig kunskap. Om du tar bort människan ur loopen, vilket betyder att människor inte längre har någon roll i vetenskaplig forskning, berövar du dem den aktivitet de älskar och en viktig källa till mening i deras liv. Och vi vill alla göra något meningsfullt. Varför, frågade jag, vill du ta möjligheten att bidra till vetenskapen ifrån oss? Min fråga förändrade panelens riktning och satte tonen för resten av diskussionen. Efteråt kom flera deltagare fram till mig, antingen för att tacka mig för att jag uttryckte sina känslor i ord, eller för att fråga om jag verkligen menade det jag sa. Så jag tänkte återkomma till frågan här. En av paneldeltagarna frågade om jag verkligen skulle föredra glädjen i att göra vetenskap framför att hitta ett botemedel mot cancer och möjliggöra odödlighet. Jag svarade att vi så småningom kommer att bota cancer och troligen någon gång kunna välja odödlighet. Vetenskapen gör redan stora framsteg med människor vid rodret. Vi kommer också att få fusionskraft och rymdresor någon dag. Kanske skulle det kunna påskyndas att utesluta människor ur loopen, men jag tror inte att det är värt det. Jag anser att det är av avgörande vikt att vi människor har kontroll över vår egen utveckling. Att utöka mänsklighetens kollektiva kunskap är, tror jag, det mest meningsfulla vi kan göra. Om människor inte längre kunde bidra meningsfullt till vetenskapen skulle detta vara en katastrof. Så nej. Jag tycker inte det är värt att hitta ett botemedel mot cancer snabbare om det betyder att vi aldrig kan göra vetenskap igen. Många av dem som kom fram för att prata med mig igår kväll, de som frågade om jag var seriös eller bara trollade, tyckte att premissen var absurd. Självklart skulle det alltid finnas plats för människor i vetenskapen. Det kommer alltid att finnas uppgifter som bara människor kan utföra, insikter som bara människor har, och så vidare. Därför bör vi välkomna AI. Forskning är svårt, och vi behöver all hjälp vi kan få. Jag svarade att jag hoppades att de hade rätt. Det vill säga, jag hoppas verkligen att det alltid kommer att finnas delar av forskningsprocessen som människor kommer att vara avgörande för. Men det jag argumenterade emot var inte det vi kan kalla "svag vetenskapsautomation", där människor håller sig med i viktiga roller, utan "stark vetenskaplig automation", där människor är överflödiga. Andra tyckte det var omoget att argumentera om detta, eftersom fullständig vetenskaplig automatisering inte är i sikte. Återigen, jag hoppas att de har rätt. Men jag ser ingen skada i att diskutera det nu. Och jag tror verkligen inte att vi behöver forskning om vetenskapsautomation för att gå längre. Ytterligare andra påpekade att detta var ett meningslöst argument. Vetenskapsautomatisering är på väg vare sig vi vill det eller inte, och vi får vänja oss vid det. Tåget kommer, och vi kan gå på det eller stå i vägen. Jag tycker att det är ett anmärkningsvärt fegt argument. Det är upp till oss som samhälle att bestämma hur vi använder den teknik vi utvecklar. Det är inget tåg, det är en lastbil, och vi borde ta ratten. En av paneldeltagarna gjorde en schackanalogi och hävdade att många spelar schack trots att datorer nu är mycket bättre än människor på schack. Så vi kan ägna oss åt vetenskap som en slags hobby, även om den verkliga vetenskapen utförs av datorer. Vi skulle leka långt från gränsen, kanske fylla i luckor som AI-systemen inte bryr sig om. Det var, milt uttryckt, inte ett tillfredsställande svar. Även om jag älskar spel, anser jag definitivt inte att spelande är lika meningsfullt som att främja mänsklig kunskap. Tack, men nej tack. Överlag var det dock slående att de flesta jag pratade med tackade mig för att jag tog upp poängen, eftersom jag uttryckte oro som de redan hade gjort. En av dem påpekade att om du arbetar med att automatisera vetenskap och inte ens är det minsta orolig för slutmålet är du en psykopat. Jag skulle tillägga att en annan möjlighet är att du egentligen inte tror på det du gör. Vissa kanske undrar varför jag framför detta argument om vetenskap och inte om till exempel bildkonst, musik eller speldesign. Det beror på att gårdagens evenemang handlade om AI för vetenskap. Men jag tror att samma argument gäller för alla områden av mänsklig kreativ och intellektuell uttrycksform. Att göra mänskligt intellektuellt eller kreativt arbete överflödigt är något vi bör undvika när vi kan, och vi bör absolut undvika det om det inte finns lika meningsfulla nya roller för människor att övergå till. Man skulle vidare kunna hävda att det är otroligt egoistiskt att arbeta med att utesluta människor från meningsfullt kreativt arbete som vetenskaplig forskning. Du får den intellektuella tillfredsställelsen av att uppfinna nya AI-metoder, men nästa generation får inte chansen att bidra. Varför vill du beröva dina barn (både akademiskt och biologiskt) chansen att delta i världens mest meningsfulla aktivitet? Så vad tror jag på, med tanke på att jag är en AI-forskare som aktivt arbetar med de AI-metoder som används för att automatisera vetenskap? Jag tror att AI-verktyg som hjälper oss att bli mer produktiva och kreativa är fantastiska, men att AI-verktyg som ersätter oss är dåliga. Jag älskar vetenskap, och jag är rädd för en framtid där vi pressas tillbaka till mörka medeltider eftersom vi inte längre kan bidra till vetenskapen. Mänsklig handlingskraft, även i kreativa processer, är avgörande och måste skyddas till nästan varje pris. Jag vet inte riktigt hur man styr AI-utveckling och AI-användning så att vi får nya verktyg men inte blir ersatta. Men jag vet att det är av största vikt.