Ik was gisteren op een evenement over AI voor wetenschap, een paneldiscussie hier op NeurIPS. De panelleden bespraken hoe ze van plan zijn om mensen op alle niveaus in het wetenschappelijke proces te vervangen. Dus stond ik op en protesteerde dat wat ze doen kwaad is. Kijk om je heen, zei ik. De kamer is gevuld met onderzoekers van verschillende soorten, de meesten van hen zijn jong. Ze zijn hier omdat ze van onderzoek houden en willen bijdragen aan de vooruitgang van de menselijke kennis. Als je de mens uit de lus haalt, wat betekent dat mensen geen rol meer hebben in wetenschappelijk onderzoek, ontneem je hen de activiteit waar ze van houden en een belangrijke bron van betekenis in hun leven. En we willen allemaal iets betekenisvols doen. Waarom, vroeg ik, willen jullie de kans om bij te dragen aan de wetenschap van ons afnemen? Mijn vraag veranderde de loop van het panel en zette de toon voor de rest van de discussie. Daarna kwamen een aantal aanwezigen naar me toe, of om me te bedanken dat ik verwoordde wat zij voelden, of om te vragen of ik echt meende wat ik zei. Dus dacht ik dat ik de vraag hier zou herhalen. Een van de panelleden vroeg of ik echt de vreugde van het doen van wetenschap zou verkiezen boven het vinden van een genezing voor kanker en het mogelijk maken van onsterfelijkheid. Ik antwoordde dat we uiteindelijk kanker zullen genezen en op een gegeven moment waarschijnlijk in staat zullen zijn om onsterfelijkheid te kiezen. De wetenschap maakt al grote vooruitgang met mensen aan het roer. We zullen op een dag ook fusiekracht en ruimtevaart krijgen. Misschien zou het uitsluiten van mensen uit de lus dit proces kunnen versnellen, maar ik denk niet dat het de moeite waard zou zijn. Ik denk dat het van cruciaal belang is dat wij mensen de leiding hebben over onze eigen vooruitgang. Het uitbreiden van de collectieve kennis van de mensheid is, denk ik, het meest betekenisvolle dat we kunnen doen. Als mensen niet meer nuttig kunnen bijdragen aan de wetenschap, zou dat een ramp zijn. Dus, nee. Ik denk niet dat het de moeite waard is om sneller een genezing voor kanker te vinden als dat betekent dat we nooit meer wetenschap kunnen doen. Veel van degenen die gisteravond met me kwamen praten, degenen die me vroegen of ik serieus was of gewoon aan het trollen, vonden dat de premisse absurd was. Natuurlijk zou er altijd ruimte zijn voor mensen in de wetenschap. Er zullen altijd taken zijn die alleen mensen kunnen doen, inzichten die alleen mensen hebben, enzovoort. Daarom zouden we AI moeten verwelkomen. Onderzoek is moeilijk, en we hebben alle hulp nodig die we kunnen krijgen. Ik antwoordde dat ik hoopte dat ze gelijk hadden. Dat wil zeggen, ik hoop echt dat er altijd delen van het onderzoeksproces zullen zijn waarvoor mensen essentieel zullen zijn. Maar waar ik tegen argumenteerde was niet wat we "zwakke wetenschap automatisering" zouden kunnen noemen, waarbij mensen in belangrijke rollen in de lus blijven, maar "sterke wetenschap automatisering", waarbij mensen overbodig zijn. Anderen vonden het immatuur om hierover te discussiëren, omdat volledige wetenschap automatisering niet in het verschiet ligt. Nogmaals, ik hoop dat ze gelijk hebben. Maar ik zie geen kwaad in het er nu over discussiëren. En ik denk zeker niet dat we onderzoek naar wetenschap automatisering verder moeten laten gaan. Weer anderen merkten op dat dit een zinloze discussie was. Wetenschap automatisering komt eraan, of we het nu willen of niet, en we kunnen maar beter eraan wennen. De trein komt eraan, en we kunnen erop stappen of in de weg staan. Ik vind dat een opmerkelijk laffe argumentatie. Het is aan ons als samenleving om te beslissen hoe we de technologie die we ontwikkelen gebruiken. Het is geen trein, het is een vrachtwagen, en we kunnen maar beter het stuur grijpen. Een van de panelleden maakte een schaakanalogie, waarbij hij betoogde dat veel mensen schaken, ook al zijn computers nu veel beter dan mensen in schaken. Dus zouden we ons met wetenschap kunnen bezighouden als een soort hobby, ook al wordt de echte wetenschap door computers gedaan. We zouden ver van de grens aan het spelen zijn, misschien de leemtes invullen waar AI-systemen niet om geven. Dat was, om het voorzichtig te zeggen, geen bevredigend antwoord. Hoewel ik van spellen hou, beschouw ik spelletjes zeker niet als betekenisvoller dan het bevorderen van menselijke kennis. Dank u, maar nee bedankt. Over het algemeen was het echter opvallend dat de meesten van degenen met wie ik sprak, me bedankten voor het aankaarten van het punt, omdat ik zorgen verwoordde die zij al hadden. Een van hen merkte op dat als je werkt aan het automatiseren van wetenschap en je je niet eens een beetje zorgen maakt over het einddoel, je een psychopaat bent. Ik zou eraan willen toevoegen dat een andere mogelijkheid is dat je niet echt gelooft in wat je doet. Sommigen zouden kunnen vragen waarom ik dit argument over wetenschap maak en niet, bijvoorbeeld, over visuele kunst, muziek of gameontwerp. Dat komt omdat het evenement van gisteren over AI voor wetenschap ging. Maar ik denk dat hetzelfde argument van toepassing is op alle domeinen van menselijke creatieve en intellectuele expressie. Het overbodig maken van menselijke intellectuele of creatieve arbeid is iets dat we moeten vermijden wanneer we kunnen, en we moeten het absoluut vermijden als er geen even betekenisvolle nieuwe rollen zijn voor mensen om in over te stappen. Je zou verder kunnen betogen dat werken aan het uitsluiten van mensen uit betekenisvol creatief werk zoals wetenschappelijk onderzoek ongelooflijk egoïstisch is. Je krijgt de intellectuele voldoening van het uitvinden van nieuwe AI-methoden, maar de volgende generatie krijgt geen kans om bij te dragen. Waarom wil je je kinderen (academisch en biologisch) de kans ontnemen om deel te nemen aan de meest betekenisvolle activiteit ter wereld? Dus waar geloof ik in, gezien het feit dat ik een AI-onderzoeker ben die actief werkt aan de soort AI-methoden die worden gebruikt voor het automatiseren van wetenschap? Ik geloof dat AI-tools die ons helpen productiever en creatiever te zijn geweldig zijn, maar dat AI-tools die ons vervangen slecht zijn. Ik hou van wetenschap, en ik ben bang voor een toekomst waarin we teruggeduwd worden in de donkere eeuwen omdat we niet meer kunnen bijdragen aan de wetenschap. Menselijke autonomie, ook in creatieve processen, is van vitaal belang en moet tegen bijna elke prijs worden beschermd. Ik weet niet precies hoe ik de ontwikkeling en het gebruik van AI moet sturen, zodat we nieuwe tools krijgen maar niet vervangen worden. Maar ik weet dat het van het grootste belang is.

Dit is een belangrijk nieuw boek over een belangrijk en ondergewaardeerd onderzoeksgebied. Dank aan de auteurs voor het schrijven, en gefeliciteerd met het afronden ervan!

Het volgende seizoen van onze benchmark zal veel verbeteringen hebben. Ook hebben we nog veel andere dingen gaande bij @the_nof1 die we nog niet openbaar hebben gemaakt. Markten zijn leuk om mee te spelen en maken AI-spelers voor.