Estive num evento sobre IA para a ciência ontem, uma discussão em painel aqui no NeurIPS. Os painelistas discutiram como planeiam substituir os humanos em todos os níveis do processo científico. Então, levantei-me e protestei que o que estavam a fazer é maligno. Olhem à sua volta, disse eu. A sala está cheia de investigadores de vários tipos, a maioria deles jovens. Eles estão aqui porque amam a investigação e querem contribuir para o avanço do conhecimento humano. Se tirarem o humano do processo, significando que os humanos não têm mais nenhum papel na investigação científica, estão a privá-los da atividade que amam e de uma fonte chave de significado nas suas vidas. E todos nós queremos fazer algo significativo. Por que, perguntei, querem tirar a oportunidade de contribuir para a ciência de nós? A minha pergunta mudou o rumo do painel e definiu o tom para o resto da discussão. Depois, vários participantes vieram ter comigo, seja para me agradecer por colocar em palavras o que sentiam, ou para perguntar se eu realmente queria dizer o que disse. Então pensei que voltaria à questão aqui. Um dos painelistas perguntou se eu realmente preferiria a alegria de fazer ciência a encontrar uma cura para o câncer e possibilitar a imortalidade. Respondi que eventualmente curaremos o câncer e, em algum momento, provavelmente seremos capazes de escolher a imortalidade. A ciência já está a fazer grandes progressos com humanos à frente. Um dia teremos energia de fusão e viagens espaciais também. Talvez cortar os humanos do processo pudesse acelerar este processo, mas não acho que valesse a pena. Acho que é de crucial importância que nós, humanos, estejamos no comando do nosso próprio progresso. Expandir o conhecimento coletivo da humanidade é, penso eu, a coisa mais significativa que podemos fazer. Se os humanos não pudessem contribuir de forma útil para a ciência, isso seria um desastre. Portanto, não. Não acho que valha a pena encontrar uma cura para o câncer mais rapidamente se isso significar que nunca mais poderemos fazer ciência. Muitos dos que vieram falar comigo na noite passada, aqueles que me perguntaram se eu estava a ser sério ou apenas a provocar, acharam que a premissa era absurda. Claro que sempre haverá espaço para humanos na ciência. Sempre haverá tarefas que apenas os humanos podem fazer, percepções que apenas os humanos têm, e assim por diante. Portanto, devemos acolher a IA. A investigação é difícil, e precisamos de toda a ajuda que pudermos obter. Respondi que esperava que estivessem certos. Ou seja, realmente espero que sempre haja partes do processo de investigação para as quais os humanos sejam essenciais. Mas o que eu estava a argumentar contra não era o que poderíamos chamar de "automação científica fraca", onde os humanos permanecem no processo em papéis importantes, mas sim "automação científica forte", onde os humanos são redundantes. Outros acharam imaturo discutir isso, porque a automação científica total não está no horizonte. Novamente, espero que estejam certos. Mas não vejo mal em discutir isso agora. E certamente não acho que precisamos de investigação sobre automação científica para avançar mais. Ainda outros comentaram que isso era uma discussão sem sentido. A automação científica está a chegar, quer queiramos ou não, e é melhor acostumarmo-nos a isso. O comboio está a chegar, e podemos embarcar nele ou ficar no seu caminho. Acho que isso é um argumento notavelmente covarde. Cabe a nós, como sociedade, decidir como usamos a tecnologia que desenvolvemos. Não é um comboio, é um camião, e é melhor agarrarmos ao volante. Um dos painelistas fez uma analogia com o xadrez, argumentando que muitas pessoas jogam xadrez, mesmo que os computadores sejam agora muito melhores que os humanos no xadrez. Portanto, poderíamos envolver-nos na ciência como uma espécie de hobby, mesmo que a verdadeira ciência seja feita por computadores. Estaríamos a brincar longe da fronteira, talvez a preencher as lacunas que os sistemas de IA não se importam. Isso foi, para dizer o mínimo, uma resposta insatisfatória. Embora eu ame jogos, certamente não considero jogar como algo tão significativo quanto avançar o conhecimento humano. Obrigado, mas não obrigado. No geral, no entanto, foi notável que a maioria dos que conversei me agradeceu por levantar o ponto, pois articulei preocupações que já tinham. Um deles comentou que se você trabalha na automação da ciência e não está nem um pouco preocupado com o objetivo final, você é um psicopata. Eu acrescentaria que outra possibilidade é que você não acredita realmente no que está a fazer. Alguns podem perguntar por que faço este argumento sobre ciência e não, por exemplo, sobre arte visual, música ou design de jogos. Isso porque o evento de ontem foi sobre IA para a ciência. Mas acho que o mesmo argumento se aplica a todos os domínios da expressão criativa e intelectual humana. Tornar o trabalho intelectual ou criativo humano redundante é algo que devemos evitar quando pudermos, e devemos absolutamente evitá-lo se não houver novos papéis igualmente significativos para os humanos se transitar. Você poderia ainda argumentar que trabalhar para cortar os humanos de trabalhos criativos significativos, como a investigação científica, é incrivelmente egoísta. Você obtém a satisfação intelectual de inventar novos métodos de IA, mas a próxima geração não tem a chance de contribuir. Por que você quer roubar de seus filhos (acadêmicos e biológicos) a chance de se envolver na atividade mais significativa do mundo? Então, no que eu acredito, dado que sou um investigador de IA que trabalha ativamente no tipo de métodos de IA usados para automatizar a ciência? Acredito que as ferramentas de IA que nos ajudam a ser mais produtivos e criativos são ótimas, mas que as ferramentas de IA que nos substituem são más. Eu amo a ciência, e tenho medo de um futuro onde somos empurrados de volta para a Idade das Trevas porque não podemos mais contribuir para a ciência. A agência humana, incluindo nos processos criativos, é vital e deve ser protegida a quase qualquer custo. Não sei exatamente como direcionar o desenvolvimento e o uso da IA para que tenhamos novas ferramentas, mas não sejamos substituídos. Mas sei que é de importância primordial.

Este é um novo livro importante sobre um campo de pesquisa importante e subestimado. Obrigado aos autores por escreverem e parabéns por terem terminado!

A próxima temporada do nosso benchmark terá muitas melhorias. Além disso, temos muitas outras coisas a acontecer em @the_nof1 que ainda não tornámos públicas. Os mercados são divertidos de explorar e fazem jogadores de IA.