Ayer estuve en un evento sobre IA para la ciencia, una mesa redonda aquí en NeurIPS. Los panelistas discutieron cómo planean reemplazar a los humanos en todos los niveles del proceso científico. Así que me levanté y protesté que lo que estaban haciendo es malvado. Miren a su alrededor, dije. La sala está llena de investigadores de varios tipos, la mayoría de ellos jóvenes. Están aquí porque aman la investigación y quieren contribuir al avance del conocimiento humano. Si sacas al humano del proceso, lo que significa que los humanos ya no tienen ningún papel en la investigación científica, les estás privando de la actividad que aman y de una fuente clave de significado en sus vidas. Y todos queremos hacer algo significativo. ¿Por qué, pregunté, quieren quitar la oportunidad de contribuir a la ciencia de nosotros? Mi pregunta cambió el rumbo del panel y estableció el tono para el resto de la discusión. Después, varios asistentes se acercaron a mí, ya sea para agradecerme por poner en palabras lo que sentían, o para preguntar si realmente significaba lo que dije. Así que pensé que volvería a la pregunta aquí. Uno de los panelistas preguntó si realmente preferiría la alegría de hacer ciencia a encontrar una cura para el cáncer y habilitar la inmortalidad. Respondí que eventualmente curaremos el cáncer y en algún momento probablemente podremos elegir la inmortalidad. La ciencia ya está haciendo grandes progresos con humanos al mando. Algún día también obtendremos energía de fusión y viajes espaciales. Tal vez eliminar a los humanos del proceso podría acelerar este proceso, pero no creo que valga la pena. Creo que es de crucial importancia que nosotros, los humanos, estemos a cargo de nuestro propio progreso. Ampliar el conocimiento colectivo de la humanidad es, creo, lo más significativo que podemos hacer. Si los humanos no pudieran contribuir de manera útil a la ciencia, esto sería un desastre. Así que, no. No creo que valga la pena encontrar una cura para el cáncer más rápido si eso significa que nunca podremos hacer ciencia de nuevo. Muchos de los que se acercaron a hablar conmigo anoche, aquellos que me preguntaron si estaba hablando en serio o solo bromeando, pensaron que la premisa era absurda. Por supuesto que siempre habrá espacio para los humanos en la ciencia. Siempre habrá tareas que solo los humanos pueden hacer, ideas que solo los humanos tienen, y así sucesivamente. Por lo tanto, deberíamos dar la bienvenida a la IA. La investigación es difícil, y necesitamos toda la ayuda que podamos obtener. Respondí que esperaba que tuvieran razón. Es decir, realmente espero que siempre haya partes del proceso de investigación para las que los humanos sean esenciales. Pero lo que estaba argumentando en contra no era lo que podríamos llamar "automatización débil de la ciencia", donde los humanos permanecen en el proceso en roles importantes, sino "automatización fuerte de la ciencia", donde los humanos son redundantes. Otros pensaron que era inmaduro discutir sobre esto, porque la automatización completa de la ciencia no está en el horizonte. Nuevamente, espero que tengan razón. Pero no veo ningún daño en discutirlo ahora. Y ciertamente no creo que necesitemos investigar sobre la automatización de la ciencia para avanzar más. Sin embargo, otros comentaron que este era un argumento sin sentido. La automatización de la ciencia está llegando, queramos o no, y será mejor que nos acostumbremos a ello. El tren está llegando, y podemos subirnos a él o ponernos en su camino. Creo que ese es un argumento notablemente cobarde. Depende de nosotros como sociedad decidir cómo usamos la tecnología que desarrollamos. No es un tren, es un camión, y será mejor que agarremos el volante. Uno de los panelistas hizo una analogía con el ajedrez, argumentando que muchas personas juegan al ajedrez a pesar de que las computadoras son ahora mucho mejores que los humanos en ajedrez. Así que podríamos participar en la ciencia como una especie de pasatiempo, aunque la verdadera ciencia la hagan las computadoras. Estaríamos jugando lejos de la frontera, quizás llenando los vacíos que los sistemas de IA no les importan. Eso fue, por decirlo suavemente, una respuesta insatisfactoria. Si bien amo los juegos, ciertamente no considero que jugar sea tan significativo como avanzar en el conocimiento humano. Gracias, pero no gracias. En general, sin embargo, fue notable que la mayoría de los que hablé me agradecieron por plantear el punto, ya que articulé preocupaciones que ya tenían. Uno de ellos comentó que si trabajas en la automatización de la ciencia y no estás ni un poco preocupado por el objetivo final, eres un psicópata. Yo añadiría que otra posibilidad es que realmente no crees en lo que estás haciendo. Algunos podrían preguntar por qué hago este argumento sobre la ciencia y no, por ejemplo, sobre el arte visual, la música o el diseño de juegos. Eso es porque el evento de ayer fue sobre IA para la ciencia. Pero creo que el mismo argumento se aplica a todos los dominios de la expresión creativa e intelectual humana. Hacer que el trabajo intelectual o creativo humano sea redundante es algo que debemos evitar cuando podamos, y debemos evitarlo absolutamente si no hay nuevos roles igualmente significativos para que los humanos hagan la transición. Podrías argumentar además que trabajar en eliminar a los humanos de trabajos creativos significativos como la investigación científica es increíblemente egoísta. Obtienes la satisfacción intelectual de inventar nuevos métodos de IA, pero la próxima generación no tiene la oportunidad de contribuir. ¿Por qué quieres robar a tus hijos (académicos y biológicos) la oportunidad de participar en la actividad más significativa del mundo? Entonces, ¿en qué creo, dado que soy un investigador de IA que trabaja activamente en el tipo de métodos de IA utilizados para automatizar la ciencia? Creo que las herramientas de IA que nos ayudan a ser más productivos y creativos son geniales, pero que las herramientas de IA que nos reemplazan son malas. Amo la ciencia, y tengo miedo de un futuro donde se nos empuje de nuevo a la edad oscura porque ya no podemos contribuir a la ciencia. La agencia humana, incluida en los procesos creativos, es vital y debe ser protegida a casi cualquier costo. No sé exactamente cómo dirigir el desarrollo y el uso de la IA para que obtengamos nuevas herramientas pero no seamos reemplazados. Pero sé que es de suma importancia.

Este es un nuevo libro importante sobre un campo de investigación importante y subestimado. ¡Gracias a los autores por escribirlo y felicitaciones por terminarlo!

La próxima temporada de nuestro benchmark tendrá muchas mejoras. Además, tenemos muchas otras cosas en marcha en @the_nof1 que aún no hemos hecho públicas. Los mercados son divertidos para jugar y crear jugadores de IA.