Hôm qua, tôi đã tham dự một sự kiện về AI cho khoa học, một buổi thảo luận tại NeurIPS. Các diễn giả đã thảo luận về cách họ dự định thay thế con người ở mọi cấp độ trong quy trình khoa học. Vì vậy, tôi đã đứng dậy và phản đối rằng những gì họ đang làm là xấu xa. Nhìn xung quanh bạn, tôi nói. Căn phòng đầy những nhà nghiên cứu thuộc nhiều loại khác nhau, hầu hết trong số họ còn trẻ. Họ ở đây vì họ yêu thích nghiên cứu và muốn đóng góp vào việc nâng cao tri thức của nhân loại. Nếu bạn loại bỏ con người khỏi quy trình, có nghĩa là con người không còn vai trò nào trong nghiên cứu khoa học, bạn đang tước đi hoạt động mà họ yêu thích và một nguồn ý nghĩa quan trọng trong cuộc sống của họ. Và tất cả chúng ta đều muốn làm điều gì đó có ý nghĩa. Tại sao, tôi hỏi, bạn lại muốn lấy đi cơ hội đóng góp cho khoa học của chúng tôi? Câu hỏi của tôi đã thay đổi hướng đi của buổi thảo luận và định hình tông màu cho phần còn lại của cuộc thảo luận. Sau đó, một số người tham dự đã đến gặp tôi, hoặc để cảm ơn tôi vì đã diễn đạt những gì họ cảm thấy, hoặc để hỏi liệu tôi có thực sự nghiêm túc với những gì tôi đã nói không. Vì vậy, tôi nghĩ tôi sẽ trở lại câu hỏi này ở đây. Một trong những diễn giả đã hỏi liệu tôi có thực sự thích niềm vui làm khoa học hơn là tìm ra phương thuốc chữa ung thư và cho phép sự bất tử không. Tôi đã trả lời rằng cuối cùng chúng ta sẽ chữa được ung thư và vào một thời điểm nào đó có lẽ sẽ có thể chọn sự bất tử. Khoa học đã đạt được những tiến bộ lớn với con người dẫn dắt. Chúng ta sẽ có năng lượng nhiệt hạch và du hành không gian một ngày nào đó. Có thể việc loại bỏ con người khỏi quy trình có thể tăng tốc quá trình này, nhưng tôi không nghĩ rằng điều đó sẽ đáng giá. Tôi nghĩ rằng điều quan trọng là chúng ta, con người, phải nắm quyền kiểm soát sự tiến bộ của chính mình. Mở rộng tri thức tập thể của nhân loại là, theo tôi, điều có ý nghĩa nhất mà chúng ta có thể làm. Nếu con người không thể đóng góp hữu ích cho khoa học nữa, điều này sẽ là một thảm họa. Vì vậy, không. Tôi không nghĩ rằng việc tìm ra phương thuốc chữa ung thư nhanh hơn là đáng giá nếu điều đó có nghĩa là chúng ta không bao giờ có thể làm khoa học nữa. Nhiều người đã đến nói chuyện với tôi tối qua, những người đã hỏi tôi liệu tôi có nghiêm túc hay chỉ đang đùa giỡn, nghĩ rằng giả thuyết này là vô lý. Tất nhiên sẽ luôn có chỗ cho con người trong khoa học. Sẽ luôn có những nhiệm vụ chỉ con người mới có thể làm, những hiểu biết chỉ con người mới có, và vân vân. Do đó, chúng ta nên chào đón AI. Nghiên cứu là khó khăn, và chúng ta cần tất cả sự giúp đỡ mà chúng ta có thể nhận được. Tôi đã trả lời rằng tôi hy vọng họ đúng. Tức là, tôi thực sự hy vọng sẽ luôn có những phần của quy trình nghiên cứu mà con người sẽ là điều thiết yếu. Nhưng điều tôi đang phản đối không phải là cái mà chúng ta có thể gọi là "tự động hóa khoa học yếu", nơi con người vẫn giữ vai trò quan trọng, mà là "tự động hóa khoa học mạnh", nơi con người trở nên thừa thãi. Những người khác nghĩ rằng thật trẻ con khi tranh luận về điều này, vì tự động hóa khoa học hoàn toàn không nằm trong tầm nhìn. Một lần nữa, tôi hy vọng họ đúng. Nhưng tôi không thấy có hại gì khi thảo luận về nó ngay bây giờ. Và tôi chắc chắn không nghĩ rằng chúng ta cần nghiên cứu về tự động hóa khoa học để tiến xa hơn. Tuy nhiên, những người khác nhận xét rằng đây là một cuộc tranh luận vô nghĩa. Tự động hóa khoa học đang đến, dù chúng ta có muốn hay không, và chúng ta tốt hơn nên quen với điều đó. Tàu đang đến, và chúng ta có thể lên tàu hoặc đứng trên đường đi của nó. Tôi nghĩ đó là một lập luận vô cùng hèn nhát. Chúng ta có trách nhiệm như một xã hội để quyết định cách chúng ta sử dụng công nghệ mà chúng ta phát triển. Đó không phải là một chiếc tàu, mà là một chiếc xe tải, và chúng ta tốt hơn nên nắm lấy vô lăng. Một trong những diễn giả đã đưa ra một phép ẩn dụ về cờ vua, lập luận rằng nhiều người chơi cờ vua mặc dù máy tính hiện nay giỏi hơn con người rất nhiều trong cờ vua. Vì vậy, chúng ta có thể tham gia vào khoa học như một loại sở thích, mặc dù khoa học thực sự được thực hiện bởi máy tính. Chúng ta sẽ chơi đùa xa khỏi ranh giới, có lẽ lấp đầy những khoảng trống mà các hệ thống AI không quan tâm. Đó, để nói một cách nhẹ nhàng, không phải là một câu trả lời thỏa mãn. Trong khi tôi yêu thích các trò chơi, tôi chắc chắn không coi việc chơi trò chơi có ý nghĩa như việc nâng cao tri thức của nhân loại. Cảm ơn, nhưng không cảm ơn. Tuy nhiên, nhìn chung, thật đáng chú ý rằng hầu hết những người tôi đã nói chuyện đã cảm ơn tôi vì đã nêu ra vấn đề, vì tôi đã diễn đạt những lo lắng mà họ đã có. Một trong số họ đã nhận xét rằng nếu bạn làm việc để tự động hóa khoa học và không hề lo lắng một chút nào về mục tiêu cuối cùng, bạn là một kẻ tâm thần. Tôi sẽ thêm rằng một khả năng khác là bạn không thực sự tin vào những gì bạn đang làm. Một số người có thể hỏi tại sao tôi lại đưa ra lập luận này về khoa học mà không phải, ví dụ, về nghệ thuật thị giác, âm nhạc, hoặc thiết kế trò chơi. Đó là vì sự kiện hôm qua là về AI cho khoa học. Nhưng tôi nghĩ rằng lập luận tương tự áp dụng cho tất cả các lĩnh vực biểu đạt sáng tạo và trí tuệ của con người. Việc làm cho công việc trí tuệ hoặc sáng tạo của con người trở nên thừa thãi là điều chúng ta nên tránh khi có thể, và chúng ta nên tuyệt đối tránh điều đó nếu không có những vai trò mới có ý nghĩa tương đương cho con người để chuyển sang. Bạn có thể lập luận thêm rằng việc làm việc để loại bỏ con người khỏi công việc sáng tạo có ý nghĩa như nghiên cứu khoa học là vô cùng ích kỷ. Bạn nhận được sự thỏa mãn trí tuệ khi phát minh ra các phương pháp AI mới, nhưng thế hệ tiếp theo không có cơ hội đóng góp. Tại sao bạn lại muốn tước đi cơ hội của con cái bạn (cả về học thuật và sinh học) để tham gia vào hoạt động có ý nghĩa nhất trên thế giới? Vậy tôi tin vào điều gì, khi tôi là một nhà nghiên cứu AI đang tích cực làm việc với các phương pháp AI được sử dụng để tự động hóa khoa học? Tôi tin rằng các công cụ AI giúp chúng ta trở nên năng suất và sáng tạo hơn là tuyệt vời, nhưng các công cụ AI thay thế chúng ta thì là xấu. Tôi yêu khoa học, và tôi sợ một tương lai mà chúng ta bị đẩy trở lại thời kỳ đen tối vì chúng ta không còn có thể đóng góp cho khoa học. Quyền tự chủ của con người, bao gồm trong các quy trình sáng tạo, là điều thiết yếu và phải được bảo vệ bằng mọi giá. Tôi không biết chính xác cách điều khiển sự phát triển và sử dụng AI để chúng ta có được các công cụ mới nhưng không bị thay thế. Nhưng tôi biết rằng điều đó là vô cùng quan trọng.