Dario Amodei đã nói tại WEF rằng ông sắp công bố phần tiếp theo của Machines of Loving Grace. Nó sẽ được phát hành hôm nay, và Axios đã được Anthropic cho xem trước. Nó có tựa đề 'Thời kỳ vị thành niên của Công nghệ: Đối mặt và Vượt qua những Rủi ro của Al Mạnh mẽ.'

Một số trích dẫn: ' Tôi tin rằng chúng ta đang bước vào một nghi lễ chuyển tiếp, vừa hỗn loạn vừa không thể tránh khỏi, điều này sẽ thử thách chúng ta là ai như một loài. Nhân loại sắp được trao cho sức mạnh gần như không thể tưởng tượng nổi, và thật sự không rõ liệu các hệ thống xã hội, chính trị và công nghệ của chúng ta có đủ trưởng thành để sử dụng nó hay không.'

'Chúng ta hiện đang ở giai đoạn mà các mô hình AI bắt đầu có tiến bộ trong việc giải quyết các vấn đề toán học chưa được giải quyết, và đủ khả năng lập trình đến mức một số kỹ sư xuất sắc nhất mà tôi từng gặp giờ đây đang giao hầu hết công việc lập trình của họ cho AI. Ba năm trước, AI gặp khó khăn với các bài toán số học tiểu học và hầu như không thể viết một dòng mã. Tương tự, tỷ lệ cải tiến này đang diễn ra trong các lĩnh vực khoa học sinh học, tài chính, vật lý và nhiều nhiệm vụ tác động khác. Nếu sự gia tăng theo cấp số nhân này tiếp tục - điều này không chắc chắn, nhưng hiện tại có một hồ sơ kéo dài một thập kỷ hỗ trợ cho nó - thì không thể lâu hơn vài năm nữa trước khi AI vượt trội hơn con người trong hầu như mọi lĩnh vực. Thực tế, bức tranh đó có thể đánh giá thấp tỷ lệ tiến bộ có thể xảy ra. Bởi vì AI hiện đang viết phần lớn mã tại Anthropic, nó đã và đang tăng tốc đáng kể tỷ lệ tiến bộ của chúng tôi trong việc xây dựng thế hệ AI tiếp theo. Vòng phản hồi này đang gia tăng từng tháng, và có thể chỉ còn 1-2 năm nữa trước khi thế hệ AI hiện tại tự động xây dựng thế hệ tiếp theo. Vòng lặp này đã bắt đầu, và sẽ tăng tốc nhanh chóng trong những tháng và năm tới. Theo dõi 5 năm tiến bộ vừa qua từ bên trong Anthropic, và nhìn vào cách mà ngay cả vài tháng tới của các mô hình đang hình thành, tôi có thể cảm nhận được nhịp độ tiến bộ, và đồng hồ đang đếm ngược.'

'Thật hơi ngượng khi nói điều này với tư cách là CEO của một công ty AI, nhưng tôi nghĩ rằng cấp độ rủi ro tiếp theo thực sự là chính các công ty AI. Các công ty AI kiểm soát các trung tâm dữ liệu lớn, đào tạo các mô hình tiên tiến, có chuyên môn lớn nhất về cách sử dụng những mô hình đó, và trong một số trường hợp, có liên hệ hàng ngày và khả năng ảnh hưởng đến hàng chục hoặc hàng trăm triệu người dùng. Điều chính mà họ thiếu là tính hợp pháp và cơ sở hạ tầng của một nhà nước, vì vậy nhiều điều cần thiết để xây dựng các công cụ của một chế độ độc tài AI sẽ là bất hợp pháp đối với một công ty AI, hoặc ít nhất là cực kỳ đáng nghi. Nhưng một số điều thì không phải là không thể: họ có thể, chẳng hạn, sử dụng các sản phẩm AI của mình để tẩy não cơ sở người tiêu dùng khổng lồ của họ, và công chúng nên cảnh giác với rủi ro mà điều này đại diện. Tôi nghĩ rằng việc quản lý các công ty AI xứng đáng nhận được nhiều sự giám sát hơn.'

'Như được gợi ý bởi cụm từ “quốc gia của những thiên tài trong một trung tâm dữ liệu,” AI sẽ có khả năng thực hiện một loạt các khả năng nhận thức của con người—có thể là tất cả. Điều này rất khác so với các công nghệ trước đây như nông nghiệp cơ giới, vận chuyển, hoặc thậm chí là máy tính. Điều này sẽ khiến cho việc chuyển đổi dễ dàng từ những công việc bị thay thế sang những công việc tương tự mà họ sẽ phù hợp hơn trở nên khó khăn hơn. Ví dụ, các khả năng trí tuệ chung cần thiết cho các công việc cấp độ đầu vào trong, chẳng hạn, tài chính, tư vấn và luật pháp là khá tương tự, ngay cả khi kiến thức cụ thể thì khá khác nhau. Một công nghệ chỉ làm gián đoạn một trong ba lĩnh vực này sẽ cho phép nhân viên chuyển sang hai lĩnh vực còn lại gần gũi hơn (hoặc cho sinh viên đại học chuyển ngành). Nhưng việc làm gián đoạn cả ba lĩnh vực cùng một lúc (cùng với nhiều công việc tương tự khác) có thể khó khăn hơn cho mọi người thích nghi. Hơn nữa, không chỉ có phần lớn các công việc hiện tại sẽ bị gián đoạn. Phần đó đã xảy ra trước đây—hãy nhớ rằng nông nghiệp từng chiếm một tỷ lệ lớn trong việc làm. Nhưng nông dân có thể chuyển sang công việc tương đối tương tự là vận hành máy móc trong nhà máy, mặc dù công việc đó chưa phổ biến trước đó. Ngược lại, AI ngày càng phù hợp với hồ sơ nhận thức chung của con người, điều này có nghĩa là nó cũng sẽ giỏi trong các công việc mới mà thường sẽ được tạo ra để đáp ứng với việc tự động hóa các công việc cũ. Một cách khác để nói là AI không phải là một sự thay thế cho các công việc cụ thể của con người mà là một sự thay thế lao động chung cho con người.'

'Ví dụ, trong việc lập trình, các mô hình của chúng tôi đã tiến từ mức “một lập trình viên trung bình” đến “một lập trình viên mạnh” và “một lập trình viên rất mạnh.” Chúng tôi hiện đang bắt đầu thấy sự tiến triển tương tự trong công việc văn phòng nói chung. Do đó, chúng tôi đang đối mặt với nguy cơ về một tình huống mà thay vì ảnh hưởng đến những người có kỹ năng cụ thể hoặc trong những nghề nghiệp cụ thể (có thể thích ứng bằng cách đào tạo lại), AI đang ảnh hưởng đến những người có những đặc điểm nhận thức nội tại nhất định, cụ thể là khả năng trí tuệ thấp hơn (điều này khó thay đổi hơn). Không rõ những người này sẽ đi đâu hoặc họ sẽ làm gì, và tôi lo ngại rằng họ có thể hình thành một “giai cấp dưới” thất nghiệp hoặc có mức lương rất thấp.

Anthropic dự định giữ lại nhân viên ngay cả khi họ 'không còn mang lại giá trị kinh tế theo nghĩa truyền thống.' 'Thứ ba, các công ty nên suy nghĩ về cách chăm sóc nhân viên của họ. Trong ngắn hạn, việc sáng tạo ra các cách để phân công lại nhân viên trong công ty có thể là một cách hứa hẹn để tránh cần phải sa thải. Trong dài hạn, trong một thế giới có tổng tài sản khổng lồ, nơi mà nhiều công ty tăng giá trị đáng kể nhờ vào năng suất tăng lên và sự tập trung vốn, có thể khả thi để trả lương cho nhân viên con người ngay cả khi họ không còn cung cấp giá trị kinh tế theo nghĩa truyền thống. Anthropic hiện đang xem xét một loạt các con đường khả thi cho nhân viên của chúng tôi mà chúng tôi sẽ chia sẻ trong thời gian tới.'

'Tất cả các nhà sáng lập của Anthropic đã cam kết quyên góp 80% tài sản của chúng tôi.'

Một số sự thật nặng nề, tôi hoàn toàn đồng ý với điều này và đã nói những điều tương tự nhiều lần. 'Hơn nữa, vài năm qua nên làm rõ rằng ý tưởng ngừng lại hoặc thậm chí làm chậm đáng kể công nghệ là hoàn toàn không thể. Công thức để xây dựng các hệ thống AI mạnh mẽ cực kỳ đơn giản, đến mức có thể nói rằng nó gần như xuất hiện một cách tự phát từ sự kết hợp đúng đắn của dữ liệu và tính toán thô. Sự ra đời của nó có lẽ là điều không thể tránh khỏi ngay từ khoảnh khắc nhân loại phát minh ra transistor, hoặc có thể còn sớm hơn khi chúng ta lần đầu tiên học cách kiểm soát lửa. Nếu một công ty không xây dựng nó, thì những công ty khác sẽ làm điều đó gần như nhanh chóng. Nếu tất cả các công ty ở các quốc gia dân chủ ngừng hoặc làm chậm phát triển, bằng thỏa thuận chung hoặc sắc lệnh quy định, thì các quốc gia độc tài sẽ đơn giản tiếp tục. Với giá trị kinh tế và quân sự đáng kinh ngạc của công nghệ, cùng với việc thiếu bất kỳ cơ chế thực thi có ý nghĩa nào, tôi không thấy làm thế nào chúng ta có thể thuyết phục họ ngừng lại.'

Những điều tuyệt vời, chắc chắn đáng để đọc toàn bộ. "Những năm trước mắt sẽ vô cùng khó khăn, đòi hỏi nhiều hơn chúng ta nghĩ là có thể cho đi. Nhưng trong thời gian làm nghiên cứu, lãnh đạo và công dân, tôi đã thấy đủ sự can đảm và cao quý để tin rằng chúng ta có thể chiến thắng—rằng khi bị đặt vào hoàn cảnh tăm tối nhất, nhân loại có cách tập hợp, dường như vào phút cuối, sức mạnh và trí tuệ cần thiết để vượt qua. Chúng ta không có thời gian để lãng phí."