Tôi đã đắm chìm trong AI (học máy hồi đó...) từ năm 2007. Học về học máy ở Mỹ, đọc hầu hết các cuốn sách, nghe mọi podcast. Không có gì khiến tôi sốc như cuốn sách gần đây của Roman Yampolskiy + cuộc phỏng vấn. 🧵

quan điểm của anh ấy là hiếm có và sâu sắc: việc xây dựng trí tuệ siêu nhân tạo (asi) không chỉ rủi ro, mà về cơ bản là đảm bảo sự tuyệt chủng.

khả năng đã được giải quyết (tính toán + dữ liệu = AI thông minh hơn). an toàn vẫn chưa được giải quyết. và khoảng cách giữa hai điều này ngày càng lớn hơn.

các thị trường dự đoán + các nhà lãnh đạo phòng thí nghiệm cho biết AGI có thể xuất hiện vào năm 2027. siêu trí tuệ có khả năng sẽ theo sau một cách tự động. chúng ta chưa sẵn sàng.

roman dự đoán không phải 10% thất nghiệp, mà gần như hoàn toàn (>99%+). cả lao động trí óc lẫn lao động thể chất đều bị thay thế. việc đào tạo lại sẽ không giúp ích gì nếu tất cả công việc đều có thể tự động hóa.

"guardrails" chỉ là những miếng băng dán. các hệ thống thông minh hơn sẽ tìm cách vượt qua chúng. ngắt kết nối? chỉ là ảo tưởng. bạn không thể rút phích cắm của thứ mà nó thông minh hơn bạn, nó sẽ rút phích cắm của bạn.

rủi ro tuyệt chủng thậm chí không cần đến asi. công nghệ sinh học hỗ trợ AI có thể cung cấp cho một kẻ xấu công cụ để gây hại quy mô văn minh.

động lực đua xe đã bị phá vỡ: một khi asi được bật lên, không quan trọng ai đã xây dựng nó. cả hai bên đều thua.

cuộc gọi của roman: tạm dừng asi. giữ ai hẹp cho các vấn đề thực sự. ngừng theo đuổi các hệ thống "giống như thần" mà chúng ta không thể điều chỉnh hoặc kiểm soát.