## Hiệu suất ở mức độ con người là cần thiết cho AGI kết thúc một chuyến đi tuyệt vời 🇸🇬 nơi tôi đã có cơ hội gặp gỡ @agihippo + đã được thấy @jeffdean @quocleix @denny_zhou và những người khác đưa ra các cập nhật "Tình trạng GDM" năm 2025* cho đến nay, chủ đề lặp đi lặp lại số 1 trong các cuộc trò chuyện của chúng tôi là hiệu suất học tập. thời gian tính toán suy diễn đang rất được chú ý nhưng #hiệu suất đang đến tiếp theo, và tôi thường đi trước phần lớn từ 3-6 tháng khi tôi có những cảm giác như thế này. mọi người thường ngạc nhiên và sau đó thường đồng ý khi tôi vạch ra một đường thẳng từ sự đột phá của học tự giám sát và RLAIF và RLVR rằng tất cả chỉ là những thay đổi bước trong hiệu suất đạt được trên mỗi điểm dữ liệu, và bước nhảy tiếp theo của hiệu suất này rõ ràng là điều mà Quoc đã xác nhận Ilya cũng đang làm trong bài nói của mình được đề cập bên dưới + "ngọn núi" mà Ilya đã xác định tại NeurIPS. Tôi sẽ đặt cược một số tiền rằng giải pháp cho điều này là một khối/abstraction không phải transformers mới mà không chỉ là "đa tác nhân" và giống như việc kiểm tra theo thời gian thực và giải quyết các giả thuyết mô hình thế giới tiềm năng, giống như cách bạn giải một câu đố sudoku hoặc chơi Cluedo. đây là cách duy nhất có hệ thống mà tôi biết để tinh giản quá trình học tập của con người nơi chúng ta có thể học nhanh các khái niệm với 10-20 lần điểm dữ liệu cho mỗi khái niệm ít hơn so với SOTA hiện tại. Nếu tôi là một nhà nghiên cứu, tôi sẽ bắt đầu từ đây ngay bây giờ... và sẽ rất mỉa mai/thú vị nếu đây là chiến thắng cuối cùng của @ylecun.
4,16K