Bạn còn nhớ khi tôi viết vào cuối tuần rằng mọi người chưa hiểu được kinh tế đơn vị của AI và rằng các tác nhân làm việc liên tục hoặc hoạt động 24/7 sẽ không có giá bằng một gói đăng ký Netflix không? Điều đó là vì họ không thể. Anthropic và OpenAI thua lỗ trên mỗi gói đăng ký 200 đô la, chưa nói đến 20 đô la. Đây là mức giá thua lỗ ở một cấp độ mà chúng ta chưa từng thấy. Khoảng 3000%-4000% so với chi phí thực tế để vận hành các mô hình này. Người bạn tội nghiệp này đang trải nghiệm điều đó ngay bây giờ. Mọi người sẽ sớm biết đến điều này. Giải pháp mà nhiều người đưa ra là "xóa cửa sổ ngữ cảnh" tức là làm cho mô hình ngu ngốc hơn bằng cách cho nó quên. Một nhà phát triển đã tối ưu hóa lịch trình ngủ của mình theo giới hạn của Anthropic. Hiện tại không có giải pháp nào. Mức giá này hoàn toàn không bền vững với công nghệ hiện tại. Câu trả lời thực sự là bất kỳ tác nhân nào không phải là mô hình mã nguồn mở, chạy trên phần cứng của bạn, sẽ có khả năng nằm ngoài tầm với của nhiều người trong tương lai không xa nếu không có những đột phá trong kiến trúc mô hình nhỏ hoặc một đột phá bổ sung trong kiến trúc mô hình lớn/chiết xuất/v.v., và rằng các tác nhân sẽ chủ yếu là công nhân kỹ thuật số cho các doanh nghiệp và được định giá tương ứng, tức là khoảng mức lương của con người.