Rất vui được chia sẻ rằng chúng tôi đã huy động được 7,3 triệu đô la trong vòng gọi vốn hạt giống! "Kỹ thuật LLM sẽ trông như thế nào trong vài năm tới?" Viraj và tôi đã bắt đầu xây dựng TensorZero vào năm ngoái sau khi tự hỏi câu hỏi này. Hôm nay, chúng tôi đang xây dựng một bộ công cụ mã nguồn mở cho các ứng dụng LLM cấp công nghiệp. Các đội ngũ từ các công ty khởi nghiệp AI tiên phong đến các công ty công cộng (và thậm chí một trong những ngân hàng lớn nhất châu Âu) đã áp dụng TensorZero để cung cấp năng lượng cho các ứng dụng LLM thế hệ tiếp theo. Tầm nhìn của chúng tôi là tự động hóa phần lớn kỹ thuật LLM. Chúng tôi đang đặt nền tảng cho điều đó với TensorZero mã nguồn mở. Quan trọng nhất, chúng tôi rất may mắn khi có sự tham gia của các thành viên đội ngũ xuất sắc của chúng tôi: Aaron (người duy trì trình biên dịch Rust, Svix, AWS), Andrew (học giả sau tiến sĩ tại Columbia, tiến sĩ Oxford), và Alan (tiến sĩ CMU, Phó Chủ tịch tại JPM AI Research), và sắp tới là Shuyang (kỹ sư phần mềm chính về hạ tầng LLM tại Google, Palantir) và Cole (Cognition/Windsurf, Stanford). Chúng tôi cũng cảm ơn hàng chục nhà phát triển đã đóng góp mã nguồn mở (& chúng tôi sắp vượt qua 10k sao trên GitHub!). Đọc thêm về lịch sử và tầm nhìn của chúng tôi trong bài viết blog dưới đây:
TensorZero
TensorZero21 giờ trước
Thông báo về vòng gọi vốn hạt giống 7,3 triệu đô la của chúng tôi! TensorZero cho phép một vòng lặp dữ liệu và học tập để tối ưu hóa các ứng dụng LLM: một vòng phản hồi biến các chỉ số sản xuất và phản hồi của con người thành các mô hình và tác nhân thông minh hơn, nhanh hơn và rẻ hơn. Hôm nay, chúng tôi cung cấp một bộ công cụ mã nguồn mở để xây dựng các ứng dụng LLM cấp công nghiệp, kết hợp một cổng LLM, khả năng quan sát, tối ưu hóa, đánh giá và thử nghiệm. Bạn có thể lấy những gì bạn cần, áp dụng dần dần và bổ sung với các công cụ khác. Theo thời gian, những thành phần này cho phép bạn thiết lập một vòng phản hồi có nguyên tắc cho ứng dụng LLM của bạn. Dữ liệu bạn thu thập được liên kết với các KPI của bạn, kết nối qua các nhà cung cấp mô hình, và tạo thành một lợi thế cạnh tranh cho doanh nghiệp của bạn. Tầm nhìn của chúng tôi là tự động hóa phần lớn kỹ thuật LLM. Chúng tôi đang đặt nền tảng cho điều đó với TensorZero mã nguồn mở. Ví dụ, với mô hình dữ liệu và quy trình làm việc đầu cuối của chúng tôi, chúng tôi sẽ có thể chủ động đề xuất các biến thể mới (ví dụ: một mô hình tinh chỉnh mới), kiểm tra lại trên dữ liệu lịch sử (ví dụ: sử dụng các kỹ thuật đa dạng từ học tăng cường), cho phép thử nghiệm A/B trực tiếp dần dần, và lặp lại quy trình. Với một công cụ như vậy, các kỹ sư có thể tập trung vào các quy trình làm việc cấp cao hơn — quyết định dữ liệu nào vào và ra khỏi các mô hình này, cách đo lường thành công, hành vi nào cần khuyến khích và không khuyến khích, và nhiều hơn nữa — và để lại các chi tiết thực hiện cấp thấp cho một hệ thống tự động. Đây là tương lai mà chúng tôi thấy cho kỹ thuật LLM như một ngành. Gần đây, TensorZero đã đạt vị trí #1 trong danh sách kho trending của tuần trên toàn cầu trên GitHub (& chúng tôi sắp vượt qua 10k sao). Chúng tôi may mắn nhận được sự đóng góp từ hàng chục nhà phát triển trên toàn thế giới, và thật thú vị khi thấy TensorZero đã và đang cung cấp năng lượng cho các sản phẩm LLM tiên tiến tại các công ty khởi nghiệp AI hàng đầu và các tổ chức lớn, bao gồm một trong những ngân hàng lớn nhất châu Âu. Chúng tôi rất vui mừng thông báo rằng chúng tôi đã huy động được 7,3 triệu đô la để tăng tốc nỗ lực của TensorZero trong việc xây dựng cơ sở hạ tầng mã nguồn mở tốt nhất cho các kỹ sư LLM (chúng tôi đang tuyển dụng!). Vòng gọi vốn này do @FirstMarkCap dẫn đầu, với sự tham gia của @BessemerVP, @bedrock, @DRWTrading, @coalitionvc, và hàng chục nhà đầu tư thiên thần chiến lược.
9,22K