¡Emocionado de compartir que hemos recaudado una ronda de semillas de 7.3 millones de dólares! "¿Cómo será la ingeniería de LLM en unos años?" Viraj y yo comenzamos a construir TensorZero el año pasado después de hacernos esta pregunta. Hoy, estamos construyendo una pila de código abierto para aplicaciones LLM de grado industrial. Equipos que van desde startups de IA de vanguardia hasta empresas públicas (e incluso uno de los bancos más grandes de Europa) han adoptado TensorZero para impulsar aplicaciones LLM de próxima generación. Nuestra visión es automatizar gran parte de la ingeniería de LLM. Estamos sentando las bases para eso con TensorZero de código abierto. Sobre todo, tenemos una suerte increíble de contar con nuestros excepcionales miembros del equipo Aaron (mantenedor del compilador Rust, Svix, AWS), Andrew (postdoctorado en Columbia, PhD en Oxford) y Alan (PhD en CMU, VP en JPM AI Research), y pronto con Shuyang (ingeniero de software en infraestructura LLM en Google, Palantir) y Cole (Cognition/Windsurf, Stanford). También estamos agradecidos a los docenas de desarrolladores que han hecho contribuciones de código abierto (¡y estamos a punto de superar los 10k estrellas en GitHub!). Lee más sobre nuestra historia y visión en la publicación del blog a continuación:
TensorZero
TensorZeroHace 22 horas
¡Anunciamos nuestra ronda de financiación inicial de 7.3 millones de dólares! TensorZero permite un ciclo de retroalimentación de datos y aprendizaje para optimizar aplicaciones de LLM: un bucle de retroalimentación que convierte métricas de producción y comentarios humanos en modelos y agentes más inteligentes, rápidos y económicos. Hoy, proporcionamos un stack de código abierto para construir aplicaciones de LLM de grado industrial que unifica una puerta de enlace de LLM, observabilidad, optimización, evaluación y experimentación. Puedes tomar lo que necesites, adoptar de manera incremental y complementar con otras herramientas. Con el tiempo, estos componentes te permiten establecer un ciclo de retroalimentación fundamentado para tu aplicación de LLM. Los datos que recopilas están vinculados a tus KPIs, se conectan a través de proveedores de modelos y se convierten en una ventaja competitiva para tu negocio. Nuestra visión es automatizar gran parte de la ingeniería de LLM. Estamos sentando las bases para ello con TensorZero de código abierto. Por ejemplo, con nuestro modelo de datos y flujo de trabajo de extremo a extremo, podremos sugerir proactivamente nuevas variantes (por ejemplo, un nuevo modelo ajustado), realizar pruebas retrospectivas con datos históricos (por ejemplo, utilizando diversas técnicas de aprendizaje por refuerzo), habilitar una prueba A/B gradual y en vivo, y repetir el proceso. Con una herramienta como esta, los ingenieros pueden centrarse en flujos de trabajo de mayor nivel: decidir qué datos entran y salen de estos modelos, cómo medir el éxito, qué comportamientos incentivar y desincentivar, y así sucesivamente, y dejar los detalles de implementación de bajo nivel a un sistema automatizado. Este es el futuro que vemos para la ingeniería de LLM como disciplina. Recientemente, TensorZero alcanzó el puesto #1 como repositorio en tendencia de la semana a nivel global en GitHub (y estamos a punto de superar los 10k estrellas). Tenemos la suerte de haber recibido contribuciones de docenas de desarrolladores de todo el mundo, y es emocionante ver que TensorZero ya está impulsando productos de LLM de vanguardia en startups de IA de frontera y grandes organizaciones, incluyendo uno de los bancos más grandes de Europa. Estamos emocionados de compartir que hemos recaudado 7.3 millones de dólares para acelerar los esfuerzos de TensorZero en construir una infraestructura de código abierto de clase mundial para ingenieros de LLM (¡estamos contratando!). La ronda fue liderada por @FirstMarkCap, con la participación de @BessemerVP, @bedrock, @DRWTrading, @coalitionvc y docenas de ángeles estratégicos.
9,23K