Anunciando nossa rodada de seed de $7,3M! A TensorZero permite um ciclo de dados e aprendizado para otimizar aplicações de LLM: um ciclo de feedback que transforma métricas de produção e feedback humano em modelos e agentes mais inteligentes, rápidos e baratos. Hoje, fornecemos uma pilha de código aberto para construir aplicações de LLM de nível industrial que unifica um gateway de LLM, observabilidade, otimização, avaliação e experimentação. Você pode pegar o que precisa, adotar de forma incremental e complementar com outras ferramentas. Com o tempo, esses componentes permitem que você configure um ciclo de feedback fundamentado para sua aplicação de LLM. Os dados que você coleta estão ligados aos seus KPIs, portos entre provedores de modelos e se acumulam em uma vantagem competitiva para o seu negócio. Nossa visão é automatizar grande parte da engenharia de LLM. Estamos lançando as bases para isso com o TensorZero de código aberto. Por exemplo, com nosso modelo de dados e fluxo de trabalho de ponta a ponta, seremos capazes de sugerir proativamente novas variantes (por exemplo, um novo modelo ajustado), testá-lo em dados históricos (por exemplo, usando técnicas diversas de aprendizado por reforço), possibilitar um teste A/B gradual e ao vivo, e repetir o processo. Com uma ferramenta como essa, os engenheiros podem se concentrar em fluxos de trabalho de nível superior — decidindo quais dados entram e saem desses modelos, como medir o sucesso, quais comportamentos incentivar e desincentivar, e assim por diante — e deixar os detalhes de implementação de baixo nível para um sistema automatizado. Este é o futuro que vemos para a engenharia de LLM como uma disciplina. Recentemente, a TensorZero alcançou o repositório em tendência #1 da semana globalmente no GitHub (& estamos prestes a ultrapassar 10k estrelas). Temos a sorte de ter recebido contribuições de dezenas de desenvolvedores em todo o mundo, e é empolgante ver a TensorZero já impulsionando produtos de LLM de ponta em startups de IA de fronteira e grandes organizações, incluindo um dos maiores bancos da Europa. Estamos empolgados em compartilhar que levantamos $7,3M para acelerar os esforços da TensorZero em construir uma infraestrutura de código aberto de classe mundial para engenheiros de LLM (estamos contratando!). A rodada foi liderada pela @FirstMarkCap, com participação de @BessemerVP, @bedrock, @DRWTrading, @coalitionvc, e dezenas de anjos estratégicos.