Es hora de que construyamos una experiencia de usuario más fácil para llama.cpp de @ggml_org 🤗 He utilizado llama.cpp durante la mayor parte de los últimos 2 años para jugar con LLMs y también lo uso en producción. Aunque lleva un poco de tiempo configurar llama.cpp, una vez hecho, ¡simplemente funciona! Ven con tus ideas/soluciones sobre cómo podemos empaquetarlo mejor y hacerlo más fácil para que la gente use llama.cpp con facilidad ❤️
2,75K