是时候为 @ggml_org 的 llama.cpp 构建一个更简单的用户体验了 🤗 在过去的两年里,我大部分时间都在使用 llama.cpp 来玩 LLM,并且也在生产中使用它。 虽然设置 llama.cpp 需要一些时间,但一旦完成,它就能 *正常* 工作! 请带上你的想法/解决方案,告诉我们如何更好地打包它,让人们更轻松地使用 llama.cpp ❤️
2.74K