Det är på tiden att vi bygger ett enklare UX för llama.cpp @ggml_org 🤗 Jag har använt llama.cpp under större delen av de senaste 2 åren för att leka med LLM:er och använda den i produktionen också Även om det tar lite att ställa in llama.cpp, när det väl är gjort, fungerar det *bara! Kom med dina idéer/lösningar på hur vi kan paketera det bättre och göra det lättare för människor att använda llama.cpp med lätthet ❤️
2,82K