Czas, abyśmy zbudowali łatwiejszy interfejs użytkownika dla llama.cpp od @ggml_org 🤗 Używałem llama.cpp przez większą część ostatnich 2 lat do zabawy z LLM-ami i używam go również w produkcji. Chociaż konfiguracja llama.cpp zajmuje trochę czasu, po jej zakończeniu *po prostu* działa! Podzielcie się swoimi pomysłami/rozwiązaniami, jak możemy lepiej zapakować to narzędzie i ułatwić ludziom korzystanie z llama.cpp z łatwością ❤️
2,74K