llama.cpp

LLM inference in C/C++