llama-cpp-python

llama.cpp的Python绑定与兼容服务，支持本地大模型推理补全 embeddings及函数调用，便于快速集成部署。