tensorfold

面向 Apple Silicon 与 NVIDIA GPU 的本地 LLM 推理引擎，可直接加载模型并提供兼容 OpenAI/Anthropic 的 API 服务。