mlc-llm

面向全平台的LLM编译与高性能推理部署引擎，支持多硬件后端与OpenAI兼容接口。