MNN

阿里开源的轻量高性能端侧推理框架，支持LLM与扩散模型在手机IoT高效部署，含转换压缩工具。