freetoken

面向消费级硬件的边缘MoE推理引擎，可在游戏电脑本地高速运行290B级开源MoE大模型并提供兼容API服务。