English
Agent 基础设施

tilert

tile-ai/tilert

面向超大模型的超低延迟大模型推理运行时,采用分片编译调度与MTP加速,支持与vLLM解耦部署。