mesh-llm

众包算力的分布式大模型网格，聚合多机显存统一 serving，自动路由或切分超大模型推理。