English
Agent 基础设施

ninfer

neroued/ninfer

面向单卡RTX5090的C++与CUDA高性能推理引擎,专精Qwen模型文本图像视频推理,提供兼容接口。