Agent 基础设施
标签
同类项目
RWKV-LM14.8k融合RNN与 Transformer 优点 的 RWKV线性 注意力 大模型 系列， 发布权重 与 训练 推理 实现。 
onnxruntime22.1k跨平台高性 能 机器 学习 推理 训练 加速 引擎， 兼容 多 框架 模型 并 利用 硬件 加速 优化 执行。 
web-llm19.3k浏览器端 高性 能 大模型 推理 引擎， 基于 图形 加速且 兼容 开放 接口， 开发者 可用 软件 包集 成构 建本 地化 AI 应用。 
nano-vllm15.8k从零实现 的 轻量 vLLM 推理 引擎， 代码 精简 可读， 推理 速度 可 比肩 原版vLLM。 
wandb11.3k面向 机器 学习 实验 的 追踪 与 可视化 平台， 记录 指标、 数据 集 与 模型 版本。 
server11.1k英伟达 开源 的 AI 模型 推理 服务 软件， 支持 多 框 架 模型 的 高性 能 云边 部署。