Agent 基础设施
标签
同类项目
gateway13.3k面向 开发者 的 开源 AI 网关， 提供 多 模型 路由、 重试 熔断、 护栏 与 MCP 管理 能力。 
BentoML8.9k统一的 AI 模型 服务 框架， 将 任意 模型 脚本 转为 高性 能 推理 API， 支持 批 处理容器化 与 云端 部署。 
phoenix11.9k开源AI 可 观测 平台， 提供 链路 追踪 评测数 据集 与 实验 管理， 用于 调试 优化 LLM 与 智 能 体 应用。 
llm-action25.2k大模型工程化 实战 知识库， 系统 整理 训练、 微调、 推理 优化 与 应用 落地 的 教程 与 代码。 
agents-towards-production21.8k28个 端 到 端教程 合集， 手 把 手教 把 AI agent 从 原型 做到 企业 级 部署 的 完整 技术 栈。 
litgpt13.7k提供20 多 种 大模型 实现 与 预训练、 微调、 量化、 部署 全 流程 配方 的 高性 能 LLM 开发 框架。