Agent 基础设施
标签
同类项目
papersgpt-for-zotero2.7k高性能 本 地 Zotero AI 插件， 实现 万级 PDF 跨文档 综合、 引用 溯源 与 全局 极速检索 问答。 
sglang37.1k面向 大语言 与 多 模态 模型 的 高性 能 推理 服务 与 部署 框架 系统。 
llamafile26.2k将大模型 打包 为 单文件 可 执行 程序， 无 需 安装即 可 在 多 系统本 地 运行 LLM 与 语音识别。 
omlx22.8k面向 Mac 的 本地 大模型 推理 服务器， 支持 连续 批 处理 与 菜单栏 管理 供智 能 体 调用。 
dsh-our-free-model16.1kdsh平台 的 免费 模型 供给 插件， 提供 模型 清单 探测 选择 与 本地 OpenAI 兼容转 发网关 能力。 
dsh-our-free-model16.1k为dsh 提供 免费模型 通道 的 插件， 动态 拉取 上 游模型 清单 并 提供 本 地OpenAI 兼容转 发 端口。