English

Agent 基础设施

共 436 个项目 · 第 1 / 5 页

第 1-100 条,共 436 个
项目
收录
建库
Stars
01
cc-switchai-toolsclaude-codedesktop-app
管理多家编码助手的桌面工具,一键切换API供应商并集中管理MCP、技能与提示词等多项配置。farion1231
2026-06-26
2025-08-04
152.6k stars
02
OmniRoutea2aai-agentsai-gateway
免费MIT AI网关,用一个OpenAI兼容端点接入380家供应商、1500+模型,提供配额感知自动回退、token压缩、多策略路由及MCP/A2A。cheaper-inference
2026-10-21
2026-02-13
86.2k stars
03
OmniRoutea2aai-agentsai-gateway
聚合数百家模型供应商的免费AI网关,单端点路由 fallback并压缩节省Token。diegosouzapw
2026-06-24
2026-02-13
85.6k stars
04
dsh-our-free-modelai-agentsdeepseekdeepseek-harness
DeepSeek Harness 的免费模型插件:免登录接入多个免费上游模型,并提供本地 OpenAI/Anthropic 兼容网关、路由降级、用量看板与 Token 压缩。zouyuxuan122
2026-09-30
2026-09-24
72.7k stars
05
free-claude-code
多编码代理的免费模型网关,统一61家供应商目录、故障转移与token优化的管理面板。alishahryar1
2026-06-26
2026-01-28
68.1k stars
06
dsh-our-free-modelai-agentsdeepseekdeepseek-harness
为 DeepSeek Harness 提供免费模型与多提供商接入的插件,内置本地 OpenAI/Anthropic 兼容网关、模型路由、用量统计和 token 压缩。Ebony-Vinyl
2026-10-05
2026-09-24
58.9k stars
07
privateGPTaiai-toolson-premise
将本地模型变为生产级AI应用API层的开源后端,提供检索、工具、MCP与数据库能力支撑上层应用构建。imartinez
2026-08-26
2023-05-02
57.6k stars
08
whisper.cppinferenceopenaispeech-recognition
Whisper模型的纯C/C++高性能推理实现,无依赖跨平台,支持量化与多硬件加速及多语言绑定。ggml-org
2026-08-26
2022-09-25
55.1k stars
09
t3code
已装 AI 编程智能体的远程控制台,通过手机、网页和桌面端统一操作 Claude Code、Codex、Cursor、OpenCode 等会话。pingdotgg
2026-07-26
2026-02-08
53.8k stars
10
colibri
可在个人硬件上运行数千亿MoE大模型的纯C本地推理引擎与兼容服务。justvugg
2026-07-10
2026-07-01
50.3k stars
11
LocalAIllamaaillm
开源本地AI推理引擎,统一调度多模态模型与后端,以兼容API对外提供服务。mudler
2026-06-26
2023-03-18
50.3k stars
12
herdragentagent-orchestrationai
常驻终端的编码智能体多路复用器,支持断线保持、多机聚合与智能体状态感知。ogulcancelik
2026-06-26
2026-03-27
49.7k stars
13
freellmapi
聚合数十家免费大模型配额的本地统一网关,提供路由容灾与用量统计面板。tashfeenahmed
2026-06-26
2026-04-21
49.2k stars
14
herdragentagent-orchestrationai
编码代理专用的终端运行时,支持会话持久化、多机工作区、agent 状态标记和插件扩展。herdrdev
2026-07-30
2026-03-27
48.6k stars
15
sub2api2apiantigravity2apiclaude
一站式AI订阅中转网关,聚合Claude/OpenAI/Gemini/Grok订阅配额,提供API Key分发计费调度管理。wei-shaw
2026-06-26
2025-12-18
45.6k stars
16
iFixAiaidiagnostic-toolagent-evaluation
面向 AI Agent 的独立审计工具,通过模拟真实业务请求与裁判模型,检测越权、欺骗、提示注入等风险并生成 A-F 评分报告。ifixai-ai
2026-07-24
2026-04-27
43.6k stars
17
airllmchinese-nlpfinetunegenerative-ai
让70B乃至671B大模型在单张小显存显卡上推理与微调的Python推理加速库。lyogavin
2026-06-24
2023-06-12
42.3k stars
18
posthoganalyticspythonreact
开源产品分析与可观测平台,覆盖事件回放灰度实验错误日志与AI追踪评估,为应用与智能体提供统一上下文与诊断能力。PostHog
2026-06-26
2020-01-23
40.8k stars
19
sglangcudainferencellama
面向大模型与多模态模型的高性能推理服务框架,优化智能体负载、大规模 serving 与强化学习 rollout。sgl-project
2026-06-24
2024-01-08
38.7k stars
20
claude-code-router
面向Claude Code、Codex等编码Agent的本地模型网关与控制平面,统一管理Provider、路由、凭据、工具和请求日志。musistudio
2026-08-26
2025-02-25
38.1k stars
21
deepseek-harness-desktopdeepseekdeepseek-harnessdsh-plugin
DeepSeek Harness的开箱即用桌面客户端,集成服务管理托盘窗口与插件市场生态。anywhere-labs
2026-08-15
2026-08-13
35.9k stars
22
codexplusplus
Codex桌面应用的统一管理增强工具,提供多供应商切换、会话管理与界面用量增强能力。bigpizzav3
2026-06-26
2026-05-06
32.9k stars
23
9routerclaude-codecursorai-agents
聚合40余家模型供应商的免费AI路由网关,支持自动降级、配额追踪与 token 节省压缩。decolua
2026-06-26
2026-01-05
32.2k stars
24
magpieclaude-codecodexdeepseek
本地 LLM/Agent 网关与模型管理应用,在菜单栏为 Claude Code、Codex 等任意 Agent 统一切换模型、账户与订阅,并支持故障转移。yetone
2026-11-04
2026-09-23
29.7k stars
25
claude-hudanthropicclaudeclaude-code
为Claude Code提供实时状态栏的观测插件,可显示上下文用量、工具、子智能体与待办进度。jarrodwatts
2026-06-24
2026-01-02
29.1k stars
26
mlflowmachine-learningaiml
开源AI工程与可观测平台,提供大模型追踪评估、提示管理与模型全生命周期治理能力。mlflow
2026-06-24
2018-06-05
28.8k stars
27
cmuxampclaude-codecodex
面向AI编码智能体的原生macOS终端,提供多会话标签页、通知提醒与可编程浏览器。manaflow-ai
2026-06-24
2026-01-28
28.8k stars
28
promptfoollmprompt-engineeringprompts
面向提示词、智能体与RAG的评估与红队测试工具,支持多模型对比和CI集成。promptfoo
2026-06-24
2023-04-28
27.1k stars
29
llamafilecross-platformggufllama-cpp
将大模型打包为单文件可执行程序,无需安装即可在多系统本地运行LLM与语音识别。mozilla-ai
2026-06-24
2023-09-10
26.6k stars
30
ds4
专为DeepSeek等开源大模型优化的本地推理引擎,支持Metal与CUDA多卡及服务端部署。antirez
2026-06-26
2026-05-06
24.3k stars
31
omlxapple-siliconinference-serverllm
面向Mac的本地大模型推理服务器,支持连续批处理与菜单栏管理供智能体调用。jundot
2026-06-24
2026-02-13
23.6k stars
32
mlc-llmllmlanguage-modeltvm
面向全平台的LLM编译与高性能推理部署引擎,支持多硬件后端与OpenAI兼容接口。mlc-ai
2026-06-24
2023-04-29
23.4k stars
33
opikopen-sourcelangchainopenai
开源LLM可观测与评测平台,提供agent追踪、实验评估、提示优化与生产监控能力。comet-ml
2026-06-24
2023-05-10
23.4k stars
34
nemoclaw
在OpenShell沙箱中安全运行多类AI代理的参考栈,提供推理与生命周期管理nvidia
2026-07-15
2026-03-15
22.9k stars
35
opcodeanthropicanthropic-claudeclaude
面向Claude Code的桌面管理应用,提供会话浏览、自定义智能体、用量统计与MCP配置。winfunc
2026-06-24
2025-06-19
22.4k stars
36
onnxruntimedeep-learningonnxneural-networks
跨平台高性能机器学习推理训练加速引擎,兼容多框架模型并利用硬件加速优化执行。microsoft
2026-06-24
2018-11-10
22.3k stars
37
OpenShell
面向自主智能体的安全隔离运行时,以策略声明与内核强制实现文件网络凭证的最小权限管控。NVIDIA
2026-06-24
2026-02-24
21.3k stars
38
wasmerwebassemblywasmwasi
轻量安全的 WebAssembly 沙箱运行时,提供 CLI 与多语言 SDK,可在本地、云端或浏览器隔离运行 Python、JS 等代码。wasmerio
2026-08-26
2018-10-11
21.2k stars
39
codex-auth-helper
本地导出已登录ChatGPT会话并生成Codex规范auth.json的安全助手扩展。zhishile
2026-07-15
2026-06-02
20.3k stars
40
evals
OpenAI推出的大模型评测框架与基准注册表,支持自定义评测逻辑、批量运行与结果管理,用于衡量模型能力。openai
2026-06-24
2023-01-23
19.7k stars
41
cockpit-toolsaccount-manageraiantigravity
统一管理多款AI编程IDE账号配额与多开实例的桌面工具,支持自动唤醒与切换。jlcodes99
2026-07-16
2026-01-16
19.7k stars
42
deepevalevaluation-metricsevaluation-frameworkllm-evaluation
开源LLM评估框架,提供G-Eval、任务完成率等数十种指标,支持智能体轨迹与RAG端到端测试。confident-ai
2026-06-24
2023-08-10
19.5k stars
43
web-llmdeep-learningllmtvm
浏览器端高性能大模型推理引擎,基于图形加速且兼容开放接口,开发者可用软件包集成构建本地化AI应用。mlc-ai
2026-06-24
2023-04-13
19.4k stars
44
opencodexai-toolsclaudecodex
opencodex 是本地 AI 网关,把 Codex、Claude Code、Claude Desktop、Grok Build 等连接到任意模型供应商,并提供路由与账号池管理。lidge-jun
2026-07-21
2026-06-18
18.3k stars
45
coderremote-developmentdevelopment-environmentide
自托管云开发环境与AI编码智能体平台,提供隔离工作区、模型治理与成本审计能力。coder
2026-08-26
2021-12-22
17.4k stars
46
freetokendeepseek-v4edgeglm
面向个人硬件的边缘 MoE 推理引擎,可在消费级 GPU 上运行超大开源模型,并提供桌面应用、CLI 与 OpenAI/Anthropic 兼容 API。flashml-org
2026-08-22
2026-07-20
16.8k stars
47
experiential
面向Agent工作流的开源模型网关,提供统一接口、权限预算管控与基于流量的路由优化。experientiallabs
2026-08-28
16.7k stars
48
OpenSandboxaiai-infrakubernetes
为AI智能体提供隔离代码执行与浏览器桌面的沙箱运行时,支持Docker本地启动与K8s统一API部署。opensandbox-group
2026-06-24
2025-12-17
16.5k stars
49
nano-vllminferencellmpytorch
从零实现的轻量vLLM推理引擎,代码精简可读,推理速度可比肩原版vLLM。GeeeekExplorer
2026-06-24
2025-06-09
16.3k stars
50
cc-connect
连接本地AI编程助手与飞书Telegram等聊天平台的桥接网关,支持多智能体中继会话与定时任务。chenhg5
2026-06-24
2026-02-28
16.3k stars
51
ragasllmllmopsevaluation
面向大模型应用的评估工具包,提供客观指标测试集生成与生产数据反馈闭环。vibrantlabsai
2026-06-24
2023-05-08
16.2k stars
52
RagaAI-Catalystagentneoagentsllm-testing
面向LLM与多智能体系统的可观测、评测与护栏平台,提供追踪调试与自托管看板分析能力。raga-ai-hub
2026-06-24
2024-08-26
16.2k stars
53
claudianclaude-codeobsidianobsidian-plugin
Obsidian 插件,将 Claude Code、Codex、OpenCode 等编码 agent 嵌入笔记库,支持会话、内联编辑、技能与跨会话消息。YishenTu
2026-07-15
2025-12-05
15.9k stars
54
TensorRT-LLMblackwellcudamoe
英伟达开源的大模型推理优化库,提供高效内核与运行时,支撑高性能部署。NVIDIA
2026-06-24
2023-08-16
15.0k stars
55
E2Baigptopenai
运行AI生成代码的云端安全沙箱基础设施,提供SDK创建管控沙箱及桌面操作能力的开发者服务。e2b-dev
2026-06-24
2023-03-04
14.7k stars
56
ax
谷歌开源的声明式 agent 任务调度运行时,在 Kubernetes 集群上以沙箱方式批量运行、预配置并恢复智能体任务。google
2026-09-22
2026-03-30
14.6k stars
57
hermes-desktopaiai-agentautonomous-agents
Hermes智能体的桌面配套应用,提供安装配置聊天会话记忆与工具管理的图形化管理端。fathah
2026-06-24
2026-04-02
14.5k stars
58
claudecodeuiclaudeclaude-apiclaude-code
面向 Claude Code、Cursor CLI 和 Codex 的 Web/移动端图形界面,可远程查看和管理编程 Agent 的会话、文件与 Git 操作。siteboon
2026-08-26
2025-06-25
14.5k stars
59
ccstatuslineai-toolsclaude-codecli
为 Claude Code CLI 打造的高度可定制状态栏,实时显示模型、Git 分支、Token 用量、费用与限额,并支持主题与 Powerline 样式。sirmalloc
2026-07-16
2025-08-08
13.5k stars
60
gatewaygatewaygenerative-aillmops
面向开发者的开源AI网关,提供多模型路由、重试熔断、护栏与MCP管理能力。Portkey-AI
2026-06-24
2023-08-23
13.3k stars
61
cubesandboxagentscontainersandbox
面向AI智能体的高性能安全沙箱服务,毫秒级启动硬件隔离,兼容E2B接口支持高并发代码执行。tencentcloud
2026-07-09
2026-04-10
13.2k stars
62
OpenLLMllmllmopsmodel-inference
简化大模型自托管与推理服务的开源项目,提供命令行与API部署及云端推理能力的服务框架。bentoml
2026-06-24
2023-04-19
12.6k stars
63
LMCacheamdcudainference
面向大模型推理的KV缓存管理层,实现跨引擎持久化复用与可观测,显著降低首字延迟提升吞吐。LMCache
2026-06-24
2024-05-28
12.3k stars
64
phoenixllmopsai-monitoringai-observability
开源AI可观测平台,提供链路追踪评测数据集与实验管理,用于调试优化LLM与智能体应用。Arize-ai
2026-08-26
2022-11-09
12.3k stars
65
kubesharkkubernetesgolangrest
面向K8s的eBPF网络可观测平台,索引L4/L7流量解密TLS并支持MCP查询。kubeshark
2026-06-24
2021-04-19
12.1k stars
66
codeburnai-codingclaude-codecli
本地化AI编程花费观测工具,统计多款代码智能体的模型项目任务级token与成本。getagentseal
2026-08-19
2026-04-13
11.7k stars
67
wandbmachine-learningexperiment-trackdeep-learning
面向机器学习实验的追踪与可视化平台,记录指标、数据集与模型版本。wandb
2026-06-24
2017-03-24
11.3k stars
68
inspectortooldebugmcp
MCP官方服务器调试检验配套,提供网页命令行与终端界面用于连接列举调用MCP服务,面向MCP开发者测试联调。modelcontextprotocol
2026-06-24
2024-10-03
11.2k stars
69
serverinferencegpumachine-learning
英伟达开源的AI模型推理服务软件,支持多框架模型的高性能云边部署。triton-inference-server
2026-06-24
2018-10-04
11.1k stars
70
tykgoapiapi-management
云原生开源API与AI网关,统一治理REST与MCP流量,提供鉴权限流与可观测能力。TykTechnologies
2026-08-26
2014-05-07
10.9k stars
71
openskills
面向所有AI编程智能体的通用技能加载器,用统一CLI安装同步SKILL.md,保持与Claude Code相同格式。numman-ali
2026-06-24
2025-10-26
10.8k stars
72
llama-cpp-python
llama.cpp的Python绑定与兼容服务,支持本地大模型推理补全 embeddings及函数调用,便于快速集成部署。abetlen
2026-06-24
2023-03-23
10.7k stars
73
astridagent-runtimeai-agentscapability-security
面向AI智能体的操作系统级运行时,用WebAssembly胶囊、能力令牌与沙箱实现可组合的安全隔离执行。unicity-astrid
2026-06-24
2026-02-15
10.3k stars
74
kimi-k3-in-cavx2c99cpu-inference
用纯C实现的超大MoE模型CPU推理引擎,无依赖流式加载权重,在单机低内存下生成文本fareedkhan-dev
2026-08-02
2026-08-01
10.2k stars
75
hyperdxanalyticsapplication-monitoringlog-management
开源可观测平台,统一搜索可视化日志、指标、链路与回放,基于ClickHouse实现高速检索告警。hyperdxio
2026-06-24
2023-09-13
10k stars
76
garakaillm-evaluationllm-security
面向LLM的红队评测扫描器,用大量探针检测幻觉、注入与越狱等弱点。NVIDIA
2026-06-24
2023-05-10
9.9k stars
77
computer
给智能体的云端电脑基座,提供持久文件系统与容器隔离执行环境及多示例。cloudflare
2026-08-05
2026-06-05
9.9k stars
78
inferencepytorchdeploymentllm
统一的大模型推理服务库,一条命令部署开源模型,兼容OpenAI接口并支持分布式运行。xorbitsai
2026-06-24
2023-06-14
9.6k stars
79
self-hostedsentrydockerdocker-compose
Sentry官方自托管发行版,开箱打包错误追踪与性能监控全功能栈,适合小规模私有化部署验证。getsentry
2026-06-24
2016-02-11
9.6k stars
80
bifrostgatewayllmllm-gateway
高性能开源大模型网关,通过统一接口聚合多家模型并提供容灾、缓存、治理与可观测能力。maximhq
2026-08-26
2025-03-19
9.5k stars
81
atlasaiai-coding-assistantclaude-code
面向编码智能体的源代码管理与会话中枢,并行运行多种智能体并共享记忆与检查点,附带编辑器与终端。pacifio
2026-08-07
2026-05-14
9.4k stars
82
atlasaiai-coding-assistantclaude-code
Atlas 是面向编码智能体的可视化与管控层,记录会话、关联提交并提供团队时间线与共享记忆。tryatlas
2026-11-06
2026-05-14
9.4k stars
83
microsandboxagentsdockerlinux
本地优先的轻量MicroVM运行时与开发库,可在毫秒级启动隔离沙箱运行智能体、代码与自动化任务。superradcompany
2026-06-24
2024-10-03
9k stars
84
Claude-Code-Usage-Monitoraiclaudeclaude-code
实时监控 Claude Code 用量的终端工具,跟踪 token、消息与成本,提供预测、告警和数据导出。Maciek-roboblog
2026-08-26
2025-06-19
8.8k stars
85
claude-squadclaude-codeclivibe-coding
在单个终端管理多个AI编程智能体会话,为每任务隔离git工作区,支持后台执行与变更审核。smtg-ai
2026-06-24
2025-03-09
8.7k stars
86
nexa-sdkllmon-device-aisdk
骁龙设备端生成式AI推理运行时,可在NPU/GPU/CPU本地运行前沿大模型。qualcomm
2026-06-24
2024-08-16
8.5k stars
87
aos-ce
开放的智能体操作系统,提供命令行运行时隔离环境与可组合胶囊及模型接入能力。unicity-aos
2026-07-26
2026-07-12
8.5k stars
88
ogx
OpenAI兼容的开源智能体API服务器,统一接入多模型与检索工具,为AI应用提供推理编排基础设施。ogx-ai
2026-06-24
2024-06-25
8.5k stars
89
failproofaiclaude-codereliabilityagent-reliability
面向Agent Harness的可观测与策略执行层,提供运行追踪、护栏拦截与本地审计。failproofai
2026-08-12
2026-04-06
8.2k stars
90
lmdeploycuda-kernelsdeepspeedfastertransformer
面向LLM的压缩部署推理工具包,提供高吞吐推理引擎、量化与多机服务能力,支持众多开源模型。InternLM
2026-06-24
2023-06-15
8.1k stars
91
evidentlydata-driftjupyter-notebookpandas-dataframe
评估测试监控ML与LLM系统的开源框架,提供百余指标、报告测试集与生产监控面板服务。evidentlyai
2026-06-24
2020-11-25
8k stars
92
pi-web
为Pi编码智能体提供的本地浏览器界面,可浏览恢复会话运行轮次并管理模型与文件。agegr
2026-07-21
2026-03-22
8k stars
93
stable-diffusion.cppaicplusplusdiffusion
纯 C/C++ 的扩散模型推理引擎,支持 SD、Flux、Wan、Qwen Image 等图像与视频模型,可在 CPU/GPU 本地运行。leejet
2026-09-24
2023-08-13
7.9k stars
94
grok2api
聚合多渠道Grok服务并统一对外提供接口的多账号模型网关服务。chenyme
2026-07-15
2025-10-10
7.9k stars
95
mistral.rsllmrustuqff
高性能多模态LLM推理引擎,提供量化、兼容API服务与SDK,支持本地与多卡快速部署运行。EricLBuehler
2026-06-24
2024-02-26
7.8k stars
96
magnitude
面向智能体的开源本地推理引擎,针对硬件调优提速,下载模型后供常用编程智能体调用。magnitudedev
2026-08-09
2026-06-12
7.8k stars
97
openspace
面向智能体技能全生命周期的管理与评估设施,提供检索、质量评估、进化与本地优先的技能共享运行层。hkuds
2026-08-16
2026-03-24
7.8k stars
98
manifestopenclawcost-trackingllm-observability
开源LLM网关与自愈API层,统一接入多模型与订阅,支持路由、熔断、日志与成本追踪。mnfst
2026-08-26
2022-09-27
7.6k stars
99
llm-gatewayopenclawcost-trackingllm-observability
开源 LLM 网关,把多家 API、订阅与本地模型统一到一个 OpenAI 兼容端点,支持路由、回退、成本追踪与日志。mnfst
2026-09-10
2022-09-27
7.6k stars
100
ClawXagentclawdbotmoltbot
OpenClaw智能体的桌面客户端,免终端提供聊天、定时任务、渠道与Skill管理的图形化操作体验。ValueCell-ai
2026-06-24
2026-02-05
7.6k stars