WhimRead 需要 JavaScript 才能使用站内搜索。
Whim
Read
随手一翻
发现
全部工具
推荐
惊喜
关于
搜索
English
Agent 基础设施
共 436 个项目 · 第 1 / 5 页
全部
11120
工具
5247
库 / 框架
1952
资源合集
630
其他 / 未分类
488
Agent 基础设施
436
AI 应用
403
Agent 工具
379
技能包
361
AI Agent
331
数据库
244
编排层
142
Agent 外壳
133
Agent 框架 / SDK
113
模型
96
AI 平台
86
低代码平台
79
第 1-100 条,共 436 个
项目
收录
建库
Stars
01
C
cc-switch
ai-tools
claude-code
desktop-app
管理
多
家
编
码
助手
的
桌面
工具,
一键
切换
API
供
应商
并
集中
管理
MCP、
技能
与
提示
词
等
多
项
配置。
farion1231
2026-06-26
2025-08-04
152.6k
stars
02
O
OmniRoute
a2a
ai-agents
ai-gateway
免费MIT AI
网关,
用
一
个
OpenAI
兼容
端点
接入
380家
供
应商、
1500+模型,
提供
配额
感知
自动
回退、
token
压缩、
多策
略路
由
及
MCP/A2A。
cheaper-inference
2026-10-21
2026-02-13
86.2k
stars
03
O
OmniRoute
a2a
ai-agents
ai-gateway
聚合数
百家
模型
供
应商
的
免费
AI
网关,
单端点路
由
fallback
并
压
缩节
省
Token。
diegosouzapw
2026-06-24
2026-02-13
85.6k
stars
04
D
dsh-our-free-model
ai-agents
deepseek
deepseek-harness
DeepSeek Harness
的
免费
模型
插件:
免
登录
接入
多
个
免费
上
游
模型,
并
提供
本
地
OpenAI/Anthropic
兼容
网关、
路由
降级、
用量
看板
与
Token 压缩。
zouyuxuan122
2026-09-30
2026-09-24
72.7k
stars
05
F
free-claude-code
多
编码
代理
的
免费
模型
网关,
统
一
61家
供应商
目录、
故障
转移
与
token
优化
的
管理
面板。
alishahryar1
2026-06-26
2026-01-28
68.1k
stars
06
D
dsh-our-free-model
ai-agents
deepseek
deepseek-harness
为
DeepSeek Harness
提供
免费
模型
与
多
提供
商
接入
的
插件,
内置
本
地
OpenAI/Anthropic
兼容
网关、
模型
路由、
用量
统计
和
token 压缩。
Ebony-Vinyl
2026-10-05
2026-09-24
58.9k
stars
07
P
privateGPT
ai
ai-tools
on-premise
将
本
地
模型
变为
生产
级
AI
应用
API层
的
开源
后端,
提供
检索、
工具、
MCP
与
数据
库
能力
支撑
上
层
应
用
构建。
imartinez
2026-08-26
2023-05-02
57.6k
stars
08
W
whisper.cpp
inference
openai
speech-recognition
Whisper
模型
的
纯C
/C++
高性
能
推理
实现,
无
依赖
跨
平台,
支持量化
与
多
硬件
加速
及
多
语言
绑定。
ggml-org
2026-08-26
2022-09-25
55.1k
stars
09
T
t3code
已
装 AI
编程智
能体
的
远程
控制台,
通过
手机、
网页
和
桌面
端统
一
操作 Claude Code、
Codex、
Cursor、
OpenCode
等
会话。
pingdotgg
2026-07-26
2026-02-08
53.8k
stars
10
C
colibri
可
在
个人
硬件
上
运行数千亿
MoE
大
模型
的
纯C本
地
推理
引擎
与
兼容
服务。
justvugg
2026-07-10
2026-07-01
50.3k
stars
11
L
LocalAI
llama
ai
llm
开源
本
地
AI
推理
引擎,
统一
调度
多
模态
模型
与
后端,
以
兼容
API
对
外
提供
服务。
mudler
2026-06-26
2023-03-18
50.3k
stars
12
H
herdr
agent
agent-orchestration
ai
常
驻
终端
的
编码
智
能
体多
路
复
用器,
支持
断线
保持、
多
机
聚合
与
智
能
体
状态
感知。
ogulcancelik
2026-06-26
2026-03-27
49.7k
stars
13
F
freellmapi
聚合数
十家
免费
大模型
配额
的
本
地
统
一
网关,
提供
路
由
容灾
与
用量
统
计面板。
tashfeenahmed
2026-06-26
2026-04-21
49.2k
stars
14
H
herdr
agent
agent-orchestration
ai
编码
代理
专用
的
终端
运行
时,
支持
会
话持久化、
多机
工作区、
agent
状态
标记
和
插件
扩展。
herdrdev
2026-07-30
2026-03-27
48.6k
stars
15
S
sub2api
2api
antigravity2api
claude
一
站式
AI
订阅
中
转
网关,
聚合Claude/OpenAI/Gemini/
Grok订阅
配额,
提供
API Key分
发计费
调度
管理。
wei-shaw
2026-06-26
2025-12-18
45.6k
stars
16
I
iFixAi
ai
diagnostic-tool
agent-evaluation
面
向
AI Agent
的
独立
审计
工具,
通过
模拟
真实
业务
请
求
与
裁判
模型,
检测
越权、
欺骗、
提示
注入
等
风险
并生成 A
-F 评分
报告。
ifixai-ai
2026-07-24
2026-04-27
43.6k
stars
17
A
airllm
chinese-nlp
finetune
generative-ai
让
70B乃
至
671B
大模型
在
单张
小显
存显卡上
推理
与
微调
的
Python
推理
加速库。
lyogavin
2026-06-24
2023-06-12
42.3k
stars
18
P
posthog
analytics
python
react
开源
产品
分析
与
可
观测
平台,
覆盖
事件
回放
灰度
实验
错误
日志
与
AI
追踪
评估,
为
应用
与
智
能
体
提供
统
一
上
下文
与
诊断
能力。
PostHog
2026-06-26
2020-01-23
40.8k
stars
19
S
sglang
cuda
inference
llama
面
向
大模型
与
多
模态
模型
的
高性
能
推理
服务
框架,
优化
智
能
体
负载、
大规模
serving
与
强化
学习 rollout。
sgl-project
2026-06-24
2024-01-08
38.7k
stars
20
C
claude-code-router
面
向
Claude Code、
Codex
等
编码
Agent
的
本地
模型
网关
与
控制
平面,
统一
管理
Provider、
路由、
凭据、
工具
和
请求
日志。
musistudio
2026-08-26
2025-02-25
38.1k
stars
21
D
deepseek-harness-desktop
deepseek
deepseek-harness
dsh-plugin
DeepSeek Harness
的
开箱
即用
桌面
客户
端,
集成
服务
管理
托盘
窗口
与
插件
市场
生态。
anywhere-labs
2026-08-15
2026-08-13
35.9k
stars
22
C
codexplusplus
Codex
桌面
应用
的
统一
管理
增强
工具,
提供
多
供
应商
切换、
会话
管理
与
界面
用量
增强
能力。
bigpizzav3
2026-06-26
2026-05-06
32.9k
stars
23
9
9router
claude-code
cursor
ai-agents
聚合40
余
家
模型
供
应商
的
免费
AI路
由
网关,
支持
自动
降级、
配额
追踪
与
token 节
省
压缩。
decolua
2026-06-26
2026-01-05
32.2k
stars
24
M
magpie
claude-code
codex
deepseek
本
地
LLM/Agent
网关
与
模型
管理
应用,
在
菜单
栏
为
Claude Code、
Codex
等
任意 Agent
统
一切
换
模型、
账户
与
订阅,
并
支持
故障
转移。
yetone
2026-11-04
2026-09-23
29.7k
stars
25
C
claude-hud
anthropic
claude
claude-code
为
Claude Code
提供
实时
状态栏
的
观测
插件,
可
显示
上
下文
用量、
工具、
子智
能体
与
待办
进度。
jarrodwatts
2026-06-24
2026-01-02
29.1k
stars
26
M
mlflow
machine-learning
ai
ml
开源
AI
工程
与
可
观测
平台,
提供
大模型
追踪
评估、
提示
管理
与
模型
全生命
周期
治理
能力。
mlflow
2026-06-24
2018-06-05
28.8k
stars
27
C
cmux
amp
claude-code
codex
面
向
AI
编码
智
能体
的
原生
macOS
终端,
提供
多
会
话
标签页、
通知
提醒
与
可编程
浏
览器。
manaflow-ai
2026-06-24
2026-01-28
28.8k
stars
28
P
promptfoo
llm
prompt-engineering
prompts
面向
提示
词、
智
能
体
与
RAG
的
评估
与
红队
测试
工具,
支持
多
模型
对比
和
CI
集成。
promptfoo
2026-06-24
2023-04-28
27.1k
stars
29
L
llamafile
cross-platform
gguf
llama-cpp
将
大模型
打包
为
单文件
可
执行
程序,
无
需
安装即
可
在
多
系统本
地
运行
LLM
与
语音识别。
mozilla-ai
2026-06-24
2023-09-10
26.6k
stars
30
D
ds4
专为
DeepSeek
等
开源
大模型
优化
的
本地
推理
引擎,
支持
Metal
与
CUDA多
卡
及
服务端部署。
antirez
2026-06-26
2026-05-06
24.3k
stars
31
O
omlx
apple-silicon
inference-server
llm
面
向
Mac
的
本地
大模型
推理
服务器,
支持
连续
批
处理
与
菜单栏
管理
供智
能
体
调用。
jundot
2026-06-24
2026-02-13
23.6k
stars
32
M
mlc-llm
llm
language-model
tvm
面
向
全
平台
的
LLM
编译
与
高性
能
推理
部署
引擎,
支持
多
硬件
后端
与
OpenAI
兼容
接口。
mlc-ai
2026-06-24
2023-04-29
23.4k
stars
33
O
opik
open-source
langchain
openai
开源
LLM
可
观测
与
评测
平台,
提供
agent
追踪、
实验
评估、
提示
优化
与
生产
监控
能力。
comet-ml
2026-06-24
2023-05-10
23.4k
stars
34
N
nemoclaw
在
OpenShell
沙箱
中
安全
运行
多
类
AI
代理
的
参考栈,
提供
推理
与
生命
周期
管理
nvidia
2026-07-15
2026-03-15
22.9k
stars
35
O
opcode
anthropic
anthropic-claude
claude
面
向
Claude Code
的
桌面
管理
应用,
提供
会
话
浏览、
自定
义智
能体、
用量
统计
与
MCP
配置。
winfunc
2026-06-24
2025-06-19
22.4k
stars
36
O
onnxruntime
deep-learning
onnx
neural-networks
跨平台
高性
能
机器
学习
推理
训练
加速
引擎,
兼容
多
框架
模型
并
利用
硬件
加速
优化
执行。
microsoft
2026-06-24
2018-11-10
22.3k
stars
37
O
OpenShell
面
向
自主智
能体
的
安全
隔
离
运行
时,
以
策略
声明
与
内核
强制
实现
文件
网络
凭证
的
最
小
权限
管控。
NVIDIA
2026-06-24
2026-02-24
21.3k
stars
38
W
wasmer
webassembly
wasm
wasi
轻量
安全
的
WebAssembly 沙
箱
运行
时,
提供
CLI
与
多语言 SDK,
可
在
本地、
云端
或
浏览器
隔
离
运行
Python、
JS
等
代码。
wasmerio
2026-08-26
2018-10-11
21.2k
stars
39
C
codex-auth-helper
本
地
导出
已
登录ChatGPT会话
并
生成
Codex
规范auth.json
的
安全
助
手
扩展。
zhishile
2026-07-15
2026-06-02
20.3k
stars
40
E
evals
OpenAI
推出
的
大模型
评测
框架
与
基准
注
册表,
支持
自定
义评测
逻辑、
批量
运行
与
结果
管理,
用于
衡量
模型
能力。
openai
2026-06-24
2023-01-23
19.7k
stars
41
C
cockpit-tools
account-manager
ai
antigravity
统
一
管理
多款
AI
编程
IDE账号
配额
与
多
开
实例
的
桌面
工具,
支持
自动
唤醒
与
切换。
jlcodes99
2026-07-16
2026-01-16
19.7k
stars
42
D
deepeval
evaluation-metrics
evaluation-framework
llm-evaluation
开源
LLM评估
框架,
提供
G-Eval、
任务
完成率
等
数
十
种
指标,
支持
智
能
体
轨迹
与
RAG端到
端测试。
confident-ai
2026-06-24
2023-08-10
19.5k
stars
43
W
web-llm
deep-learning
llm
tvm
浏览器
端
高性
能
大模型
推理
引擎,
基于
图形
加速且
兼容
开放
接口,
开发者
可用
软件
包集
成构
建本
地化
AI
应用。
mlc-ai
2026-06-24
2023-04-13
19.4k
stars
44
O
opencodex
ai-tools
claude
codex
opencodex
是
本
地
AI
网关,
把
Codex、
Claude Code、
Claude Desktop、
Grok Build
等
连接
到
任意
模型
供
应商,
并
提供
路由
与
账号
池
管理。
lidge-jun
2026-07-21
2026-06-18
18.3k
stars
45
C
coder
remote-development
development-environment
ide
自托管云
开发
环境
与
AI
编码
智
能
体
平台,
提供
隔离
工作区、
模型
治理
与
成本
审计
能力。
coder
2026-08-26
2021-12-22
17.4k
stars
46
F
freetoken
deepseek-v4
edge
glm
面
向
个
人
硬件
的
边缘
MoE
推理
引擎,
可
在
消费
级
GPU
上
运行
超大
开源
模型,
并
提供
桌面
应用、
CLI
与
OpenAI/Anthropic
兼容 API。
flashml-org
2026-08-22
2026-07-20
16.8k
stars
47
E
experiential
面
向
Agent
工作流
的
开源
模型
网关,
提供
统
一
接口、
权限
预算
管控
与
基于
流量
的
路由
优化。
experientiallabs
2026-08-28
16.7k
stars
48
O
OpenSandbox
ai
ai-infra
kubernetes
为
AI智
能
体
提供
隔离代码
执行
与
浏览器
桌面
的
沙箱
运行
时,
支持
Docker本
地
启动
与
K8s统
一
API部署。
opensandbox-group
2026-06-24
2025-12-17
16.5k
stars
49
N
nano-vllm
inference
llm
pytorch
从
零实现
的
轻量
vLLM
推理
引擎,
代码
精简
可读,
推理
速度
可
比肩
原版vLLM。
GeeeekExplorer
2026-06-24
2025-06-09
16.3k
stars
50
C
cc-connect
连
接本
地
AI
编
程助手
与
飞书
Telegram
等
聊天
平台
的
桥接
网关,
支持
多
智
能
体
中
继
会话
与
定时
任务。
chenhg5
2026-06-24
2026-02-28
16.3k
stars
51
R
ragas
llm
llmops
evaluation
面
向
大模型
应用
的
评估
工
具包,
提供
客观
指标测试
集生成
与
生产
数
据
反馈闭环。
vibrantlabsai
2026-06-24
2023-05-08
16.2k
stars
52
R
RagaAI-Catalyst
agentneo
agents
llm-testing
面
向
LLM
与
多智
能
体
系统
的
可观测、
评测
与
护栏
平台,
提供
追踪
调试
与
自托管
看板
分析
能力。
raga-ai-hub
2026-06-24
2024-08-26
16.2k
stars
53
C
claudian
claude-code
obsidian
obsidian-plugin
Obsidian
插件,
将
Claude Code、
Codex、
OpenCode
等
编码
agent
嵌入
笔
记库,
支持
会话、
内联编辑、
技能
与
跨会
话
消息。
YishenTu
2026-07-15
2025-12-05
15.9k
stars
54
T
TensorRT-LLM
blackwell
cuda
moe
英伟
达
开源
的
大模型
推理
优化
库,
提供
高效
内核
与
运行
时,
支撑
高性
能
部署。
NVIDIA
2026-06-24
2023-08-16
15.0k
stars
55
E
E2B
ai
gpt
openai
运行
AI生成
代码
的
云端
安全
沙箱
基础
设施,
提供
SDK
创建管
控沙箱
及
桌面
操作
能力
的
开发者
服务。
e2b-dev
2026-06-24
2023-03-04
14.7k
stars
56
A
ax
谷歌
开源
的
声明式
agent
任务
调度
运行
时,
在
Kubernetes
集群
上
以
沙箱
方式
批量
运行、
预配置
并
恢复智
能
体
任务。
google
2026-09-22
2026-03-30
14.6k
stars
57
H
hermes-desktop
ai
ai-agent
autonomous-agents
Hermes智
能体
的
桌面
配套
应用,
提供
安装
配置
聊
天
会
话
记忆
与
工具
管理
的
图形化
管理端。
fathah
2026-06-24
2026-04-02
14.5k
stars
58
C
claudecodeui
claude
claude-api
claude-code
面
向
Claude Code、
Cursor CLI
和
Codex
的
Web/
移动
端图形界面,
可
远
程
查看
和
管理
编程 Agent
的
会话、
文件
与
Git
操作。
siteboon
2026-08-26
2025-06-25
14.5k
stars
59
C
ccstatusline
ai-tools
claude-code
cli
为
Claude Code CLI
打造
的
高度
可定制
状态栏,
实时
显示
模型、
Git
分支、
Token
用量、
费用
与
限额,
并
支持
主题
与
Powerline 样式。
sirmalloc
2026-07-16
2025-08-08
13.5k
stars
60
G
gateway
gateway
generative-ai
llmops
面
向
开发者
的
开源
AI
网关,
提供
多
模型
路由、
重试
熔断、
护栏
与
MCP
管理
能力。
Portkey-AI
2026-06-24
2023-08-23
13.3k
stars
61
C
cubesandbox
agents
container
sandbox
面
向
AI智
能体
的
高性
能
安全
沙箱
服务,
毫
秒级
启动
硬件
隔离,
兼容
E2B
接口
支持
高
并
发代
码
执行。
tencentcloud
2026-07-09
2026-04-10
13.2k
stars
62
O
OpenLLM
llm
llmops
model-inference
简化
大模型
自托管
与
推理
服务
的
开源
项目,
提供
命
令行
与
API部署
及
云端
推理
能力
的
服务
框架。
bentoml
2026-06-24
2023-04-19
12.6k
stars
63
L
LMCache
amd
cuda
inference
面
向
大模型
推理
的
KV
缓存
管理层,
实现
跨
引擎持久化
复用
与
可
观测,
显著降低
首字
延迟
提升
吞吐。
LMCache
2026-06-24
2024-05-28
12.3k
stars
64
P
phoenix
llmops
ai-monitoring
ai-observability
开源
AI
可
观测
平台,
提供
链路
追踪
评测数
据集
与
实验
管理,
用于
调试
优化
LLM
与
智
能
体
应用。
Arize-ai
2026-08-26
2022-11-09
12.3k
stars
65
K
kubeshark
kubernetes
golang
rest
面
向
K8s
的
eBPF
网络
可
观测
平台,
索引L4/L7
流量
解密
TLS
并
支持
MCP
查询。
kubeshark
2026-06-24
2021-04-19
12.1k
stars
66
C
codeburn
ai-coding
claude-code
cli
本
地化
AI
编程
花费
观测
工具,
统计
多
款
代
码智
能
体
的
模型
项目
任务级
token
与
成本。
getagentseal
2026-08-19
2026-04-13
11.7k
stars
67
W
wandb
machine-learning
experiment-track
deep-learning
面
向
机器
学习
实验
的
追踪
与
可视化
平台,
记录
指标、
数据
集
与
模型
版本。
wandb
2026-06-24
2017-03-24
11.3k
stars
68
I
inspector
tool
debug
mcp
MCP官方
服务器
调试
检验
配套,
提供
网页命令行
与
终端界面用于
连接列举调用
MCP
服务,
面
向
MCP
开发者
测试
联调。
modelcontextprotocol
2026-06-24
2024-10-03
11.2k
stars
69
S
server
inference
gpu
machine-learning
英伟
达
开源
的
AI
模型
推理
服务
软件,
支持
多
框
架
模型
的
高性
能
云边
部署。
triton-inference-server
2026-06-24
2018-10-04
11.1k
stars
70
T
tyk
go
api
api-management
云
原生
开源
API
与
AI
网关,
统
一
治理REST
与
MCP
流量,
提供
鉴权
限流
与
可观测
能力。
TykTechnologies
2026-08-26
2014-05-07
10.9k
stars
71
O
openskills
面
向
所有
AI
编程智
能体
的
通用
技能
加载器,
用统
一
CLI
安装同步
SKILL.
md,
保持
与
Claude Code相同
格式。
numman-ali
2026-06-24
2025-10-26
10.8k
stars
72
L
llama-cpp-python
llama.cpp
的
Python
绑定
与
兼容
服务,
支持
本
地
大模型
推理
补全
embeddings
及
函数
调用,
便于
快速
集成
部署。
abetlen
2026-06-24
2023-03-23
10.7k
stars
73
A
astrid
agent-runtime
ai-agents
capability-security
面
向
AI智
能体
的
操作
系统
级
运行
时,
用WebAssembly
胶囊、
能力
令牌
与
沙箱
实现
可
组合
的
安全
隔离
执行。
unicity-astrid
2026-06-24
2026-02-15
10.3k
stars
74
K
kimi-k3-in-c
avx2
c99
cpu-inference
用
纯C
实现
的
超大
MoE模型
CPU
推理
引擎,
无
依赖
流式
加载权重,
在
单机
低
内存下生成
文本
fareedkhan-dev
2026-08-02
2026-08-01
10.2k
stars
75
H
hyperdx
analytics
application-monitoring
log-management
开源
可
观测
平台,
统一
搜索
可视化
日志、
指标、
链路
与
回放,
基于
ClickHouse
实现
高速
检索
告警。
hyperdxio
2026-06-24
2023-09-13
10k
stars
76
G
garak
ai
llm-evaluation
llm-security
面
向
LLM
的
红队
评测
扫
描器,
用
大量
探针
检测
幻觉、
注入
与
越狱
等
弱点。
NVIDIA
2026-06-24
2023-05-10
9.9k
stars
77
C
computer
给
智
能体
的
云端
电脑
基座,
提供
持久
文件
系统
与
容器
隔离
执行
环境
及
多
示例。
cloudflare
2026-08-05
2026-06-05
9.9k
stars
78
I
inference
pytorch
deployment
llm
统
一
的
大模型
推理
服务库,
一
条
命令部署
开源
模型,
兼容OpenAI
接口
并
支持
分
布式
运行。
xorbitsai
2026-06-24
2023-06-14
9.6k
stars
79
S
self-hosted
sentry
docker
docker-compose
Sentry
官
方
自托管
发行版,
开箱
打
包错
误
追踪
与
性
能
监控
全
功
能
栈,
适合
小
规模
私有化部
署
验证。
getsentry
2026-06-24
2016-02-11
9.6k
stars
80
B
bifrost
gateway
llm
llm-gateway
高性
能
开源
大模型
网关,
通过
统
一
接口
聚合
多
家
模型
并
提供
容灾、
缓存、
治理
与
可观测
能力。
maximhq
2026-08-26
2025-03-19
9.5k
stars
81
A
atlas
ai
ai-coding-assistant
claude-code
面
向
编码
智
能体
的
源代
码
管理
与
会话
中枢,
并
行
运行
多
种
智
能
体
并
共
享记忆
与
检查点,
附带编
辑器
与
终端。
pacifio
2026-08-07
2026-05-14
9.4k
stars
82
A
atlas
ai
ai-coding-assistant
claude-code
Atlas
是
面
向
编码
智
能体
的
可视化
与
管控层,
记录
会话、
关联
提交
并
提供
团队
时间线
与
共享记忆。
tryatlas
2026-11-06
2026-05-14
9.4k
stars
83
M
microsandbox
agents
docker
linux
本
地
优先
的
轻量
MicroVM
运行时
与
开发库,
可
在
毫
秒级
启动
隔离
沙箱
运行智
能体、
代码
与
自动化
任务。
superradcompany
2026-06-24
2024-10-03
9k
stars
84
C
Claude-Code-Usage-Monitor
ai
claude
claude-code
实时
监控
Claude Code
用量
的
终端
工具,
跟踪 token、
消息
与
成本,
提供
预测、
告警
和
数
据
导出。
Maciek-roboblog
2026-08-26
2025-06-19
8.8k
stars
85
C
claude-squad
claude-code
cli
vibe-coding
在
单个
终端
管理
多
个
AI
编程智
能
体
会话,
为
每
任务
隔离git
工作区,
支持
后
台
执行
与
变
更
审核。
smtg-ai
2026-06-24
2025-03-09
8.7k
stars
86
N
nexa-sdk
llm
on-device-ai
sdk
骁龙
设备
端生
成式
AI
推理
运行
时,
可
在
NPU/GPU/CPU本
地
运行
前
沿
大
模型。
qualcomm
2026-06-24
2024-08-16
8.5k
stars
87
A
aos-ce
开放
的
智能
体
操作
系统,
提供
命令
行
运行
时隔离
环境
与
可组合胶囊
及
模型
接入
能力。
unicity-aos
2026-07-26
2026-07-12
8.5k
stars
88
O
ogx
OpenAI
兼容
的
开源
智
能
体API
服务器,
统
一
接入
多
模型
与
检索
工具,
为
AI
应用
提供
推理
编排
基础
设施。
ogx-ai
2026-06-24
2024-06-25
8.5k
stars
89
F
failproofai
claude-code
reliability
agent-reliability
面
向
Agent
Harness
的
可观测
与
策略
执行层,
提供
运行
追踪、
护
栏
拦截
与
本地
审计。
failproofai
2026-08-12
2026-04-06
8.2k
stars
90
L
lmdeploy
cuda-kernels
deepspeed
fastertransformer
面
向
LLM
的
压缩部署
推理
工具包,
提供
高吞吐
推理
引擎、
量化
与
多机
服务
能力,
支持众
多
开源
模型。
InternLM
2026-06-24
2023-06-15
8.1k
stars
91
E
evidently
data-drift
jupyter-notebook
pandas-dataframe
评估测试监控
ML
与
LLM
系统
的
开源
框架,
提供
百余
指标、
报告
测
试集
与
生产
监
控面板
服务。
evidentlyai
2026-06-24
2020-11-25
8k
stars
92
P
pi-web
为
Pi
编码
智
能
体
提供
的
本地
浏览器
界面,
可浏览
恢复
会
话
运行
轮次
并
管理
模型
与
文件。
agegr
2026-07-21
2026-03-22
8k
stars
93
S
stable-diffusion.cpp
ai
cplusplus
diffusion
纯 C/C+
+
的
扩散
模型
推理
引擎,
支持
SD、
Flux、
Wan、
Qwen Image
等
图像
与
视频
模型,
可
在
CPU/GPU
本
地
运行。
leejet
2026-09-24
2023-08-13
7.9k
stars
94
G
grok2api
聚合多
渠道
Grok
服务
并
统
一
对
外
提供
接口
的
多
账
号
模型
网关
服务。
chenyme
2026-07-15
2025-10-10
7.9k
stars
95
M
mistral.rs
llm
rust
uqff
高性
能
多
模态
LLM
推理
引擎,
提供量化、
兼容
API
服务
与
SDK,
支持
本
地
与
多卡
快速部
署
运行。
EricLBuehler
2026-06-24
2024-02-26
7.8k
stars
96
M
magnitude
面
向
智
能体
的
开源
本地
推理
引擎,
针对
硬件
调优
提速,
下载
模型
后
供常
用
编程
智
能
体
调用。
magnitudedev
2026-08-09
2026-06-12
7.8k
stars
97
O
openspace
面
向
智
能
体技
能
全
生命
周期
的
管理
与
评估
设施,
提供
检索、
质量
评估、
进化
与
本地
优先
的
技能
共
享
运
行层。
hkuds
2026-08-16
2026-03-24
7.8k
stars
98
M
manifest
openclaw
cost-tracking
llm-observability
开源
LLM
网关
与
自愈
API层,
统
一
接入
多
模型
与
订阅,
支持
路由、
熔断、
日志
与
成本
追踪。
mnfst
2026-08-26
2022-09-27
7.6k
stars
99
L
llm-gateway
openclaw
cost-tracking
llm-observability
开源
LLM
网关,
把
多
家
API、
订阅
与
本地
模型
统
一
到
一
个
OpenAI
兼容
端点,
支持
路由、
回退、
成本
追踪
与
日志。
mnfst
2026-09-10
2022-09-27
7.6k
stars
100
C
ClawX
agent
clawdbot
moltbot
OpenClaw智
能体
的
桌面
客户端,
免
终端
提供
聊天、
定时
任务、
渠道
与
Skill
管理
的
图形化
操作
体验。
ValueCell-ai
2026-06-24
2026-02-05
7.6k
stars
第 1 / 5 页
下一页 →