Agent 基础设施

跨平台桌面助手，统一管理Claude Code等多种编码智能体的配置切换与会话运行。

常驻CLI输出过滤压缩代理，拦截百余种开发命令输出以节省智能体上下文，低开销服务AI编码会话。

免费开源AI网关，统一接入352家供应商1200余模型，提供配额感知自动fallback与Token压缩，供编程智能体调用。

为多个编码智能体提供多供应商故障转移与统一模型管理的网关配套工具。

开源本地AI推理引擎，可在任意硬件运行各类模型并提供兼容主流的统一接口。

统一纳管多家大模型订阅额度的一站式中转网关，支持拼车共享分摊成本并兼容原生编程工具无缝调用。

常驻终端的智能体多会话管理器，支持掉线保持、远程聚合与插件扩展。

供编码智能体常驻运行的终端运行时，提供断线保活多机聚合与智能体原生驱动接口。

面向多款编程智能体的本地模型网关与控制台，统一管理渠道、路由、容灾与用量观测。

将显存内存与磁盘视为统一推理层级的超大MoE纯C推理引擎与开放研究平台。

面向大语言与多模态模型的高性能推理服务与部署框架系统。

一个用Zig从零编写的轻量无头浏览器，专为AI智能体和自动化设计，资源占用低，支持CDP协议和自然语言驱动的agent模式。

通过逐层卸载技术让70B至671B大模型在单块小显存GPU上推理运行的低显存推理库。

开放智能体技能生态的安装调用工具，可从多Git源拉取技能并注入到数十种编程智能体。

连接多种编码工具与四十余家模型的免费AI路由网关，提供降级与省词服务。

聚合三十多家免费大模型的统一网关，提供智能路由、故障转移与加密密钥管理的接口服务。

实时显示Claude Code上下文用量、工具动态与任务进度的状态栏可观测插件。

开源AI工程平台，提供实验追踪、模型注册、评估、监控可观测与网关，支撑Agent/LLM应用全生命周期管理。

基于Ghostty的macOS开源终端，为AI编程智能体提供垂直标签页、多会话管理与通知提醒，支持并行多任务协作。

把LLM权重与推理引擎打包为单文件可执行程序，本地免安装跨系统运行大模型及语音转写工具。

面向LLM应用的提示词评估与红队安全测试工具，支持多模型对比、漏洞扫描与CI/CD集成。

为Codex等智能体共享技能与MCP能力的开源桌面应用及团队管控面

统一管控本机多种编码智能体的远控服务，提供移动网页桌面多端操作入口。

基于机器学习编译的高性能大模型部署推理引擎，支持多芯片多平台本地高效运行LLM并提供统一API。

面向消费级硬件的专用大模型本地推理引擎，支持多后端与多卡并行服务。

在OpenShell沙箱中安全运行多类AI代理的参考栈，提供推理与生命周期管理

为LLM应用、RAG与智能体提供追踪、评测、提示优化与生产监控的开源可观测平台。

为Apple Silicon优化的本地LLM推理服务器，支持连续批处理与内存加固态分层缓存，可通过菜单栏管理。

开源可观测性平台，统一处理日志指标链路与前端监控，单二进制部署，低成本替代Datadog与Elasticsearch。

常驻菜单栏的AI编码用量监控工具，可聚合多家模型限额、用量与重置倒计时并支持多平台展示。

为大语言模型及系统提供评估框架与开源基准注册表，支持自定义与运行评测以检验模型能力。

基于WebGPU的浏览器端大模型高性能推理引擎，兼容OpenAI接口，以npm包形式供开发者构建网页AI应用。

开源LLM评估框架，类似Pytest专用于LLM应用单元测试，提供多种评测指标以评估模型、提示与智能体轨迹质量。

统一管理多款AI编程IDE账号配额与多开实例的桌面工具，支持自动唤醒与切换。

面向智能体技能的安全扫描器，可检测提示注入与数据渗漏等风险并输出风险评分报告

本地导出已登录ChatGPT会话并生成Codex规范auth.json的安全助手扩展。

为LLM与多智能体应用提供可观测、追踪、评测与监控的综合平台，含自托管看板与执行分析视图。

让Codex与Claude Code使用任意大模型的通用代理，翻译流式工具调用并管理账号池。

为LLM和RAG应用提供客观评估指标、测试数据生成与生产反馈优化的评估工具包。

独立审计AI智能体的评分工具，六十项检查五大支柱打分，快速回答智能体是否达标。

桥接本地编码智能体与即时通讯平台的远程操控网关，无需公网IP即可随时随地聊天调度开发助手。

从零用约1200行Python实现的轻量LLM推理引擎，兼容vLLM接口，提供前缀缓存、张量并行等优化的快速离线推理。

为AI智能体提供安全、快速、可扩展的隔离代码执行沙箱运行时，支持多语言SDK与容器编排的通用沙箱平台。

为LLM提供高效推理优化的Python API与C++运行时，含专用内核，在NVIDIA GPU上加速大模型推理执行。

为AI智能体提供云端安全隔离沙箱，可执行代码、操控浏览器桌面，支持自托管部署的基础设施

为AI智能体打造的开源第二浏览器，提供隔离标签页、实时看板与会话回放的运行环境。

面向消费级硬件的边缘MoE推理引擎，可在游戏电脑本地高速运行290B级开源MoE大模型并提供兼容API服务。

开源高速AI网关，为1600余种LLM提供统一API，支持路由、负载均衡、熔断重试与50余种护栏防护。

高度可定制的命令行状态行工具，实时展示模型用量与版本状态。

面向AI智能体的高性能安全沙箱服务，支持单机与多节点扩展并实现毫秒级硬件隔离启动。

一键将Llama、DeepSeek等开源大模型以OpenAI兼容API在本地及云端部署运行的LLM推理服务工具。

为LLM推理提供可持久化复用的KV缓存管理层，兼容多种推理引擎与存储，降低首字延迟并提升吞吐。

为机器学习与大模型提供实验跟踪、可视化、评估与模型全生命周期管理的MLOps平台和Python库。

面向多智能体运行时的本地工作台，提供群聊会话管理、定时任务、用量分析与设备协同。

为多框架AI模型提供云边端高性能推理服务的开源系统，支持并发批量及流式推理部署。

面向开发者的MCP服务器检查调试工具，提供网页、命令行与终端三种方式测试验证MCP服务。

让Codex直接调用ChatGPT网页版模型的启动器，提供账号模型检测安装与完整工具链MCP接线能力。

为llama.cpp提供Python绑定，支持本地大模型推理、补全接口与兼容OpenAI的服务部署。

面向AI智能体的WebAssembly操作系统运行时，提供沙箱隔离能力安全与可移植状态管理。

为AI智能体提供身份、通信与支付层的SDK，一行包装让任意框架的Agent获得加密身份并支持A2A通信与USDC收费。

一站式开源模型推理服务库，单命令部署语言语音多模态模型，提供统一生产级推理API。

生成式AI红队测试套件，可对各类LLM做幻觉、提示注入、越狱等漏洞扫描与安全评估。

赋予智能体计算机的持久化工作区，提供容器与隔离执行后端与统一执行入口。

为任意AI模型构建高性能推理API服务，提供容器化部署与批量推理优化的模型服务框架。

为自主智能体提供安全私有的沙箱运行时，以声明式策略隔离管控文件网络与凭证访问

在单一终端TUI中并行管理多个编码智能体会话，基于tmux与git worktree隔离实现多任务并行开发与变更审核。

开放的智能体操作系统，提供命令行运行时隔离环境与可组合胶囊及模型接入能力。

兼容OpenAI的开源智能体API服务，支持任意模型与基础设施，提供对话向量与Agent编排能力。

骁龙设备端侧大模型推理运行时，跨NPU/GPU/CPU支持多端SDK与类OpenAI服务

本地优先的轻量microVM运行时与嵌入式SDK，为AI智能体等不可信负载提供毫秒级硬件隔离执行环境

用纯C99实现的超大模型CPU推理引擎，无依赖从磁盘流式执行解码。

为大语言模型提供压缩量化、部署与高性能推理服务的工具包，支持多引擎与API在线 serving。

开源ML与LLM可观测性框架，提供100多种指标，用于评估、测试和监控表格与生成式AI系统及数据管道。

聚合多渠道Grok服务并统一对外提供接口的多账号模型网关服务。

AI agent技能管理层，提供跨智能体的技能检索、质量评估、共享与持续进化能力。

Rust编写的高性能大模型推理引擎，支持多模型自动加载、量化与多模态推理，提供OpenAI兼容服务接口。

面向开发者的AI智能体控制平面，单命令实现A2A智能体的部署路由鉴权与可观测管理。

面向大语言模型的开源评测平台，支持多种模型在上百个数据集上进行性能评估对比。

基于OpenTelemetry为LLM应用提供可观测性的开源扩展，含主流模型与向量库插桩，可对接现有监控体系。

将文本上下文渲染为图像以省token的本地代理，配套Claude Code使用并提供看板与 warm 模式。

为MCP客户端提供服务器发现与分发的社区注册表服务，类似应用商店，支持发布查询与管理服务器。

开源智能体协作桌面应用，提供多会话管理、任意API与MCP接入及文档中心的高效人机协作界面。

为智能体应用提供代理服务器与数据平面，集中处理智能体路由编排、模型路由、可观测追踪与安全护栏。

面向全模态模型的高效推理服务框架，支持文本图像音频视频与动作统一服务。

扫描工程技术栈自动挑选校验安装所需智能体技能栈的一键管理设施工具

为苹果芯片Mac打造的Gemma 4高效推理运行时，低内存流式加载专家并提供应用与评测。

为Pi编码智能体提供的本地浏览器界面，可浏览恢复会话运行轮次并管理模型与文件。

为OpenClaw等自主智能体提供的LLM路由网关，聚合多家模型本地毫秒级选优路由并支持USDC自主支付。

面向自主Agent的治理工具包，提供策略执行零信任身份沙箱隔离与审计，覆盖OWASP智能体十大风险。

轻量可移植的本地微虚机管理器，支持快速启动、单文件打包与分支隔离运行环境。

常驻桌面的像素宠物伴侣，实时可视化展示编码智能体的运行状态与进度。

逆向ChatGPT官网接口的兼容网关，支持号池管理与多模型API转发。

一体式智能体沙箱环境，单容器集成浏览器、终端、文件、MCP与开发服务，提供安全隔离执行能力。

本地优先的编码智能体会话搜索分析平台，提供成本统计与可观测性洞察。

面向混合模型集群的云边端智能请求路由与调度基础设施层

为AI智能体统一接入上千家SaaS认证与动作的开源连接器网关。

本地显卡运行大模型并提供标准接口的私有化推理服务引擎

智能体评测优化框架，支持多智能体基准并行执行、自定义环境与强化学习数据生成。

追踪多AI编程智能体Token用量与成本的CLI工具，提供排行榜与二维三维贡献可视化看板能力。

轻量级智能体沙箱运行时，无需容器即可限制任意进程的文件网络权限，保障安全执行。