WhimRead 需要 JavaScript 才能使用站内搜索。
Whim
Read
随手一翻
发现
全部工具
推荐
惊喜
关于
搜索
English
Agent 基础设施
semantic-router
vllm-project/semantic-router
面
向
混合模型
系统
的
可编程语义路
由
决策层,
为
智
能
体
网关
按
质量、
延迟
与
成本
在
本
地
云
边模型
间
选择
组合。
去 GitHub 看仓库
复制链接
标签
mixture-of-models
semantic-router
vllm
ai-gateway
kubernetes
llmrouter
llm
guardrails
同类项目
bifrost
9k
高性
能
开源
大模型
网关,
通过
统
一
接口
聚合
多
家
模型
并
提供
容灾、
缓存、
治理
与
可观测
能力。
LMCache
12.2k
面
向
大模型
推理
的
KV
缓存
管理层,
实现
跨
引擎持久化
复用
与
可
观测,
显著降低
首字
延迟
提升
吞吐。
superagent
6.8k
面
向
AI
应用
的
智
能
体
安全
配套,
提供
运行
时
注入
拦截、
敏感
信息
脱敏
与
仓库
红队
扫描
能力。
agentgateway
5.5k
面
向
Agent
通信
的
开源
智
能
网关,
提供
模型
路由、
MCP工具
联邦
与
安全
可
观测
能力。
UltraRAG
5.7k
基于
MCP
架构
的
低代
码
RAG
开发
框架,
用YAML
与
可视化
画
布编排评测复杂
管线。
goclaw
3.7k
用
Go
重写
的
OpenClaw多
租户
智
能
体
平台,
自带
执行
管线记忆
工具
与
团队
编排,
可
经多
消息
渠道
直接
使用。
6230
mixture-of-models,semantic-router,vllm
面向混合模型系统的可编程语义路由决策层,为智能体网关按质量、延迟与成本在本地云边模型间选择组合。
←
上一个
helicone
下一个
→
loro