WhimRead 需要 JavaScript 才能使用站内搜索。
Whim
Read
随手一翻
发现
全部工具
推荐
惊喜
关于
搜索
English
Agent 基础设施
omlx
jundot/omlx
面
向
Mac
的
本地
大模型
推理
服务器,
支持
连续
批
处理
与
菜单栏
管理
供智
能
体
调用。
去 GitHub 看仓库
复制链接
标签
apple-silicon
inference-server
llm
macos
mlx
openai-api
同类项目
apfel
6.5k
Mac端Apple Intelligence
CLI
与
本地
OpenAI
兼容
服务,
百分百端侧
推理,
支持
管道
与
MCP工具
调用。
inference
9.6k
统
一
的
大模型
推理
服务库,
一
条
命令部署
开源
模型,
兼容OpenAI
接口
并
支持
分
布式
运行。
rapid-mlx
4k
面
向
苹果
芯片
的
本
地
大模型
推理
服务
与
Mac
应用,
兼容
主流
API
并
为
编程
智
能
体
优化
工具
调用
与
并发。
agent-safehouse
2.1k
为
本
地
AI
编程智
能
体
提供
沙箱
隔离,
按
最
小权限
限制其
可
读写
的
文件
与
集成。
hermes-desktop
2k
Hermes Agent
的
原生
macOS伴侣
工作
台,
直连本
地
或
SSH主机,
统一
管理
会话
看
板技
能定
时
任务
文件
与
终端。
headroom-desktop
624
驻
留本地
的
编码
智
能
体
代理
网关
与
管理
应用,
可
逆
压
缩工
具
输出日志
以
节省
token
并
展示
节省
看板。
23044
apple-silicon,inference-server,llm
面向Mac的本地大模型推理服务器,支持连续批处理与菜单栏管理供智能体调用。
←
上一个
zsh-syntax-highlighting
下一个
→
ratatui