Agent 基础设施
标签
同类项目
llamafile26.5k将大模型 打包 为 单文件 可 执行 程序， 无 需 安装即 可 在 多 系统本 地 运行 LLM 与 语音识别。 
cuda-samples9.7k英伟达 官 方CUDA示例代 码 合集， 演示 工具 包各 功 能 用法， 供开发者 编译 运行 学习 并 参考 开发。 
ods6.9k将个 人 电脑 变 为 本 地 AI 服务器， 一键 部署 推理、 聊天、 语音、 智 能 体、 RAG 与 生图 全 栈 能力。 
OGAM3.3kThe Swiss Army Knife of Offline AI. Chat, see, speak, and generate images on your phone or Mac - GGUF LLMs, vision, Whisper speech-to-text, Stable Diffusion, tool calling, and local-network servers. Runs on your CPU, GPU, or NPU. No account, no API key, zero data leaves your device.
mtplx2.6k在Mac 上 本 地 运行 Qwen 等 大模型 的 应用 与 推理 服务， 带聊 天 仪 表盘 与 兼容 API。 
YuE2-Studio1.6kLocal AI song generator with an editable score - YuE2 on your GPU: full songs with vocals, sheet music, covers, exact replay. Native Windows app, no Python, installer with auto-update.