WhimRead 需要 JavaScript 才能使用站内搜索。
Whim
Read
随手一翻
发现
全部工具
推荐
惊喜
关于
搜索
English
库 / 框架
BentoML
bentoml/BentoML
统一
的
AI
模型
服务
框架,
将
任意
模型
脚本
转为
高性
能
推理
API,
支持
批
处理容器化
与
云端
部署。
去 GitHub 看仓库
复制链接
标签
model-serving
mlops
llmops
generative-ai
llm-inference
model-inference-service
inference-platform
deep-learning
同类项目
openvino
11.1k
优化
与
部署
深度
学习
推理
的
开源
工具包,
支持
多
框
架
模型
转换,
在
CPU GPU
及
加速器
上
高效
运行
视觉
与
生成
任务。
plano
7.1k
面
向
智
能
体
应用
的
代理
数
据面,
集中
处理
模型
路由、
智
能
体
编排、
护
栏
过滤
与
全链
路
可
观测
追踪
能力。
litgpt
13.7k
提供
20
多
种
大模型
实现
与
预训练、
微调、
量化、
部署
全
流程
配方
的
高性
能
LLM
开发
框架。
FedML
4.1k
统
一
可
扩展
的
机器
学
习库,
支撑
大
规模
分
布式
训练、
模型
服务、
联邦
学习
与
跨云
GPU
调度。
synthetic-data-generator
2.4k
面
向
结构化
表格
数据
的
合成
数
据
生成
框架,
集成
统计、
GAN
与
大模型
方法,
支持
差分
隐私。
Prompt-Engineering-Guide
79.4k
系统
讲解
提示
工程
技术
与
应用
的
学习
指南
和
论文
资源
合集。
8924
model-serving,mlops,llmops
统一的AI模型服务框架,将任意模型脚本转为高性能推理API,支持批处理容器化与云端部署。
←
上一个
presenterm
下一个
→
Operit