WhimRead 需要 JavaScript 才能使用站内搜索。
Whim
Read
随手一翻
发现
全部工具
推荐
惊喜
关于
搜索
English
库 / 框架
llm-compressor
vllm-project/llm-compressor
面
向
vLLM部署
的
大模
型量化
压
缩库,
提供
多
种
精度
算法
与
HuggingFace
集成。
去 GitHub 看仓库
复制链接
标签
compression
quantization
同类项目
aimet
2.7k
高通AI模型
效率
工
具包,
提供量化
剪
枝
压缩
技术,
降低
推理
内存
加速
边缘部署。
PaddleSlim
1.6k
飞桨
深度
学习
模型
压缩工
具库,
提供
低比
特量化、
剪枝、
蒸馏
与
结构
搜索,
助
开发者
实现
模型
小型化
加速。
nncf
1.2k
面
向
OpenVINO
推理
的
神经
网络
压缩框架,
提供
训练
后量化、
权重压缩
与
稀疏
剪枝
等
算法包。
faster-whisper
25.9k
基于
CTranslate2
的
Whisper语
音
转写
推理
库,
更
快
更
省
内存,
支持量化
与
词级
时间
戳。
turbovec
17.4k
基于
TurboQuant
的
进程
内
向量
索
引库,
Rust
实现
附Python
绑定,
低
内存
高召回。
lz4
12.1k
极速
无损压
缩算法
与
C参考
实现,
提供
可
嵌入
的
压缩库、
高压
缩
变体
与
命令
行
工具及
帧格式。
3876
compression,quantization
面向vLLM部署的大模型量化压缩库,提供多种精度算法与HuggingFace集成。
←
上一个
triangula
下一个
→
my-brain-is-full-crew