WhimRead 需要 JavaScript 才能使用站内搜索。
Whim
Read
随手一翻
发现
全部工具
推荐
惊喜
关于
搜索
English
资源合集
time-to-first-token
patchy631/time-to-first-token
十
周制
大模型
推理
服务
学习
路线,
带读者
部署、
观测、
压测
并
优化
一
个
推理
服务。
去 GitHub 看仓库
复制链接
标签
learning-resources
llm
llm-inference
mlops
roadmap
sglang
vllm
同类项目
llm-action
25.2k
大模型
工程化
实战
知识库,
系统
整理
训练、
微调、
推理
优化
与
应用
落地
的
教程
与
代码。
ml-engineering
19.5k
面
向
大模型
训练
工程师
的
开放
电子
书,
系统
整理
算力
存储
网络、
训练
与
推理
排障
的
实战
方法
与
脚本。
agent-lightning
18.7k
面
向
AI智
能体
的
强化
学习训练
框架,
可
在
真实
执行
环境
中低
改造
成
本
训练Agent。
litgpt
13.7k
提供
20
多
种
大模型
实现
与
预训练、
微调、
量化、
部署
全
流程
配方
的
高性
能
LLM
开发
框架。
LMCache
12.1k
面
向
大模型
推理
的
KV
缓存
管理层,
实现
跨
引擎持久化
复用
与
可
观测,
显著降低
首字
延迟
提升
吞吐。
deeplake
9.3k
面
向
AI
的
数据
湖
与
向量
存储
运行
时,
统
一多
模态
数
据
版本
管理,
深度
集成
LangChain
等
做
检索
训练。
976
learning-resources,llm,llm-inference
十周制大模型推理服务学习路线,带读者部署、观测、压测并优化一个推理服务。
←
上一个
moon
下一个
→
laravel-visits