English
Agent 基础设施

ik_llama.cpp

ikawrakow/ik_llama.cpp

高性能本地大模型推理引擎分叉,新增先进量化类型并优化CPU端推理速度表现。