koboldcpp

单文件免安装的本地大模型一体应用，内置聊天角色扮演与多模态生成界面。