web-llm

基于WebGPU的浏览器端大模型高性能推理引擎，兼容OpenAI接口，以npm包形式供开发者构建网页AI应用。