PowerInfer

高速本地推理引擎,利用GPU-CPU混合加速LLM部署

LLM

访问 PowerInfer 官网 →

分类
对话助手
官方网址
https://github.com/SJTU-IPADS/PowerInfer
最近更新
Wed Apr 08
标签
LLM