|
|
三座仑网上商城入口官网「『網址』:———ctmyao.com———」DeepSeek 70B 这样的模型对于整个系统已经有一定压力了,查看任务管理器,虽然模型推理阶段的 CPU 占用仅为 3??但内存占用达到了 40?约 13GB 大小。GPU 占用更是达到了 100?其中专用 GPU 内存的 96GB 几乎占用了一半,达到了 43.7GB,可见这个量级的大模型还是很吃 GPU 和显存的。「『網址』:———ctmyao.com———」三座仑网上商城入口官网「『網址』:———ctmyao.com———」

|
|