chatgpt吧 关注:142,878贴子:459,720
  • 1回复贴,共1
求助

本地部署跑模型硬件监测有点问题

只看楼主收藏回复

rt小白求教,用lm stdio部署的32b q4模型跑数据结构代码,硬件监测发现cpu吃的很满,但是显卡占用和功耗都不高,显存倒是吃了18g。配置是笔记本5090+9955x3d。请问这是什么原因呢【图片】


IP属地:山东来自Android客户端1楼2025-05-24 09:45回复
    显存溢出,部署gemma3 27b或gemma3 12b


    IP属地:河南来自Android客户端2楼2025-05-24 13:20
    回复