网页
资讯
视频
图片
知道
文库
贴吧
地图
采购
进入贴吧
全吧搜索
吧内搜索
搜贴
搜人
进吧
搜标签
日
一
二
三
四
五
六
签到排名:今日本吧第
个签到,
本吧因你更精彩,明天继续来努力!
本吧签到人数:0
一键签到
可签
7
级以上的吧
50
个
一键签到
本月漏签
0
次!
0
成为超级会员,赠送8张补签卡
如何使用?
点击日历上漏签日期,即可进行
补签
。
连续签到:
天 累计签到:
天
0
超级会员单次开通12个月以上,赠送连续签到卡3张
使用连续签到卡
08月28日
漏签
0
天
极摩客吧
关注:
766
贴子:
2,382
看贴
图片
吧主推荐
游戏
9
回复贴,共
1
页
<返回极摩客吧
>0< 加载中...
Qwen3-235B-A22B-128K-UD-Q2_K_XL 怎么无法加载
只看楼主
收藏
回复
星弦漫痴
中级粉丝
2
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
设置96G了,Qwen3-235B-A22B-128K-UD-Q2_K_XL才 88G容量。为什么无法加载
送TA礼物
IP属地:浙江
1楼
2025-05-12 10:34
回复
乐观的wzx78
中级粉丝
2
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
64+64才是合理分配,虽然能到96G,但以实际经验来看是跑不起来的,以DeepSeek 70B为例,模型42G已全部装入显存,但真正运行起来,模型文件大小仅代表权重参数,实际运行时还需要额外内存用于上下文缓冲区、模型图等数据结构,还要额外的占用50G左右的内存空间。
IP属地:北京
2楼
2025-05-12 21:41
回复(8)
收起回复
登录百度账号
扫二维码下载贴吧客户端
下载贴吧APP
看高清直播、视频!
贴吧热议榜
1
不怂正面刚!癌症老哥大战诬告女
1742784
2
贵物告洋状,像素吧友仇恨LGBT被挂
1690416
3
声誉危机!武汉迎新生直播被误伤
1546452
4
顶流竟是吧友,今晚空降翻牌
1100944
5
直接抽爆!明日方舟xMujica已公布
882350
6
多人被假富婆骗钱,竞男人傻钱多?
617712
7
米吧内战:吧友起义转投三度笑话
514970
8
拳拳暴击!全新赛道抵制吸烟
475552
9
T1冠军皮肤贴脸嘲讽BLG
358554
10
LPL解说天舒被曝疑似酒后不雅直播
275520
贴吧页面意见反馈
违规贴吧举报反馈通道
贴吧违规信息处理公示