sheephess

让谣言现出原形。

[sheephess @HessSheep0315]

@jaack_bauer @wei_wang 本地跑大模型，最头疼的是不知道显存够不够。做了个免费的显存计算器：选好模型、量化格式和上下文长度，就能算出权重、KV 缓存和总占用，看你的显卡装不装得下，装不下该换哪档量化。支持 92 个模型、78 款显卡和 Mac。
https://t.co/XOC774DJPD
#大模型 #本地部署

[sheephess @HessSheep0315]

@wei_wang 本地跑大模型，最头疼的是不知道显存够不够。做了个免费的显存计算器：选好模型、量化格式和上下文长度，就能算出权重、KV 缓存和总占用，看你的显卡装不装得下，装不下该换哪档量化。支持 92 个模型、78 款显卡和 Mac。
https://t.co/XOC774DJPD
#大模型 #本地部署

[sheephess @HessSheep0315]

@haoge6699 本地跑大模型，最头疼的是不知道显存够不够。做了个免费的显存计算器：选好模型、量化格式和上下文长度，就能算出权重、KV 缓存和总占用，看你的显卡装不装得下，装不下该换哪档量化。支持 92 个模型、78 款显卡和 Mac。
https://t.co/XOC774DJPD
#大模型 #本地部署

[sheephess @HessSheep0315]

@Dav338876 本地跑大模型，最头疼的是不知道显存够不够。做了个免费的显存计算器：选好模型、量化格式和上下文长度，就能算出权重、KV 缓存和总占用，看你的显卡装不装得下，装不下该换哪档量化。支持 92 个模型、78 款显卡和 Mac。
https://t.co/XOC774DJPD
#大模型 #本地部署

[sheephess @HessSheep0315]

@ai_funss 本地跑大模型，最头疼的是不知道显存够不够。做了个免费的显存计算器：选好模型、量化格式和上下文长度，就能算出权重、KV 缓存和总占用，看你的显卡装不装得下，装不下该换哪档量化。支持 92 个模型、78 款显卡和 Mac。
https://t.co/XOC774DJPD
#大模型 #本地部署

[sheephess @HessSheep0315]

@jaywcjlove 本地跑大模型，最头疼的是不知道显存够不够。做了个免费的显存计算器：选好模型、量化格式和上下文长度，就能算出权重、KV 缓存和总占用，看你的显卡装不装得下，装不下该换哪档量化。支持 92 个模型、78 款显卡和 Mac。
https://t.co/XOC774DJPD
#大模型 #本地部署

[sheephess @HessSheep0315]

@wquguru @PrismML @typesafeai 本地跑大模型，最头疼的是不知道显存够不够。做了个免费的显存计算器：选好模型、量化格式和上下文长度，就能算出权重、KV 缓存和总占用，看你的显卡装不装得下，装不下该换哪档量化。支持 92 个模型、78 款显卡和 Mac。
https://t.co/XOC774DJPD
#大模型 #本地部署

[sheephess @HessSheep0315]

@lksmlabc 本地跑大模型，最头疼的是不知道显存够不够。做了个免费的显存计算器：选好模型、量化格式和上下文长度，就能算出权重、KV 缓存和总占用，看你的显卡装不装得下，装不下该换哪档量化。支持 92 个模型、78 款显卡和 Mac。
https://t.co/XOC774DJPD
#大模型 #本地部署

[sheephess @HessSheep0315]

@BlockInsight214 本地跑大模型，最头疼的是不知道显存够不够。做了个免费的显存计算器：选好模型、量化格式和上下文长度，就能算出权重、KV 缓存和总占用，看你的显卡装不装得下，装不下该换哪档量化。支持 92 个模型、78 款显卡和 Mac。
https://t.co/XOC774DJPD
#大模型 #本地部署

[sheephess @HessSheep0315]

@mylifcc 本地跑大模型，最头疼的是不知道显存够不够。做了个免费的显存计算器：选好模型、量化格式和上下文长度，就能算出权重、KV 缓存和总占用，看你的显卡装不装得下，装不下该换哪档量化。支持 92 个模型、78 款显卡和 Mac。
https://t.co/XOC774DJPD
#大模型 #本地部署

[sheephess @HessSheep0315]

@aehyok 本地跑大模型，最头疼的是不知道显存够不够。做了个免费的显存计算器：选好模型、量化格式和上下文长度，就能算出权重、KV 缓存和总占用，看你的显卡装不装得下，装不下该换哪档量化。支持 92 个模型、78 款显卡和 Mac。
https://t.co/XOC774DJPD
#大模型 #本地部署

[sheephess @HessSheep0315]

@ai_fengshou 本地跑大模型，最头疼的是不知道显存够不够。做了个免费的显存计算器：选好模型、量化格式和上下文长度，就能算出权重、KV 缓存和总占用，看你的显卡装不装得下，装不下该换哪档量化。支持 92 个模型、78 款显卡和 Mac。
https://t.co/XOC774DJPD
#大模型 #本地部署

[sheephess @HessSheep0315]

@MinLiBuilds 感谢提醒，已经更新了

[sheephess @HessSheep0315]

本地跑大模型，最头疼的是不知道显存够不够。做了个免费的显存计算器：选好模型、量化格式和上下文长度，就能算出权重、KV 缓存和总占用，看你的显卡装不装得下，装不下该换哪档量化。支持 92 个模型、78 款显卡和 Mac。
https://t.co/XOC774DJPD
#大模型 #本地部署

[sheephess @HessSheep0315]

@mylifcc 我开了悉尼

[sheephess @HessSheep0315]

@leo_xiaolei 需要有真的公司吗？网站和邮箱都有

[sheephess @HessSheep0315]

@IouLanlan92149 @jaylenngx 日常免费够用

[sheephess @HessSheep0315]

@ERIC8_ETH 赠送给我的就是 pro 3

[sheephess @HessSheep0315]

@amigolu_ 你不觉得短板是微信记录转发不进来分析吗？微信这个限制太恶心了