尝鲜通义qwq32B本地模型,简单评测 | 通义的qwq32B据说很厉害要达到deepseekR1满血了,于是就想装一个。首先用ollama使用ollamarun qwen32B就安装好了,实际显存占用23.4GB。装好的这个是Q4_K_M,就是4bit量化。速度不错,token是20tokens/s。 然后想到5bit量化应该要更好,于是又装了个5bit由qwen提供版本。实际...
50M的长城宽带,直插网线下载速度在5.9M/S左右，用TP的150M无线路由器平均4.2M/S左右，本意为了提高路...