llama2+chinese+13b要多大显存

2025-02-12 12:01:11

拼音 [ 拼音 ]

简拼 [ 简拼 ]

含义

• 我想问一下部署llama-2-13b的模型需要多少显存? - 知乎

  一个参数占2字节内存，1B参数大概就占用$$10^9 / 1024^3 =1.86G$$显存，13B的话大概就占24G显...

• 我想问一下部署llama-2-13b的模型需要多少显存? - 知乎

  22gb一张卡就够了，不需要2张卡

缩写

今日热搜

上海网友集中晒蘑菇

近反义词

相关词语

相关搜索