最低要求: 为了能够流畅运行 Int4 版本的 ChatGLM3-6B,我们在这里给出了最低的配置要求: 内存:>= 8GB 显存: >= 5GB(1060 6GB,2060 6GB) 为了能够流畅运行 FP16 版本的,ChatGLM3-6B,我们在这里给出了最低的配置要求: 内存:>= 16GB 显存: >= 13GB(4080 16GB) Mac开发者无需关注GPU的限制。对于搭载...
首先在主目录任意文件夹中打开终端,将项目clone到本地后进入项目文件夹: gitclone https://github.com/THUDM/ChatGLM2-6BcdChatGLM2-6B 创建虚拟python环境并激活: sudoaptinstallpython3.10-venv python3 -m venv venvsourcevenv/bin/activate 激活成功后,用户名前方会有 (venv) 字样,代表已经激活python虚拟环境...
操作系统: 智谱ChatGLM3支持多种操作系统,如Linux、Windows和macOS等。选择适合你的操作系统,并确保它符合智谱ChatGLM3的要求。 Python环境: 安装Python并配置相关环境。智谱ChatGLM3通常需要Python 3.10或更高版本。 GPU支持: 如果你计划使用GPU进行模型训练和推理,你需要安装相应的GPU驱动和CUDA工具包,并确保你的GPU...
【部署步骤】 首先在主目录任意文件夹中打开终端,将项目clone到本地后进入项目文件夹: gitclone https://github.com/THUDM/ChatGLM2-6Bcd ChatGLM2-6B 创建虚拟python环境并激活: sudoaptinstallpython3.10-venvpython3 -m venv venvsource venv/bin/activate ...
【部署步骤】 首先在主目录任意文件夹中打开终端,将项目clone到本地后进入项目文件夹: 创建虚拟python环境并激活: 激活成功后,用户名前方会有 (venv) 字样,代表已经激活python虚拟环境: python虚拟环境 安装项目运行所需的pytorch和其他组件(pytorch根据显卡不同选择版本): 需要下载ChatGLM2的模型文件。模型在线拉取需...