text generation WebUI则是LLM(大语言模型)领域的"stable diffusion WebUI",可以很方便的运行各种开源大语言模型,比如chatGLM2,Llama2等等。windows和linux平台下已经有不少大佬开发了一键启动器,unraid也可以通过虚拟机来运行,但我更喜欢以docker化的方式来部署,这样硬件占用小,也更加灵活,并且可以通过异地组网或dd n...
Docker版本的oobabooga/text-generation-webui,由Atinoda创建的项目text-generation-webui-docker提供了Docker化部署的方法。 以下是在macOS上使用Docker安装oobabooga/text-generation-webui的步骤: 安装Docker:如果你还没有安装Docker,可以从Docker官网下载并安装Docker Desktop for Mac。
Ikaros-521merged 4 commits intomainfromowner Dec 7, 2023 +112−11 Owner Ikaros-521commentedDec 7, 2023 Ikaros-521merged commit2bacd5fintomainDec 7, 2023 Sign up for freeto join this conversation on GitHub. Already have an account?Sign in to comment...
Docker版本的oobabooga/text-generation-webui,由Atinoda创建的项目text-generation-webui-docker提供了Docker化部署的方法。 以下是在macOS上使用Docker安装oobabooga/text-generation-webui的步骤: 安装Docker:如果你还没有安装Docker,可以从Docker官网下载并安装Docker Desktop for Mac。