A RWKV management and startup tool, full automation, only 8MB. And provides an interface compatible with the OpenAI API. RWKV is a large language model that is fully open source and available for commercial use. - RWKV-Runner/go.sum at v1.8.0 · josStore
灵活性:RWKV-Runner具有高度的灵活性,可以根据用户需求进行定制和调整。用户可以根据自己的业务场景和需求,轻松配置和优化模型。RWKV-Runner自带用户友好的聊天,续写,作曲交互页面。支持聊天预设,附件上传,MIDI硬件输入及音轨编辑。 截至发稿概况如下:软件地址:https://github.com/josStorer/RWKV-Runner软件协议:MIT编程...
git clone <https://github.com/josStorer/RWKV-Runner> 2. 如需启动后端推理服务,请执行以下命令: cd RWKV-Runnerpython ./backend-python/main.py 此时可调用 /switch-model 载入模型,参考 API 文档:http://127.0.0.1:8000/docs 3. 如需启动前端服务,请执行以下命令: cd RWKV-Runner/frontendnpm cinpm...
A RWKV management and startup tool, full automation, only 8MB. And provides an interface compatible with the OpenAI API. RWKV is a large language model that is fully open source and available for commercial use. - RWKV-Runner/go.sum at v1.7.8 · josStore
本项目旨在消除大语言模型的使用门槛,全自动为你处理一切,你只需要一个仅仅几MB的可执行程序。此外本项目提供了与OpenAI API兼容的接口,这意味着一切ChatGPT客户端都是RWKV客户端。 开源地址:github.com/josStorer/RW 演示视频:bilibili.com/video/BV1h 功能 RWKV模型管理,一键启动 与OpenAI API完全兼容,一切Chat...
软件地址:https://github.com/josStorer/RWKV-Runner 软件协议:MIT 编程语言: 收藏数量:4K 主要功能 RWKV-Runner的使用非常简单,用户只需输入文本,即可获得相应的结果。无需了解复杂的机器学习算法或模型训练过程。全自动依赖安装,只需要下载好安装包,一切依赖都将自动安装。
软件地址:https://github.com/josStorer/RWKV-Runner 软件协议:MIT 编程语言: 收藏数量:4K 主要功能 RWKV-Runner的使用非常简单,用户只需输入文本,即可获得相应的结果。无需了解复杂的机器学习算法或模型训练过程。全自动依赖安装,只需要下载好安装包,一切依赖都将自动安装。
开源大模型RWKV尝试跑起来 RWKV是一个开源并且允许商用的大语言模型。我们今天就来使用一个这个模型进行部署。RWKV部署这个在github上是开源的。我们直接看安装教程。首先需要克隆代码到本地。也可以到你的服务器上面。git clone https://github.com/josStorer/RWKV-Runner执行上面这个命令，然后到RWKV-Runner这个...
仓库地址:https://github.com/josStorer/RWKV-Runner 预设配置已经开启自定义CUDA算子加速,速度更快,且显存消耗更少。如果你遇到可能的兼容性问题,前往配置页面,关闭使用自定义CUDA算子加速 如果Windows Defender说这是一个病毒,你可以尝试下载v1.3.7_win.zip,然后让其自动更新到最新版,或添加信任 ...
RWKV-Runner中的微调功能基于项目RWKV-LM-LoRA,这是它的github链接: https://github.com/Blealtan/RWKV-LM-LoRA RWKV-Runner训练功能所做的事情只是为此项目封装了一套简单的GUI,并提供了自动的WSL训练环境配置,如果你不想要使用GUI训练,仍然可以使用finetune目录下的脚本进行训练 ...