Gitee 地址:https://gitee.com/josc146/RWKV-Runner GitHub地址:https://github.com/josStorer/RWKV-Runner RWKV-Runner官方功能介绍 RWKV模型管理,一键启动 前后端分离,如果你不想使用客户端,也允许单独部署前端服务,或后端推理服务,或具有WebUI的后端推理服务。 简明服务部署示例 | 服务器部署示例 与OpenAI AP...
支持通过配置页面将策略切换至CPU / WebGPU,使得AMD、Intel等显卡用户也能流畅使用。 🧷模块化架构:支持前后端分离部署,用户可将RWKV Runner作为客户端使用,或单独部署前端服务、后端推理服务,以及带有WebUI的后端推理服务。 下载与安装指南 下载链接:https://xueshu.fun/4167/,下载页面位于网页右侧区域。 下载并解...
支持通过配置页面将策略切换至CPU / WebGPU,使得AMD、Intel等显卡用户也能流畅使用。 模块化架构:支持前后端分离部署,用户可将RWKV Runner作为客户端使用,或单独部署前端服务、后端推理服务,以及带有WebUI的后端推理服务。 下载与安装指南 下载并解压后,直接双击exe文件即可启动程序。 软件已预置多款模型,选择合适的模...
AI写作AI作曲软件 RWKV Runner v1.7.8 免费开源版 RWKV Runner是一款为管理和启动RWKV模型而设计的工具,由RWKV开源社区的成员josStorer开发。这个工具本身也是开源的,大小仅约为10MB(不包含依赖项)。 它提供了开箱即用的AI功能,包括易于使用的聊天、写作和作曲交互等功能。你可以根据自己的需求选择聊天预设,支持M...
html-webui.zip is now added to the release Install Windows: https://github.com/josStorer/RWKV-Runner/blob/master/build/windows/Readme_Install.txt MacOS: https://github.com/josStorer/RWKV-Runner/blob/master/build/darwin/Readme_Install.txt Linux: https://github.com/josStorer/RWKV-Runner/...
1 change: 1 addition & 0 deletions 1 deploy-examples/RWKV-Runner-WebUI/setup.bat @@ -9,6 +9,7 @@ call npm ci call npm run build cd .. : optional: set ngrok_token=YOUR_NGROK_TOKEN start python ./backend-python/main.py --webui start "C:\Program Files (x86)\Microsoft\Edge\...
安装之前进入requirements.txt将镜像源换成清华源(加快安装速度) cd RWKV-CHN pip install -r requirements.txt 4.修改端口 进入app.py文件在修改最后一行为 demo.launch(server_name='0.0.0.0', server_port=8080) 5.运行模型 python app.py 四、网页演示 点击“http://0.0.0.0”访问WebUI,进行对话...
你可以在RWKV Runner或者 Ai00 中搭载 state 文件,二者搭载 state 文件的方法略有不同。 RWKV Runner 挂载 state 文件 在RWKV Runner 中,你可以按照以下步骤使用 state 文件: 启动一个 RWKV 模型 在配置页面选择对应的 state 点击保存配置按钮。
安装之前进入requirements.txt将镜像源换成清华源（加快安装速度）cd RWKV-CHNpip install -r requirements.txt 4.修改端口 进入app.py文件在修改最后一行为 demo.launch(server_name='0.0.0.0', server_port=8080)5.运行模型 python app.py 四、网页演示 点击“http://0.0.0.0”访问WebUI，进行对话 ...
前后端分离,如果你不想使用客户端,也允许单独部署前端服务,或后端推理服务,或具有WebUI的后端推理服务。 简明服务部署示例 | 服务器部署示例 与OpenAI API兼容,一切ChatGPT客户端,都是RWKV客户端。启动模型后,打开 http://127.0.0.1:8000/docs 查看API文档 全自动依赖安装,你只需要一个轻巧的可执行程序 预设多级...