作者充分考虑了使用者的想法,以傻瓜式的方式即可启动该平台。 Gitee 地址:https://gitee.com/josc146/RWKV-Runner GitHub地址:https://github.com/josStorer/RWKV-Runner RWKV-Runner官方功能介绍 RWKV模型管理,一键启动 前后端分离,如果你不想使用客户端,也允许单独部署前端服务,或后端推理服务,或具有WebUI的后...
4.2万 28 10:55 App OpenWebUI+Ollama部署教程(非Docker)【AI配音】 5034 0 04:29 App Chatbox+Ollama打造免费的个人本地大模型助手 2522 0 02:21 App 手机上使用chatbox完成DeepSeek模型的使用 1.7万 8 02:40 App 开源AI对话界面,支持多种模型,支持PDF、Excel问答 1517 0 04:20 App 使用免费开源的ch...
gitclonehttps://github.com/josStorer/RWKV-Runner# 然后cdRWKV-Runner python ./backend-python/main.py#后端推理服务已启动, 调用/switch-model载入模型, 参考API文档: http://127.0.0.1:8000/docs# 或者cdRWKV-Runner/frontend npm ci npm run build#编译前端cd.. python ./backend-python/webui_server...
josStorer/RWKV-Runner 版本发布时间: 2023-12-08 19:27:41 josStorer/RWKV-Runner最新发布版本:v1.8.2(2024-05-16 14:00:12) Changes add web-rwkv-converter (Safetensors Convert no longer depends on Python) (WebGPU Server 0.3.3) model tags classifier ...
WebView2, click Modify -> Repair to update your WebView2 runtime. Install Windows:https://github.com/josStorer/RWKV-Runner/blob/master/build/windows/Readme_Install.txt MacOS:https://github.com/josStorer/RWKV-Runner/blob/master/build/darwin/Readme_Install.txt ...
前后端分离,如果你不想使用客户端,也允许单独部署前端服务,或后端推理服务,或具有WebUI的后端推理服务。 简明服务部署示例 | 服务器部署示例 与OpenAI API兼容,一切ChatGPT客户端,都是RWKV客户端。启动模型后,打开 http://127.0.0.1:8000/docs 查看API文档 全自动依赖安装,你只需要一个轻巧的可执行程序 预设多级...
web-rwkv: https://github.com/cryscan/web-rwkv Preview Homepage Chat Completion Composition Tip: You can download https://github.com/josStorer/sgm_plus and unzip it to the program's assets/sound-font directory to use it as an offline sound source. Please note that if you are compiling ...
采用前后端分离架构,用户可以在服务器部署后端Python,并将此程序作为客户端,也可以单独部署前端服务或后端推理服务,甚至具有WebUI的后端推理服务。 Windows版/MacOS版/Linux版 【授权方式】免费开源版 【下载链接】https://erhua.cc/Chajian_view_id_12747_cid_251.html...
josStorer/RWKV-Runner最新发布版本:v1.7.8(2024-04-03 15:05:13)Changes Features add webUI for easier service sharing (enable it in Configs page or --webui command line parameter, compile it with make build-web) add deployment mode. If /switch-model with deploy: true, will disable /...
{ + "version": "7.21.4", + "resolved": "https://registry.npmmirror.com/@babel/code-frame/-/code-frame-7.21.4.tgz", + "integrity": "sha512-LYvhNKfwWSPpocw8GI7gpK2nq3HSDuEPC/uSYaALSJu9xjsalaaYFOq0Pwt5KmVqwEbZlDu81aLXwBOmD/Fv9g==", + "dev": true, + "dependencies": { +...