·Grammar / .gbnf 文件导入:可以自定义语法限制输出结构(如只输出 JSON、代码块等) 🔹 Chat 标签页(角色设定与人物对话背景) 这个页面让你设定“大模型的身份和口吻”。适合打造个性化助理、客服、角色扮演等。 ·Character:选择一个已有角色模板。 ·Character's name:你想给这个 AI 起什么名字,例如
类似于OpenAI的记事本模式交流界面。 用于对话和角色扮演的聊天模式 与Alpaca、Vicuna、Open Assistant、Dolly、Koala、ChatGLM、MOSS、RWKV-Raven、Galactica、StableLM、WizardLM、Baize、Ziya、Chinese-Vicuna、MPT、INCITE、Wizard Mega、KoAlpaca、Vigogne、Bactrian、h2o和OpenBuddy等各种格式兼容的指令模式 包括LLaVA和...
1.3万 0 08:45 App SillyTavern+WebUI部署教程:AI中文聊天 角色扮演 13.7万 24 07:42 App 旧版text-generation-webui一键懒人包(解压即用) 38.1万 89 05:49 App 实时AI汉化翻译工具,LunaTranslator,几乎完美的内嵌翻译游戏体验,TGW翻译源对接介绍。
" }, // text-generation-webui相关配置 "text_generation_webui": { // 服务监听的IP和端口 "api_ip_port": "http://127.0.0.1:5000", "max_new_tokens": 250, // 有 'chat', 'chat-instruct', 'instruct' "mode": "chat", // 角色 "character": "Example", // 聊天指导模板 "...
角色扮演(RP)对话技巧是指通过模拟不同角色之间的对话,让用户更好地理解和使用 Web UI。RP 对话技巧包括以下几点: 1.明确角色定位:RP 对话中,需要明确各个角色的职责和目标,以便为用户提供更加精准的服务。 2.保持对话连贯性:RP 对话应保证逻辑清晰、连贯,避免出现跳跃或矛盾的情况。 3.注重情感交流:RP 对话中...
Describe the bug Basic Information: Model: 9b-gemma-2-9b-it-Q6_K.gguf n-gpu-layers: 43 n_ctx: 8192 flash_attn: False tensorcores: False no-mmap: True mlock: True Through the vanilla webUI, the speed are 10.25 tokens/s (context 204), 7.65...
与AI角色扮演学对话,以星痕老婆为例展示 取消只看楼主收藏回复 光照终焉 知名人士 11 三,模型模型分为本地和线上两种。线上部分:线上模型大部分都有思想钢印,需要破限,并且你跟AI聊的记录有可能会被选为训练语料(难蚌),但是好处在不需要在本地部署模型就可以使用,效果也更为强大。1.GPT4评价:大名鼎鼎的...
" }, // text-generation-webui相关配置 "text_generation_webui": { // 服务监听的IP和端口 "api_ip_port": "http://127.0.0.1:5000", "max_new_tokens": 250, // 有 'chat', 'chat-instruct', 'instruct' "mode": "chat", // 角色 "character": "Example", // 聊天指导模板 "...
Parameters 页面包含三个子标签页:Generation、Chat和Instruction template,用于全面控制生成细节、对话角色设定与系统提示结构。 🔹 Generation 标签页(生成控制) 一、生成样式调节 ·temperature:控制模型输出的“创意程度”,0 表示最保守,1 表示更有想象力,越高越随机,初学者建议 0.7~1 之间尝试。
" }, // text-generation-webui相关配置 "text_generation_webui": { // 服务监听的IP和端口 "api_ip_port": "http://127.0.0.1:5000", "max_new_tokens": 250, // 有 'chat', 'chat-instruct', 'instruct' "mode": "chat", // 角色 "character": "Example", // 聊天指导模板 "...