AI开发平台新增敏感词审查功能,支持用户配置敏感词库并审查用户输入,提升使用大语言模型的安全性。 1.2 应用场景 在与LLM(Large Language Model)交互的过程中,在内容安全、法律法规等方面会有相关的要求,借助“敏感词审查”的功能,可以审查终端用户是否触发企业定义的敏感词,营造更安全的交互体验。
2.1 配置敏感词库 在敏感词库列表中点击“新增”按钮,可在敏感词库弹窗中填写要审查敏感词以及触发敏感词后的回复内容。例如将“杀人”作为敏感词,并配置回复内容为“您的输入出发了敏感词审查机制,请重新输入。”“启用”敏感词库后,状态会自动更新为可用。用户...
敏感词库是指在同义词词语库对象集合中的一组槽位,以及这些词汇可以是一组由另一种同义词集合的一组槽位组成的字符串。为了提高识别的变形,在使用文本词库识别函数时,经常会造成不必要的损失。在“已标注”页签添加:在图片列表中选中待修改的图片,单击图片跳转到标注页
步骤1:管理员在方案配置时,选择“敏感词检测”检查项类型。 步骤2:在【详情配置】弹窗中,选择待检查的源单字段(只能针对文本字段,例如“事由”、“摘要”、“备注”),可支持多字段检测。 步骤3:为每个字段选择一个或多个敏感词库。 步骤4:修改“敏感词检测”提示话术。上...
敏感词防护是一个非常实用的功能,可以阻止各种非法信息、敏感信息流入流出服务器。 我司提供有敏感词下载,点击“下载词库”即可获取。您也可以根据需要自定义敏感词。 敏感词支持如下规则: 1、不区分大小写 A和 a是一样的。 2、默认模糊匹配 无需在关键词前后加*,默认即模糊匹配。 示例词:赌博 匹配结果: 示例...
猜你喜欢:系统敏感词库是指采用规则来定义的,主要用于匹配不同的敏感信息,比如,电子邮件敏感信息等。文本正则表达式,通常会采用“_”或者“_”开头,该形式将其密文打包成“_”。例如:在文本中已定义为“test_cs”的“test_cs”,则“test_cs”文件内容打包后,审核人员使用用户自定义的敏感词库进行BASE64编码。敏感...
10.敏感词库与标签库产品设计是产品经理零基础入门,必备实战项目!C端内容项目(四)的第10集视频,该合集共计11集,视频收藏或关注UP主,及时了解更多相关视频内容。
游戏作品中所有涉及到文字键入功能均需要设置敏感词屏蔽,如:角色昵称、社交对话、邮件内容、留言信息等。 敏感词库的覆盖范围包含:政要人物、敏感人物、宗教迷信、反动犯罪、恐怖主义、敏感事件、侮辱谩骂、生僻繁体、低俗色情、违禁网址、赌博毒品等涉及不良导向内容的中文及其他形式的内容。
准备敏感词词库文件 创建一个名为keywords.txt的文件,将以下内容复制到文件中: 敏感词1 敏感词2 敏感词3 1. 2. 3. 代码示例 importjava.io.File;importjava.io.IOException;importjava.nio.file.Files;importjava.util.List;publicclassSensitiveWordFilter{privateList<String>keywords;publicSensitiveWordFilter(Stri...