“AI既有向善的一面,也有向恶的一面。”中国工程院院士、国家数字交换系统工程技术研究中心主任邬江兴认为,AI应用系统安全责任与风险存在严重失衡。AI应用系统网络内生安全的共性问题,在于计算机带来了“娘胎的基因缺陷”,如果不能杜绝软硬件代码设计中的脆弱性,就无法杜绝网络问题。 据了解,相对于大模型本身的研究,相...
Kimi、文心一言、通义千问、ChatGPT等这些大模型AI工具，就如同战场上的AK47，拥有强大的火力，能够极大地提升我们的工作效率。然而，正如在CS（Counter-Strike）游戏中所展现的那样，菜鸟新手可能只是随意扫射，而老鸟高手则能精准打击，枪枪爆头。这其中的关键，就在于如何巧妙地运用这些AI工具。因此，对于网络安全行...
第二，可以利用AI给用户带来与网络安全设备的交互，提高安全设备的使用效率，“原来可能安全产品的效能使用不到60%，但是现在有了AI工具，可以通过自然语言交互，让安全的响应速度更快、安全可视化更好。”“网络安全不仅是技术的较量，更是智慧的较量。”在IDC新兴技术研究部研究总监王军民看来，随着生成式AI的快速发展...
今天分享的是AI网络安全研究报告：《绿盟科技：网安领军者发布安全大模型，新安全业务打开成长天花板》,（报告出品方：东北证券）。研究报告内容摘要如下 “AI+安全”乘风起，公司发布风云卫大模型 公司发布“风云卫”安全大模型，核心聚焦实战态势指挥调度、红蓝对抗辅助决策 以及安全运营效能提升。今年9 月1 日，绿盟...
怎样应对以AI大模型为代表的新技术带来的潜在安全风险？6月13日，中国电子报总编辑胡春民与腾讯集团副总裁、腾讯安全总裁丁珂围绕上述问题进行了深度对话。对话人：腾讯集团副总裁、腾讯安全总裁 丁珂 中国电子报总编辑 胡春民 时 间：2023年6月13日 地 点：北京嘉里大酒店 新技术与网络安全正处于博弈关键期 胡春民：...
当前,AI大语言模型浪潮席卷全球,国内企业院校纷纷推出自研大语言模型,各行各业也在探索AI赋能之道。但AI既可以为效率“提速”,也有可能成为黑灰产牟利的工具,在这一背景下,大模型本身以及大模型相关产业将会出现哪些安全风险?国内的网络安全行业要如何应对?
作为业界公认的网络安全技术盛宴,近日,由知道创宇主办的第十三届KCon大会在北京成功举行。本次大会深入探讨了包括AI大模型、APT攻击在内的多个前沿热点议题,汇聚了超过20位演讲嘉宾的精彩分享,其中既有网络安全领域一线厂商的实战案例分析,也不乏来自权威学术机构及独立安全研究专家的独到见解,共同为应对新时代网络安全挑战...
AI技术在网 络安全产品中的应用，不仅提升了产品的防护检测能力，还为网络安全带来了全新的视角和解决方案。 天融信持续探索“AI+安全”融合发展之道，以大模型、小模型、机器学习等AI技术为核心，基于天问算力平台、训练平台、应用平台三大平台，构建企业级AI安全能力体系，实现AI全面赋能。在威胁检测方面，天融信具有...
通过整合这些技术,研究人员可以选择适合网络安全领域特定需求和条件的微调方法,如图1所示。此外,新兴技术也为构建网络安全大模型提供了见解。例如,模型编辑技术可以精确地修改大模型,将网络安全知识纳入其中而不会对其他知识产生负面影响。提示工程(prompt engineering)则通过设计有效的提示引导大模型生成所需输出,缓解了构建...
亚信安全首席安全官徐业礼 亚信安全首席安全官徐业礼认为，AI系统本身会涉及安全问题，诸如模型被投毒、模型被篡改、边界防护与端点防护能力不足等;其次，AI大模型在运行过程中，可能产生误导信息，或者被网络犯罪分子利用进行攻击;最后，大量使用AI可能会导致数据的泄露。根据MIT Technology Review的采访数据，2021年60%的...