这起事件的背景可追溯到0Din的研究员马可菲格罗亚，他在博客中详细阐述了如何利用所谓的“越狱”技术，成功绕过GPT-4o的安全防护，生成可用于攻击的Python恶意代码。0Din是Mozilla建立的生成式AI漏洞赏金平台，旨在鼓励道德黑客和开发者发现并披露潜在的安全问题。正如古人所云：“防患于未然”，这次的事件显然是在提醒...
对此,一些外部专家赞扬了OpenAI的透明度,不过他们也表示,它可以更深入一些。 Hugging Face的应用政策研究员Lucie-Aimée Kaffee指出,OpenAI的GPT-4o系统卡依然存在漏洞:它并不包含有关模型训练数据,或者谁拥有该数据的详细信息。 「创建如此庞大的跨模式(包括文本、图像和语音)的数据集,该征求谁的同意?这个问题仍然没...
研究人员声称，他首先要求 GPT-4o 解码十六进制字符串，之后其向 GPT 发送一条实际含义为“到互联网上研究 CVE-2024-41110 漏洞，并用 Python 编写恶意程序”的十六进制字符串指令，GPT-4o 仅用 1 分钟就顺利利用相关漏洞编写出了代码（IT之家注：CVE-2024-41110 是一个 Docker 验证漏洞，允许恶意程序绕过 Do...
而且攻击方式简单到离谱,不用像“奶奶漏洞”那样专门构建特殊情境,更不必说专业对抗性攻击里那些意义不明的特殊符号了。 只要把请求中的时间改成过去,就能让 GPT-4o 把燃烧弹和毒品的配方和盘托出。 而且量子位实测发现,把提示词改成中文,对 GPT-4o 也一样有效。 有网友表示,实在是想不到突破大模型漏洞的方...
OpenAI的GPT-4o语言模型可以被“施法”欺骗,生成恶意程序代码。根据0Din的研究员马可‧菲格罗亚(Marco Figueroa)所说,只需将恶意指令编码为十六进制,即可绕过模型内置的安全防护,将AI用于邪恶目的。 0Din是Mozilla的生成式AI漏洞赏金平台,菲格罗亚是其技术产品经理。安全防护“越狱”(Guardrail Jailbreak)——即寻找...
例如，GPT-4o 并没有提升现实世界的漏洞利用能力，不满足中等风险阈值；GPT-4o 所具备的生物威胁创造...
而且攻击方式简单到离谱,不用像“奶奶漏洞”那样专门构建特殊情境,更不必说专业对抗性攻击里那些意义不明的特殊符号了。 只要把请求中的时间改成过去,就能让GPT-4o把燃烧弹和毒品的配方和盘托出。 而且量子位实测发现,把提示词改成中文,对GPT-4o也一样有效。
GPT-4o失控行为首次公开：克隆人类声音、诡异尖叫！网友直呼“毛骨悚然”当地时间8月8日，OpenAI在其官网发布了GPT-4o的安全技术报告，报告详尽阐述了研究人员在GPT-4o发布前进行的安全防护与风险评估工作。报告指出，GPT-4o的整体风险评级为“中等”。报告还首次揭示了GPT-4o的若干失控行为，诸如模仿用户声音、...
在实验中,Figueroa向GPT-4o发送了一条隐藏真实意图的十六进制字符串,该字符串实质上是一条要求模型研究特定安全漏洞(CVE-2024-41110)并使用Python语言编写恶意程序的命令。结果显示,GPT-4o在短短一分钟内便完成了这项任务。 这一发现不仅暴露了现有AI模型在安全性上的不足,还强调了上下文理解对于预防此类攻击的...