MITRE ATLAS™(人工智能系统的对抗性威胁全景)作为一个专注于机器学习(ML)系统对抗性策略、技术和案例研究的知识库,为我们揭示了AI系统面临的严峻挑战。 一、MITRE ATLAS™概述 MITRE ATLAS™是基于真实世界观察、机器学习红队和安全小组演示,以及学术研究的综合成果,旨在提高人们对ML系统威胁的认识,并以安全研究人...
ATLAS旨在提高人们对ML系统威胁的认识，而Arsenal 帮助网络安全研究人员存储和创建 ATLAS 中定义的对抗策略、技术和程序 (TTP)，以与CALDERA 接口，CALDERA 是自动进行对手仿真的网络安全平台。Arsenal 使用 Microsoft 的Counterfit自动化工具来运行人工智能 (AI) 安全风险评估作为自动对抗攻击库，并使 CALDERA 能够使用 Co...
MITRE ATLAS (Adversarial Threat Landscape for Artificial-Intelligence Systems) is an expansive repository of tactics, techniques, and real-world case studies related to the adversarial threats AI and ML systems face.1 It gathers its information from different sources including real-world observations, ...
Christina Liaghati 博士领导MITRE的值得信赖和安全人工智能部门和MITRE ATLAS，她积极地推动值得信赖和安全人工智能的研究和开发，为每个致力于利用人工智能系统的人提供支持。
MITRE ATLAS™(人工智能系统的对抗性威胁全景)是基于真实世界观察、机器学习红队和安全小组的演示的机器学习 (ML) 系统的对抗性策略、技术和案例研究的知识库,以及来自学术研究的可能状态。ATLAS 以MITRE ATT&CK®框架为蓝本,其战术和技术与 ATT&CK 中的相辅相成。
MITRE ATLAS™(人工智能系统的对抗性威胁全景)是基于真实世界观察、机器学习红队和安全小组的演示的机器学习 (ML) 系统的对抗性策略、技术和案例研究的知识库,以及来自学术研究的可能状态。ATLAS 以MITRE ATT&CK ®框架为蓝本,其战术和技术与 ATT&CK 中的相辅相成。
这是微软与Mitre针对机器学习系统防护的最新一项合作。双方2020年合作Adversarial ML Threat Matrix开发框架，去年微软推出Counterfit自动化红队演练AI攻击测试工具，供企业对AI算法进行安全评估。最新的Arsenal即是将Counterfit集成于插件中。Mitre的资源页说明，这个插件可存储和创建Mitre攻击ATT&CK数据库ATLAS（Adversarial ...
mitre-atlas/ai-risk-databasePublic NotificationsYou must be signed in to change notification settings Fork2 Star51 Code Issues Projects main 2Branches0Tags Code Folders and files Name Last commit message Last commit date Latest commit lilyjw ...
MITRE’s ATLAS threat landscape knowledge base for artificial intelligence is a comprehensive guide to the tactics and processes bad actors use to compromise and exploit AI systems. Credit: DC Studio / Shutterstock It’s one thing to understand that artificial intelligence introduces...
MITRE牵头的AI“探索团队”已考虑将加强北约与各大公司间的威胁情报共享机制视作优先工作方向,并打算在今年之内在北约与ATLAS框架发展社群间尝试开展受控威胁情报信息的共享合作。