新的人工智能模型可以帮助防止破坏性数据泄露

新的人工智能模型可以帮助防止破坏性数据泄露

英国伦敦帝国理工学院计算隐私小组的专家发现，人工智能(AI) 可用于自动发现基于查询 (QBS) 系统中的易受攻击的数据泄露。

该团队分析了 QBS 系统上的数据泄露——分析师可以通过该界面查询数据以提取有关世界的有用聚合信息。通过这种方式，他们能够开发一种新的支持人工智能的方法，称为 QuerySnout。这是人工智能首次被用于自动发现此类系统中的漏洞。

该研究的资深作者 Yves-Alexandre de Montjoye 博士说：“到目前为止，攻击是使用高技能的专业知识手动开发的。这意味着需要很长时间才能发现数据泄露，从而使系统面临风险。

“QuerySnout 在发现现实世界系统中的漏洞方面已经超越了人类。”

该研究作为第29届ACM 计算机和通信安全会议的一部分发表。

为什么我们需要基于查询的系统？

在过去十年中，收集和存储数据的能力有了很大的提高。尽管这些数据有助于推动科学进步，但其中大部分是个人数据，因此使用它会引发严重的隐私问题。欧盟通用数据保护条例等法律旨在防止有关个人信息的严重数据泄露。

这意味着在保护我们的基本隐私权的同时，使数据能够被永久使用，对于数据科学家和隐私专家来说是一个及时而重要的过程。

QBS 系统有可能实现大规模的隐私保护匿名数据分析。策展人保持对数据的控制，这意味着他们可以检查和检查分析师发送的查询以防止数据泄露。

然而，这个系统是有缺陷的，因为非法攻击者可以通过设计查询来推断个人信息来绕过这些系统。他们通过利用系统中的漏洞或执行错误来获取特定人员的信息，从而导致严重的数据泄露。

测试 QuerySnout

黑客利用系统缺陷进行未知的强“零日”攻击的风险已经停滞并延迟了 QBS 系统的开发。为了测试这些系统的强度，可以模拟数据泄露攻击以检测信息泄漏并识别可能的缺陷。

然而，针对复杂的 QBS 手动设计和实施这些攻击是一个困难且漫长的过程。因此，根据研究人员的说法，限制安全攻击的可能性对于安全使用 QBS 至关重要。

QuerySnout 的工作原理是学习向系统询问哪些问题以获得答案。然后，它会学习自动组合答案以检测潜在的隐私漏洞。

通过使用机器学习，该模型可以创建由一组查询组成的数据泄露。这些查询结合答案以使用称为“进化搜索”的全自动技术揭示私人信息，使模型能够发现要问的正确问题集。

由于该过程发生在“黑匣子设置”中，人工智能只需要访问系统而不是知道它是如何工作的，就可以检测潜在的数据泄露。

该研究的共同第一作者 Ana-Maria Cretu 说：“我们证明了 QuerySnout 发现了比目前在现实世界系统中已知的攻击更强大的攻击。这意味着我们的人工智能模型比人类更擅长发现这些攻击。”

进一步开发 QuerySnout 以发现更高级的数据泄露

目前，QuerySnout 系统只测试了少量潜在的数据泄露事件。因此，该团队正在寻求进一步推进系统以检测更复杂的漏洞。

根据 de Montjoye 博士的说法：“向前发展的主要挑战将是将搜索扩展到更多的功能，以确保它发现甚至是最先进的攻击。”

尽管如此，该模型可以让分析师测试 QBS 对不同类型攻击者的稳健性。QuerySnout 的开发代表了在保护与基于查询的系统相关的个人隐私方面向前迈出的关键一步。

深圳市晶光华电子有限公司 专注石英晶振生产26年，强大的专业团队，服务超过上千家客户，高品质， 年产能6亿PCS，帮助客户选型，免费匹配及测试，交付快；如果您对我们的石英晶振感兴趣，欢迎咨询我们的客服，获取详细资料及报价，我们将为您提供专业贴心的服务。