隐私保护 AI——我们为什么需要它？

构建和搭建数据与 AI 系统的常规过程可能会引发各种数据隐私威胁。利用隐私保护 AI 领域的最先进技术，可以帮助避免这些挑战。

作者：Upendra Singh，Epsilon 数据科学、DX 高级首席架构师。

在当今数字化世界中，数据隐私是私营和公共组织都关注的重要问题。这给分析行业带来了一个有趣的挑战，因为数据可访问性是开发高质量机器学习模型的关键。

在现实世界中开展人工智能项目时，你会发现大多数数据集都被孤立在大型企业内部，原因有两个：

首先，组织有法律要求，禁止它们在组织外部共享数据集，以保护数据免受意外和 intentional 泄露。

其次，保留从客户处收集或关于客户的大量数据集也能带来竞争优势。

这些数据可以帮助组织改进和个性化其产品与服务。仔细想想，这很有道理。衡量用户喜欢什么，比猜测并构建没人想用的产品要好。但这也可能很危险。它会损害客户的隐私，因为收集到的数据可能很敏感，一旦泄露就会造成伤害。

因此，虽然公司喜欢使用数据来改进产品，但作为用户，我们希望保护自己的隐私。

这些相互矛盾的需求可以通过一种称为差分隐私或隐私保护 AI 的技术来满足。PPAI 允许组织收集有关其用户的信息，而不损害个人的隐私。

PPAI 是一个相对较新的领域，始于 2003 年左右的统计数据库查询。它在机器学习等场景中的应用则更晚。PPAI 的总体目标是确保不同种类的统计分析不会损害数据隐私。当我们说统计分析时，我们指的是最广义的含义——例如，我们有一些训练数据、数据库，或只是一个关于个人的数据集，我们希望确保对该数据集的统计分析不会损害该数据集中任何特定个人的隐私。

现在，为了实现这一目标，我们首先需要对隐私提出一个稳健的定义。目前有许多可用的定义：

定义1：如果在分析之后，分析者对数据集中的个人一无所知，则隐私得到保护。他们保持“未被观察”的状态。

但这个定义在所有情境下可能并不充分。例如，如果我们将这个隐私定义应用于我们的家庭，使用门帘和百叶窗，我们能够确保房屋中个人的信息不会泄露，他们保持“未被观察”。然而，在统计学和机器学习的背景下，这是不够的。这是因为我们试图了解数据集的某些信息，而不了解个人的具体信息，这些信息可能是敏感的，或者可能以某种方式伤害他们。

事实上，我们不仅是在试图保护信息，也是在保护人，对吧？

因此，这引出了Cynthia Dwork提出的现代、直观的定义，她被广泛认为是PPAI领域的先驱人物。Cynthia在她的著作《差分隐私的算法基础》中给出了以下隐私定义。

定义2：“差分隐私”描述了数据持有者或管理者对数据主体做出的承诺，承诺是这样的——“无论其他研究、数据集或信息来源如何，允许你的数据用于任何研究或分析，你都不会受到不利或其他任何影响。”

（请注意，PPAI和差分隐私这两个术语在学术界和工业界经常互换使用。）

如你所见，这个差分隐私的定义比前一个更广泛，并且相当难以实现。但差分隐私领域的真正目标是提出这些工具和技术，使数据持有者能够向被研究的个人做出这些承诺。

但为什么要费这么大劲呢？公司难道不能在获得同意的情况下收集我们的数据，然后删除我们的姓名/个人可识别内容吗？匿名化数据并删除敏感内容？

很简单，对吧？不完全是！

这种方法有两个问题。

首先，匿名化通常发生在收集你数据的公司的服务器上。所以你必须信任他们真的删除了这些可识别的记录。这有多有效，归根结底取决于他们的数据质量和安全控制，以及是否可审计（GDPR）

其次，“匿名化”数据到底有多匿名？

2006年，Netflix发起了一项名为Netflix Prize的比赛。参赛团队需要创建一种算法，能够预测某人对电影的评分。为了帮助应对这一挑战，Netflix提供了一个数据集，其中包含480,000名用户对17,000部电影提交的超过1亿条评分。当然，Netflix通过移除用户姓名，并用虚假和随机数据替换部分评分，对该数据集进行了匿名化处理。具体来说，电影名称和个人用户名已被替换为唯一的整数ID。

该数据集没有披露任何关于评分个人的私人信息。尽管如此，德克萨斯大学的两位研究人员还是能够使用一种巧妙的统计技术（相关论文见此处）对电影名称和个人姓名进行去匿名化。他们抓取了IMDb电影评论网站，并应用统计分析来寻找那些同时在IMDb和Netflix上给电影评分的人。这使他们能够对Netflix上的很大一部分用户以及他们正在观看的电影进行去匿名化。

现在考虑一个假设场景：这些关于Netflix用户的匿名化数据不是为比赛而共享，而是在黑客攻击中泄露。无论哪种场景，结果都保持不变。因此，假设泄露的数据会被匿名化并因此是安全的，这是不正确的。

也许更不寻常的是，1997年，一种类似的技术被用于对健康记录进行去匿名化，其方法是查看多个独立的匿名化数据集以及在线选民登记记录。这最终导致时任马萨诸塞州州长William Weld的医疗记录从“匿名”数据中被重新识别出来。

同样，2013年，一位哈佛大学教授能够重新识别一项备受瞩目的DNA研究中匿名参与者样本中超过40%的人的姓名，其方法是将他们与其他公开可用的数据集进行交叉比对（相关Nature文章见此处）。

这些例子说明了Cynthia Dwork对隐私定义的重要性，其中“无论还有哪些其他来源的数据集或信息源可用”这一概念变得至关重要。此外，鉴于统计技术的最新进展，许多组织仍在沿用的老式数据匿名化方法根本不够稳健。隐私保护AI可以帮助填补许多这类缺口，并允许组织开发用于客户洞察的尖端机器学习模型，而无需在数据隐私方面妥协。

简介：Upendra Singh是一位经验丰富的全栈数据科学家，在数据科学、机器学习和大数据工程方面拥有12年以上经验。感兴趣领域包括隐私保护、深度学习和数据去重。他是一位热衷阅读的人和爱狗人士，并曾在“The Fifth Elephant”等大数据会议上发表演讲。他目前是Epsilon数据科学、DX部门的高级首席架构师。

转载声明：本文为转载整理，原文版权归原作者及原站点所有。

原文来源：KDnuggets

原创地址：https://www.kdnuggets.com/2020/05/privacy-preserving-ai.html#comment-184752