苹果大力开发的“差分隐私”技术是什么?(图)

来源: 2017-07-16 22:29:12 [旧帖] [给我悄悄话] 本文已被阅读:

一年前,“差分隐私”技术这个词在学术圈外还几乎无人所知,而现在微软和优步等公司都在测试这项技术。去年,苹果公司针对这项技术启动了一项庞大的实验。

 

 

去年,苹果公司(Apple Inc., AAPL)针对一种新的隐私技术启动了一项庞大的实验,希望解决一个越来越棘手的问题:怎样才能打造出既理解用户又不窥探用户的产品?

答案就是差分隐私(differential privacy)技术。一年前,这个词在学术圈外还几乎无人所知。而现在微软(Microsoft Co., MSFT)和优步(Uber Technologies Inc.)等公司都在测试这项技术。

差分隐私算法通过注入一定数量的统计噪音来模糊正在被分析的数据,比如将某个问题(你有过暴力犯罪行为吗?)的答案抽出来,换成另一个有已知统计回复率的问题(你是在2月份出生的吗?)。

这样,试图在数据中找出关联的人就永远无法确知某人被问了哪个问题。这意味着研究人员可以分析诸如病例资料这样的敏感数据,却不能把这些数据与具体的人联系起来。

加州大学 克鲁兹分校(University of California, Santa Cruz)助理教授Abhradeep Guha Thakurta表示,差分隐私对苹果的人工智能开发至关重要。Thakurta直到今年1月份一直致力于开发苹果的差分隐私系统。

苹果软件工程师Katie Skinner在6月份举行的年度开发者大会上表示,这项技术最初被用于理解手机用户如何使用表情符号或新的俚语,而如今苹果正在将差分隐私的应用范围扩大到对网络搜索和健康数据的搜集和分析上。

她表示,苹果现在每天都会从装有最新操作系统的Mac、iPhone和iPad上收集数百万条信息,这些信息都通过差分隐私技术加以保护。

苹果发言人通过邮件表示,苹果相信,卓越的功能和隐私保护是可以二者兼得的。

宾夕法尼亚大学(University of Pennsylvania)计算机科学教授Benjamin Pierce表示,研究人员正在大量使用差分隐私技术,不过这项技术诞生只有10年左右,还远不能充分理解其优势与不足。