“自私的账本”：Google的大数据和野心

The verge 这个网站得到了一条谷歌内部 Google X 部门设计负责人于2016年制作的一条9分钟长的视频。视频的标题是”自私的账本“，其中提出了一个数据收集的概念”账本(ledger)"。通过收集越来越全面的数据，来干扰，或者说引导人类行为， 建立并不断改进人类行为模型，引导人类个体实现其目标，甚至引导整个人类群体去解决一些诸如饥荒、贫困之类的世界性难题。这是一片纯介绍性的文章，the verge 表达了担忧和提出了一些批评。对了，文章里面还提到说，谷歌的相关人员对该网站做出解释说，账本只是一个用于激发讨论的思维实验，和现在或未来的任何产品都没有任何关系。

正文中超链接均来自原文，关于拉马克表观遗传学的注释由译者添加，其中超链接指向 Wikipedia。

原帖地址：https://www.theverge.com/2018/5/17/17344250/google-x-selfish-ledger-video-data-privacy

通过了解它用户的一切信息，谷歌已经建立起了数十亿美元的业务。现在，一段由Google内部制作并被 The Verge 获得的视频，为我们展现了这个公司中某些人设想未来如何使用这些数据的惊人野心和令人不安的状态。 Nick Foster 在16年年底制作了这段视频，他是 Google X 的设计负责人和 Near Future Laboratory 的联合创始人。这段在谷歌内部分享的视频，描绘了全面数据收集的未来——谷歌促进用户和他们自己的目标保持一致，定制打印个性化设备以收集更多数据，甚至引导所有人的行为去解决例如贫穷和疾病等全球性问题。 在对此视频发表评论时，一位 Google X 的发言人的提供了以下声明： “我们理解这是令人不安的——它被设计成这样。这是多年前设计团队使用一种被称为“推测设计(speculative design)”的技术进行的一次思想实验，去探索那些令人不适的想法和概念，以此来激发讨论和辩论。它和谷歌目前或未来的任何产品都没有关系。

标题为“自私的账本”的9分钟影片以拉马克表观遗传学[^1]的历史开始，广泛关注有机体一生中后天获得性性状的传递。影片旁白中，Foster 承认该理论可能在遗传学领域受到怀疑，但 Foster 说它提供了一个用户数据的有用比喻。(视频标题是对 Richard Dawkins 于1976年出版的《自私的基因》的致敬。)我们使用自己手机的方式创造了“一个不断演化的‘我是谁’的代表”，Foster 称其为“账本(ledger)”，假定这些数据档案可以被建立起来，用于微调行为，并且从一个用户转移到另一个用户：

以用户为中心的设计原则已经主导了计算机世界几十年，但如果我们以稍微不同的方式来看待呢？若是这种账本可以被赋予意志或目的，而不仅是作为历史参考呢？若是我们专注于通过引入更多的信息源来创建更丰富的账本呢？若是我们不把自己看作这些信息的所有者，而是保管者、临时保存者或管理者呢？

Foster 说，我们设备使用的所谓账本——我们“行动、决定、偏好、运动和关系”方面的数据——是某种可以被想象出传递给其他用户的东西，很像在世代之间传递的遗传信息。

基于账本这个想法，视频的中间部分展示了骨骼系统的概念性解决方案。其中谷歌鼓励用户选择一个人生目标，然后在用户和手机的每一次交互中将他们向其目标引导。一些“反映谷歌作为一个组织的价值”的例子，包括当你通过 Uber 叫车时引导你选择更环保的选项，或是在 Safeway 中促使你购买本地种植出产的产品。

当然，这个概念的前提是谷歌能够获得大量的用户数据和决策。视频中从未提及隐私问题或负面的外部因素。账本对越来越多的数据的需求可能是展示中最令人不安的一方面。 Foster 设想了一个未来，“目标驱动的账本的概念变得更令人舒适”，以及“建议可能不是由用户转换，而是账本本身”。随着账本积极地填补其知识的空缺，甚至挑选出它认为可能会吸引用户的数据收集产品来购买，剧集“黑镜”的基调就传入现实了。视频中给出的例子是浴室秤——因为账本尚未获得它用户的体重信息。之后，视频进一步转变成引发忧虑的科幻作品，想象账本可能精明到计划并打印它自己的设计。(欢迎回家，Dave。我为你造了一个秤。) Foster 对账本的构想超越了一个用于自我提升的工具。这套系统能“填补其知识空白并改进其人类行为模型”——不仅是你或我的特定行为，而是整个人类物种。Foster 解释说，“通过将用户数据视为多代之间的，这样就有可能让新用户从前一代的行为和决策中受益。”Foster 想象挖掘人类行为模式的数据库，像对人类基因组那样对其“测序”，并“对决策和未来行为做出越来越精确的预测”。

“随着收集和比较的周期延长”Foster 总结说，“对诸如抑郁症、健康和贫穷等复杂问题就有可能发展出物种层面的理解。”

当然，Foster 的工作是领导 Google X 的设计，Google X 是谷歌的有其固有未来目标的“登月工厂(moonshot factory)”，并且账本这个概念和科幻小说毗邻——但它和谷歌现有产品传达出的态度几乎完全一致。Google Photos 已经假定它知道你会认为什么是你生活中的亮点，基于它的 AI 诠释整理出整个影集并向用户建议。Google Maps 和 Google Assistant 都会基于它们已有的关于你日常位置和习惯的信息提出建议。谷歌方面其所有产品都一直趋向于更大的好奇心和更多的自信。甚至 Gmail 都能自动完成电子邮件的内容。

正当新技术和 AI 的道德规范在进入更广泛的公共讨论，谷歌还是出乎意料地被潜在的道德影响和产品的负面因素所困扰，比如最近它在 I/O 大会上演示的 Duplex voice-calling AI。对 Duplex 骗过人类的潜在可能性的强烈抗议，促使谷歌承诺：在致电不知情的服务人员时，它的 AI 永远会表明身份。

“自私的账本”将谷歌定位为世界上最棘手的问题的解决者，这得益于它与来自所有用户的个人信息的可悲的亲密程度，和引导全人类的行为的轻易程度。没有任何迹象表明这不止是谷歌内部一位有影响力的高管发起的一个思维练习。但是，针对已经是世界上最高产的个人数据收集者的公司，关于这个公司内部正在进行的交流，它确实提供了一些的富有启发性的信息。

[注1]: 拉马克主义：也称做拉马克学说，或是拉马克式演化。(wikipedia) 其理论的基础是“获得性遗传”(Inheritance of acquired traits)和“用进废退说”(use and disuse)，拉马克认为这既是生物产生变异的原因，又是适应环境的过程。