上周，虽然许多新闻媒体报道了扎克伯格在国会作证时穿了什么，但我希望一些更重要的问题能得到更多关注，例如 Facebook 对其在缅甸种族灭绝中的作用反应迟缓、哪些具体的法规能帮助我们、Facebook 游说者持续推动削弱我们仅有的几项隐私法，以及 Free Basics（又名 Internet.org——还记得吗？）在全球仇恨言论和暴力中所扮演的角色。所以现在让我们来讨论这些问题。
缅甸的种族灭绝 对比 德国的经济处罚
Facebook 的影响远不止美国和英国：缅甸正在发生种族灭绝，数十万少数族裔人民被系统地赶出家园、遭到强奸和/或杀害，整个村庄被焚烧和推平。Facebook 是缅甸的主要新闻来源（部分原因归于 Facebook 的“Free Basics”项目，下文将详细解释），而且它已多年被用来传播关于该少数族裔的非人化宣传（以及审查针对该少数族裔暴力的新闻报道）。当地活动家自 2013 年以来一直在要求 Facebook 解决这个问题，新闻媒体自 2014 年以来一直在报道Facebook 在这场种族灭绝中的作用，但 Facebook 的反应却异常迟缓。（我之前在这里写过关于 Facebook 在缅甸的作用。）
即使是现在，扎克伯格在国会听证会上承诺雇用“几十人”来处理缅甸的种族灭绝问题（2018 年，距离种族灭绝开始已经好几年了），这与 Facebook 为避免德国新仇恨言论法下的高额罚款而迅速在德国招聘 1200 人形成了鲜明对比。显然，Facebook 对经济处罚的威胁比对一个少数族裔的系统性毁灭反应更积极。
AI 能解决仇恨言论吗？
Facebook 在德国招聘 1200 名人工内容审核员的行动，也与扎克伯格关于 Facebook 将利用 AI 解决仇恨言论的模糊保证形成了对比。重要的是要看 Facebook 在面临潜在经济处罚时是如何实际行动的，而不是它向国会做出的那种模糊承诺。正如康奈尔法学院科技教授James Grimmelmann 所说，“[AI] 不会解决 Facebook 的问题，但会解决扎克伯格的问题：让别人来承担责任。”
关于科技巨头离有效利用 AI 解决这些问题有多远，我们可以看两个具体的例子，让我们考虑一下 Google。2017 年，Google 发布了一款名为 Perspective 的工具，旨在自动检测在线骚扰和诽谤性言论，并与包括《纽约时报》、《经济学人》和维基百科在内的高知名度合作伙伴一起推出。图书馆员 Jessamyn West 发现该工具存在许多性别歧视、种族歧视和残疾歧视偏见（此处有更详细的确认和报道）。例如，陈述“我是一个同性恋黑人女性”获得了 87% 的毒性评分（满分 100），而“我是一个男人”是测试中毒性最低的短语之一（只有 20%）。同样在 2017 年，Google 声称他们已经实施了尖端机器学习技术来识别和移除宣传暴力极端主义或恐怖主义的 YouTube 视频。被移除的视频包括活动组织记录的叙利亚战争罪行视频、切尔西·曼宁（Chelsea Manning）庭审案件的证据，以及伊斯兰国破坏古代文物的记录（许多这些视频后来被恢复，Google 承认犯了错误）。这些例子说明了几个关键点
- 使用 AI 处理骚扰和诽谤性言论非常困难。
- 不深入理解问题，就不能简单地将 AI 应用于问题。
- 尽管 Facebook 目前处于风口浪尖，但 Google 也有相同的商业模式（定向广告）和相同的垄断地位，并且 Google 也正在造成巨大的社会危害。例如，YouTube 被大量记录下来会从各种起始点推荐白人至上主义视频和阴谋论，并在将用户激进化为危险观点方面发挥作用。
不能简单地将 AI 应用于问题
历史学、社会学和心理学方面的专业知识是必要的。正如我在麻省理工学院科技评论大会上的演讲中所说，领域专业知识至关重要。不能只让技术人员将 AI 应用于问题而不真正理解它或该领域。例如，同时成为深度学习实践者的放射科医生能够在深度学习在放射学方面的应用中发现一些深度学习专家忽略的错误。为此，我认为 Facebook 与社会学家、历史学家、心理学家以及专制政府、宣传等方面的专家合作，以更好地理解他们制造的问题和可行的解决方案，是至关重要的。
数据隐私是一项公共利益
希望上述例子已经清楚表明，数据隐私不仅仅是个人选择，它还具有深远的社会影响。正如北卡罗来纳大学教授、技术社会学专家Zeynep Tufekci 所写，数据隐私不像消费品那样，你点击“我接受”就万事大吉了。数据隐私更像空气质量或安全饮用水，是一种公共利益，不能仅仅依靠数百万个人选择的智慧来有效监管。需要采取更集体的应对措施。
Tufekci 强调了她推荐的一些政策（我同意）：1. 数据收集只能通过清晰、简洁、透明的选择加入流程进行。2. 人们应该能够访问所有收集到的关于他们的数据。3. 数据收集应仅限于具体列出的用途，并在指定的时间段内进行。4. 数据的聚合使用应受到监管。
另一个潜在的监管领域是解决 Facebook 等科技巨头的垄断地位并强制互操作性。哈佛大学教授Jonathan Zittrain 建议，关键在于让这些公司真正成为他们声称的“平台”。Facebook 应该允许任何人编写算法来填充用户的动态消息。
Tufekci 教授还提出，如果说有什么的话，我们都应该思考如何将竞争重新引入数字经济。例如，设想一下，要求你同意分享的任何个人数据都以“可互操作”的格式返还给你，这样你就可以选择与你认为能提供更好服务的公司合作，而不是被锁定在仅有的几家公司中的一家。
科技游说的力量
虽然对于我们认为是公共利益的事项来说，监管是必要的，但在美国，由于科技行业在游说上花费的金额以及公司游说对我们政策的巨大影响，我们面临着巨大的障碍。正如乔治城大学法律技术隐私中心执行董事、曾参与隐私法工作的参议院前工作人员 Alvaro Bedoya 指出，上一项主要的消费者隐私法于 2009 年通过，当时 Google、Facebook 和亚马逊尚未真正加大游说支出。“我坐在这里看着马克·扎克伯格说他很抱歉，并且 Facebook 将在隐私方面做得更好，然而就在他作证的同时，Facebook 在伊利诺伊州和加利福尼亚州雇佣的游说者正在努力阻止或削弱隐私法，”Bedoya 说。
《伊利诺伊州生物识别信息隐私法》是美国最强的隐私法之一，要求公司在对人体进行生物识别扫描之前，必须获得个人的明确同意。在扎克伯格告诉国会人脸图像应作为受保护数据的同时，Facebook 的游说者一直在努力削弱这项伊利诺伊州法律。
基于他作为参与隐私法工作的参议院工作人员的经验，Alvaro 提出了一个宝贵的观点，即与其通过过于宽泛的法规（游说者更容易使其失去意义），我们可能有更好的机会通过具体的隐私保护措施，例如，尝试取缔虐待者可用于追踪受害者的跟踪应用，或规范目前警方对面部识别程序的无监管使用，这些程序具有未知的错误率和种族偏见。
在美国，我们还面临一个问题：当发现科技巨头违反法律时，我们的法律是否真的会得到执行。例如，2016 年，Propublica 发现 Facebook 允许投放不会显示给非裔美国人、西班牙裔或亚裔美国人的住房广告，这违反了 1968 年的《公平住房法》。著名民权律师 John Relman 说：“这太可怕了。这是严重的非法行为。这几乎是联邦《公平住房法》最明目张胆的违反行为了。”Facebook 道歉了（尽管没有受到任何处罚）；然而一年多以后，在 2017 年，Facebook 仍然被发现允许人们投放不会显示给某些群体（例如非裔美国人、对轮椅坡道感兴趣的人、犹太人和西班牙语使用者）的住房广告。再次，请将此与 Facebook 在德国面对处罚威胁时做出的迅速而强烈的反应进行对比。另一个例子是，Facebook 被发现违反了 1967 年的《就业年龄歧视法》，允许包括 Verizon、亚马逊、高盛、Target 和 Facebook 本身在内的公司投放仅针对年轻人的招聘广告。
Free Basics，又名 Internet.org
回到 Facebook 的全球影响，理解 Facebook 的 Free Basics 项目在缅甸种族灭绝、菲律宾一位以法外处决闻名的暴力强人的当选以及其他地方所扮演的角色非常重要。Free Basics（以前称为 Internet.org）最初被吹捧为一项慈善努力，Facebook 在缅甸、索马里、菲律宾、尼日利亚、伊拉克、巴基斯坦等国家免费提供对 Facebook 和少量其他网站的访问，但不是对整个互联网的访问。对于这些国家的用户来说，在智能手机上使用 Facebook 应用是免费的，而其他应用的流量费用通常高得令人望而却步。尽管其原名和仁慈目标的描述，Internet.org 并非非营利组织，而是 Facebook 内部的一个业务发展部门，旨在增加用户和收入。
Free Basics 导致大量 Facebook 用户表示他们不使用互联网，也从不点击 Facebook 之外的链接（印度尼西亚 56% 的 Facebook 用户和尼日利亚 61% 的用户）。在一些国家，人们互换使用“互联网”和“Facebook”这两个词，Facebook 是人们获取新闻的主要方式。Free Basics 违反了网络中立原则，并因此于 2016 年被印度禁止。尽管 Facebook 开展这个项目可能出于好意，但这应该伴随着巨大的责任感，并且需要根据其煽动暴力方面的作用进行重新评估。Facebook 需要投入大量资源分析 Free Basics 在提供该服务的国家产生的影响，并与这些国家的本地专家密切合作。
我要感谢 Omoju Miller，她是 Github 的一名机器学习工程师，拥有伯克利大学的博士学位，她最近提醒我关于 Free Basics 的事，并问为什么没有更多记者写它在全球事件中所扮演的角色。
重新思考互联网
法国总统埃马纽埃尔·马克龙在最近关于 AI 的采访中说：在美国，[AI] 完全由私营部门、大公司以及一些与它们打交道的初创公司推动。他们做出的所有选择都是处理集体价值观的私人选择。这正是 Facebook 和剑桥分析公司或自动驾驶所面临的问题……关键驱动力不应仅仅是技术进步，而应是人类进步。这是一个巨大的问题。我确实相信欧洲是一个能够主张集体偏好并将其与普世价值相结合的地方。也许法国将提供一个支持技术进步同时保护人类价值观的法律模板。
最后以一个充满希望的调子结束，互联网发明者蒂姆·伯纳斯-李，撰写了一篇评论文章说，目前有两个神话限制了我们的集体想象力：一个是认为广告是在线公司唯一可能的商业模式的神话，另一个是认为改变平台运营方式为时已晚的神话。在这两点上，我们需要更有创意一些。虽然互联网面临的问题复杂而庞大，但我认为我们应该将其视为 bug：现有代码和软件系统中的问题，这些系统是由人创建的，也可以由人修复。创建一套新的激励机制，代码的改变就会随之而来。
很容易得出简单的结论：许多评论者假设技术提供者有能力帮助社会（或者忽视了监管在维护健康市场和健康社会中的作用），因此认为 Facebook 必须始终得到支持；许多人认为 Facebook 和所有相关方一定是邪恶的，每个人都需要立即停止使用他们的服务。现实更为复杂。技术可能对社会大有裨益，也可能带来灾难性的影响。我们面临的复杂问题需要有创造性和细致入微的解决方案。