你可以做的 16 件让技术更道德的事,第 2 部分

ai-in-society
作者

Rachel Thomas

发布于

April 25, 2019

本文是三部分系列文章的第 2 部分。请查阅第 1 部分第 3 部分.

我们已经看到了科技公司高管的一系列道德失败:向被指控性骚扰的高管支付数千万美元(却让受害者一无所有地离开);在女性刚接受完癌症治疗、大手术或经历死胎后就将其解雇;被告知他们正在助长种族灭绝却不采取行动来缓解;允许高管逃避责任并在《纽约时报》上发表极具误导性的言论;等等。显然,这些高管在“普通”道德方面都做得很差,他们是不会在人工智能道德方面引领我们的。制造出我们当前问题的人不会是解决问题的人,剩下的我们必须行动起来。在本系列中,我想分享一些您可以采取的行动,以产生实际的积极影响,并强调一些现实世界的例子。有些影响很大;有些很小;并非所有都与您的情况相关。今天的文章涵盖了第 6-11 条(见第 1 部分涵盖 1-5 条,以及第 3 部分涵盖 12-16 条)。

  1. 数据项目清单
  2. 进行道德风险排查
  3. 抵制指标的暴政
  4. 选择广告以外的营收模式
  5. 让产品和工程部门与信任和安全部门并肩工作
  6. 在公司内部倡导变革
  7. 与其他员工一起组织起来
  8. 当内部倡导不再奏效时离开公司
  9. 避免签署不贬低协议
  10. 支持深思熟虑的法规和立法
  11. 与记者交流
  12. 提前确定您的个人价值观和底线
  13. 要求您的公司签署 SafeFace 承诺
  14. 通过确保弱势群体员工获得成功机会来增加多样性
  15. 通过改进招聘和入职流程来增加多样性
  16. 分享您的成功故事!

一些积极消息:新奥尔良取消了与 Palantir 的合作项目,谷歌终止了强制仲裁,以及谷歌取消了包含一个偏执者的‘人工智能道德’委员会。

在公司内部倡导变革

Liz Fong-Jones 在谷歌担任工程师 11 年,并且是网站可靠性工程领域的领导者。在一篇关于她最近决定离开谷歌的文章中,她分享了这些年来她在公司内部倡导变革的一些策略。例如,当谷歌在 2010 年宣布 Google+ 的实名政策(这对一些教师、治疗师、LGBT+ 群体及其他弱势群体有害)时,Liz 整理了一份清单,列出了该政策的错误之处以及可能助长滥用的方式。她的许多同事加入了她,这群员工成功地在谈判桌上赢得了一席之地。为了回应公众对实名政策的负面反馈,谷歌高管寻求了这些员工的更多反馈,并随后取消了该政策。

员工组织(内部和外部)

Liz 所做的许多工作都属于员工组织的范畴。劳动运动在目标明确、原则清晰时最为有效,而不是仅仅出于应激反应。最近有很多成功的员工运动和抗议活动:- 去年,Survey Monkey 开始向合同工提供全面福利,以回应全职员工的压力(合同工在科技公司中常被视为低等人)。- 谷歌在 2 万名员工参加了关于公司如何处理性骚扰案件和包庇施暴者的抗议后,终止了强制仲裁(这经常阻止性骚扰或歧视的受害者寻求正义)。(请参阅下文关于谷歌现在如何报复组织者的说明)。- 谷歌任命反对跨性别、反对 LGBTQ 和反对移民的传统基金会主席加入其人工智能道德委员会后,超过 2000 名谷歌员工签署请愿书,要求罢免她。谷歌最终取消了整个委员会,距离首次宣布还不到一周。

就在本周,有新闻爆料称谷歌报复了谷歌罢工的组织者,告诉组织者 Meredith Whittaker,她必须“放弃”她在人工智能伦理方面的工作以及她在 AI Now Institute(她与他人共同创立的机构)的职位;另一位组织者 Claire Stapleton 则被降职,下属员工减少了一半,并且被要求请病假,尽管她并没有生病。这是公司企图恐吓员工、阻止他们组织起来的惯用策略(也凸显了公司确实将这种集体组织视为威胁)。我们支持组织起来的员工并与他们团结一致,这一点很重要。

当内部倡导不再奏效时离开公司

Liz Fong-Jones 写道,最近此类策略在谷歌的效果已不如前,她深感不安于谷歌的发展方向,包括 LGBT+ 员工被骚扰和人肉到白人至上主义网站上,以及在其中东和中国业务中将利润置于道德之上,以及向被控性骚扰下属的高管支付巨额款项。“当掌舵者正在船上凿洞时,我无法再用勺子舀水了,”Liz 在谈到她工作 11 年后决定离开谷歌时写道。

另一位采用这种方法的科技行业员工是 Mark Luckie。黑人用户是 Facebook 上最活跃的用户群体之一,然而 Facebook 却经常不公正地删除他们的内容或错误地封停他们的账户。Mark 在 Facebook 工作期间为黑人用户和黑人员工发声,并在离开时最终发表了一篇题为《Facebook 在其黑人员工和黑人用户方面做得不好》的文章。

对于需要抚养子女的父母、依赖工作签证的非美国居民、患有慢性病的人以及许多其他人来说,在没有找到下家的情况下辞职通常不是一个选择。别担心,没有人要求您这样做。在科技行业,大量公司正在招聘,跳槽几乎没有污名。正如我在之前关于有害工作的文章中写道的,科技行业的人们总是低估自己的就业能力、自己的技能有多受欢迎以及自己有多少选择。

避免不贬低协议(如有必要且可能)

DataCamp 首席执行官被指控性侵犯他的一名员工后,肇事者受到的唯一惩罚是一天的敏感性培训(有关更多背景信息,请阅读Noam RossJulia Silge关于教师们如何花了数月时间集体组织起来要求提高问责制和透明度,但 DataCamp 却未能真诚对待的文章)。DataCamp 的员工 Dhavide Aruliah 和 Greg Wilson 在内部提出了对案件处理不当的担忧,以及这如何开创了高管可以逍遥法外的先例。Dhavide 和 Greg 在提出担忧的几天内就被解雇了。他们获得了遣散费,但条件是签署协议,让他们对发生的事情保持沉默。他们都拒绝了这笔遣散费,这使得他们现在能够公开表态(尤其是 DataCamp 继续糟糕地处理此案,例如未能与关注此事的 DataCamp 教师进行有效沟通,以及写了一篇指责受害者的“道歉”,并且设置了搜索引擎不会收录它)。

我赞赏所有正在组织起来并号召抵制他们自己课程的 DataCamp 教师,我也钦佩 Dhavide 和 Greg 放弃了一个月的薪水以便能够继续发声。请阅读他们的文章这里这里。不是每个人都能负担得起拒绝遣散费的代价。没关系——这个列表上的每一项都不适用于所有情况,所以请做你需要做的事来照顾好自己。然而,如果你能够负担得起,这可能是一个强大的工具。

与记者交流

去年,《The Verge》报道了新奥尔良的一个秘密项目,Palantir 在那里测试其预测性警务技术已有 6 年。该项目如此隐秘,甚至在文章发表之前市议会成员都不知道。该文章发表后引起了公众强烈抗议,两周后,新奥尔良选择不再与 Palantir 续约。这是一个胜利!我感谢《The Verge》调查此事的记者,以及勇敢地向他们提供线索并公开谈论此事的知情人士(包括一名匿名的执法官员)。向记者讲述您雇主的情况可能会令人恐惧,但它也可能是促成变革的有效策略。

我同样感谢20 位现任和前任 YouTube 员工向记者讲述了 YouTube(谷歌的一部分)领导层在处理有害、极端主义和虚假视频方面的失职,尽管许多员工曾发出警告。我希望如果您力所能及,能够通过付费订阅或捐款(取决于媒体平台)来资助高质量的新闻业。

支持深思熟虑的法规和立法

多年来,当我表示支持深思熟虑的监管时,科技行业的其他人都会震惊和厌恶地看着我。得到良好执行的法规对于保护人权和确保社会福祉至关重要且必要。此外,通过确保稳定和公平竞争,法规甚至可以鼓励创新。

我非常感谢所有在美国改善我们生活的法规,包括 FDA(食品药品监督管理局)、EPA(环境保护局)、《民权法案》、《公平住房法》、《怀孕歧视法案》、《美国残疾人法案》、《就业年龄歧视法案》、《国家研究法案》、《家庭病假法》以及《信息自由法案》。《选举权法案》至关重要,我对其在 2013 年被严重削弱感到愤怒。我很高兴加州在 2015 年通过了更严格的疫苗接种法。我感谢汽车安全标准。这些法律并非凭空出现,我感谢那些多年来(在许多情况下是几十年)为促成这些法规通过而努力的活动家和倡导者。

我上面列出的所有法规和法案都可以改进。其中一些执行得不够好,另一些目前正受到攻击。有些还不够完善。我的意思不是它们完美无缺;我的意思是法规可以是好的且有帮助的。是的,有很多愚蠢或有害的法规,但我遇到过太多科技行业的人断定所有法规都是坏的或注定失败的。

通过深思熟虑的法规将充满挑战,但我们需要保护人权,并制衡公司目前拥有的巨大权力。我们还需要对企业领导者经常言行不一、雇佣的游说者却致力于相反方向的做法保持警惕。科技巨头目前正在赚取巨额利润(同时将许多成本外部化给社会),我们不能低估他们会多么努力地反对任何会影响其利润的有意义的变革。

未完待续……

本文是本系列的第二篇。您可以找到第 1 部分以及第 3 部分。我们面临的问题可能令人不知所措,因此从这份清单中选择一项作为开始可能有所帮助。我鼓励您选择一件事去做,并现在就做出承诺。

fast.ai 关于技术伦理的其他文章