16 件你可以做的事情,让科技更道德,第三部分

ai-in-society
作者

Rachel Thomas

发布于

2019年5月3日

本文是本系列的第三部分。请在此处查看第一部分和此处查看第二部分

在本系列中,我想分享一些您可以采取的行动,这些行动能对使科技更加道德产生实际、积极的影响,并重点介绍一些现实世界的例子。有些是大的;有些是小的;并非所有都适用于您的情况。今天的文章涵盖了第12-16项(关于1-5项请参见第一部分,关于6-11项请参见第二部分)。

  1. 数据项目清单
  2. 进行道德风险排查
  3. 抵制指标的暴政
  4. 选择广告以外的收入模式
  5. 让产品和工程团队与信任与安全团队协同工作
  6. 在公司内部进行倡导
  7. 与其他员工组织起来
  8. 当内部倡导不再奏效时,离开公司
  9. 避免签署不贬低协议
  10. 支持周全的法规与立法
  11. 与记者交谈
  12. 提前决定你的个人价值观和底线
  13. 要求你的公司签署 SafeFace 承诺书
  14. 通过确保来自代表性不足群体的员工获得成功机会并为晋升做好准备来增加多样性
  15. 通过彻底改革面试和入职流程来增加多样性
  16. 分享你的成功故事!

提前决定你的个人价值观和底线

人类擅长事后辩护。我们做出决定或发现自己处于某种境地后,就会擅长回过头来为其构建理由。例如,在一项研究中,参与者被要求在两名警长申请人中进行选择,如果男性申请人更具街头智慧,女性申请人受过更多正规教育,评估者就会认为街头智慧是最重要的特质。如果性别颠倒过来,评估者就会认为正规教育是最重要的特质。

这种事后辩护的倾向会让人难以认识到自己正在从中获利的事情可能是不道德的。一种方法是提前决定你的个人价值观和底线。

要求你的公司签署 SafeFace 承诺书

Joy Buolamwini算法正义联盟 (Algorithmic Justice League) 的创始人,也是麻省理工学院媒体实验室的AI研究员。她的研究表明,IBM、微软亚马逊的商用计算机视觉产品对深色皮肤女性的错误率远高于浅色皮肤男性。Joy 的工作已被37个不同国家的230多篇新闻报道。她与乔治敦大学法律中心隐私与技术中心 (Georgetown Law Center on Privacy and Technology) 共同创建了SafeFace 承诺书,旨在让公司承诺珍视人的生命、尊严和权利;解决有害偏见;促进透明度;并将这些承诺融入商业实践。请注意,这份承诺书并不能取代对人脸识别使用进行周全监管和人权保护的需求,但它是公司承诺遵循一套健康原则的绝佳方式。

SafeFace 承诺书的发布

我要赞扬 Robbie.AIYotiSimprints 已经签署了 SafeFace 承诺书。如果你的公司正在开发人脸识别技术,我希望他们也能考虑签署。如果你在一家大公司工作,你可能需要与和你拥有相同价值观和担忧的同事一起组织起来,共同商议采取哪些步骤能使你的公司更有可能签署。

通过确保来自代表性不足群体的员工获得成功机会并为晋升做好准备来增加多样性

科技领域的缺乏多样性(尤其是在领导岗位上)是我们陷入当前困境的部分原因。我们需要更多有色人种、女性、残疾人士、LGBTQ 人群以及其他来自曾遭受不公正对待的背景的人们来设计和构建技术

我的 TEDx 演讲幻灯片

虽然专注于教小女孩学习编程可能感觉更容易,但如果合格的女性继续以男性两倍的速度离开科技行业(很大程度上是因为她们的待遇,包括缺乏晋升机会),这并不会带来改变。正如我在之前的一篇文章中写道:改善多样性的第一步,也是最重要的一步,是确保你善待已经在公司工作的女性和有色人种。这包括:肯定她们的贡献,将她们分配到有重要影响的项目,在高级别会议上提及她们的成就,公平支付薪酬,提供提升技能的机会,倾听她们的声音,帮助她们准备晋升,为她们提供优秀的经理,相信她们的经历,并全面支持她们。

来自 #WOCinTechChat 的照片

通过彻底改革面试和入职流程来增加多样性

科技行业的面试流程存在问题,而代表性不足群体的人员尤其受到这种功能障碍的不利影响(这也意味着你的公司错失了许多优秀的候选人!)。一项对300多名候选人进行的技​​术面试研究,并比较了这些候选人的录取/拒绝情况,得出的结论是,创始人并没有招聘具备公司所需技能的程序员,而是招聘那些让他们想起自己的人。鉴于只有3%的风险投资资金投向女性,黑人创始人获得的资金不足1%,那么一个创始人会认为一位黑人女性候选人让他想起他自己,这是多么罕见?这种方法让候选人感到沮丧,对于最终甚至没有招聘到他们最需要的人才的公司来说,也是低效的。在这篇文章中,我分享了关于这个主题的研究,以及关于如何改进的行动建议。

来自 #WOCinTechChat 的照片

良好的入职培训是确保来自不同背景的人员能够成功的另一个必要组成部分。工程师Kate Heddleston 注意到,对于具有相同经验水平的新员工,男性一次又一次地比女性晋升得快得多。入职培训的不足是造成这种差异的原因。有价值的信息是通过非正式的社交网络共享的,而与主流群体不同的人(如女性、有色人种、LGBTQ 人群、父母和年长员工)将最难融入这些网络。全面的入职培训对于确保每个人都拥有成功完成工作所需的信息至关重要。

分享你的成功故事!

新闻往往偏向负面和耸人听闻的内容。如果你取得了成功,无论胜利大小,请分享出来以启发和鼓励他人。如果你学到的经验对他人有用,请分享出来!这里有一些关于如何开始写博客公开演讲的技巧,这是两种可能的方式来与更广泛的受众分享你的成功。

这个清单可能让人不知所措,所以请选择一个你可以开始采取的具体行动即可。我仍在为如何解决那些编码偏见、缺乏纠错方法、助长监控、推广极端内容等令人担忧的AI应用开发进一步的想法和计划。如果你正在进行解决这些问题的项目,请告诉我,并请继续关注更多更新。

fast.ai 关于科技伦理的其他文章