我制作了一个关于机器学习伦理的包含 11 个短视频(大多数时长 6-13 分钟)的播放列表。这是我来自伦理讲座在面向程序员的实用深度学习 v4中的内容。我认为这些短视频会更容易观看、分享或跳着看。
什么是伦理以及为什么它们很重要?机器学习版:通过 3 个关键案例研究,我讲述了机器学习出错如何对人们造成伤害,为什么我们作为机器学习从业者应该关注,以及技术伦理是什么。
所有机器学习系统都需要识别和解决错误的方法。所有机器学习系统都必须具备正确发现和纠正错误的方法,并为受损者提供补救措施,这一点至关重要。
指标、反馈循环和超速增长的问题:过度依赖指标是机器学习领域和更广泛的科技行业的核心问题。正如古德哈特定律(Goodhart’s Law)告诉我们的,当一个衡量标准成为目标时,它就不再是一个好的衡量标准,然而风险投资的激励措施却将公司推向这个方向。我们看到了失控的反馈循环、普遍的指标操纵,以及由此造成的伤害。
并非所有类型的偏差都能通过多样化数据集来解决。“偏差”这个概念通常过于笼统,不够实用。存在几种不同类型的偏差,不同类型需要不同的干预措施来尝试解决。通过一系列案例研究,我们将更深入地探讨偏差的各种原因。
人类也有偏见,那么机器学习偏见为什么重要? 一个常见的反对意见,针对对机器学习模型中偏见的担忧,是指出人类本身也有偏见。这是对的,然而机器学习偏见与人类偏见在几个关键方面有所不同,我们需要理解这些差异,因为它们会加剧影响。
关于虚假信息的须知事项:特别关注机器学习的进展如何助长虚假信息,本视频涵盖了一些需要理解的基本事项。
伦理基础:我们思考了评估伦理的不同视角,以及应该提出什么样的问题。
可在工作场所实施的技术伦理实践:可在您的工作场所实施的实用技术伦理实践。
如何解决机器学习领域的多元化危机:只有 12% 的机器学习研究人员是女性。基于研究成果,我概述了一些循证步骤,以解决这一多元化危机。
先进技术不能替代良好政策:我们将看一些例子,了解哪些激励措施导致公司改变行为或不改变(例如,多年来因在不断升级的种族灭绝中的作用而受到警告与巨额罚款的威胁),多少人工智能伦理问题实际上是关于人权的问题,以及当法规和安全标准进入其他行业时发生了什么案例研究。
您可以在此处找到包含 11 个短视频的播放列表。此外,这里还有一个更长的,关于实用数据伦理的 fast.ai 免费完整课程。