图片来源：Pixabay
作为人类，我们都会犯错误。我们可能会走神，会曲解得到的信息。但是，当我们重新评估时，可以找出并纠正这些错误。
但倘若AI系统出错，在相同情况下，无论多少次查看相同的数据，他们都会一次又一次犯下相同的错误。
现今的AI系统训练时采用的数据不可避免地只能反映过去的情况。如果在训练集中包含了过去人们决策时的陈见，这些偏见也将被AI系统编码和放大。
亦或者，训练集中所含有关特定的少数群体数据量较少，系统对该群体的预测将趋于恶化。这被称为“算法偏差”。
Gradient Institute作为共同作者撰写了一篇论文，该文章阐述了企业应该如何识别并减少AI系统中的算法偏差。
图片来源：Pixabay
这篇论文是澳大利亚人权委员会（Australian Human Rights Commission）、消费者政策研究中心（Consumer Policy Research Centre）、CSIRO's Data61和CHOICE倡导小组（CHOICE advocacy group）合作撰写的。
算法偏差如何产生？
算法偏差很有可能是由缺乏合适的训练数据或不适当的系统设计或配置引起的。
例如，一个帮助银行决定是否放贷的AI系统通常是由该银行先前的大量贷款数据（以及银行可以访问的其他相关信息）训练而成。
该系统可以将新贷款申请人的财务、就业以及个人的背景资料与先前的申请人进行比较，据此，系统将预测新申请人是否有能力偿还贷款。
但这个方法同样是存在问题的，它所引起算法偏差的部分原因来源于借贷经理在过去对于一些申请人的偏见。
如果在过去，少数群体被恶意驳回了贷款申请，那么如今的AI仍然会对他们的还款能力进行错误判断，即通常会低估申请人的偿还能力。
年轻人、有色人种、单身妇女、残疾人抑或是蓝领工人，他们仅仅只是处于不利地位群体的一些例子。
偏见既伤害个体也伤害公司
上述所描述的AI系统同样也给银行本身带来两个主要风险。
首先，该银行会将这些因偏见而错失的潜在客户拱手送给竞争对手，而根据反歧视法，银行同样可能会需要承担相应的法律责任。
倘若一个AI系统在它的决策过程中持续性地存在偏见，那么政府以及消费者群体将更容易地分辨出这种系统模式的缺陷，这往往招致巨额的罚款与惩处。
1.减少算法偏差
我们的论文中探讨了几种可能会引起算法偏差的情况。
图片来源：Pixabay
本文同样提供了有关如何消除这种偏见的技术性指导，将使得AI系统能做出不受种族、年龄、性别或残疾等特征影响的决策。
在论文中，我们采用了一个由虚拟个体组成的虚拟历史数据训练而成的AI为驱动的电子零售商仿真模型，通过这个模型来决定向客户提供何种产品以及提供产品的方式。
根据实验结果，我们发现了五种纠正算法偏差的方法，这些方法可以应用于各个领域的企业，以帮助它们确保AI系统的公平、准确。
2.获得更好的数据
通过获取有关个体的额外数据或增添数据的种类，尤其对于那些缺乏代表性的个体（少数群体）或在现有数据中可能出现错误信息的个体，可以降低产生算法偏差的风险。
3.进行数据预处理
这包括了对数据集进行编辑以覆盖或清除像种族和性别这类受反歧视法律保护的相关属性信息。
4.提高模型复杂度
尽管一个简单的AI模型可以更加轻松地进行测试、监视，但是它往往不够准确，在遇到少数与多数群体共存的情况下，简单AI模型普遍倾向于多数群体。
5.调整系统
我们也可以主动调整AI系统的逻辑与参数，通过这种方法直接抵消算法偏差。例如：为弱势群体设置不同的决策阈值。
更改预测目标
我们所选择的用于引导AI系统的方案会直接影响其在不同群体中做出的决定，因此，找到一个更公平的方案作为预测目标将有助于减少算法偏差。
兼顾法与道德
在对希望采用AI决策的政府与企业的建议中，我们首先强调一定在运用此类技术之前，需要考虑公平原则并重视人权。
我们还建议他们对系统进行严格的设计与测试，以确保输出的结果不会因为算法偏差而受到污染，系统一经投入测试，就应该对其进行密切监控。
最后，我们建议在运用AI系统的时候不仅应遵守相关的法律法规，更应该负责任、合乎道德，这意味着AI系统应当符合那些被广泛接受的社会规范，同时也需要考虑到对个人、社区以及环境的影响。
随着生活中AI的使用愈加频繁，我们要做的不仅仅是单纯地提高生产力，而且应正确的运用AI，以创造一个更加公平公正地社会。
撰文：Tiberio Caetano、Bill Simpson-Young
翻译：彭琛
审校：董子晨曦
引进来源：techxplore
本文来自：中国数字科技馆
特别声明：本文转载仅仅是出于科普传播信息的需要，并不意味着代表本网站观点或证实其内容的真实性；如其他媒体、网站或个人从本网站转载使用，须保留本网站注明的“来源”，并自负版权等法律责任；作者如果不希望被转载或其它相关事宜，请与我们接洽。
[责任编辑：环球科学]
京公网安备11010502039775号
