激化偏见还是广泛赋能?人工智能有答案

瞰创新 2023-03-03 13:16:28

激化偏见还是广泛赋能?人工智能有答案

Lê Nguyên Hoang

Tournesol创始人、总裁

Victor Berger

法国CEA-List研究所人工智能和机器学习专业博士后

Giada Pistilli

索邦大学博士生、法国国家科学研究中心科学、社会准则与民主实验室研究员

机器学习算法能够识别规律,因此,即便是最不起眼的偏见,也会影响到整个算法,最终导致偏见的延续和放大。人工智能技术为什么存在偏见问题?本期带您了解机器学习算法的运作机制,弄清其本质,找出避免问题的方法。

机器学习有三大主流方法:有监督学习、无监督学习、半监督学习。

机器学习算法能够识别规律,因此,即便是最不起眼的偏见,也会影响到整个算法,最终导致偏见的延续和放大。

算法以历史数据为基础发掘规律,以解决当下问题,但容易出现“数据泛化”的问题——总结出过于片面的规律。

人工智能的使用也牵涉到权力的分配:数据使用权等伦理问题可能会不断涌现。

民众应充分利用人工智能技术,以协作的方式实现广泛赋能。

要想解决人工智能技术存在的偏见问题,我们必须首先了解机器学习算法的运作机制,并弄清其本质。法国CEA-List研究所人工智能和机器学习专业博士后Victor Berger表示:“很多人都认为,所有的问题都能在数据集中通过统计学手段找到答案。”

01

三大主流学习方式

“有监督学习”是机器学习中最简单,也是最常见的方法。Berger解释道:“假设一个数据库中存有动物图片,那么有监督学习相当于告诉算法:狗的图片、猫的图片、鸡的图片对应着‘狗’、‘猫’、‘鸡’等名词。此后一旦给算法某个特定的输入(图片),就会得到一个特定的输出(名词)。机器翻译就是典型的有监督学习算法。”

“无监督学习”是第二类算法,也就是说,对于一个给定输入,不告诉算法现成的输出。“以上文的数据库为例,无监督学习指给机器输入一张张动物图片,让算法自主进行统计归纳,从而对输入进行分类。”

“监督算法的数据集发挥着至关重要的作用。”

第三类算法名为“半监督学习”。Berger称:“在前两类学习模式下,代码能够让算法不断自我改进。但在半监督模式下,算法只能分辨出任务完成与否,并不会得知改进方式。此时,影响算法学习能力的将是环境,以及环境对结果作出的反应。”

在上述三种学习模式中,提供给算法的数据集均发挥着至关重要的作用。Berger强调:“机器学习算法擅长识别规律。”因此,即便是最不起眼的偏见,也会影响到整个算法,最终导致偏见的延续和放大。

02

数据泛化

瑞士科创企业Tournesol的联合创始人Lê Nguyên Hoang是一名数学博士,他在人工智能的普及上做出过许多贡献。在他看来,“数据泛化”这一现象在机器学习领域无处不在。“纵观业界和学界,几乎所有人都将焦点放在算法的设计上,很少会有人关注数据的质量。当我们在训练算法时,使用了很多历史数据库,但其中的数据是否经过了仔细审核?从历史数据中总结出泛化、片面的规律,是否真正对社会发展有益?”

为了更好地了解数据泛化,Berger分享了一个业界广为流传的小故事。“为了杜绝性别偏见,一家公司在使用人工智能筛选简历时,抹去了姓名和照片等信息。但随后他们意识到,‘足球’一词成为了算法的关注焦点。” 该公司已经是万般谨慎,但他们没有预料到,训练算法时所使用的那些过往简历中,很多被招募的男性员工都将足球列为了兴趣爱好。所以,在这则故事中,算法不仅没有削弱性别偏见,反而助长了这一现象。Berger解释道:“当前有两种方法可以克服这一挑战:一、花费精力打造质量更高的数据库;二、让算法消除已经形成的偏见。”

图片来源:PI France

但这并不是万全之策。Lê Nguyên Hoang 称:“以内容审核为例,数据的研判取决于我们对言论自由的理解,以及对仇恨言论或虚假信息的判断。可以说,这些问题并没有明确的、放之四海而皆准的答案。如果问题本身牵涉到了技术之外的因素,那么解决方案也理应如此。”

03

反馈循环

算法可能会导致的反馈循环也引发了人们的讨论。Lê Nguyên Hoang指出:“我们需要记住一点——机器学习算法的运作永远是以目的为导向的,如提升内容曝光率、利润、点击率等。”

假设某地区的警察想使用算法来预测最易发生犯罪行为的街区。在Berger看来,算法势必会基于警方的历史数据进行预测,找出逮捕人数最多的街区。但这又回到了之前的问题:历史数据的片面泛化,过度放大过往对未来的预测能力。事实上,算法不仅会对街区的现有治安环境进行定性,还会左右未来该街区的治安决策,如警力增加、视频监控覆盖率扩大,从而进一步加剧执法人员和民众的对立。

“但这一做法可能使人们对激进主义、宗教运动和阴谋论更加深信不疑。”

同样,当用户使用社交媒体和娱乐平台时,算法会基于他们的浏览记录来做相关推荐,以尽可能吸引用户驻足停留,但这可能会演变为系统大力推送宣扬激进主义、教派对立、阴谋论的内容。Lê Nguyên Hoang正在开发一款名为Tournesol的算法以解决上述问题。Tournesol使用的数据库采用了开源模式,基于用户的相互协作建立而成[1]。

04

权力分配

综上所述,人工智能技术不仅牵涉到科学研究和技术应用,还涉及权力的分配问题。美国机器学习应用开发企业Hugging Face 的哲学研究员和高级伦理学家Giada Pistilli指出:“我们必须辨明算法在训练、设计和部署等诸多环节可能产生的各种社会和伦理问题。”

问题究竟有哪些?Giada Pistilli称,这些问题在人工智能技术的发展历程中随处可见。“一旦数据存在偏见,模型训练完毕后便会引发一些伦理方面的思考,比如,相关数据是否会导致刻板印象的产生?特定数据的缺失会带来何种后果?如果数据库中含有侵犯了他人知识产权的图片或数据,那么在使用数据前是否征得了本人的同意?”

但这仅仅是问题的冰山一角。Giada Pistilli 指出:“在算法的开发和部署环节,模型的归属、算法设计人员的选取、设计的目的等疑问都有待解答。此外,模型的使用十分耗能,出于减排的考虑,某些模型是否该舍弃?这也间接证明了只有‘财大气粗’的公司才有能力去投资和使用算法。”

“我们可以将人工智能打造成有效的赋能工具,为各类群体谋福祉。”

所幸,前途并非一片黑暗——人工智能完全有潜力变成一种赋能工具。Giada Pistilli是BigScience项目的成员,该项目旨在开发一个开放的语言模型,共有几千名参与者。在她看来,这样的项目能够极大发挥人工智能的益处。“开发这种专注于单一任务的人工智能模型其实更能因地制宜,因为在此过程中,人人皆可参与,并且可以密切监督该模型的发展。向公众普及这些新技术,并广邀社会各界参与数据库的建立,可以将人工智能打造成有效的赋能工具,为各类群体谋福祉。”

人类能否自信迎接机器学习的重重挑战?答案或许需要你来书写。

作者

Julien Hernandez

编辑

Meiater Xia

1. https://www.futura-sciences.com/tech/actualites/ intelligence-artificielle-tournesol-algorithme- utilite-publique-besoin-vous-87301/

0 阅读:9

瞰创新

简介:关注科技前沿动态,只生产硬核内容。