百姓大小事,一呼百应!

百姓网 | 百姓知道

古玩藏品

在减少社会偏见方面,你认为人工智能比人类更具有优势么?

本题已加入圆桌»漫谈机器智能,更多「人工智能」相关的话题欢迎关注讨论

2 个回答

  • 洋葱办刘主任 | 2017-08-12 13:11:38

    社会偏见有许多来源。其中包括统计意义上的,也包括情绪上的:人们既会根据有限的样本进行贴标签,又先天有排斥他人的倾向。这里的“他人”含义广泛:可以是肤色,可以是性别,甚至可以是支持哪支球队。只要找到能把一群人分成两组的特征,人们非常容易陷入“我们”敌对“他们”的思维。

    消除社会偏见有不同的目标:首先,我们希望在人际交往中每个人都能把每个人当作独立的个体,而非所属标签集合(种族*性别*年龄*健康状况*···)来看待。这方面人工智能恐怕帮不上什么忙。

    另一方面,在政府、企业、教育机构等组织中设法减少系统性偏见,从而给每个人尽可能平等的机会。这里采用包括人工智能进行决策在内的机制是比人类更有效的,原因很简单:人类不能完全掌握群体偏见的统计意义(只看到白色的恋童癖,所有的白色都是恋童癖者),也不可能消除本能的排外情绪(看到外国人就想着非我族类、其心必异)。这两个因素会共同加剧对他人的负面印象

    一个较简单的例子:大学在决定是否录取博士生时,如何避免种族和性别的偏见呢?一个常见的做法是在决定录取的过程中删去姓名和照片。这一做法比在心里提醒自己不要有偏见要有效的多。

    那么当这种方法无效时(比如说学生的本科学历是很重要的参考,但又会携带生源国家的信息;又比如会揭示性别属性的夏令营经历),将筛选过程交给没有偏见的人工智能不失为一个好方法。

    需要注意,只要做到对每个个体单独看待,即使不同人群中有统计上的差异(比如来自x中学的学生平均分比y中学高10%),这一差异也不会进入机器的考虑中,因为学生的分数本身就够了。也就是说,机器并不是无视人群中本来存在的差别,而是能够避免被统计数据或先天偏见干扰,并做出仅基于个体数据的判断

    本问答由洋葱办刘主任提供

  • 洋葱办刘主任 | 2017-08-12 12:23:15

    看算法和学习样本。


    如果ai从样本中学习到,某个族群特征跟最后结果有较强的相关性(事实上可能有也可能没有),那么ai会坚持这一看法,除非有新的样本改变这个学习结果。

    本问答由洋葱办刘主任提供

* 本站部分内容来源自网络,仅作分享之用,侵删。