亚马逊AI被曝性别歧视?人事部门却在悄悄给女性“开绿灯”

硅谷Live / 实地探访 热点探秘 / 深度探讨

 

你知道Google每年收到多少求职者的简历吗?据JobVine统计,超过100万份。

 

其他大公司也无外乎于此,而这毫无疑问对于HR来讲是巨大的负担。那有没有可能用AI解决这个问题呢?

 

在过去几年中,AI行业发展迅速。据Crunchbase统计,截止2018年,光是在硅谷研究或应用AI的公司就超过1400家。尽管做AI的公司多,目前行业里的应用场景主要还是集中在教育、医疗、无人驾驶等方面。

 

作为科技巨头,Amazon正在尝试拓展新的应用场景——用AI给简历打分,帮HR分担压力。然而这项应用却在最近被爆出一个巨大的问题。

 

AI偏爱男性应聘者?

 

Amazon的AI程序通过检索简历中的关键词,评估应聘者的能力以及和申请职位的匹配度,再综合打分,给HR推荐理想的人选。

 

图片来自网络,版权属于作者

 

但是这个程序在应用一年后,却被Amazon高层宣布关停。这是为什么呢?

 

原来AI程序在打分时,给男性应聘者的简历打分明显比给女性打分高,也就是说AI更偏爱男性。Amazon的工程师们之后针对这一现象展开调查,发现原来AI程序在分析简历时,会识别暗示应聘者性别的关键词,比如“女子学校”、“女子篮球队”等,通过这些关键词推断应聘者的性别,并降低女性应聘者简历的评分。

 

但为什么AI要针对女性呢?大家都是来找工作的,这不是明摆着性别歧视吗?这个问题的答案,隐藏在AI深度学习的样本里。

 

Amazon的工程师经过进一步的调查发现,原来AI程序偏爱男性应聘者,是因为AI深度学习的样本来自于Amazon公司过去10年内收到的所有简历。而这些简历中,原本男性申请者就偏多,并且最终录取的员工中也是男性居多。因此AI在深度学习的过程中形成了一种认知,那就是男性应聘者比女性更优秀。基于这种认知,AI给男性应聘者的简历评分更高。

 

之后Amazon的工程师针对这个现象,修改了AI程序的代码和算法,让AI程序不再通过检索关键词来推断应聘者性别。但这种方法没有实际解决问题。AI已经通过深度学习形成了“男性应聘者比女性更优秀”的认知,所以即便不检索关键词,工程师也不能保证AI不会通过其他方法推断性别。

 

正因为如此,在AI程序被投入使用一年后,Amazon高层最终宣布关停项目。

 

可能的解决方案

 

虽然Amazon关停了项目,但AI偏爱男性应聘者,是否真的无法通过优化程序解决呢?如果采用不同的样本,又是否能改善这个问题呢?

 

为此小探就可能的解决方案,采访了一位不愿透露姓名的业内人士。

 

听小探把整个事件徐徐道来之后,这位人士提出了一个方案:首先设置两套AI程序,在深度学习的过程中,男性和女性的样本分开学习,然后在评分过程中,先让AI把简历按性别分为两组,再用针对男性的AI程序给男性打分,用针对女性的给女性打分,这样就能最大程度保证公平。

 

小探听完之后不由得感叹业内人士的专业性,谈笑间便提出了一个具体的解决方案,似乎让问题迎刃而解。然而,如果问题这么简单就能解决,为什么Amazon的工程师们还拿它毫无办法,以至于高层最终不得已关停了项目呢?小探怀着将信将疑的态度,又采访了一位Google的工程师。

 

果不其然,这位工程师对“分开学习、分开评分“的方法产生了质疑:如果涉及两个程序,分别深度学习两个性别的样本,那么针对女性的AI程序因为样本太少,学习不到需要的特性,从而在评分时很可能产生新的问题。

 

至于通过修改算法,能否让AI评分变得公平,这位工程师的答案是:很难。他向小探解释道,现在深度学习一个很大的问题就是,模型极其难以解释——当AI做出一个判断时,工程师很难分析出它是怎么作出这个判断的。所以,也许Amazon的AI缺乏“可解释性”。

 

“可解释性”,简单来说,就是当AI作出一个判断,工程师能知道是AI神经网络的哪些部分,根据样本中的哪些线索,得出了那个判断。而Amazon最终选择关停项目,很有可能是由于AI缺乏“可解释性”,造成工程师不知道该修改AI神经网络中的哪些部分,导致问题一直无法被实际解决。因此这位工程师最后给出的论断是,“工程上来讲,想修复这个问题很难”。

 

不过,并不是所有工程师都对此不看好。小探采访了一位微软的工程师,他在电话中自信地表示:技术层面上,一定能实现公平对待男性和女性应聘者。

 

然而紧接着,他便反问小探:“但你是想反映公平,还是想反映真实?”

 

小探不禁陷入沉思。难道我们追求的公平——让男性女性有同样的机会就职——是不真实的吗?

 

AI印证了现状,HR却想改变现状

 

Amazon的AI偏爱男性应聘者,不仅暴露了Amazon公司内男多女少的问题,还反映了整个科技行业内男女比例失衡的现象。

 

据路透社统计,Amazon、Facebook、Apple、Google、Microsoft五家科技巨头的员工中男性占比分别为60%、64%、68%、69%、74%。而这五家公司中技术类职位男性占比甚至更高,最高的Microsoft占比达到81%。

 

各大科技公司员工男女比例

蓝色为男性,红色为女性

 

因此Amazon的AI并不是针对谁,而只是基于样本映射出了现实——男多女少,是目前整个科技行业面临的痛点。

 

为什么这是痛点呢?首先,对于体量庞大的科技公司而言,男多女少意味着公司内部人员组成单一。要知道创新是科技公司的命脉,而创新往往是通过不同思维的碰撞产生的。一旦公司人员组成过于单一,思维的碰撞就会减少,导致创新减少,切断了科技公司的命脉。

 

其次,过于明显的男女比例失衡,容易给公司招致“性别歧视”的骂名。因为对于“高大上”的科技行业,公众往往抱有一种美好的期望,认为在这个行业中一切都应该公平公正,因此一旦有一丝迹象表明了不公平现象的存在,比如男多女少的问题,公众便会把公司推向社会舆论的风口浪尖,让公司高层承担巨大压力。

 

出于诸如此类的种种担忧,科技公司近些年都在尝试解决男多女少的问题,而其中最简单粗暴的方法就是多招女员工。在招聘过程中,HR往往会给女性申请者“降低门槛”,比如在评估时酌情提高对她们的综合打分,或是在一男一女技能水平相当的候选人当中,选择那个女性申请者。

 

对此,小探特地浏览了许多Reddit上讨论招聘过程的帖子,并且询问了一位当过面试官的朋友,最终得到了非常统一的答案:虽然面试官只给申请者评分,而最终决定权在委员会手里,但是在同一个面试官给出相同评分的男性和女性申请者中,女性通常会得到委员会的更多考虑。

 

那么,为何即使科技公司如此愿意招女性,科技行业中男多女少的问题还是一直存在呢?根本原因在于:理工科的女性本来就少。

 

图片来自网络,版权属于作者

 

据美国国家教育统计中心的数据显示,2015年美国大学计算机专业的毕业生中,女性只占18%。虽然这不是最新数据,但也足以说明问题——理工科的女性总数就很少,而科技公司中大多数职位都与技术相关,即使公司愿意“开绿灯”,仍然很难提高女性在科技公司中的比例。

 

因此我们不难看出,AI的判断是科技行业中男多女少的现状的延续,HR人工的判断则是渴望改变现状的体现。然而目前的AI程序,只能通过样本学习过去的规律,但还无法理解人基于社会现状产生的某些需求。这或许才是Amazon高层决定关停项目的真实原因。

 

所谓“公平”就是一半男性一半女性?

 

“公平“这个话题,太过于辩证;公平与不公平的分界线,也很难定义。

 

对于目前科技行业内男多女少的现象,采访中一位女性UI设计师说过一句话,给小探留下了很深的印象。这位设计师说:“男多女少也许是真的,但这不是歧视的产物。”

 

就像本文之前所说的,造成科技行业中男多女少的根本原因,不是科技公司不愿意招女性,而是本来理工科的女性就少,因此难以在整个行业中呈现出“女性扛起半边天”的景象。

 

人类社会从古自今,都强调分工协作的重要性;工业时代来临后,分工协作更是大大提高了社会效率。不管出于任何原因,学习并从事技术相关工作的男性比女性多,是无可争辩的现实,就像学习并从事营销、传媒、艺术等领域工作的女性比男性多一样。因此,一半男性一半女性并不是真正的公平,因为这不符合社会的现状。

 

那么在这种现实背景下,强行增加科技行业中女性的比例,是否有些矫枉过正呢?在各方面技能相同的情况下,公司为了保证男女比例不失衡,有意选择女性,是否又是另一种不公平呢?

 

小探认为,相比起男女人数比例,也许同一个岗位上,男性和女性做同样多的工作,挣一样多的工资,这才是真正的公平。

 

所以,人都还没搞清楚什么是公平,就想用机器来达到公平,实属科技发展得“太着急”的表现。

 

 

推荐阅读

区块链报告 脑机接口报告 

硅谷人工智能 | 斯坦福校长

卫哲 | 姚劲波 | 胡海泉 

垂直种植 | 无人车

王者荣耀 | 返老还童