提倡办公自动化的时代,亚马逊却关闭了AI招聘引擎

镁客请讲
2018-10-11 10:20 温暖 镁客网

只因AI系统对女性有偏见。

10月11日,根据外媒报道称亚马逊的机器人学习专家发现其使用的招聘引擎不喜欢女性。因此,该项目被亚马逊关掉了。

据悉,最早在2014年,亚马逊的这支团队一直在开发电脑程序用来筛选审查求职者的简历,核心的目的是将寻找顶尖人才的任务或者说招聘任务自动化。亚马逊的实验性招聘工具使用AI为求职者打分,分数从一星到五星不等。开发该程序的工程师曾表示,亚马逊想要将这一程序打造成引擎,给该程序100份简历,程序会列出前五人,其就会聘用列出的人才。

2015年,亚马逊发现他们使用AI系统的时候并未对软件开发人员和其他技术职位求职者进行性别中立的评估。采用的模型训练方式是通过观察过去10年被提交给亚马逊公司的简历中找出固有模式,以此筛选审查求职者。但在过去的10年中,提交给亚马逊的简历大部分来自男性,这就导致了亚马逊使用的AI系统告诉自己男性求职者更受到青睐。

提倡办公自动化的时代,亚马逊却关闭了AI招聘引擎

不仅如此,该AI系统还对女性持有一定偏见。该系统在简历中含有“女子象棋俱乐部队长”这类简历的语句中含有“女子”的词汇非常敏感。此外,该系统还下调了两所女子学院的毕业生评级。

因此,虽然亚马逊招聘人员表示他们从来没有仅依靠排名来做出判断,但在去年年初亚马逊最终还是选择了解散团队,高管们对该项目感到非常失望。

随着人工智能技术的发展和商业化落地的逐渐广泛,一方面AI技术显著提升了效率与成本,也带给了人们更加便捷的生活;但一方面AI作恶、歧视的现象也不断引发争议与讨论。

本次AI招聘系统对女性的偏见的本质在于机器学习的局限性。卡内基梅隆大学教授尼哈尔·沙赫认为,要实现利用科技扩大招聘网络减少对人类招聘者主观意见的以来,开发者还有很多工作要做。在他开来:“如何确保算法是公平的,如何确保算法是真正可以解释的,实现这些目标都还十分遥远。”

但科技公司们仍在努力。

虽然解散了这一团队,但亚马逊在爱丁堡工程中心成立了新的团队,其所属的人员也已经增加到了12人。其目标是开发能够迅速在网络上搜索并发现有价值应聘者的AI系统。目前,该团队已经创建了500个计算机模型,它们重点关注特定的工作功能和地点。团队开发者将教授每个模型辨认出过去求职者建立上的5万个术语。

最后,记得关注微信公众号:镁客网(im2maker),更多干货在等你!

镁客网


科技 | 人文 | 行业

微信ID:im2maker
长按识别二维码关注

硬科技产业媒体

关注技术驱动创新

相关资讯

「镁客·请讲」格灵深瞳赵勇:2018年首次实现盈利,高调CV下的筚路蓝缕创业之路

格灵深瞳的目标很明确,在安防、零售和交通三个行业持续深耕。

发布时间: 2019-02-18 15:11
镁客请讲   2019-02-18

瓜子二手车杨燕:大数据实现秒级精准推荐优化 帮用户轻松找到心仪二手车

日前,2018年AICon全球人工智能与机器学习技术大会在北京举行,众多业内人士到场参会,围绕“AI商业化下的技术演进”这一大会主题展开了经验交流。

发布时间: 2019-02-18 15:00
万象   2019-02-18

AIoT真正向万亿级市场落地的关键是什么?

要想实现万物互联,更关键的一环在于落地场景。

发布时间: 2019-02-18 09:59
行业快讯   2019-02-18

镁客网每周硬科技领域投融资汇总(2.11-2.16),自动驾驶“双喜临门”

本周内,多家巨头企业“不约而同”的出手收购创企。

发布时间: 2019-02-16 17:59
投融资   2019-02-16
加载更多
关注镁客网微信公众号