微软Bing被曝显示儿童色情内容,AI审核这么不靠谱?

镁客请讲
2019-01-11 10:47 巫盼 镁客网

微软可能需要像今日头条学习,加强人工审核了。

微软在2019年年初就遭遇了不少的危机,今天,据外媒报道,微软的Bing搜索中有一些相关的关键字,正在为恋童癖者提供大量的儿童色情内容,微软回复正在努力修复中。

AI审核不靠谱?微软Bing被曝显示儿童色情内容

安全公司的调研发现,微软必应搜索不仅仅会在搜索结果中返回裸体儿童照片,如果用户点击这些图片,必应也会在类似图片功能中展示更多非法虐待儿童图像,他们还会向用户推荐其他类似搜索关键词,从而跳转出更多的儿童色情内容。

然而,谷歌的类似搜索却没有像必应这样出现明显的非法图像以及内容。对此,微软必应和人工智能产品副总裁乔迪·里伯斯(Jordi Ribas)表示,“研究人员发现的搜索结果确实违反了网站规则,公司正在努力防止此类事故的发生。”

此前,微软宣布正在通过他们的AI研究成果让必应搜索变得更加智能。去年,他们还使用专门的人工智能计算硬件BrainWave,使机器学习模型的性能提高10倍以上,增强了微软必应搜索引擎的功能。

而在儿童色情内容上,微软还开创了PhotoDNA技术,实现儿童性虐图片检测的自动化,让此类非法图片可以由电脑程序而非工程师自动识别。

AI审核不靠谱?微软Bing被曝显示儿童色情内容

据了解,PhotoDNA可以将图片转化为常见的黑白格式,还能将图片尺寸调整至指定大小。然后该技术会把图片分成一个个正方形,同时给每一个正方形内存在的特有底纹分配一个数值。这些数值结合在一起以后,就代表一个图像文件的“PhotoDNA签名”。这种独一无二的签名可以被用于与其他在线图片进行比对。

早些时候,微软已经将PhotoDNA技术应用在必应上,用来识别儿童性虐图片,阻止这些照片在网上进一步传播。

现在,必应却被曝出这种负面事件,可以看到这项AI技术似乎并没有预料中的有效,技术并没有过滤掉那些非法色情的内容。

当然,不仅仅是搜索引擎会遇到这种问题,社交平台、内容分发平台也经常被曝出各种性虐色情内容传播,其实这也在某种程度上反映了整个科技行业的现状,当科技公司过于追求营收的增长以及效率,就会忽视对公众利益的保护,比如如何在机器审核和人工审核之间达到平衡。

最后,记得关注微信公众号:镁客网(im2maker),更多干货在等你!

镁客网


科技 | 人文 | 行业

微信ID:im2maker
长按识别二维码关注

硬科技产业媒体

关注技术驱动创新

相关资讯

镁客网每周硬科技领域投融资汇总(1.13-1.19),与FF“撕破脸”的恒大再现造车新动作

曾打造现象级AR游戏《Pokemon Go》的Niantic获三星等投资。

发布时间: 2019-01-19 18:07
投融资   2019-01-19

「镁客早报」特斯拉裁员,马斯克解释没有办法;微软推出Azure DevOps赏金计划

Facebook遭美国联盟贸易委员会创纪录罚款;三星折叠手机将会以两倍旗舰机的价格开卖。

发布时间: 2019-01-19 09:07
行业快讯   2019-01-19

2019全球人工智能产品应用博览会将于今年5月在苏州举办

2019全球智博会定于今年5月9日至11日在苏州工业园区举办。

发布时间: 2019-01-18 17:20
万象   2019-01-18

详解 | 业内首个AIoT操作系统旷视「河图」

1月16日,2019旷视机器人战略发布会在京举办,大会现场吸引了超过50位行业嘉宾与企业家代表参与,并受到超过200家媒体关注与支持。

发布时间: 2019-01-18 14:36
万象   2019-01-18
加载更多
关注镁客网微信公众号