创新工场南京国际人工智能研究院冯霁:我们要解决当前AI系统的安全性问题

巫盼 1个月前 (05-20)

在创新工场和一群优秀的人做最酷的事情,让学术界的成果落叶归根,找到合适的商业化路径。

三年前,李开复曾经说过,“今后要将创新工场变‘AI工厂’”,与此同时,创新工场成立了人工智能工程院。

三年后的此时再去看,VC+AI定位的创新工场不负众望,投资了一批AI领域的独角兽企业,成为AI界的投资一把手。

就在去年,创新工场人工智能工程院在南设立创新工场南京国际人工智能研究院,由南京大学周志华教授的得意弟子冯霁领衔担任执行院长。近日,镁客网在南京采访了冯霁,听他分享了研究院从0到1的开始以及两个关键的驱动引擎。

创新工场南京国际人工智能研究院冯霁:我们要解决当前AI系统的安全性问题

图 | 创新工场南京国际人工智能研究院院长冯霁

选择南京,始于人才

从早期的互联网到移动互联网时代,北上广深一直是产业的漩涡中心,这些一线城市坐拥大量的人才、资源和资金,但是到了AI主导的技术时代,中心似乎正在向外扩散。

那些错过了互联网红利的城市也开始奋起直追,力图抓住新的技术红利。这其中包括拥有着优质高校资源和人才的南京。

以南京大学为例,由周志华教授领导的南大人工智能学院是国内首个成立AI学院的双一流A类、C9类高校。

而为了更好地接近这些AI人才,镁客网此次拜访的创新工场南京国际人工智能研究院就落户在南大旁边的兴智科技园。

负责研究院的冯霁院长也是一个典型的南京人才代表:虽然家在西安,但最终选择了南京作为事业的起点。

“之前不少人都会离开南京去往北上广,还是蛮可惜的。这几年南京市政府一直鼓励一些AI企业在南京设点。虽然南京没有那些拥有海量数据的互联网公司,但他们另辟蹊径,作为一个AI人才输出的城市,先把人先留住,然后再完善AI产业的建设。”

冯霁表示正是非常认可南京的政策和优质人才,创新工场选择在南京落地两个实体:创新工场南京国际人工智能研究院和创新奇智。

创新工场南京国际人工智能研究院冯霁:我们要解决当前AI系统的安全性问题

确实,近年来南京为打造创新名城,非常重视AI这样的核心技术的发展。以南京经济技术开发区为例,在打造智慧新港期间,他们吸引了包括人工智能、半导体等多个行业、领域的高等研究院的入驻,助力人工智能、大数据等技术赋能传统产业。

而创新工场南京国际人工智能研究院从0到1的组建过程,于冯霁来说也算是一次很有挑战的创业。“这个机会非常有挑战性,我也非常喜欢。”冯霁坦言。

研究院创建之初,最大的难题便是战略方向的制定。冯霁强调企业和高校做科研的模式是不同的,虽然创新工场属于投资机构,但是脱离了业务去做研究未必是个明智的选择。

冯霁早期也一直在思考,“在创新工场VC+AI的模式下设立研究院,既不能做太阳春白雪的科研工作,而太过工程化又不能称之为研究院,那么我们到底要输出什么?需要做哪些足够有意思的事情?”

最终,研究院确定了两个关键的方向:计算金融和AI安全。

计算金融+AI安全,研究院的使命和责任

冯霁总结,研究院的两个重点,一个是以业务为中心,一个是以技术为核心。

其中,计算金融强调技术赋能落地,也就是我们常说的的人工智能+金融,通常情况下, 计算金融又可以分为三个维度:金融风控、智能投顾以及智能投资。

在具体落地上,冯霁透露研究院正在围绕交易行为的相关业务场景做一些尝试。“交易行为是市场中买方和卖方一系列交易行为的结果,但金融市场的噪声比较大,如何从交易数据和行为中挖掘相应的模式并作出预测,相当于AI+金融领域的圣杯问题。”

除此之外,研究院另一个重心便是AI安全,冯霁直言这是非常酷,也是非常重要的事情的事情。此处的AI安全并不是安防之类的安全保护,特指的是当前AI系统的安全和鲁棒性。

冯霁认为,当前的AI解决方案已经从低风险应用转为高风险应用,比如十年前的垃圾邮件分类,逐渐深入到自动驾驶系统、安防领域的人脸识别,一旦AI系发生错误或者被人恶意攻击,后果不堪设想。“以人脸识别为例,现在一个特制的眼镜(镜框上绘制了包含算法的花纹)就能骗过人脸识别系统,让其把甲认成乙。”

创新工场南京国际人工智能研究院冯霁:我们要解决当前AI系统的安全性问题

所以研究院的一大任务就是研究那些攻击算法,设置相应的防御机制应对攻击,同时提出统一的风控或者评估机制,以第三方的角度来为评估AI系统的安全性。

另一方面, AI安全除了研究AI系统安全之外,还囊括数据隐私保护相关的技术。比如现在由杨强教授等人推动的“联邦学习”,力图在不共享数据以及合法合规的前提下,利用双方的数据进行机器学习,实现模型增长。

以手机上的用户数据为例,此前可以一股脑将所有数据上传到云端进行数据训练。但欧盟数据隐私保护条例GDPR规定出来后,本地数据是禁止被上传到云端共享的。那么借助联邦学习,手机厂商可以直接在手机本地将数据训练出一个小模型,然后将模型的参数上传到云端进行算法的优化,不共享数据,共享知识。

就在镁客网采访之前,冯霁代表创新工场,当选为联邦学习国际标准制定委员会的副主席,在微众银行的杨强教授带领下,共同参与制定国际上第一个人工智能协同与合作的标准。

创新工场南京国际人工智能研究院冯霁:我们要解决当前AI系统的安全性问题

如果标准制定顺利的话,联邦学习对于互联网公司以及金融机构都是非常利好的消息,“金融机构在做一些信用评级的时候,如果双方数据能够共享、共同训练一个大的模型,银行的业务都会有所提升。”

在冯霁的描述中,创新工场南京国际人工智能研究院的发展路径和目标非常明确,一方面是研究金融场景下的人工智能模型,另一方面则是针对鲁棒性和安全性的人工智能研究,关注AI企业所提供的人工智能解决方案安全和数据隐私的问题,并提供相应的算法建议。

学术界的研究一定要“不那么有用”

冯霁在确定研究院战略方向的同时,也十分清醒的认识到企业和高校研究院的定位差异。“同工业界相比,学术界的研究不应该那么有用。”这是冯霁给出的答案。

在他看来,学术界和工业界研究院关注的内容应该泾渭分明。以AI为例,当前的工业界应用都是在吃学术界早期技术研究的红利。

就像几十年前被提出的卷积神经网络,当后期的硬件条件跟上,才有了今天大规模的技术商业应用市场。而以现在的时间点去看未来,如果学术界停止研发那些“没用”的东西,十年后的我们又要何去何从?

所以,从科研角度看,学术界不应该去做和工业界一样的研究,比如那些可以带来立竿见影经济效益的事情。“学术界更应该做一些有利于这个学科长久发展的研究,不要急功近利考虑太多变现的事情。”工业界的研究则恰恰相反,它们需要思考如何将学术的成果变成一个真正可商业化的工业级产品。

冯霁也坦言,如今两者的界线越来越模糊,尤其是在大量的学术界大佬被企业挖走,造成学术研究断崖的当下。

就像冯霁之所以选择创新工场南京国家人工智能研究院,骨子里有着创业精神的他,热爱和一群优秀的人做最酷的事情,让学术界的成果落叶归根,找到合适的商业化路径。

One more thing:一个大牛云集的夏令营,为AI人才培养做贡献

冯霁直言,目前人工智能人才缺口十分巨大,创新工场人工智能研究院有义务,也有动力,为人工智能的人才培养出一份力。

为此,他们在2017年发起了免费培训项目DeeCamp夏令营,旨在提升高校AI人才在行业应用中的实践案例经验,同时推进产学研深度结合。

“这个夏令营的目的是以项目驱动的方式,培训在校生以团队合作的方式,从0到1完成一个人工智能系统的设计与开发工作,试图搭建高校同产业界的桥梁。”冯霁表示。

据了解,今年夏天,在南京市工信局指导下,创新工场南京研究院将同南京大学人工智能学院联动合作,招收100名优秀的在校生,用5周的时间进行封闭式全方位的免费培训。另外从北京,广州,上海三地亦会同时开展,共计招收600名左右最优秀的在校学生。目前报名人数已经接近万余人。“报名要趁早。”冯霁说。

创新工场南京国际人工智能研究院冯霁:我们要解决当前AI系统的安全性问题

创新工场南京国际人工智能研究院冯霁:我们要解决当前AI系统的安全性问题

最后,记得关注微信公众号:镁客网(im2maker),更多干货在等你!

镁客网


科技 | 人文 | 行业

微信ID:im2maker
长按识别二维码关注

硬科技产业媒体

关注技术驱动创新

分享到