DForum
order

智能技术的跃竞年代

  • 徐宏民

NeurIPS 12月在温哥华召开,聚集了来自世界各地的研究人员。徐宏民摄

NeurIPS (旧称NIPS),为机器学习领域的顶尖会议(顶会),12月在温哥华召开。不令人意外,在智能技术的浪潮下,论文投稿以及参加人数持续创新高,大会还得启动抽签机制,来决定谁可以注册参加会议,结果这个较偏理论的机器学习大会还是涌进了大约一万三千人左右。参与其中,我们发现这也是智能技术的跃竞(Leap)时刻。

在前文〈何处延揽AI新秀?掌握最新技术趋势?〉中我们已经说明顶会的重要性、各领域的顶会、以及需参加的原因。简言之,顶会论文为各领域最重要的前瞻技术来源,更是评估专业能力的重要指标之一。所以自然成为该领域研究成果展现,以及研究人员汇集的地方。本次会议中,台湾籍的研究人员实际参与人数不知,但在网络临时号召下,有90几位报名参加Taiwan Night的聚会。

虽然是学术会议,如同其它顶会NeurIPS也一直尝试跃竞,改变自己。最有名的是在2014大会进行了所谓「NIPS实验」来了解顶会中论文审查委员(都是有经验的研究人员)可能造成的录取偏差。大会将少部分(10%)的论文同时交给两批不同的论文审查委员,结果发现这两批审查委员分别录取的论文中有一半是被另一批委员们给拒绝的,可以想象顶会激烈竞争以及审查委员的差异对这些潜在优质论文的影响。大会接著利用这样的发现来改进论文审查程序。

NeurIPS试著降低知识传播的拦阻(如地域、财务、国家等)。大会今年将每一场演讲实时录像转播,同时也公开在大会网站上。除了温哥华当地的大会外,更鼓励新型态的地域型会议,世界各地都有聚会小组,一起参与会议直播,鼓励当地原生讨论。

NeurIPS这几年特别强调论文的可重现性,要求大家提供程序码以及资料集,今年约有七成五的录取论文提供了程序码。顶会强调公平开放甚至有特殊的经费来鼓励少数族裔(黑人、犹太、阿拉伯、女性等)参与顶会,安排专属活动(工作坊、演说等)。今年大会甚至提供了育婴中心,所以这次还看到不少推著婴儿车来参与会议的研究人员。

招聘一直是顶会的重要(但是潜在)活动。如同其它国家或是顶级企业,我们急需这些在顶会的活跃参与者。而这些在开放环境、跃竞思维中训练出来的研究人员,我们(企业、学界、甚至国家)该用什么样的态度、或是建构怎样的环境来争取这些蓄势待发、不断超越过去的国际人才?

在研究主题上,因为是偏理论的机器学习会议,大会的讨论专注于各种机器学习的理论细节。例如深度学习技术中的生成对抗网络(GAN)、强化学习(RL)、图形学习等在稳定性、可解释性、扩充性的深度研究。以知识结构图(knowledge graph)表示的既有知识,如何协助以训练资料为驱动原料的深度学习技术。或是理论上的新发现来支持应用(自然语言、计算机视觉等)的新发展。一千多篇论文持续推升机器学习技术的理论基础。

致力于深度学习技术以及刚获得图灵奖(信息领域的诺贝尔奖)的Yoshua Bengio的主题演说则为目前的智能技术发展以及未来突破的方向,给了非常好的定调。智能技术与过去相比虽已经有非常大的进步,但还是有诸多限制:例如只能解决特定领域的问题,无法轻易扩充到新的工作、稳定度尚待改进、应用场域中还有许多不可思议(无法解释)的小错误等。所以今年大会的主题有不少此类论文。

Bengio更藉著行为经济学的经典著作「快思慢想」,来解释目前以及未来的智能技术差异。书中将人大脑的运行方式区分成两种系统—分别称之为「系统一」和「系统二」。系统一代表的是反射性的直觉思考,如辨识照片是否为苹果、驾车等;系统二代表的是复杂的理性思考、推论、因果推敲、解释等。目前深度学习技术的范畴大致在「系统一」的区间,Bengio的主题演说中表明不满足于目前技术的发展,大声呼吁往更进一步的「系统二」跃进,寻求更多的突破点。

虽然复杂的「系统二」技术仍未被清楚掌握,但是对于发展较成熟的「系统一」,台湾的产业界,是否已经看到满满属于「系统一」这些低垂的果实(机会)?甚至是可以协助我们跃竞到下个智能世代的国际人才。庄稼已经成熟,我们该勇敢收割了!

徐宏民(Winston Hsu)现任台大资工系教授及NVIDIA AI Lab计画主持人。哥伦比亚大学电机博士,专精于机器学习、大规模影像视讯查找与辨识。为讯连科技研发团队创始成员,慧景科技(工业智能新创)共同创办人;曾任IBM华生研究中心客座研究员、美国微软研究院客座研究员。习惯从学术及产业界的角度检验技术发展的机会;十余年产学合作及新创经验,近年致力将深度学习技术落实到产业,并协助成立研究开发团队。曾获2018 IBM Research Pat Goldberg Memorial Best Paper Award 、2018伪装人脸辨识冠军、杰出信息人才奖、吴大猷先生纪念奖等国内外研究奖项。