2019年人工智能硬件与应用大趋势

发布时间:2018-12-27 访问量:451

  2019年即将到来,人工智能将往什么方向发展?机器学习将如何演变为人工智能?在神经网络领域具有20年的技术经验Eugenio Culerciello,在硬件和软件两方面都有经验积累。他预测,在硬件和应用两方面,2019年的人工智能都值得我们期待。

  目标

  一句话概括,人工智能领域的目标就是制造超越人类能力的机器:自动驾驶汽车、智能家居、人工助理和安防摄像头是首要的目标,接下来是智能厨房、清洁机器人以及安防无人机和机器人。其他应用包括永远在线的个人助理,和能够看见、听见用户生活经历的生活伴侣。人工智能的终极目标则是完全自动的人工个体,能在日常任务中达到、甚至超越人类的工作表现。

  软件

  通常,软件是指在最佳化算法训练之下,能够解决某一具体任务的神经网络架构。不过,这并不能等同于人工智能。人工智能必须能够在真实环境中进行无监督学习,从新的经验中学习,结合在各种环境中学到的知识、解决当下的问题。那么,目前的神经网络,如何能演变为人工智能呢?

  神经网络架构神经网络的优势在于从数据中自动学习,但我们忘记了一点:训练的基础是手动设计的神经网络架构,这无法从数据中习得。这是目前这个领域的重大限制因素。问题在于,从数据中学习神经网络架构目前必须从零训练多个架构,然后选择一个最佳架构,这需要太长时间。

  目前神经网络的限制无法预测、基于内容推理和暂时性不稳定都是目前的限制。我们需要一种新的神经网络。

  神经网络正在演变为编码器和解码器的结合。编码器将数据编码为一种代码表征,解码器则扩展表征,生成一系列更大的表征,例如图像生成、心理模拟、图像标亮等。

  无监督学习人类无法永远守在机器旁,一步步指导它们的“人生经历”。我们可忙得很!可是目前,对于监督学习我们还得给机器反馈,改正它们的错误。而人类只需要学习几个例子,就能自动改正,并持续学会更多、更复杂的数据。

  预测型神经网络目前神经网络的主要限制之一是,它们无法像人类大脑一样进行预测。预测听起来很玄乎,但其实我们每天都在预测。如果桌子上有一小团棉花,你自然会预测棉花团会很轻,不需要花很大力气就能拿动。通过预测,我们的大脑能理解我们的身体和环境,还能知道我们是否需要学习新信息。如果你拿起桌上的棉花团,发现由于里面藏着铅块其实很重,大脑的认知能力能让你学会判断,第二次拿起棉花团的时候就不会惊讶了。预测性神经网络是与复杂的外在世界互动的核心。

  持续性学习“终生学习”对于神经网络来说是一件大事。目前的神经网络要想学习新数据,必须每次都从头开始重新训练。它们必须能意识到自己的“无知”,并自动评估是否需要进行新的训练。同时,在真实世界中,我们希望机器可以学会新技能,同时不忘记原本的知识。持续性学习也与迁移学习有关,这需要用到所有上述提到的技能,对增强型学习也很重要。

  增强型学习增强型学习可谓是深度神经网络的领域的圣杯。这需要自动学习、持续学习、预测能力和很多我们还未知的能力。目前,解决增强型学习的问题,我们使用标准的神经网络,例如可以处理视频或音频等大容量数据输入的深度神经网络,并将其压缩为表征,或者RNN等序列学习神经网络。它们可以从零开始、甚至一夜之间学会下围棋,但是与人类在真实世界中的能力相比,还相差很远。

  循环神经网络(RNN)Out了RNN很难进行并行化训练,由于使用超高的容量带宽,即便在特殊的定制机器上也运行很慢。基于注意力机制的神经网络—尤其是卷积神经网络—训练和配置起来更快、更高效,并且更容易规模化。它们已经逐渐补充语音识别,并在增强学习架构和AI的广阔天地间寻找更多的应用。

  硬件

  由于硬件的支持,深度学习在2008至2012年间实现了突飞猛进式的进展:每一部手机上都配有便宜的图像传感器,能够收集大量的数据库,同时GPU加速了深度学习的训练。在最近两年,机器学习硬件飞速发展。许多公司都在这个领域:NVIDIA、Intel、Nervana、Movidius、Bitmain、Huawei、ARM、Wave等等,所有公司都在开发定制的高性能芯片,用来训练和运行深度神经网络。这场开发竞赛的关键是, 在处理最近的神经网络运作时,提供最低的能力和最高的可测量性能。不过,只有少数人知道硬件对机器学习、神经网络和人工智能的影响,或者微型芯片的重要性以及如何开发微型芯片。例如:

  架构:很多人觉得计算机架构不过是加法器和乘法器,但是有一些架构能够最小化记忆带宽,一直同时使用所有单元。

  编译器:很多人觉得硬件不重要,神经网络编译器才是关键。但是在自己设计架构的时候,编译器只不过是通过机器代码,解读神经网络的计算图像。开源编译器的作用有限,因为最难的一步得依靠未知的架构。开源编译器可以作为前端,在硬件架构和神经网络图像之间还有很多值得探讨的领域。

  微型芯片:对于重要的算法,优化性能的最佳办法就是定制微型芯片,或者ASIC或SoC。FPGA现在已经含有深度神经网络加速器,预计将在2019至2020年实现,但是微型芯片总是更好的。

  进步:即便微型芯片的规模化还未被使用,还有一些技术进步能让深度神经网络加速器轻松获得10至20倍的提升。值得关注的的进展包括系统级封装和升级记忆等。

  应用

  现在,我们来详细讨论在哪些应用领域,AI和神经网络将改变我们的生活:

  分类图像和视频:云服务已经包含了这项应用,接下来也会来到智能视频传送中。神经网络硬件不通过云端,在本地处理越来越多的数据,不仅保护了隐私,也节省了互联网带宽使用。

  语音助理:语音助理已经进入我们的生活,在智能家居中起到重要作用。不过,我们经常忽视聊天的难度,对人类来说是一项基本活动,而对机器来说则是一项伟大的革新。语音助理正在进步,但还是不能完全移动化。Alexa、Cortana和Siri会永远在线,手机将很快成为未来的智能家居。这是智能手机的又一次进步。除了手机,语音助理也需要进入汽车,随着用户移动。我们需要更多的本地语音处理、更强的隐私保护和更少的带宽要求。随着硬件的进步,1至2年之内这些都能实现。

  人工助理:语音挺好,但是未来我们真正想要的人工助理还能见我们所见,跟随着我们移动的脚步分析周围的环境。神经网络硬件会帮助我们实现这个美梦,但是分析视频传输要求很高的计算能力,已达到了目前硬件能力的理论边缘,比语音助理要困难得多。AiPoly等创业公司已经提出了解决方案,但是缺乏强大的硬件,使其能在手机上运行。另外值得关注的还有,如果把手机屏幕换成类似眼镜的可穿戴设备,我们的助理将成为我们的一部分。

  家务机器人:另一项重要应用是可以做饭和清洁的家务机器人。我们也许很快就能实现硬件,但是还缺乏软件。我们需要迁移学习、持续学习和增强型学习。每一个食谱都不一样,食谱里的每一种食材都不一样。我们无法把这部分写死,必须开发一个善于学习和总结的机器人。这还是一个遥远的理想。