智能手机进化停滞 大厂AI芯片问世再添助力
- DIGITIMES企划
-
云端架构逐渐普及，嵌入式系统的应用随之起飞，尤其是AI在近两年开始启动后，各类型嵌入式设备的功能越来越强大，然而向来与其他嵌入式设备同步发展的智能手机，近年来出现停滞现象，大多应用程序都只在停留在酷炫有趣阶段，更智能的应用仍未到位，台大资工系教授洪士灏指出，原因出在目前软硬件效能仍不足，智能手机必须更智能，才能有进一步发展。
以全球最大的社群媒体脸书使用者为例，现在许多人上脸书所使用的手机都是2~3年前的产品，运作依然顺畅，再加上其他上网、镜头等程序也不需要过于强大的效能，因此对硬件功能的需求并不高，这对AI的发展并非好事。未来如果AI要顺利启动，现在的手机效能显然不足，不过是硬件刺激需求成长，还是需求带动硬件规格的提升？洪士灏也认为这是鸡生蛋、蛋生鸡的问题，很难一刀切出责任归属所在，只是他也指出，现在的手机功能的确还需要再演化。
要因应AI趋势再演化，需要解决的问题相当多，下一代的手机不仅运算能力要足够，随之而来功耗问题也必须解决，而且这些问题不能用软件绕过，要以硬件真枪实弹的解决。目前各芯片厂商也意识到此问题，纷纷着手研发加速器，发展比GPU更适用的深度学习专用芯片。不过他也指出，此类型的产品仍有门槛高、开发复杂、函式库阳春，再加上供应商的开发工具支持不足等问题，这都降低了厂商的投入意愿，因此市场都将眼光放在Google、NVIDIA等大厂身上，希望推出高效能、易开发的AI产品。
为符合本身机房需求并降低耗电，而且不愿意投入钜额费用购置GPU，Google在2014就已设计出自用的TPU，2015年布署在自家的数据中心，不过一直到最近才开始将产品释出到市场。洪士灏指出，Google向来强调开放性特色，Google Cloud NEXT 2018推出的AI芯片Edge TPU诉求小体积、高处理能力、可运作轻量版的TensorFlow Lite，并且内建加速器，可将运算资源移转到大型电脑的类神经网络。Google希望借此复制过去Android的做法，在AI领域再创另一个产业生态系，透过大量厂商的使用测试，将触角延伸到更多应用场域。
Google的频频动作也让GPU大厂NVIDIA转趋积极，其Tegra移动处理器本就以手机市场为目标，后因成效不佳退出。不过NVIDIA在GPU仍有优势，之后转战嵌入式应用推出Jetson系列产品，近期问世的Jetson AGX Xavier处理器，则再次强化规格，具有8个64bit ARM处理器核心与512个Volta架构的CUDA Tensor Core，尺寸只有10cm x 10cm。此外NVIDIA最近再推出Jetson Nano，不但效能更强、体积再一次缩小，而且价格比Google的高效能TPU低50美元，抢攻智能物联网市场的意味十足。
从过去没有芯片可用，到现在两大厂分别推出产品，手机效能的进化看似指日可待，但洪士灏认为升级并非无痛，仍需要相关技术基础才能发挥效益。他比较Google Edge TPU与NVIDIA Jetson AGX Xavier两款AI运算芯片，若以效能与功耗比，Edge TPU较适合手机。然而TPU虽有工具可将运算资源移转到其他平台，但过程中仍有许多细节需要微调，若对架构安排不熟盲目移转，将损失TPU的整体运算效能，而要解决此一问题，他建议可将资源分开，数量较大的数据就近传输到运营商机房运算，尤其是未来5G上线后，其高速、高带宽与低延迟特色，将进一步拓宽手机的AI应用。
AI被视为各类型智能化系统的必要技术，结合物联网而成的AIoT也成为政府与产业的重点发展架构，然而从这几年的发展来看，应用成效并不彰。洪士灏指出，芯片效能对系统功能与应用发想影响极大，而系统功能不佳，民众自然无感，这也是近年物联网雷声大雨点小的原因之一。
近期大型厂商纷纷推出高效能运算平台，嵌入式系统的选择大增，现在开始会有更多的尝试机会，从而开发出更多应用，因此他十分看好接下来的发展，智能手机与嵌入式设备也将开始迈入下一个智能时代。
2019嵌入式技术论坛即将于4/17(三)假台北万豪酒店盛大举办，台大资工系教授洪士灏于会中将深入剖析「AI嵌入式系统的软硬整合开发」，活动并邀集AMD、联发科、TI、研华、宜鼎、Vicor等大厂连袂发表最新技术趋势，内容包含AI云端边缘运算、AIoT、5G、48V电源等最新进展，欢迎即刻报名以保留入场席位：https://www.digitimes.com.tw/seminar/DForum_20190417/。
