研华整合硬、软、服务、生态系夥伴四方资源 助企业降低Edge AI导入门槛 智能应用 影音
Microchip Q1
member

研华整合硬、软、服务、生态系夥伴四方资源 助企业降低Edge AI导入门槛

  • 林稼弘台北讯

为协助企业解决上述两道难题,研华除了创新硬件设计,研发兼具高算力、低功耗与体积轻巧的硬件设备,近年来更积极投入软件布局,包括研发Edge AI SDK、Device On等软件。研华
为协助企业解决上述两道难题,研华除了创新硬件设计,研发兼具高算力、低功耗与体积轻巧的硬件设备,近年来更积极投入软件布局,包括研发Edge AI SDK、Device On等软件。研华

近年来企业导入AI应用时,考量到系统回应速度、网安、带宽有限等因素,选择采用边缘运算架构,另一方面,ESG理念让企业积极追求「更有效率使用资源、减少无谓浪费」的IT架构,这些都促使Edge AI发展更加快速。迎合Edge AI发展浪潮,研华积极投入软件布局,并结合硬件设计、服务能量与生态圈夥伴资源,协助企业降低Edge AI应用导入门槛。

研华整合软硬件资源,解决Edge AI两大导入困境

「企业在导入Edge AI时通常会面临两大挑战,第一是IT人力不足,难以自行开发AI应用,第二是硬件规格上的需求差异,」研华嵌入式物联网平台事业群协理Joe Chen指出,Edge AI通常使用机台设备内的IPC做为边缘运算服务器,而机台设备对IPC的要求通常是体积轻巧、低功耗,但AI运算需要高算力,而高算力通常意昧着体积偏大,且会带来高功耗与高热,两者对硬件设备的要求可说是背道而驰。

为协助企业解决上述两道难题,研华除了创新硬件设计,研发兼具高算力、低功耗与体积轻巧的硬件设备,近年来更积极投入软件布局,包括研发Edge AI SDK、Device On等软件,整合Intel GETi与NVIDIA AI Enterprise(NVAIE)两大芯片厂推出的开发工具包,及云平台业者微软的Azure OpenAI服务等,助力企业降低Edge AI应用的导入门槛。

涵盖AI不同导入阶段的软件布局

从Edge AI应用导入过程来看,研华的软件布局可以解决企业在各个不同阶段可能遇到的问题。在前置作业阶段,考量到企业常常困惑于:不知该准备多少运算资源来部署AI,透过研华Edge AI SDK能够迅速开发评估AI应用,以采下拉式选单或按钮点选的界面设计,企业只要根据AI应用类型及自身需求,在界面上拖拉点选,就能直觉且快速的进行设备环境评估,确保建置环境的资源,能够满足AI应用的效能要求。

举例来说,企业可以选择使用CPU或GPU来执行推论运算,亦或两者同时运作,再选择希望导入的AI应用类形,如物件识别、人脸识别等,Edge AI SDK就会据此进行运行效能(FPS)分析,让企业知道AI应用在所选定设备环境上的运行效能,及在此运行状态下,芯片的温度及使用率等实时信息。

进入模型训练与开发阶段,考量到企业IT人力有限,Edge AI SDK可以根据企业选定的设备与开发环境,提供研华整合并验证过的完整安装套件,包含OpenVINO、TensorRT等推论引擎开发工具,或是驱动程序与对应的操作系统版本等,省去企业自行摸索和设定的时间。

此外,研华与Intel GETi与NVAIE两大开发工具的整合,不只能缩短训练与开发AI模型所需要的时间,还能为企业带来更大的加值效益。举例来说,Inter GETi原本只专注在模型训练上,但搭配研华Edge AI SDK及Device On软件后,就能分别满足企业在模型开发、部署上的需求。

又如,研华将NVIDIA AI Enterprise生态系统整合到其产品中,运用预训练模型和开发平台、工具和服务,并携手建立专业技术团队,帮助企业打造定制化解决方案。最后在模型部署阶段,透过DeviceOn提供的实时在线更新(OTA Update)与容器管理(Container Management)功能,可以快速部署AI模型,还能持续蒐集AI运行过程中的相关数据,再重新训练模型,以确保AI模型的效度。

用服务为软件加值,顺隧客户Edge AI导入之路

在企业导入AI应用的整个流程中,软件来虽然可以解决很多问题,但还有更多问题需要靠人员的服务。对此,研华凭藉过去40年所累积的经验和技术,及生态圈夥伴的庞大力量,有效串起各种不同软件资源,并透过专业服务协助客户更顺利的发展Edge AI应用。目前,研华Edge AI解决方案已成功协助众多产业运用AI提高营运效率与降低成本,如:零售代理业以AI优化顾客体验;制造业以AI分析产线数据,提高生产良率与效率;医疗业以AI简化医护人员作业程序,提高医疗照护服务品质。未来,在百工百业加速部署AI应用时,研华将持续以「协助客户快速进入AI应用」为目标,持续优化软硬件解决方案,让企业可以使用既有设备及资源迈入Edge AI时代,实现研华「智能地球推手」的企业愿景。


关键字