研扬科技全方位解决方案 加快边缘运算与AI创新步伐

英特尔平台研发协理王宗业（左二）在演讲中指出，预计到2026年全球AI支出将突破3,000亿美元大关。研扬

数码转型与AI浪潮带来前所未有的挑战与机遇。作为Intel架构运算平台的领导者，研扬科技成立30年以来，始终致力于提供企业完整解决方案，从云端训练服务器到边缘运算主机，助力企业提升竞争力。为帮助企业掌握最新技术，研扬科技近日举办了「2024研扬科技 Solution Day」，邀请多位专家深入解析边缘运算的市场趋势及解决方案。

研扬科技业务处资深经理丁国平在致词时表示，尽管AI的软硬件应用已广泛讨论，边缘运算仍是较少被触及的领域。然而，研扬科技早已在该领域耕耘多年，并累积了丰富经验。此次活动重点放在边缘运算的应用潜力，透过研扬解决方案帮助企业掌握智能化商机。

迎接AI浪潮 英特尔与APMIC深化技术布局

英特尔平台研发协理王宗业在「使用Intel AI软硬件微调大语言模型」的演讲中指出，AI发展速度惊人，预计到2026年全球AI支出将突破3千亿美元大关。边缘运算和生成式AI尤其备受瞩目，目前已有58%的CEO积极投资AI，预计2026年将有超过75%的边缘部署采用AI技术。因应此趋势，英特尔全力推动AI在各领域的应用，无论是个人电脑还是企业数据中心，均提供完整的AI软硬件整合方案。英特尔解决方案强调开放性与易用性，其AIPC产品支持CPU、GPU、NPU等不同硬件平台，在会议摘要、聊天机器人、图像增强等多元应用场景已有应用实例。在大型语言模型领域，英特尔可运用旗下软硬件平台，对如Llama 2等模型进行微调优化。此外英特尔使用OpenVINO和LangChain等开放标准与工具，优化生成式AI模型。

未来企业将透过AI提升人力作业、自动化工作流程和部门运作效率，后续的发展趋势将朝向部署AI Agent，并运用企业专属数据强化AI的智能与应用价值。王宗业认为，此趋势不仅改变企业的运作模式，也将为各领域带来新机遇与挑战。对此，英特尔将提供从个人电脑到云端的大规模参考设计，确保AI的扩展性、安全性和可靠性。在此同时，英特尔也高度重视开放生态系统，并将企业数据安全视为首要考量，希望藉由全面性的策略，加速AI技术普及，提供企业更多选择。

APMIC亚太智能机器共同创始人暨产品负责人林益弛，也在演讲中分享企业加速大型语言模型私有化的策略。APMIC成立于2017年，专注于自然语言理解（NLU）领域，提供企业LLM即服务工具箱。随着AI技术快速发展，LLM私有化已成为企业的重要课题。他指出，生成式AI虽然强大，但也带来了安全风险。对此，企业需采用负责任的AI（rGAI）策略，确保AI生成内容的安全性与可靠性，因应此一挑战，林益弛建议可使用通过参考外部知识库优化LLM输出的RAG（检索增强生成）技术，在生成式AI和模型微调方面，APMIC提供了多种大语言模型选择，使用者可透过指令微调和人类回馈强化学习（RLHF）提升模型效能，满足不同企业的特定需求。

林益弛接着表示，APMIC已针对在企业私有化LLM训练流程，推出包括数据前处理、持续微调、抗毒性处理、RAG技术应用在内的全面解决方案，此流程可协助企业精准掌握复杂格式数据，并降低生成式AI模型中的幻觉（hallucination）问题与恶意攻击风险，协助企业将AI技术效益最大化，从而提升竞争优势。

多年深耕累积强大技术能量 研扬科技让边缘运算效益最佳化

研扬科技在边缘运算不仅产品布局完整，而且已应用于各垂直领域中。资深产品经理兰之怡在「选择高效能边缘运算硬件:Intel方案的全面解析」演讲提到，1992年成立的研扬科技，已成为工业嵌入式解决方案的领导厂商，2011年获得华硕投资后，整体实力更上层楼，目前总部位于台北，在全球16个地点设有办事处。研扬的产品组合十分丰富，涵盖嵌入式主板、工业用电脑、网络应用设备和单板电脑等，特别针对智能自助服务设备、智能零售和机器学习等垂直市场需求设计。

研扬科技推出了多款创新产品，如EPIC-RPS9和PICO-MTU4等。这些硬件产品具备强大的灵活性，能够满足从轻量级AI推论到大型生成式AI模型的各种部署需求。研扬科技的解决方案不仅大幅提高AI推论效率，还能从图像和影片中快速提取关键信息。为满足不同客户的需求，研扬科技提供专用AI引擎硬件，支持生成式AI、电脑视觉和传统机器学习等多种应用。此外，研扬科技还根据功耗需求将AI应用场景分为轻、中、重三类，进一步优化产品在各种场景下的性能表现。

研扬科技的技术可用于自动化测试设备、5G通讯塔和零售超市等多个场景，有效强化应用场域的效率和智能化程度。兰之怡指出，研扬科技产品侧重灵活快速的设计支持与混合模块的高效测试能力，借此满足应用市场的特定需求，并为智能城市和工业4.0的发展奠定坚实基础。整体而言，研扬科技善用英特尔的边缘运算硬件产品，提供各类垂直市场高效能AI解决方案，无论是轻量还是重度AI运算，客户都能够找到合适产品，在多变市场中保持竞争优势。

研扬科技产品经理詹雅淇在活动中介绍了公司的UP边缘运算解决方案。她强调，UP系列产品专为边缘运算设计，具备高度灵活性与敏捷性，能满足各种工业应用场景，为不同边缘运算应用场域提供全方位支持。在后疫情时代，因应无接触服务、线上工作和智能监控等新兴需求，UP系列产品适时推出针对性解决方案，不仅可解决人力短缺问题，还能协助企业推动自动化升级与数码转型。此系列的一大特色是产品线多元化，从小巧的卡片尺寸UP Core到功能强大的口袋大小UP Xtreme i12，均能为不同规模和效能需求的边缘运算应用提供丰富选择。所有UP系列产品都搭载Intel®处理器，并支持开放式AI SDK，有效缩短智能化设备的开发时程。

在AI边缘运算效能方面，UP系列产品表现卓越，在电脑视觉和生成式AI应用中，更展现出强大的处理能力，最高可支持52 TOPS运算效能。透过支持OpenVINO架构，UP系列可有效提升AI训练和推论效率，优化企业生产力与成本效益。詹雅淇提到，研扬UP系列产品在边缘运算领域展现出全面技术优势，无论是因应后疫情时代新挑战，或推动自动化和AI应用发展，都可提供是市场创新且高效的解决方案。随着物联网和AI技术持续进步，UP系列产品将在工业自动化、智能城市和智能制造等领域扮演关键角色，成为企业数码转型的强力后盾。

研扬科技的边缘运算解决方案，目前已有丰富的成功应用案例，业务经理王品中在演讲中提到，该公司的边缘运算产品线涵盖强固型无风扇系统、强固型平板电脑和工业级主机板，可满足市场多元需求。在强固型无风扇系统方面，研扬的BOXER系列分为超薄型、强固型和扩展型三个等级，适应不同应用环境例如，中国大厂的无人搬运车、无人送货车就采用BOXER系列产品。研扬科技强固型平板电脑产品线同样亮眼，支持Windows和Android操作系统，提供7寸到11.6寸不同尺寸选择，还可依需求配置2D条码扫描仪、NFC等功能模块，适用于现场检查、机械维修和库存管理等作业流程。工业级主机板方面，研扬产品支持多种平台，具备长效命周期和高可靠性特色。

王品中强调，研扬解决方案的优势不仅体现在丰富产品线，更反映在实际应用案例中。除前述的无人搬运车和无人送货车，中国上海的街道监控系统也采用其解决方案。由此案例可看出研扬产品在各种极端环境下的效能和稳定性，进一步证明其在自动化、工业和智能监控领域的领先地位。从多元应用与使用端回馈来看，研扬科技解决方案已能满足各类型场域业者需求，未来将进一步延伸应用触角，推动产业智能化和数码转型进程，加快AI边缘运算普及速度。

随着物联网和AI技术持续发展，市场对边缘运算的需求将快速浮现，研扬科技善用自身强大技术能量，并与英特尔紧密合作所打造的解决方案，将可开启AI边缘运算应用的无限可能，协助企业以创新力迎接智能新未来。