台智云一站式AI算力地端部署 助企业创建可信赖AI 智能应用 影音
Digikey
DForum0808

台智云一站式AI算力地端部署 助企业创建可信赖AI

  • 李佳玲台北

台智云推出企业一站式AFS POD算力部署地端服务,协助企业大幅缩短建置与维运AI数据中心的时间与成本,促进AI创新落地。台智云
台智云推出企业一站式AFS POD算力部署地端服务,协助企业大幅缩短建置与维运AI数据中心的时间与成本,促进AI创新落地。台智云

在各大领域势如破竹的生成式AI,已成为产业推动升级转型的驱动力,吸引愈来愈多企业将此技术融入新4P的核心竞争力,以达成赋能员工与客户(People)、优化营运流程(Process)、创新产品与服务(Product),进而在市场上重新取得企业定位(Position),实现弯道超车。

尽管多家公有云业者均有推出生成式AI服务,然而对于受到法规严格监管的金融、医疗产业,或拥有大量研发机密的高科技产业等,在考量「数据隐私与安全」、「简化营运流程」、「产品与服务优化」、「长期成本效益」等因素之后,泰半纷纷选择打造专属AI数据中心。即在公司内部部署大语言模型,以落实关键隐私保护,高效重塑企业新4P,布建竞争壁垒。

AFS POD服务一站满足企业导入AI所需的GPU算力、模型、应用与流程,最快可于8周上线。台智云

AFS POD服务一站满足企业导入AI所需的GPU算力、模型、应用与流程,最快可于8周上线。台智云

台智云观察到企业对于将数据上传到云端平台进行训练与推论,保持忧心的态度,担心数据会成为被训练的一部分,导致重要商业机密外泄。因此愈来愈多企业选择打造专属AI数据中心,兼顾机密数据保护与推动AI专案需求。而台智云的AFS POD服务,可大幅缩短建置AI数据中心所需时间,并运用多样的AI管理工具,精确使用AI资源,促进创新落地。

一站式完整服务 打造AI数据中心最佳方案

在符合法规要求、保护机密数据安全、提升企业竞争力等因素下,企业打造专属AI数据中心的意愿非常高,但也面临人才不足、经验欠缺,建置过程冗长等挑战。全球AI人才缺口达百万以上,企业需要经验丰富的外部合作夥伴协助降本增效,减少踩坑,而台智云在GPU云端算力服务领域耕耘长达6年以上,是台湾少数能提供从AIHPC到生成式AI解决方案的公司;且台智云与母公司华硕集团合作,积极开发国内外市场,能为企业带来最丰沛的合作资源与方案。

台智云推出的AFS POD服务,整合服务器、机柜、系统电力散热、数据中心网通存储、AI算力资源管理、企业应用串接等一站式服务,能提供24/7企业服务等级(SLA)的客服技术支持,有效帮助企业缩短建置与维运AI数据中心的时间与成本。

许多企业与外部夥伴合作推动AI数据中心专案,从初期规划到最终上线,往往需要1~2年时间,衍生AI设备闲置的成本浪费。相较之下,台智云拥有非常丰富的系统建置经验,加上华硕集团对ASUS服务器品质、保固、与客服的强大支持,可依据企业需求,选择NVIDIA、AMD或其他合适的GPU/CPU,因此AI数据中心上线时间最快可缩短到8周完成,让企业宝贵预算发挥最大效益。

在维持AI数据中心稳定运作的前提下,台智云具备设计液冷、后门冷却(RDHE)等基础架构技术,并针对大规模AI和HPC运算需求,规划一套高效能的存储和IB/ETH高速网络与平台架构,以满足大量数据存取需求,同时提升能源使用效率(PUE)。

至于企业最在意的网安保护,台智云也可协助建置符合安全规范的基础架构与平台服务,在云端网络隔离、虚拟化外,也可提供入侵侦测与故障快速回复功能规划。此外,台智云也提供24/7客户服务、专家技术支持服务等选项,助用户熟悉如何维护数据中心运作。

定制化部署大语言模型 加速AI专案落地

针对全球疯抢AI人才,台智云考量到多数企业缺乏足够的AI团队,所以无论是AI 1.0的MLOps开发或是AI 2.0的生成式AI模型应用,均有提供无代码软件平台,协助企业流程优化,提高整体营运效益。透过台智云MLOps平台,可降低AI专案推动过程难度,让团队快速将想法落地,轻松管理AI专案生命周期,提升团队生产力。对于云端服务业者最在意的多租户与资源管理部分,台智云也支持多节点、多租户的安全环境。

「在生成式AI服务与应用部分,考量到企业应用需求迥异,台智云可协助用户定制化部署大型语言模型、进行推论,以满足智能金融、智能制造、智能医疗等多个垂直领域需求。」台智云策略长李立国解释:「在大语言模型部分,我们可针对不同应用需求提供弹性选择,除了完成繁体中文强化训练的「福尔摩沙大模型」(Formosa Foundation Model;FFM)系列:涵盖Llama、CodeLlama和Mistral等,还有各种参数量的主流大语言模型,满足用户创新发展与加速落地。」

AFS POD服务结合AI生态圈 成功案例持续增加

台智云推出AFS POD服务至今,已在生技医疗、制造业、金融业等不同产业,助企业打造专属大数据数据中心。如偕同华硕集团协助长庚医院建置AI推论云平台,目前已顺利推动医疗影像X光、超声波、EKG心电图类等12个AI模型和LLM生成式AI小助手,运用医疗影像存储系统数据打造AI诊断辅助,提升医疗诊治效率、准确性,也可强化病人照护品质和增进医病关系。

同时,台智云非常积极经营AI生态圈,成立自有AI超算加速器,为AI新创企业提供完善商业发展资源和技术支持,短短2年内就吸引超过60家新创企业加入,与生态圈夥伴共创丰富的AI应用解决方案。台智云AI超算加速器计划CEO周秉辉指出,「当企业引进AFS POD服务时,我们也能依照用户需求介绍合适的AI新创团队,协助运用生成式AI技术整合企业内部知识库,进而达到改善流程、提高营运效率。又或者透过建立AI智能客服,优化客户体验、提升销售量等。台智云将全力扮演企业和新创搭建创新合作的桥梁,加速推动AI导入与转型,进而取得竞争优势。」

生成式AI正快速改变全球产业版图,企业推动AI专案的速度将决定在市场上的竞争力,台智云AFS POD服务不光降低企业建置AI数据中心的总持有成本(TCO) ,还能提升资源使用效率、并降低维运费用,更是实践赋能员工与客户、营运流程优化、产品创新,在市场上取得企业定位的最佳方案。

邀请进一步了解台智云的一站式AI算力部署地端解决方案