Skymizer正式推出ET2矽智财方案 以软硬件平台方案为LLM打造更多想像
- 李佳玲/台北
Skymizer自向产业界宣誓进军LLM(大型语言模型)矽智财市场后,近期宣布一系列以LLM矽智财为核心的软硬件解决方案,希望能为LLM应用服务市场带来更多想像空间。Skymizer的矽智财系列方案代号为EdgeThought(边缘思维),其第一款推向市场的解决方案代号为ET2,它可以有效率地处理目前市面所有边缘装置所需要的LLM,也包括了近期所发布的Llama3,其参数规模高达80亿。
Skymizer在推出矽智财方案前,主要的解决方案为编译器业者,扮演芯片与软件之间的桥梁角色,也因此对于整体系统软硬件整合优化上拥有相当丰富的经验,而随着LLM需求水涨船高,同时也基于Skymizer拥有厚实的市场基础下,所以也进军矽智财市场,进一步来因应多元垂直应用的市场需求。
推出软硬整合平台 ET2具备边缘运算、LLM与AI推论三大元素
Skymizer执行副总魏国章表示,ET2基本上有三大基本元素:聚焦边缘运算、LLM与AI推论,除了可以因应目前市场多种的LLM外,因应客户需求,也能弹性扩充运算资源,若要处理的LLM的参数规模太大,那就藉由扩充方式来达到所需的算力等级,当然,所需要的存储器容量与电力消耗,自然也会有所提升。
除了既有的矽智财方案外,Skymizer也推出SDK(软件开发套件)SkyGenie,它能因应通用、领域与私人等不同类别的LLM,借此可以协助不同的产业应用,让软件业者能基于不同的LLM类型开发出相应的应用程序,借此让整体系统的使用情境能达到最佳化的表现。
在COMPUTEX 2024展会期间,Skymizer也会在现场摊位进一步展示运用ET2等软硬件解决方案打造出智能工厂的AMR(自主移动机器人)、饮料店推荐系统与智能汽车场景。诚挚邀请产业界先进至Skymizer Computex摊位参观,摊位号码:南港一馆 AI运算暨系统解决方案区M1433a。
魏国章强调,正因为Skymizer拥有完整的软硬件系统开发经验,所以除了矽智财方案外,透过SDK的提供,借此让广大的科技产业生态系统都能享受到Skymizer完整的软硬件平台方案所带来的益处。他也透露,目前市场所能看到的Edge AI GPU,其性能约莫在20 tokens /s左右,而Skymizer目前对于ET2的测试数据则在32 tokens /s上下,但导入成本却只有Edge AI GPU的1/00,这对于成本敏感的终端应用来说,ET2具备极高的性价比,无异是相当理想的选择。
搭载ET2方案首款芯片 将于CES 2025面市
所以现阶段在半导体领域,魏国章也不讳言,Skymizer目前是抱持开放心态与国内外的设计服务、矽智财等业者正展开积极的合作。他更透露,ET2的扩充性非常高,小从IoT MCU,大到高性能Edge Server,尤其如搭配更高带宽等级的存储器界面,可以做到多人多批次的服务器等级的推论引擎。预计第一款采用ET2的芯片,将于CES 2025面市,也因此,Skymizer将ET2形容为边缘装置LLM推论的游戏规则改变者。
结论
Skymizer正式推出第一款矽智财方案ET2,意味着该公司正式进入全新的里程碑,透过丰富的软硬件系统整合经验,Skymizer不仅提供了高效能且具成本效益的边缘运算解决方案,还透过SkyGenie SDK为开发者提供了强大的工具,以对应多样化的LLM应用需求。这些创新不仅提升了不同垂直市场的应用表现,还为智能工厂、自主移动机器人、智能汽车等领域带来了更多的可能性。Skymizer的全方位软硬件平台方案,无疑将成为未来LLM应用市场的重要推动力量。想要了解更多Skymizer提供的解决方案,请至Skymizer官网查询。
- NXP携手系夥伴打造Brighter Together愿景 探索与AI共存未来生活商机
- COMPUTEX 2024圆满落幕 跃升为全球AI科技核心
- 上榜NVIDIA台厂供应链 IPC点亮边缘AI商机
- 台湾科技产业「软硬兼施」 全球新创不远千里觅合作
- COMPUTEX 2024星光闪耀
AI PC与服务器成台积电高性能运算成长动能 - 安提发布基于NVIDIA的次时代边缘AI系统 引领工业与医疗领域AI应用新篇章
- PowerWalker不断电系统登陆COMPUTEX高效电力备援助攻企业AI应用
- 生成式AI发展所面临的伦理挑战与未来竞争格局
- 先进AI芯片发展趋势
- 翱翔智能电梯原地转型升级 搭载AI成为智能电梯
- 十铨科技创新推出 TEAMGROUP Model T USB 3.2 Gen 1U盘
- Avier@Earth与COMPUTEX 2024 展出友善环境及高速充电的解决方案
- MetAI携手产业夥伴于COMPUTEX展示创新生成式模型技术
- 研华携手群联电子 打造更便利的AI模型微调解决方案
- 慧荣科技推出全新SSD单芯片控制器,为下一代 AI 智能装置和游戏机提供绝佳选择
- 安提国际于COMPUTEX 2024发表NVIDIA MGX边缘AI服务器
- 运算推进时代 GIGABYTE于COMPUTEX趋动科技未来
- DEEPXCEOLokwon Kim:打造让每个人都能使用的AI芯片
- 智微科技与开酷科技将于COMPUTEX 2024展示雷达智能传感解决方案
- BIOSTAR 映泰将于COMPUTEX 2024带来全新AI运算解决方案
- 勤诚COMPUTEX秀肌肉 重磅展示AI、云端服务器机壳新品
- 趋势科技守护全球AI驱动私有数据中心
- 十铨科技推出三款T-FORCE SIREN CPU 一体式水冷散热器
- MetAI于COMPUTEX展示四分钟生成模拟智能物流中心的突破性技术
- APMIC于2024 COMPUTEX展示最新AI技术 让每个员工都成为AI专家
- COMPUTEX 2024科技星光云集 六大产业争艳
- 聚焦七大电源主轴解决方案 COMPUTEX 2024明纬展现减碳技术能量
- NVIDIA、英特尔、超微、高通AI平台全押 华硕PC、服务器火力全开
- Nordic Semiconductor加速整合低功耗短、中、长距离无线技术创新
- 科技巨擘筑起AI算力高墙 彭双浪:机会在垂直场域数码转型
- NVIDIA在台千人研发中心座落何处?黄仁勳先问一条件
- 英特尔淡看对手叫阵AI PC Gelsinger:还在找比较基准点
- ARM CEO:2025年将有1,000亿台ARM装置 迎接AI时代来临
- 生成式AI技术发展与应用趋势
- 威锋电子宣布推出 PortSense 以AI人工智能功能强化USB Hub管理
- 新思科技利用台积电先进制程加速新时代的芯片创新
- 台湾铠侠于2024台北国际电脑展展示先进储存技术与生态圈应用
- 惊艳COMPUTEX 鸿翊国际以智能饭店与零售创新展示AI时代新型态POS
- TSLG耐落扣件防松价值解决方案提供者
- Brickcom引领全球无线技术趋势 InstantFind系统缔造物联网数据传输
- 泓格科技引领绿色永续制造,共创美好未来
- 布局5G、AI、物联网
广和通以智能创新力助产业转型 - Skymizer正式推出ET2矽智财方案 以软硬件平台方案为LLM打造更多想像
- 宜鼎扩充边缘AI智能应用与储存 揭示Architect Intelligence品牌主张
- 十铨科技以「游戏进化,AI 革命」主题 强势登入COMPUTEX 2024
- Bahwan CyberTek 押注台湾科技生态系统
- 智微科技携手开酷科技 震撼登场COMPUTEX 2024 创新是科技进步的火苗
- 迎广展现一站式服务价值,AI生态系共创无限可能
- 慧荣科技总经理苟嘉章:AI应用转变 储存新技术需求大增
- 安提边缘AI助力各行各业 COMPUTEX 2024展现全系列产品实力
- 宜鼎将于COMPUTEX展出多款嵌入式镜头模块及独家MIPI over Type-C技术
- DEEPX 即将在COMPUTEX 2024展现顶尖的AI创新
- 2024台北国际电脑展 公信电子聚焦电动车与企业网安解决方案
- 串联AI 引领未来 COMPUTEX 2024汇聚全球科技力
- COMPUTEX 明纬展示电源实力 助力产业落实减碳愿景
- 元信电子COMPUTEX 2024 迎接高容量SSD时代来临
- InnoVEX 2024 汇聚逾30国新创团队齐聚 展现创新动能
- 高通扩大PC平台产品线 传已获美系大客户力挺
- 6月台湾很AI!黄仁勳COMPUTEX 2024开讲 移师台大体育馆受瞩目
- 生成式AI硬件大本营 1,500厂商聚集COMPUTEX 2024
- COMPUTEX 2024 Forum从应用布局及硬件创新 深入剖析生成式AI新赛局
- CXL技术发展迈大步 COMPUTEX 2024可望跃升重要议题
- 超微为AI PC划重点 苏姿丰国内行说了什麽?
- NVIDIA、富士康两大巨头GTC相见欢 刘扬伟透露6月COMPUTEX有惊喜
- COMPUTEX 2024 全球科技巨擘共同演绎AI与未来科技
- COMPUTEX 2024大秀AI肌肉 汇聚全球1,500家厂商
- NVIDIA、超微、英特尔三巨头 将首度齐聚COMPUTEX 2024
- 高通CEOCristiano Amon将于COMPUTEX 2024发表主题演讲
- 微软搭英特尔、高通 AI PC首波主秀在COMPUTEX