商汤发布SenseTrust治理平台

促进生成式AI可信发展

商汤科技近日在2023世界人工智能大会（WAIC）期间推出全面升级的「商汤日日新SenseNova」大模型体系，同时发布全新商汤可信AI基础设施「SenseTrust」。「SenseTrust」包含一套完整覆盖数据、模型、应用治理环节的可信AI治理工具，可为商汤及行业提供伦理与安全的检测与加固解决方案，推动安全可信的人工智能产业生态的发展。

活动上，商汤副总裁、AI伦理与治理委员会主席张望表示：「技术规模化落地有两点关键条件，一是成本低、应用广的普惠性，二是要可靠、可信的安全性。以大算力为基础的大模型及通用人工智能为加速了条件一的满足，同时也带来了技术滥用风险的规模化升级。如何保障人工智能系统的安全可信已经成为业界乃至全社会面临的一项紧迫课题。为此，商汤针对新时期人工智能的风险特点，打造覆盖数据处理、模型开发、应用部署等AI系统全生命周期的可信AI基础设施SenseTrust，以助力打造可信的大模型。」 

活动期间，商汤也正式发布了由商汤智能产业研究院与上海交通大学计算法学与AI伦理研究中心，共同编制的人工智能伦理与治理的年度报告─《商汤大模型伦理原则与实践白皮书》。白皮书以大模型发展为背景、生成式人工智能治理为主题，透过「商汤日日新SenseNova」大模型体系治理实践作为案例，提出了生成式人工智能治理的核心原则和「三维对齐」科技伦理模式，呈现在AI治理领域的最新观点。

商汤「SenseTrust」打造大模型时代可信AI安全网

大模型时代下，以「基础模型+微调」为主要特徵的生产模式，大大降低了开发成本和应用门槛。随着AI应用场景更加开放、数据模态更加多元、应用领域更加广泛，技术滥用及风险来源同时呈指数级增长，风险评估标准更加难以界定，潜在影响大规模扩散。在应用层面，例如「幻觉」现象、数据「投毒」、混淆攻击、诱导攻击等风险陆续显现，引发全球对人工智能风险挑战的高度关注。

作为行业领先的人工智能企业，商汤科技一直以来高度重视人工智能伦理与治理工作，技术创新与技术治理发展并重。早在2019年，商汤就同时啓动了两项前瞻性的工作，一项是大模型研发，另一项就是AI伦理与治理。此前，商汤已建立了完善的人工智能伦理与治理组织结构、管理制度、审查机制、工具体系、伦理文化建设体系和外部生态网络，并获得行业广泛认可。

新时代下技术加速创新，应用日新月异，治理手段亦需相应升级以适应飞速发展、无限拓展的治理需求。商汤整合长期伦理治理思考及技术能力，针对当下生成式人工智能的风险特点，打造可信AI基础设施「SenseTrust」，包含数据治理、模型治理、应用治理等层面技术工具，并可提供数据处理、模型训练、模型部署、推理服务等全方位的可信AI检测与加固「工具箱」。

• 在数据层面，「SenseTrust」 能够提供从数据脱敏、数据去毒、数据合规审查及偏见评估等治理工具。例如，在模型训练数据的预处理环节，「SenseTrust」提供的数据去毒工具能够检测数据来源中是否包含带有后门、扰乱的有毒数据，并提供去毒方案。针对显式、隐式等不同形式的「毒素」检测率逾95%，结合数据清洗与对抗防御等方法，能够有效去毒。目前，「SenseTrust」数据脱敏工具已应用于数据标注、城市管理，以及自动驾驶相关业务场景。
• 在模型层面，「SenseTrust」能够针对传统判别式模型和生成式模型的不同特点，提供标准化和定制化的模型评测能力。针对判别式模型，可就能够面向活体识别、图像分类、目标检测等商业化需求提供一键式评测；针对生成式模型，商汤「SenseTrust」构建了百万量级的测试数据集，覆盖三十多类伦理和安全测评范畴，可对对抗安全、鲁棒安全、后门安全、可解释性和公平性评测。为进一步提升模型的风险防御能力，商汤「SenseTrust」还能够提供「AI防火墙」，从源头过滤对抗样本，综合检出率达到98%。
• 在应用层面，商汤在涉及数据保护、数字取证及伪造检测等技术领域有着深厚经验，并逐步开发了结合生成、鉴伪和溯源的综合解决方案。例如，针对各方颇为关注的AIGC相关确权溯源和鉴伪问题，「SenseTrust」为此开发了数字水印解决方案，可将特定信息嵌入到数字载体中，不影响载体的使用价值，也不易被人察觉，只有通过特定的解码器和专属密钥才能提取，能够支持多模态数据。数字水印技术已于「商汤秒画SenseMirage」、「商汤如影SenseAvatar」等多个产品上使用，以及已被内容创作、大数据等领域的客户采用。

今年WAIC上，「商汤日日新SenseNova」大模型体系再度升级。针对体系内的一系列应用平台，商汤在传统「判别式模型」治理经验的基础上，结合生成式人工智能的风险特点，利用「SenseTrust」工具体系进行了一系列测评，并开展持续的追踪测试，不断提升风险防御能力。 

与此同时，商汤也积极将大模型和生成式人工智能的治理实践成果向外输出。例如，商汤「SenseTrust」综合鉴伪解决方案投入到十多家银行的安全系统中，对各类攻击拦截的成功率超行业同类产品20%以上，有效防范身份盗取、支付盗刷等网络诈骗。此外，模型体检、数字水印，以及主动投毒保护等相关技术，也已通过「商汤AI安全治理开放平台」对外开放。

关于商汤

作为人工智能软件公司，商汤科技以「 坚持原创，让 AI 引领人类进步」为使命，旨在持续引领人工智能前沿研究，持续打造更具拓展性、更普惠的人工智能软件平台，推动经济、社会和人类的发展，并持续吸引及培养顶尖人才，共同塑造未来。

商汤集团拥有深厚的学术积累，并长期投入于原创技术研究，不断增强行业领先的多模态、多任务通用人工智能能力，涵盖感知智能、自然语言处理、决策智能、智能内容生成等关键技术领域，同时包含 AI 芯片、AI 传感器及 AI 算力基础设施在内的关键能力。此外，商汤前瞻性打造新型人工智能基础设施——商汤 AI 大装置SenseCore，打通算力、算法和平台，并在此基础上建立「商汤日日新SenseNova」大模型及研发体系，以低成本解锁通用人工智能任务的能力，推动高效率、低成本、规模化的 AI 创新和落地，进而打通商业价值闭环，解决长尾应用问题，引领人工智能进入工业化发展阶段。商汤集团业务涵盖智能商业、智能城市、智能生活、智能汽车四大板块，相关产品与解决方案深受客户与合作夥伴好评。 

商汤科技倡导「发展」的人工智能伦理观，并积极参与有关数据安全、隐私保护、人工智能伦理道德和可持续人工智能的行业、国家及国际标准的制订，与多个国内及多边机构就人工智能的可持续及伦理发展开展了密切合作。商汤科技《AI可持续发展道德准则》被联合国人工智能战略资源指南选录，并于2021年6月发表，是亚洲唯一获此殊荣的人工智能公司。

目前，商汤（股票代码：0020.HK）已于香港交易所主板挂牌上市。商汤集团现已在香港、上海、北京、深圳、成都、杭州、南平、青岛、西安、台北、澳门、京都、东京、新加坡、利雅德、阿布扎比、杜拜、吉隆坡、首尔等地设立办公室。另外，商汤科技在德国、泰国、印度尼西亚、菲律宾等国家均有业务。更多信息，请访问商汤科技网站、LinkedIn、Twitter、Facebook和YouTube专页。

媒体联络及查询

商汤科技
电邮：pr@sensetime.com