近日，商汤重磅推出全面升级的“商汤日日新SenseNova”，与之一起亮相的还有商汤可信AI基础设施—SenseTrust。据悉，SenseTrust包含一套完整覆盖数据、模型、应用治理环节的可信AI治理工具,可为商汤自身及行业提供伦理、安全二维一体的检测与加固解决方案,推动发展安全可信的人工智能产业生态。
在数据层面,“SenseTrust” 能够提供从数据脱敏、数据去毒、数据合规审查及偏见评估等治理工具。例如,在模型训练数据的预处理环节,“SenseTrust”提供的数据去毒工具能够检测数据来源中是否包含带有后门、扰乱的有毒数据,并提供去毒方案。针对显式、隐式等不同形式的“毒素”检测率大于95%,结合数据清洗与对抗防御等方法,能够实现有效去毒。目前,“SenseTrust”数据脱敏工具已落地数据标注、城市管理,以及自动驾驶相关业务场景。
在模型层面,“SenseTrust”能够针对传统判别式模型和生成式模型的不同特点提供标准化和定制化的模型评测能力。针对判别式模型,可就能够面向活体识别、图像分类、目标检测等商业化需求提供一键式评测;
针对生成式模型,商汤“SenseTrust”构建了百万量级的测试数据集,覆盖三十余类伦理和安全测评维度,可对对抗安全、鲁棒安全、后门安全、可解释性和公平性评测。为进一步提升模型的风险防御能力,商汤“SenseTrust”还能够提供“AI防火墙”,从源头过滤对抗样本,综合检出率达到98%。
在应用层面,针对各方颇为关注的AIGC相关确权溯源和鉴伪问题,“SenseTrust”为此开发了数字水印解决方案,可将特定信息嵌入到数字载体中,不影响载体的使用价值,也不易被人察觉,只有通过特定的解码器和专属密钥才能提取,能够支持多模态数据。数字水印技术已服务于“商汤秒画SenseMirage”、“商汤如影SenseAvatar”等多个产品,以及内容创作、大数据等领域的客户。
与此同时,商汤也积极将大模型和生成式人工智能的治理实践成果向外输出。例如，将商汤“SenseTrust”综合鉴伪解决方案投入到十余家银行的安全系统中,实现对各类灰黑产攻击拦截成功率超行业同类产品20%以上,有效防范了黑灰产身份盗取、支付盗刷等网络诈骗。此外,包括模型体检、数字水印,以及主动投毒保护等相关技术,也已通过“商汤AI安全治理开放平台”对外开放。
AI俱乐部，致力于打造最专业的AI交流社群。
星球将分享：
1、ChatGPT的使用方法，最新资讯，商业价。
2、邀请顶尖行业大佬，每周给大家发现一个商业落地案例。
3、组织星球小伙伴一起参与实战项目，亲身感受AI浪潮。
4、系列课程和训练营，手把手带着大家去实操ChatGPT。
5、一些副业思考、创业案例、落地案例分享。
6、最早期、专业的AI交流社群。探讨未来关于ChatGPT的机遇，帮助大家解决遇到的问题。
如果有小伙伴感兴趣的话，可以一起加入星球哦！
