2022全球数字经济大会人工智能专场：AI安全受高度关注

7月28日，2022全球数字经济大会人工智能驱动未来产业论坛在北京成功举办。论坛聚焦人工智能技术的演进方向，邀请两院院士、顶尖专家学者、国内外产学研用等多位重量级嘉宾，围绕人工智能在数字经济产业创新中的关键作用等热点议题，共话行业趋势，为推动北京全球数字经济标杆城市建设建言献策。

当前，在全球经济下行压力加大的形势下，数字经济的持续稳定快速发展已经成为全球经济增长的新动能。人工智能作为数字经济七大重点产业之一，是数字经济时代的重要基础设施、关键技术以及赋能引擎，将在“十四五”期间为我国产业转型升级和数字经济发展提供核心驱动力，本次论坛期间，围绕人工智能安全与健康可持续发展话题受高度关注。

北京市经济和信息化局局长张劲松

北京市经济和信息化局局长张劲松在致辞时表示，北京市高度重视人工智能产业发展，近年来发展成效显著，人工智能产业规模位列全国各省市之首。在深入推进人工智能安全风险治理方面，北京市探索建立人工智能融合应用安全风险治理体系，指导开展安全风险评估，提升风险管理能力，同时加快推进人工智能数据治理工作，强化人工智能数据资源的高质量建设、高水平开放与高水平利用，助力构筑北京人工智能安全生态。

在论坛的主旨演讲环节，新加坡工程院院士、新加坡管理大学教授Robert H.Deng，美国加州大学伯克利分校电子工程和计算科学系教授宋晓东分别就“基于人工智能安全的发展战略研究”、“有责可信可控的AI安全体系”等主题进行主题演讲，多层次展现人工智能安全在未来产业发展中的重要作用。Robert H.Deng表示，目前的机器学习系统由于不懂得概念，存在输入攻击、投毒攻击等安全隐患，随着与社会各层面的深度结合，这些攻击将导致严重后果，因此人工智能安全规范和标准的制定及落实是当务之急。

在圆桌论坛环节，瑞莱智慧合伙人、高级副总裁朱萌表示，当前人工智能产业进入高质量发展的新阶段，随着《新一代人工智能伦理规范》《新一代人工智能治理原则——发展负责任的人工智能》等发布，构建人工智能安全发展规范已迎来关键窗口期，“安全可控”成为亟待补全的基础能力，包括解决数据强依赖带来的隐私泄露等隐患，提升算法的可靠性，保证系统有意攻击情况下依然稳定运行，以及深度合成技术应用的合规可控等。

AI安全领域的关键技术研究与突破已成为人工智能产业进一步发展的核心推动力，加强人工智能安全治理体系建设也已成为推动数字经济高质量发展的重大战略支撑。作为清华大学人工智能研究院发起设立的AI企业，瑞莱智慧自创立以来，致力于以安全、可靠、可解释、可扩展的第三代人工智能，创新布局隐私计算、算法攻防、深度伪造检测等前沿赛道，为政务、金融、能源、制造等领域的数智化升级构建安全基准。同时，作为中关村高新技术企业，瑞莱智慧也为首都成为全球数字经济标杆城市贡献力量。

会上，北京人工智能产业联盟和集智未来联合发布“北京国家人工智能创新应用先导区示范案例”，集中展示了北京国家人工智能创新应用先导区建设成果，瑞莱智慧人工智能安全平台RealSafe，从百余个征集案例中脱颖而出、成功入选。

RealSafe是业内首个针对AI系统的“杀毒软件”，通过集成主流及RealAI独有的世界领先AI对抗技术，提供模型安全性量化测评及安全性提升的端到端解决方案，用户在使用中无需任何编程操作。RealSafe支持针对对抗样本攻击、模型后门攻击两类安全风险的检测，提供被测AI模型的安全评分、风险报告，以及多种纵深防御方案。