上海启动AI数据安全风险评估平台丨2020世界人工智能大会

7月10日,2020世界人工智能安全高端对话在上海世博中心举行, 启动了“人工智能数据安全风险评估平台”,并发布了《人工智能数据安全治理报告》(以下简称报告)。

随着人工智能在产业和技术上加快渡过“探索期”,逐步进入“成长期”,人工智能与数据安全更加深度交织。数据安全问题已然成为人工智能突破关键转轨期所必须解决的重要制约瓶颈。

对此,《报告》基于数据生命周期的视域,重点聚焦分析了在数据采集、数据处理、数据流动和数据使用阶段较为独特或突出的数据安全问题、风险影响机制以及安全风险后果。

《报告》还为中国人工智能数据安全治理提出了一个综合性的框架体系,具体包括治理思路、治理原则、治理路径三个方面。

框架强调要在人工智能的动态发展中实现对数据安全风险整体的可知可控、确保人工智能数据在采集、标注、处理、存储、流动、共享和场景应用的全生命周期安全,不断提高人工智能企业的数据安全能力,增强人工智能数据安全供给链的连续性和可用性。

作为适用于通用场景的企业级解决方案,人工智能数据安全风险评估平台也在世界人工智能大会上正式启动。

人工智能数据安全风险评估平台包括风险评估、数据集管理、知识库管理、威胁情报等功能,用于对特定人工智能应用场景中的数据安全风险进行总体评估和评级,以及数据集管理和知识库建设。

该平台设定了安全基线,开发用于敏感数据探测、数据质量检测、数据差异检测、漏洞检测以及脆弱性检测的工具。基于检测工具汇集的数据实现数据安全风险信息实时收集、自动推送、智能分析、量化评估与诊断分级。针对人工智能应用场景中的数据安全实现多层级、多维度风险评估,为企业对人工智能系统开展自评以及第三方测评机构针对人工智能项目开展风险评估和产品认证提供技术、工具和平台。

在完善和优化数据安全风险检测的基础上,该平台利用数据积累形成的数据资源池,根据不断变化的应用场景需求,构造用于各类人工智能模型的训练、测试及验证标准数据集。此外,平台还建设了人工智能数据安全知识库及威胁情报库。

来源:周到上海       作者:李晓明