AI大咖谈 | 观安信息胡绍勇:人工智能发展亟需探索安全发展之道

2019世界人工智能大会将于8月29日正式开幕。对于人工智能的发展,即将参加本届人工智能大会的大咖们都有哪些真知灼见?

今天我们邀请到了即将参加2019世界人工智能安全高端对话的上海观安信息技术股份有限公司CTO胡绍勇,一起来听听他怎么说。

■上海观安信息技术股份有限公司CTO胡绍勇

胡绍勇介绍说:

目前国内外都缺乏相应的法规对例如训练数据集质量问题等内容进行规范,同样,目前我们国家也缺乏像《数据安全法》、《个人数据保护法》等相关的数据安全法规,这样就不能有效地对人工智能中涉及的数据隐私问题进行有效抑制。

另外,现在人工智能存在数据需求量极大、算法可解释性不足、数据处理不可预测等特点,这就使得既有的数据保护法律有着极大的局限性,比如GDPR。

因为法律的发展具有一定的滞后性,而目前人工智能发展又处于相对野蛮且不受规制的阶段,虽然我们一直倡议要出台针对用户数据保护的条规,但因为很多企业不存在合规性的压力,所以数据安全依然存在很大的风险空间,尤其对于初创小微企业来说,他们对数据安全的关注都是比较欠缺的。

法律法规和安全意识上对数据保护缺乏有效应对条件的话,那在技术上是否可行呢?

胡绍勇表示,其实目前技术上也处于初步发展阶段,针对人工智能领域数据安全保护的风险评估工具、测评工具目前都比较缺乏,针对数据投毒等攻击类型的防御方法并不能有效应对所有攻击。

总的来说,目前无论是国内还是国际大环境,针对人工智能领域的安全,数据安全,各方面的有效手段都是比较缺乏的,也是需要亟需探索的。

来源:周到上海       作者:潘文