WWW1680090COM【官网入口】WWW1680090COM_【都匀社区新闻网】

南京市 2020-09-22 15:06:49 69

原标题:中国工程院院士方滨兴:内生安全问题可能成为人工智能“死穴”

  从自动驾驶到智能家居,近两年,人工智能技术和应用发展迅速,科幻电影中曾经描绘的“人机共存”时代,似乎离人类越来越近。然而,人工智能足够安全吗?4月20日,在2019西湖论剑·网络安全大会上,中国工程院院士倪光南、邬江兴、方滨兴和杨小牛,表达了他们对人工智能潜在风险的思考和隐忧。

中国工程院院士共话网络安全。

25年前的今年,中国全功能接入国际互联网,就此拉开中国互联网的发展序幕,全社会的经济、文化、生活方式迎来深刻变革。

中国工程院院士邬江兴仍然记得当年的场景。他说,大家感到“欢新鼓舞”,各行各业都在倡导“互联网+”。但在发展伊始,网络安全问题没有得到足够重视,导致了现在的很多遗留问题。

2014年,中共中央总书记习近平在中央网络安全和信息化领导小组第一次会议上强调,网络安全和信息化是一体之两翼、驱动之双轮,必须统一谋划、统一部署、统一推进、统一实施。做好网络安全和信息化工作,要处理好安全和发展的关系,做到协调一致、齐头并进,以安全保发展、以发展促安全,努力建久安之势、成长治之业。

邬江兴深以为然。但他也坦言,同步安全和发展,对于全人类而言都是挑战。如今,人工智能应用正像互联网一样进入日常生活,各行各业须及早考虑人工智能的安全问题,否则就会重走当年的老路。“不管是什么问题都会有副作用,必须在发展的初期来解决。”他说。

中国工程院院士杨小牛,也有类似担忧:“人工智能会不会又像互联网一样,刚开始不考虑它自身的安全,最后发现存在各种各样的问题,面临相当大的风险?”他认为,将来,如何让算法更加安全、可靠,是一个突出问题。

中国工程院院士方滨兴提出,人工智能的内生安全问题,可能成为其“死穴”。例如,一个被贴上几张小广告的停车标志牌,人看到标志牌会觉得毫无差别,但算法识别就会出现错误。

方滨兴介绍,这样的错误,与人工智能的内生原理有关。人工智能靠大量的数据和神经网络学习,人能够看到人工智能的处理结果,但神经网络中还有很多人看不到的隐含层。因此,几个小广告,甚至是像素点的改变,都会导致人工智能处理错误。

“现在要关注网络安全的新挑战”,中国工程院院士倪光南说,新技术带来了许多传统安全领域没有的新问题、新现象,必须予以重视。以自动驾驶汽车为例,如果黑客通过网络攻击获得了控制权,自动驾驶汽车就会变得非常危险。

采写:南都记者冯群星 蒋琳

作者:冯群星 蒋琳

本文地址:http://www.kmdgpark.cn/?tag=WWW.6789625.COM
版权声明:

WWW48588HCOM WWW9991006COM WWWSSS0024COM WWW9170033COM WWW1438147COM WWWXPJ0042COM WWW487CC WWW3651148COM WWW2839EECOM WWW827JSCOM WWW55348COM WWWSENURCARECOM WWWC1762COM WWW8841070COM WWW7811500COM WWW3657ICOM WWW71071SCOM WWWKK04COM WWW88839SCOM WWWATM04COM WWW513396COM WWW566039COM WWW71071TCOM WWWAG5874COM WWW498241COM WWW9113786COM WWW898836COM WWW552774COM WWW566711COM WWW33558BBCOM WWW5983777COM WWWPJ9673COM WWWVNS8806COM WWWJSW13COM WWW293130COM WWWBC4442COM WWW3638666COM WWWXH3355COM

本文仅代表作者观点,不代表本站立场。
本文系作者授权发表,未经许可,不得转载。

WWW1680090COM全站热门

女生读研越来越猛,特别是这些省份!

在农村,不少农民有出息后都和父老乡亲断了关系,不再来往,为啥

神吐槽:求你别翻拍了 我就喜欢嚼冷饭

喜茶就与杜蕾斯官微互动致歉:已删微博 并无恶意

初二女生20天内遭到生父多次性侵 生母竟帮忙捂嘴

习近平同巴西联邦共和国总统举行会谈 两国元首一致同意推动中巴全面战略伙伴关系取得新的更大发展

自从家里养了猫,我的智商是越来越不够用,每天找猫猫让我头秃

习近平同巴西联邦共和国总统举行会谈 两国元首一致同意推动中巴全面战略伙伴关系取得新的更大发展

友情链接