媒体声音

超级人工智能何时到来?姚期智:尚不可预知

来源:新华网    作者:admin    发布时间:2020-10-23    访问量:161

11.1.jpg

图为图灵奖首位亚裔科学家、中国科学院院士姚期智作发言(主办方供图)

 

新华网上海1022日电(冯孔)2020浦江创新论坛开幕式及全体大会1022日在上海举行。在大会报告环节,图灵奖首位亚裔科学家、中国科学院院士姚期智作发言,他从人工智能技术存在的弱点,下一步的突破方向等方面做了分享。

 

姚期智表示,人工智能看起来非常亮丽,但很多算法仍有相当大的脆弱和不稳定性。他举例道:一张小猪的图片,在人眼和人工智能眼中呈现的都是小猪,但如果给该照片一个非常小的杂音,稍微改变一点它的图像,有些人工智能产生的算法就会突然不认识它,将其识别为“飞机”,这可能会产生非常大的危险,如用在无人驾驶上,人工智能可能会将禁止通行识别错误,从而造成安全问题。

 

同时,姚期智认为目前的人工智能系统缺乏可解释性。他以“房产估价系统”举例,“如果用人工智能对房地产进行估价,机器学习演算之后产生了一个系统,用这个系统可以给房子一个很好的估价,但你如果拿出来用的话,卖方可能会有所怀疑,系统是否可信?”“我们现在的人工智能的算法有很大的优势,但也有缺陷,像一个‘黑盒子’一样非常神秘。”姚期智说。

 

超级人工智能何时到来?在姚期智看来“这尚不可预知”。他认为,超级人工智能必须可控而有益,在这一点上就像原子能、基因编辑一样。

 

对于人工智能的隐私保护问题,姚期智认为,可以通过使用多方计算,多个数据库可以联手计算,却又不透露各自数据。“从人工智能、机器学习的角度来说,多方计算可以允许一些不同的队伍,他们各有各的数据,大家一起合作,一方面实现高质量的学习,另一方面又保障各方的数据安全。”姚期智说,这对于金融科技、药物开发、AI应用都非常有用。

 

浦江创新论坛创办于2008年,由科技部和上海市人民政府共同主办,已发展成为具有较强影响力的高层次国际创新论坛。本届论坛以“科技合作与创新共治”为主题,采取线上与线下融合方式举办,来自20多个国家和地区的逾160位发言嘉宾应邀出席。

 

责任编辑:凌纪伟

来源:新华网