“安全性是AI的最大挑战之一”

青年报 王霞

随着人工智能的迅速发展,人工智能可能“将面临更加严重的安全问题”。

“攻击者也在不断追随新技术的脚步,甚至有时快于技术的发展。所以,未来出现更多AI智能系统的同时也可能会受到更多攻击。”在近日举行的理解未来讲座上,美国加州大学伯克利分校计算机系教授Dawn Song给当前AI的迅猛发展敲响“警钟”,“AI的安全性必须引起重视。”  

青年报 王霞

或许你们还记得今年5月份大规模爆发的“WannaCry”勒索病毒,全球国家和地区的互联网都受到不同程度的损害,影响范围之广令人谈之色变。

无独有偶,2016年初发现的Petya勒索病毒,最初只是利用电子邮件传播,其后不断增强攻击能力,2017年已波及60个国家和地区的约30万用户,令数家企业被迫中断业务或停止生产。网络的飞速发展让全世界联系得更紧密,也让每个终端的安全变得更脆弱。

“这些或许还只是冰川非常小的一角,世界互联化增加,恶意袭击就会不断增加。所以,AI的安全性必须要引起重视。”美国加州大学伯克利分校计算机系教授Dawn Song在上周举行的第29期理解未来讲座中指出。

Dawn Song坚信,“安全性是将来部署使用AI最重要的、最大的一个挑战”。她表示,如果要去建立计算机学习系统的安全性,需要从软件、学习、分布3个层面考虑,包括不断开发新型的、更加安全的措施,保护计算机不受蠕虫病毒和恶意软件的袭击;设计更好的架构,进一步保护网络的安全;了解发生攻击的模型,并对其模拟,从而通过分析研究找出对策。

作为面向大众的公益科学讲座,理解未来讲座致力于邀请有洞察力和前瞻性的创新科学家担任主讲嘉宾,本次讲座为第29期。来自上海交通大学、普林斯顿大学、未来论坛、流利说及上海纽约大学的多位教授及嘉宾从不同视角探讨了人工智能和计算机安全的关系,并一致认为,人工智能与计算机安全相结合是一个势不可挡的趋势。

“目前,保护系统安全占用了人们大量的时间和精力。如果将这项工作自动化,就可以以较低成本强化大量系统和应用程序的安全,进而大大提高国家网络防御的敏捷性。” Dawn Song举例道。

面对“人工智能的超强大脑能否成为网络安全的守护者”的问题,现场科学家们认为,随着人工智能的进步,“上述问题均可得到缓解”。

此外,为促进人工智能及科技的健康发展,毕马威中国在本届讲座中宣布,即日起将正式启动毕马威中国2017领先汽车科技50评选。

毕马威中国科技及信息业主管合伙人吴剑林表示,此次榜单活动过程中,毕马威将访谈、记录和报道汽车科技领域的优秀技术、公司和产品,沉淀专家观点和知识来普及大众,以便促进中国汽车科技领域的发展和更好地支持该领域科技企业的成长。