欢迎访问现代管理大学数字经济研究院官方网站!
程琳:加强人工智能风险评估 构建安全与建设发展同步共振体系
点击:192 作者:程琳 来源:《中国信息安全》杂志 发布时间:2019-07-11
编者按:安全是“智能+”发展的前提和基础,应从现在起加强“智能+”的安全风险评估,建立健全依法保障人工智能快速顺利发展的安全同步共振体系。
正文

 


在2018年10月中央政治局集体学习时,习近平总书记强调,人工智能已经成为国家战略。今年,国务院总理李克强作的政府工作报告又专门讲了“智能+”。“智能+”就是要利用人工智能和互联网这个工具与平台,让经济、产业等更加走向实业、实体。“智能+”与实体结合更加紧密,不仅包括工业、经济实体,也包括社会管理、国防建设和军事斗争、军民融合等,都应与整个社会紧密地融为一体。同时,“智能+”涉及国家安全、政治安全、经济安全、国防军事安全、社会安全、产品安全、运行安全、使用安全、人民生命财产安全、医疗健康安全、个人数据信息隐私安全等方方面面。此外,“智能+”也可能会带来很多安全风险,面临许多严峻挑战。安全是“智能+”发展的前提和基础,应从现在起加强“智能+”的安全风险评估,建立健全依法保障人工智能快速顺利发展的安全同步共振体系。

 

一、积极做好人工智能安全风险评估


 

在人工智能快速发展的过程中,我们不能再走互联网发展重建设、轻应用、忽安全的老路,不能在人工智能建设发展起来以后出现安全问题,再去考虑如何保障安全。发展人工智能,应该把安全问题放在起始阶段,搞好顶层设计、总体规划。

在人工智能安全方面,应该认真地研究可能给人类社会带来的安全风险,要做好前瞻性研究,并进行科学的风险评估。例如,人工智能核心关键技术的掌握问题、人工智能的自主可控问题等。

在人工智能应用方面,我国的技术基础还有待提高,芯片等很多核心关键技术产品还依赖进口。特别是在人工智能工业体系方面,应用越来越多,所带来的安全问题也更多。军事领域无人机、人工智能的广泛应用,也会带来很多安全问题。人工智能应用也会带来社会安全治理问题,以及人与人工智能的交互带来的伦理道德问题。

人工智能应用可能对人类和社会安全带来的损害和法律责任问题,值得关注。例如,无人驾驶汽车出了交通事故后,驾驶员会说“我用的是自动驾驶自己根本掌控不了”,汽车制造厂会说“我们只负责制造”,也可能问题出在软件开发者或电信网络运营商方面,还可能是传感器问题。那么,法律责任问题究竟谁来负?

人工智能在设计时本身就可能存在缺陷,就好像互联网只能做到相对安全,无法做到绝对安全一样。网络犯罪已经占到整个社会犯罪的1/3,恐怖主义分子在实施恐怖活动的时候也利用网络。恐怖主义和犯罪分子会寻找人工智能的漏洞并进行攻击和破坏,因此,人工智能在设计建设时就应尽量避免漏洞和缺陷,防止并减少安全风险问题的发生。另外,有些决策等问题不能完全依靠人工智能的分析判断,人工智能主要通过计算统计、逻辑推理,却没有办法做到像人一样在思考分析问题时出现灵感、顿悟,如果过度依靠人工智能作决策,一定会带来安全风险。

在人工智能基础设施建设和安全保障方面,也存在很多安全风险问题。例如,光纤、5G网络的安全保障问题,包括光纤安全、5G芯片、操作系统、算法、基站等,都涉及基础设施安全问题。

人工智能大数据的安全保障问题。人工智能的广泛应用,会产生新的大量数据,这些数据在传输、存储、应用分析、转移、转让共享、出入国(境)等过程中,会涉及保障人工智能大数据隐私安全问题。另外,外资企业在我国研发、制造、应用人工智能收集的数据信息,也会涉及出入国(境)、转让、有偿服务等安全问题,这就需要关注如何保护我国公民个人数据信息隐私安全、如何保障涉及国家数据信息主权安全管理等问题。同时,要在实践中鼓励国产人工智能应用,在应用中去发现问题、解决问题。不用国产的人工智能技术,就永远进不了市场,技术和功能也得不到提高。需要强调的是,在应用过程中必须注意保障安全,安全是发展的前提。

上述这些问题都是人工智能可能带来的安全风险隐患,要从政策和法律上进一步明确,要依法保障人工智能的健康快速发展。因此,研究解决人工智能的安全风险问题显得越来越紧迫和重要,而且需要下大力气寻求突破和创新。

 

二、切实做好人工智能发展顶层设计


 

目前,许多部门、行业和企业都想上人工智能项目、搞研发、应用人工智能技术。在这种形势下,一定要保持清醒和冷静,千万不能一哄而上,不能搞多投、重复的研发建设,从而造成人、财、物的极大浪费,而是要根据社会需求和发展,搞好顶层设计规划,明确方向、目标及任务。

国家有关部门应该在国家发展战略指导下,明确人工智能具体在哪些领域、哪些行业重点发展,走哪条路径;国有企业和民营企业要按大方向大目标花大力气去研发建设。

要发挥国家制度体制和人才优势,统筹规划,加强基础设施、基本理论、基础技术的研究和建设,强化自主研发,掌握人工智能的核心关键技术,力争做到自主可控,保障安全。

要加强军民融合,根据军地需求及各自的人才和技术优势,做好研发和应用,充分发挥人工智能在强国强军中的作用。

要构建人工智能研发、建设、应用、管理、安全“五位一体”的同步共振体系,要吸取互联网建设发展的教训,要在人工智能的研发阶段、建设阶段、应用阶段、服务阶段、管理的全过程始终实现“五位一体”,要将安全嵌入其中,始终融为一体,不可分离。

人工智能发展离不开安全,但是,安全是看不见摸不着的,就好像人离不开氧气一样。如果人工智能发展离开了安全,必定失败,难以成功。人工智能从起始就要让安全与建设发展同步共振。

 

三、切实加强人工智能学科专业建设和人才培养


 

教育部已发文件,高校可设人工智能学科专业。一些高校积极地申报设立了人工智能学科专业,加强这方面的人才培养。

近些年,我国在人工智能基础理论、基础技术、学科专业体系和人才培养方面,还存在不足和困难。人工智能要作为一个学科专业发展,还有许多的工作要做。一定要突出人工智能的学科专业特色,加强学科的基础理论研究,科学构建学科专业的体系架构。

要改革人工智能人才培养的模式。人工智能是跨自然科学和社会科学的新型学科,如果按照传统的理工类或者社科类分别培养人工智能人才,难以满足人工智能对人才的需求。比如,人工智能模拟人的某些语言、思维过程、智能行为等,涉及语言学、心理学、哲学、数学、计算机科学、自然科学和社会科学等学科,必须针对人工智能的特点构建人工智能学科基础和学科体系,培养独具特色的高级专门技术人才。

要突出人工智能人才培养的特色和优势,要在培养高级专门人才上下功夫,尤其要在学科研究、学术带头人培养和专业人才队伍建设方面,狠下功夫。有资料表明,我国人工智能人才缺70万,因此,国家应加大投入,加强加快人才培养的力度,加速解决我国人工智能人才的短缺问题。

如果仅仅依靠高校,难以解决人才短缺问题,要通过职业和岗位培训,鼓励高校与行业、企业联合培养人才,鼓励在干中学,学中干。要加强人工智能学科专业对学生理论和实践能力的培养,学生一定要具备很强的实践动手能力,做到能文能武。

应加强与国际人工智能方面的交流和合作,尤其在学术和人才交流培养方面,应该进一步加强,不要起步差不多,跑一阵以后又掉下来了。人工智能要加速大发展,关键在人才,没有人才,人工智能难以发展起来。我们一定要坚持根据社会需求培养人才,社会和人工智能领域需要什么样的人才,就应加大力度培养什么样的人才,从而促进人工智能的大力发展。

(作者:程琳 ,中国人民公安大学原党委书记、校长 来源:《中国信息安全》杂志)
编辑:数字华选
图片新闻

友情链接

  • 地址:北京市丰台区南三环78号 网址:www.tghxsz.com 邮箱:bhtc@tghxsz.com
    版权所有 2015-2023(©) 现代管理大学数字经济研究院 备案号:京ICP备19031389号-1