Quantcast
Channel: CodeSection,代码区,网络安全 - CodeSec
Viewing all articles
Browse latest Browse all 12749

人工智能时代信息安全监管面临的挑战及对策

0
0

■ 国家计算机网络与信息安全管理中心 邓文兵

当前,全球范围内新一轮科技革命正在萌发,传统互联网正在向万物互联和智能化方向发生深刻转变。大数据的聚合分析、理论算法的革新、计算能力的显著提升及网络设施的迭代演进驱动人工智能发展进入新阶段。作为一项引领未来的战略性技术,人工智能具有显著的溢出效应,它将深刻改变世界竞争格局、改变人类社会生活。

与此同时,人工智能并不是万能的,它是一柄“双刃剑”。

人工智能作为一项影响面极广的颠覆性技术,假如放任其发展,又会对信息安全构成一定的挑战。相较于传统的互联网时代,智慧赋能后的网络信息技术可以通过对现实中真实的人进行上网数据与行为的聚合分析,并对其进行“虚拟行为画像”,从而构建一个比独立个体更加完整的“虚拟人”,进而实现对真实个体的社会行为进行分析与预判。因此,若不对人工智能技术应用加以合理的监管,势必会造成个人数据和个人隐私泄露,引发信息安全风险。

一、智慧赋能的应用对信息安全监管构成潜在挑战

人工智能发展正处于快速上升期,技术水平和质量参差不齐,未来发展趋向也尚不明朗。在个人隐私保护意识越加强化的今天,智慧赋能后的技术应用将会对信息安全造成潜在的风险,引发国家安全稳定风险。同时,从技术层面讲,智能化的技术还不能做到完全科学精确,甚至有可能产生“信息失真”和“行为误判”,从而引发社会伦理道德风险。而最为关键的是,相对于蓬勃发展的人工智能技术开发与应用,与之相配套的法律制度严重滞后,适应智能化发展需要的信息安全监管体系也尚未形成,智慧赋能后的信息安全监管处于“无法可依”状态,这将对信息安全监管的长久发展带来极大的不确定性和不稳定性。总的而言,人工智能技术的广泛应用有以下几方面潜在风险:

1.内部控制失效

人工智能技术的应用建立在对互联网用户上网数据采集的基础之上,没有大规模的数据存储和数据分析,就不会有智能化的便捷应用和技术服务。针对个人上网数据的大型知识库,主要掌握在拥有先进技术和雄厚资源的大型互联网企业手中,他们一手收集着用户的数据信息,一手分析这些信息并将之智能化应用。由于企业具有逐利的本性,加之信息安全管控高投入的门槛,可能会导致其控制数据泄露的机制形同虚设,无法有效运转。

2.安全监管缺位

作为一门新的技术应用,人工智能技术应用具有极强的社会颠覆性,属于典型的技术密集型产业,技术更新迭代非常快,始终引领时代发展之大潮。然而,监管具有先天的滞后性,信息安全监管永远落后于信息技术的发展。一方面,信息安全监管是以信息技术发展为前提的,另一方面,信息安全监管又借助信息技术。因此,人工智能时代,信息安全监管面临着极强的压力,监管策略和监管技术的及时调整和补位就显得尤为必要。

3.法律规制滞后

法律与制度是信息安全监管的重要手段,人工智能日新月异,其升级周期随着数据的积累和算法的更新会越来越短。相反,信息安全监管法律的产生具有较大的时间成本和知识消化成本,势必会远远滞后于人工智能新技术的应用发展。当前,人工智能技术应用早已从襁褓中的婴儿成长为茁壮少年,但与之相配套的法律规制却还未迎来新生,这将对人工智能技术的发展应用造成极大的不稳定性。

二、信息安全监管所面临的智能化挑战形成原因与困境 1.智能化挑战形成于科技变革史之中

当前,全球范围内人工智能技术日新月异,人工智能应用蓬勃发展,无人驾驶、工业互联、智能大脑等各种智能化应用场景比比皆是。从科技史角度探究,信息技术革命向人工智能革命的深刻转变,极大地挑战着社会的良性、稳定发展。智慧赋能的信息安全所面临的内部控制失效、安全监管缺位、法律规制滞后等挑战根本上源于这轮信息技术发展具有颠覆性,人类技术发展进入了新的周期、新的层次。意识具有主观能动性,纵观全球,技术的更新迭代总会引起一定程度社会制度的自调整,而这一调整的过程就在于解决技术发展与人类社会的不相匹配性。

2.智能化挑战对“三维社会结构”的稳定性构成威胁

广义而言,社会具有三个维度,即个人维度、社群维度和国家维度,个人组成社群,社群孕育国家。从人类文明发展的角度来看,人类社会的文明就是在个人、社群和国家三个维度相互作用的情况下辩证发展的。“三维社会结构”作用于文明的进程,文明的进程反过来也作用于“三维社会结构”。以人工智能为代表的新技术革命,是人类文明发展进步的最新成果,也是具有潜在能够裂变人类社会结构的新物种。人工智能技术应用强化了“技术伦理”的重要性,一旦技术失去中立,智能失去理性,势必会影响到“三维社会结构”的稳定性,造成结构性矛盾。

3.信息安全监管体系与智能化应用体系的不匹配性

一定的社会治理体系总是与一定的社会运行体系相作用的,科学的治理体系会有益于社会稳定运行,反之,不良的治理体系将有碍于社会的稳定运行。从智能化挑战的演变态势来看,人类社会并未充分做好适应人工智能发展的准备。现有的信息安全监管体系还停留在条块分割的初始起步阶段,与蓬勃发展的人工智能应用之间存在一定程度的不匹配性,信息安全监管理念和策略严重滞后,信息安全监管手段力不能及,信息安全监管人才储备不足,导致人工智能应用处于野蛮成长状态,如不进行社会自调整,势必会造成技术伦理与人类社会伦理出现偏差,影响社会长治久安。

三、面向智能化信息安全监管需要的应对之策

如前文所言,人工智能来势汹汹、发展迅猛,对人类“三维社会结构”的稳定性构成潜在的挑战。面对人工智能时代的新形势,信息安全监管理念必须主动求变,要在牢牢把握人工智能发展的重大历史机遇期,紧扣产业发展大势,引领信息安全技术产业发展向智能化方向转变的同时,清醒地认识到其潜在的非技术性风险和挑战,主动谋划布局信息安全监管社会支撑与内部控制体系,抢占战略性研究先机,加强前瞻预防与约束引导,积极推动国家信息安全监管相关法律法规的制定与完善,规范做好信息安全相关数据信息的内控工作,更好地服务经济社会发展大局,确保智能化的信息技术产业安全、可靠、可控发展,防范社会发生系统性风险。以三维社会结构为支撑,可以从以下几方面着手应对智能化的信息安全监管挑战:

1.构建面向未来的国家信息安全监管战略体系

战略是思想的高阶,是对未来一段时期行动的指引。积极应对人工智能对信息安全监管带来的挑战,就是要合理把握人工智能发展需要与国家信息安全保障、公民社会与国家安全之间的平衡,科学谋划智能化应用和信息安全产业发展规划,出台人工智能相关发展行动计划,引领人工智能产业积极、健康发展。同时,构建面向未来的信息安全监管战略体系,这一体系要有一定的可调整性,能够紧跟人工智能技术发展的大潮,能够适应人工智能应用发展的大势。

信息安全监管理念方面,要实现从传统互联网思维到新兴人工智能思维转变,变被动数据流量监管为主动的虚拟行为防范。信息安全监管思路方面,要打破部门监管藩篱,消除数据壁垒,避免消耗性竞争,实现跨部门监管资源的整合。信息安全监管体系方面,要构建从国家到社会,再到个人的三个层次全方位的智能化信息安全保障体系。

2.建立“立体式”的信息安全监管社会支撑体系

技术具有社群性,人工智能技术发展有赖于社群的成长,同时,也服务于一定范围的社群。要充分动员社群力量,建立“共建、共治、共享”的信息安全监管社会支撑体系,积极引导人工智能行业自治组织发展,鼓励信息安全技术创新发展,严格执行网络安全等级保护制度,完善信息安全标准体系,培育公民信息安全保护意识。

信息安全监管法律政策方面,要抢占战略性研究先机,积极推动国家信息安全监管相关法律法规的制定与完善。内部控制方面,要加强前瞻预防与约束引导,规范做好信息安全相关数据信息的内控工作,避免公民个人数据信息的滥用。公民信息安全意识培育方面,要加强普法教育和国家总体安全观宣传,合理增加信息安全监管的公众认知度。人才队伍建设方面,要鼓励跨界研究和跨部门合作,提升信息安全研究的综合竞争力。

(本文刊登于《中国信息安全》杂志2018年第10期)

声明:本文来自中国信息安全,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如需转载,请联系原作者获取授权。


Viewing all articles
Browse latest Browse all 12749