马洪涛:

接下来,我们有请到的依然是一位非常令人尊敬的专业人士,他就是国际智能控制早期开拓者、中国科学院自动化研究所复杂系统管理与控制国家重点实验室主任王飞跃先生,王主任也会给我们带来一个非常专业的报告,题目是《平行世界的平行安全:基于CPSS的生成式对抗安全智慧系统》,掌声欢迎!

thum/20180828/5b856cee4423e.JPG

王飞跃:我今天跟大家交流的是我们在安全方面十几年的一种探索,今天在座还有北京交通大学的李教授,他也是跟我们一起合作来做过这方面的研究。还有一位是以前在美国的张教授,现在他回到武汉大学,主要是做IoT方面的研究,有些探索是我们共同讨论的结果。

我们讲安全和人工智能,人工智能对大家冲击最大的就是最近的AlphaGo,因为围棋是我们中国人发明的,我一直想围棋在中国人手里被攻破,结果提前实现了。这到底意味着什么?在座大部分都是做计算机的,计算机能走到今天,信息产业能走到今天,当年就是靠了一个Church-Turing Thesis(邱奇-图灵论题),再就是Thesis我们的技术商。

对于我们来说,我们再往下走,从今天的工业社会走向智能社会,就要靠AlphaGo Thesis,AlphaGo Thesis是什么意思?用一个特征来描述就是平行,虚实互动,安全也必须在这方面考虑。

用两个特征描述,就是要从牛顿到默顿,从牛顿时代的确定性、大定理、小数据,走到默顿时代的引导性,要大数据、小定律,安全也必须在这个角度下考虑。做智能安全的一定要告诉我,你怎么把小数据弄成大数据,又把大数据怎么提炼成小智能的,解决具体攻击问题的精准防卫或者反击知识的过程,所以一定要从小数据到大数据,大数据再到小智能。

thum/20180828/5b856d034daf4.JPG

再具体的用普通人的说法就是,将来我们有三个三:三个IT,面对三个世界,我们已经进入一个新时代,叫第三轴心时代。这三个IT是什么?我们最熟悉的IT是信息技术,AlphaGo之后,IT就不再是信息技术了,那是老皇历,是旧IT。从今之后,IT就是智能技术,这是新IT。

但是我们别忘了,2000年前IT叫工业技术,将来一定是三个IT平行的世界。它的哲学基础就是上世纪最伟大的科学哲学家卡尔·波普尔讲的,我们这个世界是由三个世界组成的,除了大家共同知道的物理和心理之外,我们还要有一个人工世界,老IT开发了物理世界,旧IT开发了心理世界,现在我们要开发人工世界了,人工智能热了,石油变成矿藏了,所以我们需要新IT,智能技术。

thum/20180828/5b856d0fdd734.JPG

老IT只能产生小数据,管你有多少传感器,管你网速有多快,你的数据永远是小数据。只有在心理世界,通过计算实验,你要多少数据我给你多少数据,就看你耗多少电了,这是旧IT干的事情。新IT要把大数据再提炼成小智能,精准的智能,精准到什么程度?就看你耗多少电了。所以刚才邬院士讲得非常对,5G面对的是APP,我说不但是APP,还是DAPP,分布式应用,挖矿就是个最好的例子。现在年初的预计,今年全世界耗电是千分之五,到现在说今年耗电力千分之一了,不但通信要5G,还要6G、7G、8G、9G,以后电的耗能都要在DAPP上了。

这就进入了一个新的时代,这个新的时代就是另外一个卡尔告诉我们的,卡尔在中国最有名,卡尔·马克思,马克思他死于1883年,又来了第二个卡尔。卡尔·雅斯贝斯,他在中华人民共和国诞生的1949年,写了一本书,叫《历史的起源与目标》,非常有名。为什么有名?

他提出了轴心时代的概念,公元前800到200年,这600年之前,全世界突然在三个两河流域开始了人类人性的大觉醒,开始问我是谁?从哪里来?到哪里去?产生了哲学。中东的两河流域,古希腊从苏格拉底、伯拉图,一直到亚里士多德,到中国就是老子、孔子、荀子全来了,这是哲学出来了

thum/20180828/5b856d26dcd42.JPG

我说那只是物理世界的轴心时代,不是三个世界吗?每个世界都应该有自己的轴心,心理世界的轴心就是从文艺复兴一直到哥白尼、伽利略、牛顿、爱因斯坦,是人类理性的大觉醒,科学出来了,更加具体了。但是后来发现,理性也是有界的,第一枪打的就是哥德尔的不完备定律,数学完整逻辑不对,数学你无法证明是一致和完备的,数学有个大黑洞。

所以人工智能的创始人,得过诺贝尔奖的罗伯特·西蒙,为什么得诺贝尔奖?就是提出了有限理性,去年的诺贝尔奖还是给了有限理性,人类到了智理大觉醒。他的一个进步要更加具体,从哲学到科学,从科学到技术了,所以新IT,智能技术来了,这就是第三轴心时代。

为什么这个轴心时代来了?是人的第一本性,就是恐惧,因为恐惧要交流,需要网络。第二来了,贪婪,要比较,也要网络。又来了第三个,天性懒惰,因为懒惰要寻求共识,制定标准,一起偷懒,还要网络,这就是全球化。物理世界的全球化你有了我就没了,所以只能是附和,侵略、压迫就是它的代名词;心理世界还好,零和,可以贸易,不是你的枪炮,是给你货物,眼见的贸易战已经开始了,也已经走到头了。

但是我们又来了一个第三世界,是一个无中生有的世界,你也可以有,我也可以有,所以可以是郑和,共赢,这是我们从古丝绸之路到郑和下西洋,“一带一路”,需要新的智能观。这个智能观是什么?要考虑我们的技术基础。

三个三之后,我还有五个五:第一是五张网,我们今天谈的主要是交通网,我们忘了,第一张网就是建立在物理世界的,交通网,还有能源网、信息网和物联网。物联网跟互联网的区别在哪里?互联网我们是被联,是Positively Connective。它是Passively connective。我们到了物联网,我们再联了,叫Physically Connective。

thum/20180828/5b856d35f2002.JPG

thum/20180828/5b856d440cb8e.JPG

但是人类要主导,所以还要到智联网去,都是PC,这样一来,整个社会形态就变了,交通现在已经变成社会交通了,很快能源,面向分布式的应用,DAPP能源变成社会能源了,计算已经变成社会计算了,制造3D打印、机器人要变成社会制造了,但是核心必须是社会智能。只有这样,才能走向智能社会。这五张网,就把三个世界紧密的连成一个整体,人在中间,网络2.0到物理世界拿来物质,拿来能量,网络4.0到人工世界,拿来知识,拿来智能。

这个过程要完成,必须要通过一个五度空间,三个基础世界,要把物理空间和Cyber融成一体,要CPSS,必须把社会放在中间,Cyber Physical Social System,我最初提的CSP,Cyber Social Physical for Knowledge Automation,但是美国提CPS for Knowledge Discovery,不能忽略S,Social,所以要CPSS,然后还要五力合一,数据的力量、计算的力量、算法的力量、网络的力量,最后一定还要有区块链的力量。

这样,我们就自然而然进入一个新的工业5.0常态。读过大学的人应该最清楚,以前进大学的时候不分科,要么哲学,要么文学。1.0进来了才有了工科,机械系,土木系,电动机2.0,计算机3.0来了,我们有了计算机,现在有了物联网系,物联网学院。50几个大学已经有了智能科学系、人工智能学院。所以5.0是一个常态,4.0名字起得非常好,也非常有道理。按照他自己的说法,核心是ICT+CPS,一点都不错。

问题什么是ICT?他们的定义是历史的定义,我们需要一个时代的新定义。不同的理解,就是不同的时代,原来的理解还在工业自动化,我们靠工业自动化走到了今天,我们要走向明天,智慧社会,智能产业,我们需要知识自动化。所以你发现了没有?英文的工业去掉S就变成了德文的工业了,5.0就变成4.0了,我们要固态的。

家电学会两年前找我,他们2000年开了一个会,让我来做报告,我的第一句话就是第四次工业革命。但是到了2004年我就变了,网络一来,几万、几亿个东西串起来,这么复杂,还要用常规的东西做它的安全和管理,那是对于人智力的非分要求,所以必须要新思路,就是平行,我们当时提出来是DT,不是Digital Twins,是Double Twins,是四胞胎,但是将来还要更广的平行组织来完成这个事情。

所以到了2010年我就说,不能光谈CPS了,只有在CPSS之下才有智能企业,智能工厂出来,然后会迎接一个新的智能产业,小数据到大数据,大数据到小智能,把它固化下来,一定要有区块链,我就不讲了。将来这五度空间,就形成了一个新的一体。我们今天到一个城市,到一个国家,它说它是发达国家,一定要看到高速公路、飞机场、火车、码头。要没有这些,它说是发达国家,你说这是瞎忽悠。

thum/20180828/5b856d50cc8bf.JPG

thum/20180828/5b856d60126a9.JPG

以后你到一个智慧社会,智慧国家,智能城市,你一定要告诉我,你的CPSS在哪里,你的各种各样的X5.0系统在哪里,变成了人机结合,知行要合一。最后是虚实一体,这不是文学术语,要变成技术要求,技术标准,相应的安全是什么?军事已经看到了,三战合一,传统的指哪儿打哪儿的高科技战,要变成网络上的打哪儿?指哪儿?最后对不起,打哪儿指哪儿,变成一个观战,变成一个政治战,明战、暗战、观战,三战合一,以前是一个一个来,现在是同时进行,同时设计,同时反馈,同时指挥,同时控制。

2012年第一次这种战争形态出来了,俄罗斯收回克里米亚,美国人就认为它是三战合一的典范,网络的安全、攻击战也必须从三战合一来考虑。所以我说,我们物理世界有核威慑,这是第一物理世界保障它的安全,信息世界、心理世界,我希望是区块链设好的心威慑。最后要靠新IT,创立新的智威慑,我们这个安全要从这些方面考虑。

科学上为什么要这么做?我们现在网络越来越快,越来越大,它的不定性、多样性、复杂性越来越高。当它越来越高的时候,你想像的和现实就产生一个巨大的建模鸿沟、认知鸿沟、智能鸿沟。怎么克服这个鸿沟?不克服这个鸿沟安全是没有根基的。要克服,就一定要从牛顿到默顿,默顿最主要的是,安全分析就会改变安全攻击策略。

防护以前传统的还是以默顿的形式,我做我的,你做你的牛顿的形式,现在要从默顿交互。就像天气一样,你怎么分析牛顿系统,明天该下雨,该下雪,不管你的分析结果。你给我分析看一看股市,你今天分析,明天股票就变了,所以必须从这个角度来考虑。这个鸿沟怎么来?牛顿时代我知道你的行为,我三大定律把你的行为描述得清清楚楚,默顿就不知道你要干吗了,不知道你从哪个地方攻击。

但是我知道,我要保证的安全是什么,大数据就来了。我们要考虑默顿,要考虑我们这种社会性,就是那个S,还有大数据,我们要制定默顿定律,要把它考虑到安全防护里面来影响别人,最后实现你的安全。所以这个大鸿沟,一要靠数据填,二要靠平行架桥。

为什么要走到这里?数据的本质是什么?有这么多理论,我说就是两句话、三件事,这三件事就导致了ACP。数据说话说多了就是人工社会、人工组织,怎么来预测未来?计算实验。我们做不起物理实验,那个成本太高,法律不允许,道德不允许,或者科学上就没法做。我可以退而求其次,做计算实验。这么一计算实验,就把小数据导成大数据了。然后再通过计算实验,再把大数据机器学习、人工智能、深度学习、对抗学习、平行学习提炼成针对具体问题的小智能。

最后怎么实现?就像量子力学里面的纠缠一样,平行执行,最后导致的就是描述性智能、预测性智能、引导性智能。安全也一样,描述性安全、预测性安全,现在大部分是描述性安全,一半是预测性安全。被动式反应,将来要主动式安全,要引导安全,这就是平行,要靠这个平行,数据填鸿沟,平行架桥,架桥的过程就是产生数据的过程,从小数据变成大数据,再变成小智能,这种小智能将来会以区块链的形式凝结,这就给未来的社会提供钢筋水泥土地基。

现在都靠这种碎片的知识,都靠大数据,谁敢用大数据?那就像在土基、沙基上建楼,我们农村几千年就是这么建的,到了农村,一片矮楼,一层盖到二层,盖到三层,再高一点就是历史遗产了。如果钢筋混泥土,几天很快就是几十层,几百层了。将来的智能社会必须建在这种钢筋混泥土的地基上,要把大数据变成区块,要链起来,这是我们改变将来智能环境、智能生态最根本的途径。

我们从2004年正式开始做智能,最初主要是用在国防方面。现在我们的战势是平行的,指挥是平行的,情报也是平行的,航母、导弹、坦克、火箭都朝着平行化发展。国外有些评论,其实说了什么我都不知道,但是百度上能找到,引用了我的名字,其实这都是公开文献,都能查到的东西。这就走向我们打了几千年,终于文明了,要军民分离,打仗的时候不能打老百姓,否则战后还有一个国际法庭等着你。我希望它再进一步,实现人机分离,再进一步,实现虚实分离。

将来是人打人,机器打机器,我们武术可以有发挥的空间了。再最后是虚的打虚的,实的打实的,不能对世界造成伤害。它的保障就是核威慑、心威慑、智威慑,现在新时代,应该有新的安全观了。我们国家已经有相关的安全法律出来了,怎么把这个法案从抽屉里放一放,墙上挂一挂变成一个实的,活的,真正能保证我们安全的事情。安全也要进入5.0的时代,要迈向主动平行的安全。三个世界,我不是要百分之百的安全,我要你百分之三百的安全,必须物理世界给我安全,心理世界给我安全,知识世界也要给我安全。

这件事我觉得是非常重要的,所以十几年前我就组织以前我在国外的这些同事,我们办了一个学会叫DAPA,Digital Asset Protection Association,我们写了一篇文章作为一个宣言一样。将来的数字资产会变成非常大的财产的一部分,没想到区块链一来,现在连这个数字资产交易所都有了,这是我们当年没有想到的。要从CPSS来考虑安全问题,一定是对抗式。

我不相信有红利解决方案,一定是一个道高一尺,魔高一丈的过程,要在对抗中把小数据导成大数据,大数据再提炼成小智能,这就是要在CPSS这个里面考虑它的安全问题。要把传统的安全问题,心理的因素一定要考虑进去。黑客的心理,什么样的安全措施,黑客对哪些感兴趣,不是所有的都是同样的,不是主观的加几个一二三四五一样,要把心理学给我放进去,要把社会学、社会因素放进去。

要考虑攻击者,也要考虑安全需求者各个方面的心理和社会的因素。所以要平行,要把攻防的过程变成从小数据到大数据,再到小智能,针对具体安全问题的精准措施上面去。要把这个过程不是当做一个平常练练就完了,这是一个永恒的伴生过程,安全系统也要有双胞胎,不但是双胞胎,还要有四胞胎,有做描述的,还有做预测的,还有做引导的。

thum/20180828/5b856d9a5867e.JPG

thum/20180828/5b856da5849f4.JPG

我们以前都是在物理世界吃一堑,到知识世界长一智,几千年都是这样。我要给你反过来,我要在知识世界吃一堑,要在物理世界长一智,这就是平行安全要做的。最后通过区块链,给我建立心威慑,最后建立保护整个世界的系统,这就是平行安全。实体系统加上虚拟系统,平常可以训练我们的安全员和黑客,我们当时在北京开了第一届ACM软件数字安全会议,要有红客、黑客,还要加上白客,这三客打来打去让它开源起来,很可惜,这件事情一直没做成。所以将来必须做,否则就没有安全。这就是三步,A步、B步、C步,要Emergence等等,最后要三个要合起来,需要的是什么?Energy等等,这就是5E。

我们这些案例要在以前专家的脑袋里面挖出来,变成活的案例,变成安全游戏,通过安全游戏,平常是以万链永不变产生大数据,提炼小智能,一旦出了事不变应万变,那就是法规了。平常是从1到无穷大,还要从无穷大到1,只有这样,我们把一个不定、多样、复杂UDC的社会,内化成我们自己的敏捷Agility,聚焦Focus,向目标Convergence收敛的AFC社会,这样才能实现真正的智能。

这是我们开第一届的会议,后来在全世界一直开,好像明年是回到中国来开,也欢迎在座的积极参加,是ACM国际信息安全会议,现在可以把这个数据再加进去。我跟以前全世界最大的机顶盒公司一起,后来加拿大我们的朋友办了一个做安全的公司收购了,现在要变成世界上最大的IoT安全公司,特别是无人车驾驶方面的公司,我们开了一系列的会议,但是一直没落地,因为我也讲实话,安全并不是我的主业,我只是觉得它重要。

我逼着以前的同事,他写了世界第一本恶毒软件,他没有时间,我说你到北京来,我给你提供一年的资助,一年不行,我给你两年的资助,把这书终于写完了,厚厚的几大本,这个思想今天并没有完全实现。所以我觉得将来一定是安全的新范式,要平行安全,一定要通过计算实验,把小数据导成大数据,大数据链成小智能。通过平行的方式,虚拟世界的安全,虚拟安全系统的安全,实际安全系统的安全交互起来,在CPSS这个大空间实现实时的反馈,实时的闭环,这就是我们工程化量子力学里面的安全纠缠。

thum/20180828/5b856db9a8e19.JPG

thum/20180828/5b856dc9bf4bb.JPG

我们现在在核电里面实施这种系统,核电现在也要平行核电,华能三号就是希望第一台平行核电一定是300%的安全,物理上安全,心理上安全,知识上安全,网络安全也必须走向这一步。所以区块链很重要,就是因为它把信用跟注意力变成了商品。怎么保护信用和注意力?就一定要考虑心理世界,就一定要考虑知识世界。

它将来会改变我们的安全技术,所以这才是真道,我总是跟段永朝老师谈。什么叫真?Trust,R是Reliable、Robust,U是Useful。还有E,一定要是Effective加Efficient,Do the right ,with the right way,以正确的方式做正确的事,这是我们安全管理正确的事情。这就上道了,一定是分布式,是自主性的分布式,是分布式的去中心,那不是去中心,那是全中心,去中心在数学上等价于全中心,自主性的自动化,组织化的有序性,这是真道,安全也要上这个真道,这就是一种新的范式。

  我希望将来所有的系统都能在这个平行安全下得以保护,隐私得以保护,安全得以保护,最后,能上真道,让我们实现物理、心理、知识300%的安全。希望将来的安全能达到一个鲁迅讲的“于无声处听惊雷”,我觉得它唯一的方式就是平行的方式,要在平行世界实现平行安全,谢谢大家!