近日,国际云安全联盟CSA携手OPPO、深信服、新华三、虎符网络、齐安科技、熠数信息举办CSA线上研讨会—ChatGPT安全。会上发布CSA白皮书《ChatGPT的安全影响》,报告由CSA工作组专家编写,齐安科技参与中文版的翻译和审校工作,会上针对报告展开相关讨论。
近日,齐安科技副总经理张宙参与ChatGPT安全研讨会,作为嘉宾参与本次圆桌论坛,与众大咖们一起交流ChatGPT与网络安全的交错边界,张宙提出了以下几点ChatGPT与工业控制系统安全的思考:
1.ChatGPT对工业控制系统的渗透
在张宙看来,目前的工控领域安全防护会随业务性质发生调整和变化,ChatGPT的智能化生成模型是人类操作行为模型来进行训练的,这种训练方法不能保证生成出来的内容可以面对任何随机挑战,在实际应用中无法跟随业务变化而变化,AI取代人类工作目前来看还是比较困难。
2.ChatGPT难以取代工控系统中的物理防护
工业控制系统安全防护是数据层面和物理层面相结合的,ChatGPT或许可以替代部分数据层面的智能生成,但无法取代工业现场的物理防护,目前我国大多数工控场景中的安全都与运维人员的操作行为息息相关,建立规范化的操作行为很难依靠AI智能去完成。
3.合理使用ChatGPT可提升工控安全领域作业效率
虽然在工业控制系统安全防护这种专业性较强的领域使用ChatGPT较为困难,但不可否认ChatGPT可以在网络防御中常见的安全漏洞识别、安全配置脚本自动化处理、安全工具集成等场景发挥作用,帮助程序工作人员打开设计思路,提升代码质量,改变一些内部的工作模式,提升工作效率,从而助力安全产业的发展。
目前, ChatGPT已经被广泛应用于多种行业场景中,它能够实现对自然语言的理解和处理,在一定程度上降低了人机交互成本,提升了人机交互效率,是一个很好的“助手”或“工具”,但是ChatGPT在专业性更强,对物理防御要求较高的领域还难以适用,其自身也存在一定安全隐患。合理使用ChatGPT可以提升我们的内部工作效率,增强构筑网络空间和数据安全的能力,为行业发展带来更多可能性。
研讨会上,云安全联盟大中华区发布报告《ChatGPT的安全影响》(以下简称报告),报告旨在概述ChatGPT在网络安全行业中的影响,而不深入探讨人工智能的细节。我们将探讨对理解ChatGPT能力至关重要的关键概念和领域,以及对企业的潜在影响。在我们研究这些影响的同时,考虑区分ChatGPT的合法和恶意使用的挑战至关重要,例如区分营销电子邮件、公司通信和网络钓鱼邮件,或者识别待修复漏洞和黑客入口点。