人工智能网络安全前景，人工智能网络信息安全

◎记者柳岩

人工智能等技术不仅是数字安全防御的重点，也是保障数字安全的有力手段。要推动大数据、人工智能、互联网等技术融合，提升保障能力。

尚冰

中国互联网协会理事长

通用人工智能正在创造下一个黄金十年，中国的人工智能(AI)产业生机勃勃，100多个大型模型竞相诞生，但由此带来的安全问题也在增加。8月9日，在第十一届互联网安全大会上，数字安全与人工智能技术的融合发展成为关键议题。

数据安全是AI产业发展的前提。

正如中国工程院院士吴江兴所言，人工智能是引领新一轮产业变革的核心技术引擎，为各领域提供信息化、数字化、智能化的解决方案，正在引发经济结构的重大变革，推动社会生产力的全面跃升。

中国互联网协会主席尚冰指出，生成式人工智能正在引发新一轮智能浪潮。生成式人工智能在为互联网行业注入强劲发展动力的同时，也带来了数据泄露、虚假信息、算法歧视等新的网络与信息安全挑战。

面对生成式人工智能发展亟待解决的问题，中央网信办网络安全协调局副局长罗表示，要提高新技术新应用的安全风险防范能力。此外，要善于将数据资源转化为数据优势，构建网络安全、教育、技术、产业融合的良性生态。

“推动人工智能产业快速发展，必须把数据安全放在突出位置。”对此，十三届全国政协经济委员会副主任苏波提出三点建议。

加快人工智能数据资源建设。要在发展中解决安全问题，建立适合我国国情的数据流通和共享机制，培育和规范数据交易市场，鼓励不同主体安全交换数据。构建支撑我国人工智能产业发展的优质数据资源，加强人工智能应用场景下的数据安全保护技术研究，推动人工智能技术在数据安全治理和网络攻防对抗中的应用。

创新人工智能技术，以技术进步解决安全风险问题，加强人工智能数据安全保护的基础理论研究和技术研发。发展负责、可信、可控的通用人工智能。鼓励企业构建和完善人工智能开源学习框架，增强框架内置的学习数据和基础设施，通过中国巨大的市场优势，加快培育人工智能开源平台生态系统和产业链。

完善人工智能数据安全监管体系，用规范监管保障安全发展，加快完善人工智能健康发展的监管规则和法律法规，明确人工智能数据安全的法律原则，确立人工智能生命周期各阶段不同参与主体享有的数据权利和安全责任。制定人工智能产品应用服务的数据安全服务产品体系，通过测试验证提高人工智能产品的安全性和成熟度，降低人工智能数据的安全风险。

利用人工智能技术防范数字安全风险

目前网络威胁不断升级，“小偷小摸”“小黑客”已经成为历史。有组织的网络犯罪和高级持续性威胁已成为当今网络安全的最大隐患。传统的安全防护在战略上缺乏统筹规划，难以形成协调，不足以应对不断变化的安全问题。用数字思维重塑安全，构建系统化、实用化、智能化的数字安全能力势在必行。

如何建立这种数字安全能力？“数字安全需要探索新的模式，以适应复杂的数字场景。”中国工程院院士吴建议，摒弃硬件、碎片化、弱协同的传统安全防护手段，向云、服务升级。

数字安全企业是构建数字安全能力的重要组成部分。人工智能时代，数字安全企业需要建立系统化的安全运营服务框架，为各行各业输出数字安全能力，帮助其他企业构建安全防御体系，保护数据安全和商业秘密。而人工智能可以帮助数字安全企业防范数字风险。正如尚冰所说:“人工智能等技术不仅是数字安全防御的重点，也是保障数字安全的有力手段。要推动大数据、人工智能等技术融合，提高网络安全性。”

360集团创始人周透露，目前，360集团拥有全球最大的网络安全攻击样本数据库和完整记录攻击全过程的知识库，记录了上亿条网络攻击知识。他们现在也在做实验，把这些知识加入到专门的垂直大模型中，下次遇到攻击的时候，尝试由大模型判断是否是真正的攻击。“目前，大模型判断的准确率已经达到了百分之九十七。相比之下，人类判断一次网络攻击的准确率超过80%就不错了。”他说，判断准确率达到99%时，大模型就可以投入使用了。