吴世忠院士：对智能时代网络安全的几点认识

来源：商密君

12月5日，中国工程院吴世忠院士在第三届北外滩网络安全论坛上发表主旨演讲，聚焦智能时代网络安全，围绕网数智全面转型带来安全新挑战、智能化深度应用拓展安全新风险和高质量融合发展需要安全新作为三方面，探讨了数字化转型、智能化发展带来的安全挑战和应对举措。

01

网数智全面转型带来安全新挑战

吴世忠院士认为，人工智能以颠覆式的应用创新，正在全面推进新一轮的大国博弈和社会变革。一是网数智转型带来安全范式变化，大数据、人工智能等新技术颠覆安全景观，安全范式已经实现从IT驱动到DT驱动再到AI驱动的转变。二是科技新浪潮带来安全特性变革，颠覆性技术的非对称性、超级进化性、泛在通用性、自主性特征日益凸显，势不可挡，人类社会需要因势利导。三是未来大应用需要安全能力提升，统筹发展与安全既是发展之需，更是安全之要，要确保开发既实用又安全，并赢得公众信任的通用人工智能。四是国际化应对出现安全治理新举措。英国、澳大利亚、加拿大等国相继成立人工智能安全研究所，加强联合研究和标准制定。对此，我国专业机构建设、标准制定、安全评测等亟待强化。

02

智能化深度应用拓展安全新风险

吴世忠院士指出，当前的发展机遇前所未有，但是安全风险也呈现出多元复杂的特点，一是技术自身缺陷问题，不可解释性、非事实性、弱鲁棒性、不可预测性等隐患可能引发技术发展失控；二是推广应用的安全问题，包括算法攻击、隐私数据失窃密攻击、应用越狱、系统攻击等风险可能致使模型现实应用失灵；三是冲击社会秩序问题，人工智能或引发结构性失业、社会阶层分裂和“信息茧房”效应，造成道德伦理失范；四是国家监管和国际治理挑战。深度伪造风险、生化核爆风险、军事情报化风险，以及人类生存危机等，既给国家监管带来难题也向国际治理提出挑战。

03

高质量融合发展需要安全新作为

吴世忠院士强调，人工智能作为典型的两用性技术，客观上需要加强安全研究，有效管控重大风险隐患：一是要与时俱进、加强安全研究，跟上发展；二是要突出重点，强化安全护栏，保护发展；三是要重视数据，数据安全是确保模型好用，又用好的关键，因此要做好安全保密，服务发展；四是要转型升级，运用人工智能加强防护，强化网络安全防御，优化网络安全格局，支撑发展。

吴世忠院士提出，人工智能的两用性、迭代演化性、泛在通用性和自主性是网络安全行业需关注的重点，对照国际社会积极应对人工智能挑战的不同方式方法，建议安全行业应与时俱进，加强安全研究，重视数据安全，建立网络安全保障体系，实现更智能的安全和更安全的智能。

免责声明：本号所载内容均为原创、投稿、授权转载或网络公开资料搜集整理，仅供读者交流学习使用，版权归原作者所有，且仅代表作者个人观点，与本号立场无关。若所引用的图片、数据、文字等来源标注有误或涉及侵权，烦请及时联系删除。

首页 ꄲ 行业动态 ꄲ 院士说 ꄲ 吴世忠院士：对智能时代网络安全的几点认识

ꄴ前一个：无

ꄲ后一个：无