大模型浪潮下的全球网络安全思考 陈珂 绿盟科技集团副总裁 陈 全学术交流 中国计算校学会 第38次全国计 ·NSFOCUS绿盟科技 生成式人工智能发展 型(LargeLanguageModel,LLM) 随着AI的高效性能和快速学习的能力开始赋能于网络安全， 大语言模型发展历程 人工智能正在对网络安 MicrosoftSecurityCopilot AlWorkbench Soprey 2023年3月28日微软推出Security 2023年4月25日谷歌在RSAC发布 帮助安全专业人员快速检测和响应威胁 大型语言模型Sec-PaLM 中国计算校业舍 第38次全 CHINA COMPUTER FEDERATION LS绿盟科 AILAIGC的法规监管 竞争优势的同时，对其风险加以管理和控制。 生成式人工智能需要严加监管：欧盟率先启 AI风险管理指导体系：NIST人工智能风险管 迈向可信AI：我国生成式AI服务管理暂行办 动立法 理框架 法公布 欧盟2021年首次公开了《人工智能法案》（TheAI 2023年1月美国国家标准与技术研究所（NIST）年初 Act) 并于近期通送 过了欧洲议会 2023年8月15日，国家网信办等部委联合发 这或将成 发布的第一 一版 智能风 (Artificial 布的《生 是AIGC 的综合 标志着生成式人工智能作 《AI法案》采取了 种“基于风险”来监管AI的方 治化发展与 治理的轨道 的应用领域 和使用人工 智能系统的指南 式， 包括AI 经发布即成为业界 键基础设施。 服务监管规范体系 MEPsreadytonegotiatefirst- 中国计算栈学舍 第38次全国计算机 ?·NSFOCUS绿盟科 大模型正在成为企业IT的关键组件 sdowm Customer LLM Customers Company WTT Enterprise Employees EnterpniseAp 中国计算校梦会 第38次 INA COMPUTER FEDERATION 云大?物移 windows cloud Web Network BigDataITOTIMobile 中国计算栈梦会 第38次全国计算 CHINA COMPVTER FEDERATION 中国计批学会 云大物移 机安全学术交流会 IN 网络安全防线 构建中国式现代化网络强国 windows cloud Web LLM 陈珂 绿塑科技集团股份有限公司 副总栽 Network 中国计算学会 第38次 2*.NSOCIL 你越依赖它，它的弱点带来的杀伤力就越大 -Hallucinations幻觉 ■Promptinjection提示注入 -Socialengineering社工 ContentPoisoning注毒 Dataprivacy数据隐私 -Potentialbias潜在偏见 Lackoftransparency缺少透明度 中国计算机业会 第38h PUTER FEDERATION