2024年AI安全行业发展现状及政策环境分析

作为先进技术的标杆，人工智能领域的任何风吹草动都可能引发全球关注。从ChatGPT横空出世到Sora刷新认知，只用了1年多的时间。在此期间，国内的“百模大战”打得如火如荼，一批通过备案的大模型已经向各行业及社会公众开放。全球范围内，人工智能的竞争日趋激烈。

咨询机构麦肯锡预计，以AIGC为代表的AI技术将给全球经济带来超过7.9万亿美元价值，到2030年之前，如果生成式AI应用于各行业，每年总经济效益高达6.1万亿美元至7.9万亿美元。

人工智能在创造前所未有机遇的同时，也伴随着超越以往范畴的风险，对监管提出了严峻考验。

AI安全行业发展现状及政策环境分析

奇安信集团对外发布《2024人工智能安全报告》。其中显示，2023年基于AI的深度伪造欺诈暴增了3000%，基于AI的钓鱼邮件增长了1000%;已有多个有国家背景的APT组织利用AI实施了十余起网络攻击事件。奇安信预计，未来十年，人工智能技术的恶意使用将快速增长，将在政治安全、网络安全、物理安全和军事安全等方面构成严重威胁。

我们的报告《2024-2029年中国AI安全行业市场全景调研与发展前景预测报告》包含大量的数据、深入分析、专业方法和价值洞察，可以帮助您更好地了解行业的趋势、风险和机遇。在未来的竞争中拥有正确的洞察力，就有可能在适当的时间和地点获得领先优势。

近年来，随着数字化智能化的深入，新的技术不断衍生出新的安全风险，数字安全风险进入了快迭代、高智能、全覆盖的新阶段。尤其是2022年末AI大模型横空出世，AI安全风险陡增迅速成为全球业界的一致共识，AI安全成为主流的安全关切，并逐渐形成了一个新的安全技术研究领域。

AI技术的应用给我们带来了许多便利，但同时也引来了一系列的安全隐患。AI安全工作组的成立加强对AI技术安全的研究和防护，保障人们在使用AI技术时的安全和隐私。

上述《报告》认为，AI技术将会推动安全领域发生范式变革，全行业需启动人工智能网络防御推进计划。在人工智能带来巨大想象空间的同时，安全问题值得进一步关注，看好大模型及AI安全行业的发展潜力。

2023年6月，欧洲议会通过了《AI法案》授权草案，草案内容包括用于监督人工智能基础模型的分级管理办法。

2023年10月，由中国全国信息安全标准化技术委员会组织，面向社会公开征求《生成式人工智能服务安全基本要求》意见。同月，日本首相岸田文雄在日本京都发表演讲，公布面向生成式人工智能的监管计划。

2023年11月，英国全球第一届人工智能安全峰会在英国召开，与会各国讨论了当下全球人工智能治理的问题。中国科技部副部长吴朝晖率团参会并在峰会开幕式上发表讲话，并在会后联合发布《宣言》，该《宣言》成为“第一份关于有必要监管AI发展的全球声明”。

人工智能的安全与治理问题，关乎产业发展方向与速度，关乎供给双方权利与义务，更关乎国际竞争中的优势与主动。

人工智能领域的专门法也在逐步推进中。今年，在十四届全国人大二次会议新闻发布会上，大会发言人娄勤俭表示，下一步将研究推进科技创新方面的立法，特别是深入研究人工智能、生物技术等前沿科技领域有关伦理、道德、安全等重要问题，不断完善科技法律体系。