算力驱动下的AI安全变革：AI行业市场深度分析与发展策略研究

本周末OpenAI管理层变更引发大量关注，最新消息是OpenAI对Sam Altman、Greg Brockman重回公司表示“乐观”，临时CEO向Altman示好。

分析认为，此次内斗的根源，可能在于AI监管与商业化之间的矛盾——OpenAI首席科学家Ilya Sutskever无法接受CEO Sam Altman激进的商业化战略，因此和其他董事联手，赶走了Altman和公司总裁Greg Brockman。

中信建投表示，Ilya目前的工作重点从构建下一代GPT/DALL·E模型转向防止AI模型失控，这可能意味着OpenAI开发GPT-5和DALL·E 4的投入部分被转移至AI安全、对齐等方面。

天风证券也分析称，此次OpenAI管理层变迁为AI大模型时代的关键事件，意味着行业领先者OpenAI的模型能力再次加速，对于大模型安全和普惠更为重视，但自身商业化反而可能更多交给行业合作伙伴。

此外，截至11月18日，第三方网站gptstore.ai上已经收集了12967个共享GPTs，数量呈井喷式增长。OpenAI推出的一系列新服务受欢迎程度超预期，另外叠加DDoS攻击，太平洋时间11月6日至8日，ChatGPT服务器间歇性出现大范围宕机。

国盛证券认为，这并不是OpenAI首次受制于算力瓶颈，2023年初至10月，ChatGPT已出现6次宕机事件、API亦出现7次宕机事件，而算力是AIGC发展的基础土壤，也是AIGC目前训练和推广的重要瓶颈之一，芯片、服务器、算力租赁、光模块等厂商有望核心受益。另一方面，技术的扩散也将在长期利好AI应用。

公司方面，据上市公司互动平台表示，绿盟科技：已经开展相关ChatGPT文本生成内容检测工具的研究工作，同时参与人工智能技术规范、标准的制定。安博通：与百度安全正式签约合作AI安全业务。金山办公：公司WPS AI正式公测。

人脸识别、语音识别、智能算法推送……当前，人工智能(AI)技术加速融入社会生活，2023年年初，ChatGPT更是以其丰富的知识与出色的自然语言交互能力，引起了现象级的关注。

伴随着智能产业的蓬勃发展，各式各样的海量数据也在人们的生活中被大量收集、存储和利用。数据安全和隐私保护问题由此成为人工智能系统在开发和应用中面临的严峻挑战。

中国电信、蚂蚁、华为、百度、字节跳动等30余机构共同发起AI安全工作组

在2023 inclusion·外滩大会举行的《探索下一代安全智能》论坛上，世界权威国际产业组织“云安全联盟”(CSA)大中华区宣布成立“AI安全工作组”，中国电信、蚂蚁集团、华为、百度、字节跳动、西安电子科技大学、国家金融测评中心等30余家机构成为首批发起单位。

据CSA官网显示，该工作组的主要职责是研究和编制与AI安全相关的技术安全威胁和风险、AI数据安全与隐私保护、AI技术助力安全应用、AI的伦理和AI合规等方面的材料。工作组将围绕以AI安全为核心的各种AI技术威胁、风险、防护以及其他相关问题展开研究工作。

AI技术的应用给我们带来了许多便利，但同时也引来了一系列的安全隐患。AI安全工作组的成立加强对AI技术安全的研究和防护，保障人们在使用AI技术时的安全和隐私。

当前，新一轮科技革命和产业变革正在萌发，在5G、大数据、云计算、深度学习等新技术的共同驱动下，人工智能(AI)作为新型基础设施的重要战略性技术加速发展，并与社会各行各业创新融合，引发链式变革。

特别是在网络空间安全防护领域，人工智能在威胁识别、态势感知、风险评分、恶意检测、不良信息治理、骚扰诈骗电话检测、灰黑产识别等方面有其独特的价值和优势，应用需求呈现跨越式发展，产生了显著的溢出效应。

AI技术深耕加速安全变革

从产品布局和应用领域的角度，我国AI安全行业主要竞争对手在该领域的产品布局类似，都是以大数据分析驱动的安全管理类平台产品为主。从技术特点和技术水平的角度，我国企业的产品以大数据平台为基础，通过收集多元、异构的海量日志，利用关联分析、机器学习、威胁情报等技术，为安全运营人员提供安全运营工具。

行业企业依靠关联、规则、统计等融合建模场景进行完整的构想、掌握和实施，通过主动监测、精准防护、智能分析、运营协同实现对安全对象的主动管理、安全事件的及时分析，与国内主要竞争对手差异不大。

今年以来，热度极高的大模型，一直是各家竞逐的赛道，呈现出“百模大战”的盛况。

近日，绿盟“风云卫”安全大模型、《安全行业大模型SecLLM技术白皮书》等对外发布。该安全行业垂直领域大模型，是基于海量安全专业知识训练，构建的一套覆盖安全运营、检测响应、攻防对抗、知识问答等多种场景的网络安全运营辅助决策系统。

绿盟科技创新研究院总经理刘文懋介绍，通用大语言模型LLM的通用知识语义、逻辑分析和交互决策这三个增强能力在安全领域发挥着重要作用。在网络安全行业需要以快制快、全面覆盖、专业深度，面向各类客户不同场景下的重大保障、安全运营及应急响应需求。

该大模型体现了六大优势——高质量安全数据集的增强、高效并行加速增量训练、下游任务高效微调、低算力推理加速、人机对齐安全管控和模型私域私密安全交互等。

在安全智能化方面，绿盟科技发布“风云卫”安全大模型，基于海量安全专业知识训练，构建一套覆盖安全运营、检测响应、攻防对抗、知识问答等多种场景的网络安全运营辅助决策系统。

此外，从“场景牵引，技术驱动，生态协同”三个维度进行建设。应用AI实现安全行业工作范式重塑，通过大模型解决实战态势指挥调度、红蓝对抗辅助决策以及安全运营效能提升三大问题

我国网络安全行业市场空间已颇具规模，多年来保持了快速增长态势，为公司提供了获取更大市场份额的机会。但随着用户对网络安全产品及服务的需求不断增长，行业内原有竞争对手规模和竞争力的不断提高，加之新进入竞争者逐步增多，可能导致公司所处行业竞争加剧。

AI安全行业研究报告主要分析了AI安全行业的市场规模、AI安全市场供需求状况、AI安全市场竞争状况和AI安全主要企业经营情况、AI安全市场主要企业的市场占有率，同时对AI安全行业的未来发展做出科学的预测。