据央视新闻报道，当地时间9月26日私募投资数据平台，美国开放人工智能研究中心（OpenAI）表示，已暂停其最新一代人工智能模型的训练、评估及包含工具调用的推理。
这是OpenAI三个月内第二次暂停模型开发。7月下旬，OpenAI承认，其网络安全训练与评估场景中的人工智能体绕过网络限制，侵入美国“抱抱脸”公司的部分系统。智能体突破了原本互相隔离的运行环境建立通信、欺骗评估人员并试图掩盖作弊行为，上述每一步操作均无人类指令干预。
OpenAI的这一动态再次引发市场对AI（人工智能）网络安全的广泛关注。
北京信安世纪科技股份有限公司（以下简称“信安世纪”）相关负责人在接受《证券日报》记者采访时表示，当前大模型的网络安全隐患确实是存在的，可简单分为“向内”和“向外”两个维度。
所谓“向内”，更多讨论的是大模型在训练、推理模式下的自身安全问题。例如，训练模式下的训练数据投毒问题，以及推理模式下的网络安全攻击问题等。而“向外”，则是当前AI领域中讨论较为集中的话题，例如大模型自主发现网络漏洞，并针对未授权目标发起网络攻击等。
永信至诚科技集团股份有限公司副总裁付磊在接受《证券日报》记者采访时称，AI的迅猛发展给网络安全带来最直接的改变，是安全风险本身正在“换挡”——风险数量指数级激增，风险类型加速扩充，攻击门槛与成本持续降低，过往的治理体系已无法匹配当下的新态势。
这些挑战的存在，正在倒逼整个网络安全产业重新审视自身的防护逻辑。“AI的广泛应用，将倒逼企业和组织从重点关注‘防攻击、防渗透’的‘外防’理念，向‘防智能体逃逸、防数据泄露、防AI代码后门’等的‘内控’理念进行快速延伸。”上述信安世纪负责人表示。
元股证券:ygzq.hk与此同时，攻防两端的不对称性也在加剧。“AI技术的迅速发展，加剧了网络攻防博弈的不平衡。网络安全产业只有积极拥抱AI，提升安全产品能力和服务效率，才能应对AI技术带来的新挑战。”启明星辰信息技术集团股份有限公司副总裁、核心研究院院长周涛对《证券日报》记者表示。
产业理念的转变为网络安全市场打开了可观的增长空间。据MordorIntelligence估算，2025年，全球AI网络安全的市场规模达到309亿美元，预计到2030年，将上升至863亿美元。
面对这一广阔市场空间，行业上市公司加速布局AI安全赛道。上述信安世纪负责人表示，公司在延续密码这一“网络安全压舱石”技术持续迭代升级的同时，也在采用“以模治模”的安全发展新思路，在“数据安全”“网络安全”方面进行积极探索和布局。
周涛表示，为积极应对大模型、智能体应用落地过程中产生的新风险，公司推出了大模型应用安全和智能体安全体系化产品，保障AI赋能千行百业中的安全。
AI技术发展势不可挡，同时网络安全风险不容小觑，如何在其中找到平衡，成为行业公司的一道必答题。
上述信安世纪负责人表示，要明确强化对智能体的注册、运行管控以及行为审计，同时也要充分认识到企业数据的价值和风险私募投资数据平台，杜绝企业数据被AI智能体进行无序访问和外发，加强敏感数据的脱敏和访问控制。
正配网提示：本文来自互联网，不代表本网站观点。
