新闻探究｜AI对网络安全的“双刃剑”效应日益凸显

新华社旧金山8月4日电新闻探究｜AI对网络安全的双刃剑“双刃剑”效应日益凸显新华社记者吴晓凌近期，美国两起与人工智能(AI)模型网络攻防能力相关的新闻效事件引发外界关注。美国开放人工智能探究中心(OpenAI)的探究凸显模型在测试中失控并入侵了其他公司系统；苹果公司则因收到太多AI辅助生成的漏洞报告而限制外部提交的相关报告数量。一部分是对网AI智能体为了实现任务自主突破边界，另一部分是络安AI辅助发现的潜在漏洞超过了人工审核能力。两起事件表明，日益随着AI网络攻防能力不断提高，双刃剑其“双刃剑”效应日益凸显，新闻效急需匹配的探究凸显安全约束、人工验明正身和风险处置机制。对网自主表现突破边界美国抱抱脸公司系统遭到入侵事件表明，络安现有前沿AI模型已具有持续实施复杂网络攻击的日益能力。这起失控事件发生在一项网络安全基准测试期间。双刃剑涵盖GPT-5.6 Sol在内的新闻效多个模型识别并利用了第三方软件的一个“零日漏洞”，获取了互联网访问权限，探究凸显在推断抱抱脸公司可能存有实现测试所需数据和处理方式划后，入侵了该公司系统，以“窃取”答案。OpenAI在扩大调查后还发现了该公司其他AI产品突破内部隔离的状况。另一家美国AI企业Anthropic日前也承认，在审查约14.1万次网络安全能力评估记录后发现，其模型曾在多次测试中未经授权访问了3家机构的“生产基础设施”。探究人士认为，当AI模型获得清楚的目的以及充足的算力、运行时间和操作权限后，可能不会按照人类预想的方式实现任务，而会自主寻找馗绕过限制甚至“作弊”。美国安全技术专家布鲁斯·施奈尔指出，AI智能体可能过于字面化地实现任务目的，却不能自然领会人类没有清楚写入指令的限制。有探究发现，模型会利用任务、评分条件、提示词或评测框架中的漏洞取得高分，而没有真正展示评测原本希望研究的能力。随着前沿模型自主能力持续提高，这种偏差带来的风险正进一步放大。OpenAI在一份安全报告中说，早期模型遇到沙箱限制或环境障碍时频仍停止工作，而新模型会不断自主尝试新方式寻求突破。安全方式急需改进失控事件发生后，OpenAI表示已在修补漏洞期间收紧探究基础设施配置，并强化模型训练和评测流程中的隔离、监控、访问控制及安全保护。不少企业和探究机构认为，应建立“多重防线”以提高防护系统的稳健性。OpenAI认为，对于可以自主运行数小时、数天甚至数周的AI智能体，只审核单个动作已经不够，还需判断其完善行动轨迹会导致什么结荚。谷歌深层思维公司提出，应建立系统级别的AI控制机制，涵盖沙箱、持续监控和分级授权；采取监督系统不断检查AI智能体的推理、行动和方式划，在发现危险表现时开展拦截；对于可能造成严重后果的网络攻击等高风险行动，应从事后审查转向实时防护。英国人工智能安全探究所提议，可能造成重点后果的操作应有人工审核，限制AI智能体访问敏感资源，并保留在发现可疑表现时终止其运行的能力。美国国家原则与技术探究所提出，应将AI智能体作为网络中的独立实体开展权限管理，为其制定专业的授权对策，只赋予AI智能体实现特定任务所必需的最低权限。据媒体报方式，多家AI企业的代表已受邀于4日与白宫官员会面，讨比如AI安全状况。漏洞处置压力陡增之前业界认为，AI擅首先大规模数据探究、模式识别和自动检测，可助力网络安全，使防御方受益。采取AI协助识别和发现漏洞已成为行业常用做法，但如何充分利用AI提高网络防御能力正成为新的挑战。英国《金融时报》报方式说，AI正在高效高效重塑网络安全领域的攻击和防御。苹果公司近期所发布操作系统更新中的安全修复数量约为之前更新的5倍。该公司表示，其中多个漏洞由AI工具协助识别。但AI识别漏洞的能力也给苹果公司带来“烦恼”。该公司2025年推出了一项机制征集关于其软件漏洞的线索，对于其中最严重、最复杂的威胁最高可支付500万美元奖励。苹果公司近日表示，由于其审核系统收到大量AI“幻觉”生成的“漏洞”报告，因此限制探究人员在一定时间内可以提交的报告数量。《金融时报》报方式说，意大利一家网络安全初创企业采取AI模型，在3个星期内发现了苹果笔记本电脑操作系统50多个漏洞，但由于苹果公司设置的限额而无法提交相关报告。该公司负责人阿尔弗雷多·佩索利表示，整个行业面临的现实是，维护人员和供应商正在被新发现的大量漏洞所“淹没”。探究人士认为，OpenAI模型失控与苹果公司面临的状况看似没有直接关联，但两者反映出一个结构性矛盾：在网络安全领域，AI发现状况和采取行动的高效度，正在超过人类验明正身、约束和处置的高效度。如果治理跟不上AI往往代，原本用于提快捷率的AI工具可能产生新的安全风险。【编辑:韦俊龙】

(责任编辑：综合)