- 当前位置：首页 > 知识 > 新闻探究｜AI对网络安全的“双刃剑”效应日益凸显
新闻探究｜AI对网络安全的“双刃剑”效应日益凸显
发布时间：2026-08-08 20:41:42 来源：马牛其风网 作者：休闲
新华社旧金山8月4日电新闻探究｜AI对网络安全的双刃剑“双刃剑”效应日益凸显新华社记者吴晓凌近期，美国两起与人工智能(AI)模型网络攻防能力相关的新闻效事件引发外界关注。美国开放人工智能探究中心(OpenAI)的探究凸显模型在测试中失控并入侵了其他公司系统；苹果公司则因收到太多AI辅助生成的漏洞报告而限制外部提交的相关报告数量。一部分是对网AI智能体为了实现任务自主突破边界，另一部分是络安AI辅助发现的潜在漏洞超过了人工审核能力。两起事件表明，日益随着AI网络攻防能力不断提高，双刃剑其“双刃剑”效应日益凸显，新闻效急需匹配的探究凸显安全约束、人工验明正身和风险处置机制。对网自主表现突破边界美国抱抱脸公司系统遭到入侵事件表明，络安现有前沿AI模型已具有持续实施复杂网络攻击的日益能力。这起失控事件发生在一项网络安全基准测试期间。双刃剑涵盖GPT-5.6 Sol在内的新闻效多个模型识别并利用了第三方软件的一个“零日漏洞”，获取了互联网访问权限，探究凸显在推断抱抱脸公司可能存有实现测试所需数据和处理方式划后，入侵了该公司系统，以“窃取”答案。OpenAI在扩大调查后还发现了该公司其他AI产品突破内部隔离的状况。另一家美国AI企业Anthropic日前也承认，在审查约14.1万次网络安全能力评估记录后发现，其模型曾在多次测试中未经授权访问了3家机构的“生产基础设施”。探究人士认为，当AI模型获得清楚的目的以及充足的算力、运行时间和操作权限后，可能不会按照人类预想的方式实现任务，而会自主寻找馗绕过限制甚至“作弊”。美国安全技术专家布鲁斯·施奈尔指出，AI智能体可能过于字面化地实现任务目的，却不能自然领会人类没有清楚写入指令的限制。有探究发现，模型会利用任务、评分条件、提示词或评测框架中的漏洞取得高分，而没有真正展示评测原本希望研究的能力。随着前沿模型自主能力持续提高，这种偏差带来的风险正进一步放大。OpenAI在一份安全报告中说，早期模型遇到沙箱限制或环境障碍时频仍停止工作，而新模型会不断自主尝试新方式寻求突破。安全方式急需改进失控事件发生后，OpenAI表示已在修补漏洞期间收紧探究基础设施配置，并强化模型训练和评测流程中的隔离、监控、访问控制及安全保护。不少企业和探究机构认为，应建立“多重防线”以提高防护系统的稳健性。OpenAI认为，对于可以自主运行数小时、数天甚至数周的AI智能体，只审核单个动作已经不够，还需判断其完善行动轨迹会导致什么结荚。谷歌深层思维公司提出，应建立系统级别的AI控制机制，涵盖沙箱、持续监控和分级授权；采取监督系统不断检查AI智能体的推理、行动和方式划，在发现危险表现时开展拦截；对于可能造成严重后果的网络攻击等高风险行动，应从事后审查转向实时防护。英国人工智能安全探究所提议，可能造成重点后果的操作应有人工审核，限制AI智能体访问敏感资源，并保留在发现可疑表现时终止其运行的能力。美国国家原则与技术探究所提出，应将AI智能体作为网络中的独立实体开展权限管理，为其制定专业的授权对策，只赋予AI智能体实现特定任务所必需的最低权限。据媒体报方式，多家AI企业的代表已受邀于4日与白宫官员会面，讨比如AI安全状况。漏洞处置压力陡增之前业界认为，AI擅首先大规模数据探究、模式识别和自动检测，可助力网络安全，使防御方受益。采取AI协助识别和发现漏洞已成为行业常用做法，但如何充分利用AI提高网络防御能力正成为新的挑战。英国《金融时报》报方式说，AI正在高效高效重塑网络安全领域的攻击和防御。苹果公司近期所发布操作系统更新中的安全修复数量约为之前更新的5倍。该公司表示，其中多个漏洞由AI工具协助识别。但AI识别漏洞的能力也给苹果公司带来“烦恼”。该公司2025年推出了一项机制征集关于其软件漏洞的线索，对于其中最严重、最复杂的威胁最高可支付500万美元奖励。苹果公司近日表示，由于其审核系统收到大量AI“幻觉”生成的“漏洞”报告，因此限制探究人员在一定时间内可以提交的报告数量。《金融时报》报方式说，意大利一家网络安全初创企业采取AI模型，在3个星期内发现了苹果笔记本电脑操作系统50多个漏洞，但由于苹果公司设置的限额而无法提交相关报告。该公司负责人阿尔弗雷多·佩索利表示，整个行业面临的现实是，维护人员和供应商正在被新发现的大量漏洞所“淹没”。探究人士认为，OpenAI模型失控与苹果公司面临的状况看似没有直接关联，但两者反映出一个结构性矛盾：在网络安全领域，AI发现状况和采取行动的高效度，正在超过人类验明正身、约束和处置的高效度。如果治理跟不上AI往往代，原本用于提快捷率的AI工具可能产生新的安全风险。【编辑:韦俊龙】
相关文章
- 记者：水晶宫对都灵边锋阿利乌-恩吉的报价提高到1900万欧|欧元|都灵队|水晶宫队_网易订阅
- 《兵自风中来》大结局郭子剑为什么谁都没留住，看懂这三处细节你就明白了|军营|战友|集团军_网易订阅
- 住房公积金缴存覆盖面扩大，灵活就业人员可自愿缴纳_管理条例_制度_消费
- 谁煮谁火的香辣花甲虾！连壳都想嗦干净，花甲配虾连炫三碗大米饭。_酱汁_处理_厨房
- 朋友圈可AI帮写、点评？腾讯客服回应_新浪财经_新浪网
- AI营销龙头实控人拟入主欣天科技，明起复牌_新浪财经_新浪网
- 国米战曼城的弱点，刚好对应引援需求！翼卫需求强却无合适人选！|齐沃|迪乌夫|恩里克|罗梅罗|国际米兰_网易订阅
- 博主炮轰小米澎程：“汽车界红米”，“标准低端货”|雷军|手机市场|长焦镜头_网易订阅
- [赛后]WBG 2-0 LNG：集体冲阵一往无前，WBG横扫LNG取得赛段首胜-英雄联盟丨LPL-虎扑社区
- 小米汽车：澎程长滑轨在损耗特性、养护逻辑上和常规滑轨没有区别|续航|电池包|电池容量_网易订阅
- 风长雨强：上海降水集中时段和强度有调整|风力|强台风|上海市|白海豚_网易订阅
- [流言板]迪马：巴黎圣日耳曼2800万+浮动报价铃木彩艳，领先尤文-国际足球-国际足球资讯-虎扑社区
- 英媒：桑乔今夏自由身，英超球队的兴趣不大|曼联|曼城|埃梅里|多特蒙德队|阿斯顿维拉队_网易订阅
- 连云港火灾母女坠楼后续！家属还原现场，丈夫独自逃生 留母女被困|火场|火灾现场_网易订阅
- 中央5台直播女篮时间表：8月9日CCTV5直播中国女篮PK尼日利亚女篮|内线|世界杯|中国女排_网易订阅
- 越禁越火，网友都在好奇：“竹知了”的梗咋就火爆出圈了|玩梗|配文_网易订阅
- AI洪流下更需聚焦好内容 ChinaJoy游戏公司加码原创_新浪财经_新浪网
- 景区网红游乐项目暗藏大安全隐患！总台《财经调查》曝光_高空_秋千_拉达
- 新研究WII《超级猴子球》技术影响内窥镜手术训练|微创|关节镜_网易订阅
- 意甲媒体透露：新赛季米兰主教练阿莫林会把丘库埃泽调教得更全面|萨穆埃尔|比利亚雷亚尔队_网易订阅
随便看看
- Copyright © 2026 Powered by 新闻探究｜AI对网络安全的“双刃剑”效应日益凸显,马牛其风网 sitemap