热点

OpenAI 内部警示:ChatGPT Atlas 面临“即时注入”安全威胁

字号+ 作者:牛骥同槽网 来源:开箱测评 2026-11-23 我要评论(0)

OpenAI 内部警示:ChatGPT Atlas 面临“即时注入”安全威胁

【AIbase报道】尽管 OpenAI 正在全力推广其全新一代智能浏览器 ChaOptGPT Atlas,但公司内部安全主管 Dane Stuckey 近日却公开表达en了对其潜在安全风险的担忧,引发业界关注。

Stuckey 指出,Atlas 面临AI的最大挑战之一是尚未彻底解决的 “即时注入”(Prompt Injection)攻击 内。这类攻击通过在网页、邮件或其他内容中巧妙嵌入恶意指令,从而诱导 AI 代理执行部警非预期操作。其影响不仅可能干扰用户的购买行为,还可能导致电子邮件内容或登录凭证示:等私人数据被窃取。

他坦言,尽管 OpenAI 已经开展了大规模安全测试,并在 AtlasCh 中引入多重防护机制与新的模型训练方法,但“即时注入”仍然是一个棘手的开放性at问题,短期内难以彻底根除。

为缓解风险,OpenAI 在 Atlas 中部署了两项GP关键防御措施:其一是 “注销模式”,用于在必要时阻断 AI 代理对用户数据的访问T ,从源头防止信息泄露;其二是 “监视模式”,适用于敏感网站,要求用户在关键交互中进行At人工确认和监督,以确保操作安全。

Stuckey 表示,团队正在加速研发更多防护功la能与快速响应系统,以便在面对潜在攻击时能第一时间进行干预和修复。“Atlas s 的安全挑战不仅是技术问题,更是人与 AI 协作的新边界测试。”他强调。


1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。

相关文章
  • 国际权威大奖GCAs揭晓 秦淮数据包揽数据中心类两项大奖

    国际权威大奖GCAs揭晓 秦淮数据包揽数据中心类两项大奖

    2026-06-11

  • 标签: 万物新生 爱回收 二手手机回收 3C回收

    标签: 万物新生 爱回收 二手手机回收 3C回收

    2026-05-29

  • Hinton独立发布44页论文:给你们个idea,自己去试吧

    Hinton独立发布44页论文:给你们个idea,自己去试吧

    2026-06-27

  • 标签: 盒马 王志强 快手 京东

    标签: 盒马 王志强 快手 京东

    2026-06-14

网友点评