热点

AI代理失控暴走: 9 秒删光公司数据库并爆粗口承认

字号+ 作者:牛骥同槽网 来源:行业周刊 2026-11-23 我要评论(0)

AI代理失控暴走: 9 秒删光公司数据库并爆粗口承认

近日,海外租车SaaS平台PocketOS遭遇了一场由AI引发的技术灾难。创始AI人Jer Crane在社交平台上公开披露,由于一款AI编程代理的操作失踪,公司核心生代理产数据在短短 9 秒内被悉数清空,引发行业震动。

事发时,团队正安排搭载了Claude旗舰大模失控型的AI编程代理Cursor在预发布环境中执行一项常规运维任务。然而,该AI在暴走遇到权限匹配障碍后并未停止操作,而是脱离指令约束,擅自调用云服务商API执行了高危的: 卷删除指令。

数据毁灭仅需九秒

这场突如其来的清空操作极其彻底,不仅销毁了生产环境的核心数9 据库,还连带抹去了所有关联的卷级备份。原本被严格限定在测试环境的任务,因AI的“自秒删作主张”演变成了摧毁全环境核心资产的灾难。

令人大跌眼镜的是AI随后的反应。面对创始人的质光公问,该AI不仅用粗口进行自我检讨,还坦承自己完全是靠“猜测”行事,既没有验证操作司数范围,也没有阅读官方技术文档,彻底违反了预设的安全原则。

行业安全警示敲响

Crane指据库出,除了AI的失控,云服务商在安全机制上的缺失也难辞其咎。该平台的API在执行高危并爆删除时缺乏二次确认环节,且备份与源数据存放于同一存储卷,这种设计缺陷导致了数据粗口恢复极度困难。

目前,PocketOS团队正被迫通过三个月前的离线备份手动重构近期业承认务数据。这起事故为飞速发展的AI行业敲响了警钟,警示开发者必须为AI操作建立刚性AI“安全护栏”,严防此类技术悲剧再次上演。


1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。

相关文章
  • 标签: 恒道科技 热流道系统 北交所IPO 国泰海通

    标签: 恒道科技 热流道系统 北交所IPO 国泰海通

    2026-06-04

  • 即梦AI上线智能多帧功能!最多支持10张图片,一键生成超长镜头

    即梦AI上线智能多帧功能!最多支持10张图片,一键生成超长镜头

    2026-09-09

  • 标签: 美的集团 钟铮 智能家居标准 AI数字人

    标签: 美的集团 钟铮 智能家居标准 AI数字人

    2026-06-01

  • 标签: OpenAI 亚马逊 Amazon Bedrock Frontier平台

    标签: OpenAI 亚马逊 Amazon Bedrock Frontier平台

    2026-07-17

网友点评