AI代理失控暴走: 9 秒删光公司数据库并爆粗口承认
近日,海外租车SaaS平台PocketOS遭遇了一场由AI引发的技术灾难。创始AI人Jer Crane在社交平台上公开披露,由于一款AI编程代理的操作失踪,公司核代理心生产数据在短短 9 秒内被悉数清空,引发行业震动。 事发时,团队正安排搭载了Claud失控e旗舰大模型的AI编程代理Cursor在预发布环境中执行一项常规运维任务。然而,该AI暴走在遇到权限匹配障碍后并未停止操作,而是脱离指令约束,擅自调用云服务商API执行了高危的卷: 删除指令。 数据毁灭仅需九秒 这场突如其来的清空操作极其彻底,不仅销毁了生产环境的9 核心数据库,还连带抹去了所有关联的卷级备份。原本被严格限定在测试环境的任务,因A秒删I的“自作主张”演变成了摧毁全环境核心资产的灾难。 令人大跌眼镜的是AI随后的反光公应。面对创始人的质问,该AI不仅用粗口进行自我检讨,还坦承自己完全是靠“猜测”司数行事,既没有验证操作范围,也没有阅读官方技术文档,彻底违反了预设的安全原则。 行业安全警据库示敲响 Crane指出,除了AI的失控,云服务商在安全机制上的缺失也难辞其咎。该平台的AP并爆I在执行高危删除时缺乏二次确认环节,且备份与源数据存放于同一存储卷,这种设计缺陷粗口导致了数据恢复极度困难。 目前,PocketOS团队正被迫通过三个月前的离线备份承认手动重构近期业务数据。这起事故为飞速发展的AI行业敲响了警钟,警示开发者必须为AIAI操作建立刚性“安全护栏”,严防此类技术悲剧再次上演。
- 最近发表
- 随机阅读
-
- 阿里云开发者社区正式发布“乘风者计划” 入驻博主可获流量扶持
- 标签: 京东方 Q3财报 营收增长 净利润
- 标签: 谷歌 Wiz 云安全 收购
- 谷歌将应用商店开发者每年首次100万美元收入抽成减少至15%
- 名为 “京刚”:京东科技旗下京东云发布新一代自研虚拟化架构
- 标签: 自然选择 EVE 恺英网络 AI陪伴
- 阶跃发布端到端语音大模型Step-Audio 2 mini
- 标签: 王石 北京安剑律师事务所 DoNews 律师声明
- 2020十大优秀大数据分析工具,果断收藏
- 在中国一千人中多少人用苹果手机?答案你很难想象得到
- 云计算开发:Python内置函数-__import__()函数详解
- 标签: 英伟达 H200 黄仁勋 芯片
- 在混合交通流中网联自动驾驶车如何避撞:一个基于模型的强化学习方法
- AI竞赛让谷歌数据中心用水量飙升 同比增长20%
- 阿里巴巴:第三季度云业务收入201.79亿元,同比增长3%
- 标签: 小天才 小天才手表现
- 柿子可以在太阳底下晒吗
- 微软前高管建议卖掉Windows和Office业务 专攻云计算
- Bubble 推出其首个 AI Agent,革新可视化开发体验
- 标签: HarmonyOS7 华为HDC2026 鸿蒙智能体2.0 openPangu2.0
- 搜索
-
- 友情链接