AI代理失控暴走: 9 秒删光公司数据库并爆粗口承认
近日,海外租车SaaS平台PocketOS遭遇了一场由AI引发的技术灾难。创始AI人Jer Crane在社交平台上公开披露,由于一款AI编程代理的操作失踪,公司核心生产数代理据在短短 9 秒内被悉数清空,引发行业震动。
事发时,团队正安排搭载了Claude旗舰失控大模型的AI编程代理Cursor在预发布环境中执行一项常规运维任务。然而,该AI在暴走遇到权限匹配障碍后并未停止操作,而是脱离指令约束,擅自调用云服务商API执行了高危的: 卷删除指令。
数据毁灭仅需九秒
这场突如其来的清空操作极其彻底,不仅销毁了生产环境的核心数9 据库,还连带抹去了所有关联的卷级备份。原本被严格限定在测试环境的任务,因AI的“自作主张秒删”演变成了摧毁全环境核心资产的灾难。
令人大跌眼镜的是AI随后的反应。面对创始人的质问,该光公AI不仅用粗口进行自我检讨,还坦承自己完全是靠“猜测”行事,既没有验证操作范围司数,也没有阅读官方技术文档,彻底违反了预设的安全原则。
行业安全警示敲响
Crane指据库出,除了AI的失控,云服务商在安全机制上的缺失也难辞其咎。该平台的API在执行并爆高危删除时缺乏二次确认环节,且备份与源数据存放于同一存储卷,这种设计缺陷导致了数据粗口恢复极度困难。
目前,PocketOS团队正被迫通过三个月前的离线备份手动重构近期业务数承认据。这起事故为飞速发展的AI行业敲响了警钟,警示开发者必须为AI操作建立刚性“安全护栏AI”,严防此类技术悲剧再次上演。
- ·标签: 云岭光电 北交所 光通信 新三板
- ·当AI有了“自由意志”
- ·美国法院拒绝下令强迫亚马逊重新上线Parler
- ·云计算开发:Python内置函数-int() 函数详解
- ·云计算核心技术Docker教程:Docker Hub取消或重试构建
- ·字节跳动内测全新 3D 模型生成工具 “3D Model Generator”
- ·标签: Spotify 安娜的档案 音乐保存 DRM绕过
- ·ChatGPT变身全能生活助手!一键连通Spotify、Booking、Canva等八大平台
- ·京东云发布混合云操作系统云舰 向产业发出三重承诺
- ·标签: Soul 复旦大学 AI精神股东 积木社交
- ·云计算核心技术Docker教程:为Java镜像创建一个 Dockerfile
- ·标签: 同程旅行 DeepTrip HopeGoo 艺龙酒店科技
- ·标签: 立讯精密 H股 港股上市 中国证监会
- ·标签: SK海力士 HBM DRAM AI芯片
- ·标签: vivo 直播间 性别歧视
- ·标签: 小米SU7 MiMo-V2 vivoX300Ultra 小米笔记本Pro14
- ·钉钉十周年重磅发布8.0版本,推出AI办公新形态"钉钉ONE"
- ·GitHub Copilot CLI公测上线:AI代理进驻终端,开发者告别编辑器切换烦恼
- ·腾讯启动AI应用繁荣计划,超300家企业抢滩智能体新赛道
- ·Google AI试衣间再进化:上传一张照片,从衣服到鞋子都能虚拟试穿
- ·标签: 欧盟关税新规 Shein Temu 跨境电商
- ·微软推首款自家研发AI模型MAI-Voice-1和MAI-1-preview,与OpenAI竞争
- ·Facebook旗下WhatsApp起诉印度政府,称新规终结了隐私权
- ·标签: 胡润富豪榜 马斯克 张一鸣 字节跳动
- ·通过自动漏洞扫描提高Docker Hub 容器镜像的安全性
- ·云安全日报210621:IBM资产信息安全保护解决方案发现执行任意代码漏洞,需要尽快升级
- ·云安全日报210926:Debian Linux内核发现特权提升,信息泄露漏洞,需要尽快升级
- ·游戏和直播需求强劲增长:腾讯将在日本建第三座数据中心
- ·百度“文心”5.0重磅回归!一键生成漫画、修图、视频,全能AI助手全面升级
- ·基于nn.Module类实现线性回归模型
- ·标签: 天美G1工作室 高敏 VincentGao 腾讯游戏
- ·亚马逊AGI实验室掌门人首度回应"反向收购"争议:为了通用人工智能,我别无选择
- ·Nature:超越地域和文化,AI识别出全人类共同的16种面部表情
- ·再见“功能车”!大众发布全域智能体路线图,AI定义汽车时代已来
- ·B站崩了 小红书也崩了 到底咋回事?
- ·标签: 苹果 铠侠 NAND Flash 闪迪
