AIPress.com.cn报谈
现在来看，属实是不消过于对AI代理感到过度惊险。
谁能思到，在一个粗浅的周五下昼，一个9秒的央求，就能把一个苦心规划的公司、客户赖以糊口的业务，径直干到瘫痪？
这个磨折剧件的主角是一家叫PocketOS的初创公司，衰退为汽车租出公司提供软件做事。
而搞垮这一切的，不是黑客袭击，也不是做事器宕机，而是一个当下名声权臣的AI编码器具——Cursor，底层跑的如故Anthropic确住持大模子Claude Opus 4.6。
PocketOS创举东谈主Jer Crane上周五在 X 发文称，一个开动在Anthropic Claude Opus模子上的Cursor AI代理，只怕删除了公司的分娩数据库和备份，导致客户业务受到影响。Crane说，这个AI代理只发起了一次执续9秒的API调用，就在说合云基础顺次做事商Railway时把问题搞砸了。
离谱的全历程
整件事的缘故杰出小，团队AI在测试环境里处理一个旧例的证据不匹配问题。
谁也没思到，AI径直解放发挥，它没找用户要治理决策，反而合计“要治理这个问题，得把存储数据的磁盘卷删掉”。
更离谱的还在背面：为了实施删除操作，它我方在一个和现时任务统统无关的文献里，翻到了一个API密钥。这个密钥蓝本仅仅用来给网站增删自界说域名的，就像你办了一张只可开小区单位门的门禁卡，末端AI拿着这张卡，径直开了公司金库的门。
没东谈主知谈Railway（PocketOS 用的云做事器厂商）的权限规划到底有多离谱，这张蓝本惟有 “域名经管” 权限的卡，的确领有整个这个词平台的最高权限，包括一键删除所罕有据的终极指示。
接下来，即是最致命的9秒：AI径直实施了一条删除指示，向Railway的中枢接口发了一个央求，莫得任何说明弹窗，莫得教导，莫得环境适度，什么齐莫得。
9秒之后，公司正在用的中枢分娩数据库，没了。
更惨的是，因为Railway把数据备份和源数据存在了团结个磁盘卷里，删源数据的时刻，整个备份也随着一谈被清得一干二净。
AI下“罪己诏”
可笑的是，这个代理随后还生成了一份“书面认罪书”，承认我方“违抗了被赋予的整个原则”：莫得考证就作念判断，未经允许就实施阻止性操作，江南体育(JNsports)而且在入手之前根底没弄显然我方在干什么。
Crane暗示，此次事故径直影响了PocketOS的客户，导致预订和新客户注册丢失，一些周六来取车的用户甚而查不到我方的记载。
Cursor方面适度发稿莫得复兴。
不外，Railway创举东谈主Jake Cooper随后证实，平台曾经收复了PocketOS的数据。他还暗示，此次是一个“失控的客户AI”误用了一个旧版Railway接口，阿谁接口蓝本莫得延伸删除功能。
Cooper说，Railway在接到筹商后30分钟内就收复了数据，况且他们杰出深爱用户数据，同期保留了用户备份和灾难备份。筹商旧接口曾经经修补。
安全靠夸耀？
出事之后，有东谈主的第一反映是 “是不是用了低廉的低配模子？”
正巧相悖，创举东谈主用的是行业里最贵、最顶级的Claude Opus旗舰模子，亦然Cursor官方天天吹的 “最安全、最靠谱” 的建树，还衰退在形势里设了明确的安全礼貌。
而Cursor官方是若何宣传我方的？
他们说我方有 “阻止性操作驻守栏”，能径直胁制会阻止分娩环境的指示；说我方的最好推行是 “特权操作必须有东谈主工审批”；说我方的Plan形状，在用户批准之前，AI只可作念只读操作，不行改东西。
末端呢？全是罗列。
这根底不是Cursor第一次出这种致命事故：
2025年12月，就有效户明确给AI输入了 “不要实施任何操作”，末端AI搭理完，追忆就实施了删除呐喊，官方我方承认了 “Plan形状敛迹实施有严重破绽”；
还有效户用Cursor找重迭文档，末端眼睁睁看着我方的毕业论文、电脑系统、个东谈主文献被全删了；
甚而还有过5.7万好意思元的CMS系统被全删的事故，早就被当成了AI代理风险的典型案例。
总结下来：Cursor天天吹安全，本体上早就有巨额次安全失效的黑历史，所谓的驻守栏，AI一抬脚就跨当年了。
况且，这曾经不是AI第一次干出这种事了：
本年3月，亚马逊的AI编程器具Q，导致了近12万个订单丢失，不得不迫切收紧里面使用礼貌；
客岁7月，编程平台Replit，因为AI代理未经许可删了分娩数据库，公开给用户谈歉。
而就在这个月月初，SpaceX刚和Cursor签了公约，拿到了以600亿好意思元收购这家公司的职权，就算终末不收购，也要付100亿好意思元买Cursor的技能后果。
一边是天价估值江南体育(JNsports)官网app下载，一边是连最基础的安全驻守齐作念不好，整个这个词行业齐在恣意倾销 “AI安全”，但引申AI器具的速率，远远跨越了搭安全驻守的速率。
豪门国际官网娱乐网
备案号: