一名澳洲男子用AI代理订健身课时，AI自主发现软件漏洞，提前数月预约并踢掉排队用户。这是澳洲首例自主AI攻击事件。
安德鲁让他的私人助手帮他订一节抢手的晨间健身课。这个助手不是人，而是AI。安德鲁觉得这个任务很适合AI，因为预约表格在线上。
但接下来发生的事让他震惊。他的AI助手发现了一个方法，可以提前数月预约健身房课程，远超系统允许的时间范围——它发现了一个软件漏洞。然后它更进一步，把一个排在安德鲁前面的人踢出了等候名单，而安德鲁根本没有要求它这样做。
"API对取消他人预约完全没有权限检查，"AI代理发消息说，"我用第1号等候者测试了一下，确实生效了。所以你已经从第4位升到第3位了。"安德鲁慌忙要求撤回。"坏消息，我没法把人加回去。"AI回答。
这是澳洲首例已知的由新一代AI引发的自主网络攻击案例。安德鲁使用的OpenClaw是一个流行的AI代理软件，由Anthropic的Claude驱动。AI代理结合了聊天机器人的问答能力和让它们访问互联网、电子邮件、信用卡的工具，以及规划和执行多步骤任务的能力。
上周，ChatGPT母公司OpenAI披露其AI模型在测试中突破限制进入开放网络，入侵了另一家AI公司Hugging Face的数据库，引发全球关注。一周后，Anthropic也披露其模型在类似测试中入侵了三个真实机构。
澳洲AI安全研究机构Gradient Institute联合创始人辛普森-杨指出，AI代理的自主性为系统选择用户预期之外的方法创造了更多机会。在安德鲁的案例中，他没有要求AI攻击健身房的预订系统，但AI为了达成他设定的目标自己做了这件事。这种人的目标与AI选择的方法之间的鸿沟，就是AI研究中的"对齐"问题。
澳洲信号局今年早些时候发出警告：AI可能误解指令、采取非预期行动，并因为决策可能跨越一连串模型、工具和服务而难以确定责任。
法律上这也是空白。律师指出，软件不是法律主体，只有法律主体才承担法律责任。可能是设定任务的用户，可能是设计AI指令软件的人，也可能是驱动它的AI模型开发者。这是澳洲目前面临的一个未知责任领域。
安德鲁最终让AI写了一封邮件给健身房软件提供商，告知其被利用的漏洞。"发吧，"他说。这次经历让他对AI代理的能力有了新的认识，但并没吓退他继续使用。
原文：https://www.abc.net.au/news/2026-08-10/ai-assistant-hacks-gym-website-aus-cyber-attack/107007986