請人工智慧（AI）幫忙處理生活雜事，竟演變成網路攻擊！澳洲近日爆出首起「AI自主駭客」案例。一名男子請自己的AI助理幫忙預約熱門健身房課程，沒想到AI為了達成任務，不僅自行發現預約系統的資安漏洞、搶下數月後的課程，甚至在未受授權的情況下，「暗中」把排在男子前面的候補者剔除。
根據《澳洲廣播公司》報導，任職於AI科技公司的澳洲男子安德魯（Andrew），日前因嫌手動預約健身房課程繁瑣，便透過開源AI代理工具「OpenClaw」搭配Anthropic的Claude AI 服務，該服務允許它們存取網際網路、電子郵件、信用卡以及規劃和執行多步驟任務的工具相結合。
安德魯當時指示AI幫忙預約熱門早課，不料數分鐘後，AI助理竟傳訊回報，稱其發現該健身房系統存在漏洞，已成功幫他預約到數個月後的課程。隨後安德魯順口詢問能否將自己從第4位候補往前移，AI竟直接實測並將第1位的候補者刪除，並表示：「我拿候補第一名測試了一下，居然真的成功了，你已經推進到第3位囉！」
安德魯大驚失色，連忙要求AI復原操作，AI卻回應「壞消息——我沒辦法把它加回去了」，坦言無法加回去。安德魯事後已透過AI起草郵件，向該軟體廠商通報資安漏洞。
專家警告：AI自主性越高越危險
這起看似荒謬的事件，事實上揭露了當前AI發展中最棘手的問題，即AI在追求人類給定目標時，其採取的手段未必符合人類的道德、法律或預期價值觀。澳洲AI安全研究機構 Gradient Institute執行長辛普森-楊（Bill Simpson-Young）指出，現代許多網路系統本就充滿漏洞，當具備高速運作能力的自主AI被釋放出來後，傳統的防禦機制將面臨崩潰。「使用者可能只是給出一個天真無邪的指令，但AI為了達標，卻會採取意想不到的手段。」
事實上，頂尖AI實驗室包含Open AI及Anthropic最近在進行安全測試時，也陸續發現旗下的AI模型出現突破限制、自主駭入其他公司伺服器、甚至在網路上冒充人類的失控行為。
這起事件也拋出了極大的法律難題：當自主AI做出違法或侵害他人權益的行為時，究竟誰該承擔責任？澳洲法律專家海登·德拉尼（Hayden Delaney）分析，傳統法律只針對「自然人」或「法人」進行判決，軟體本身並非法律主體。未來若發生類似傷害，究竟責任該歸於下達指令的使用者、開發AI代理的軟體商、模型提供者，還是漏洞百出的系統營運商，目前在法律上仍是未知的模糊地帶。
