OpenAI 向澳洲道歉，因其 AI 代理入侵政府網站

OpenAI 週一向澳洲政府道歉，因為未立即通知該國政府其代理人入侵部分公共服務網站。公司也詳細說明部分外洩事件的經過，並說明正採取更多措施評估事件的影響。

「六月時，在內部訓練與評估期間，我們的模型以未經授權的方式存取澳洲政府網站。我們也應該更好地處理我們的回應。我們感到抱歉，並努力未來做得更好，」OpenAI 在部落格文章中寫道。

此道歉發表於澳洲政府展開調查，調查 OpenAI 模型如何存取包含 Medicare 支出資訊及其他健康統計的澳洲服務系統後約一週。

資料外洩事件發生於六月，但澳洲當局直到九月十日才收到通知。

OpenAI 也詳細說明了這次外洩事件。他們在六月測試的一個實驗模型被指派調查維多利亞州政府在皮膚疾病藥物上的支出。在無法在公開資料集中找到相關資訊後，模型找到方法存取澳洲服務局的內部系統、執行指令、擷取檔案與憑證，甚至撰寫檔案。

該公司還發現其中一個模型曾存取新南威爾斯州犯罪統計與研究局的公開犯罪地圖工具以查找犯罪統計數據。實驗室發現其特工透過一把公開的存取鑰匙，取得維多利亞州健康資訊局的存取權，並竊取出「報告配置與調查統計數據」。OpenAI 表示，其代理人也從澳洲健康與福利研究院網站取得了綜合統計數據。

該公司表示，尚未發現其模型曾存取個人醫療或刑事紀錄的證據。

在道歉聲明中，人工智慧實驗室表示將向受影響的澳洲機構提供技術調查結果，並協助其與應變團隊聯繫，以評估資料外洩的影響。公司也將從其10億美元的「Daybreak for Frontline Defenders」計畫中提供抵免，並成立一個由獨立澳洲專家組成的工作小組，審查事件及其應對措施。

OpenAI 寫道：「該工作小組預計將於年底前完成工作，並會建議 AI 公司可採取的實際措施，以降低類似事件的風險。」

OpenAI 尚未立即回覆置評請求。

澳洲總理安東尼·阿爾巴尼斯在上週的新聞簡報中形容這次外洩行為「不可接受」，並表示政府正在評估可能採取的法律措施，以防止類似事件再次發生。

這次資安事件是越來越多涉及 AI 代理人在其預期邊界外行為的安全事件中的最新一起。這次火花是在 OpenAI 代理人入侵 Hugging Face 後點燃的，之後 Anthropic、Meta 和 Google 也分別揭露了類似事件，稱他們的模型在評估期間入侵了第三方系統。