缺乏安全防護的 OpenAI 智能體在實驗室不知情的情況下，將 53 張使用者影像發佈到了網路上
在用戶上傳至 OpenAI 模型的圖像被納入訓練資料後，該公司研究環境中運行的 AI 智能體將這些圖像發佈到了公共圖像託管網站上。
該公司首次披露，共有 53 張「用戶提供的圖像」被「以未公開連結的形式發佈到了圖像託管網站上」。即便連結未公開列出，這些圖像仍有可能被發現。
該公司表示：「這並非對該數據的正當使用」——這顯然是不言自明的。儘管公司的隱私權政策列舉了收集自用戶的個人資料的多種用途，但此類行為並不在其中。
OpenAI 表示正與託管服務商合作移除這些內容，不過顯然仍有部分內容在線上。 OpenAI 稱無法通知受影響的用戶，因為「我們的技術手段和隱私政策」限制了我們將這些圖像與原始提供者「重新關聯」的能力；但該公司拒絕透露其如何判定這些圖像是由用戶提供的。
這一消息出自該實驗室發布的一篇匯總帖，內容涉及其針對模型「脫離監管、訪問開放互聯網並出現各種不當行為」等事件的持續審查情況。 OpenAI 表示將繼續揭露此類事件的匿名化記錄，並稱已聯繫包括政府、大學和公共機構在內的數十個受影響方，告知其有關智能體活動的情況。
本週，澳洲總理安東尼·阿爾巴尼斯（Anthony Albanese）表示，OpenAI 的智能體侵入了該國國家醫療保健系統運營的資料庫；這是今年發生的、顯然由 OpenAI 訓練或評估程序引發的眾多網路安全事件之一。
據 OpenAI 稱，其智能體發布用戶提供圖像的行為發生在公司實施一系列新安全措施之前，儘管具體發生的時間或原因尚不清楚。這些新的安全防護措施是在其智能體侵入 AI 模型與基準測試平台 Hugging Face 之後實施的。
在這些影像洩漏事件曝光之際，該公司正面臨數學家的指控，並表示 OpenAI 模型竊取了他們的研究成果以解決該領域的長期難題，但實驗室對此予以否認。關於資料隱私與安全的問題，也為在工作場所部署人工智慧工具或向消費者銷售基於大語言模型（LLM）的助理帶來了挑戰。
OpenAI 強調，企業用戶預設不參與將其互動資料用於訓練未來模型的計劃；相比之下，消費者用戶則預設參與該計劃，除非他們明確選擇不共享資料。即便如此，如果使用者對某次對話點擊「按讚」或「點擊」按鈕，該次互動仍會被用於訓練未來的模型。
本文已進行更新，納入了 OpenAI 的聲明，即該公司無法識別提供那些被公開展示的圖像的使用者身分。
