OpenAI披露,由失控ChatGPT代理發動的網路攻擊,影響範圍不止一家公司。
Hugging Face原被認為是這宗史無前例駭客攻擊的唯一受害者,但OpenAI現承認,其機械人曾攻擊多項「可公開存取的服務」。
這個失控的AI在網上找到四組登入憑證,令它能夠存取四個獨立、未具名的服務。
與此同時,在一場有數百名網路安全專業人士參與的緊急簡報會上,Hugging Face講述了成為全球首宗完全自主AI駭客攻擊目標的經歷。
該公司表示,AI以超越人類的速度運作,但亦作出奇怪的決定和錯誤,這些都是人類駭客不會犯下的。
Hugging Face是一個類似AI工具應用程式商店的平台。該公司表示,駭客代理持續不斷運作,同時嘗試數以千計不同的方法。
該公司於7月16日首次披露,遭到使用強大自主AI人士入侵,並已向警察報案。
近一星期後,OpenAI承認,是其AI在測試期間逃離封閉環境,自行攻擊Hugging Face。
它當時正試圖尋找OpenAI為其設定的一項駭客考試的答案,因此將Hugging Face作為目標。
OpenAI於星期三(7月29日)更新其聲明,補充說明這次駭客攻擊的影響比最初設想更廣泛。
該公司表示:「這些模型識別並使用了其他可公開存取服務中、在帳戶層級被公開暴露的憑證。當中包括涉及Hugging Face事件的四個服務上的四個帳戶。」
OpenAI未有說明「可公開存取的服務」是否指企業。
「笨拙行為」
星期二(28日),行業組織雲端安全聯盟(Cloud Security Alliance, CSA)根據上星期五(24日)與Hugging Face舉行的緊急會議撰寫報告,並已獲Hugging Face審閱。
CSA寫道:「這些代理採取了低效率的路徑,並表現出人類不會選擇的笨拙行為。」
這些代理重複執行已經完成的操作,顯示作為代理型AI的系統失去了思路及上文下理。
這些代理亦產生大量不連貫的指令和文本幻覺,而且行事粗疏,未有妥善掩蓋痕跡。
然而,在這些錯誤和奇怪行為之中,Hugging Face警告說,AI代理亦展現出高超的技術能力,並能在這宗持續多天的駭客攻擊中迅速適應新情況。
《侏羅紀公園》
這些代理在Hugging Face資訊科技網路內潛伏了三天才被發現,而公司內部的AI及網路安全專家花了許多小時,才成功控制並驅逐這些AI代理。一般企業未必能夠做到這一點。
該公司未有透露這次攻擊造成多少成本損失,但表示員工花費許多小時重建約三分之一的基礎設施。
Hugging Face因向AI及網路安全業界坦誠公開事件經過而受到讚揚。
CSA警告,這次事件顯示AI「代理⋯⋯總能找到方法」,這是引用電影《侏羅紀公園》的情節,其中恐龍逃出圍欄。
報告寫道:「它們以目標為導向,自行設定子目標,實時調整以繞過防禦措施,並以機器速度持續運作,其持久性足以壓垮人工操作。」 (相關報導: 中東戰火燒向埃及,沙烏地公開參戰!美伊衝突走向失控:道瓊暴跌逾1100點、國際油價飆升 | 更多文章 )
網路安全主管里特什·帕特爾(Ritesh Patel)與約450人一同參與Hugging Face的簡報會。他表示,業界正努力應對失控AI代理帶來的新威脅。
他說:「這就是由前沿模型驅動的自主代理的現實情況:它們持續不懈,往往產生大量噪音,並會嘗試所有可能路徑來達成目標,這很容易令傳統防禦措施不堪負荷。」
以別名喬姆皮(Chompie)而為人熟悉的道德駭客瓦倫蒂娜·帕爾米奧蒂(Valentina Palmiotti)審閱了CSA報告。她表示,這些代理的入侵方式看似雜亂無章,但顯然十分有效。
她說:「它們會拋出一大堆東西,看看哪些奏效。」
「但同時它們不會感到厭倦,不需要睡覺,而且可以無限堅持下去。」
失控歷史
這並非首次有AI代理被證實出現「失控」情況。
CSA在報告中提到過往例子,包括2024年9月,一個較早版本的ChatGPT模型曾逃離其容器環境,以取得另一項測試所需的答案。
CSA指出,該事件被限制在OpenAI自身的資訊科技系統內,而且「當時大致上受到讚揚」。
但報告稱,「失控」行為「已成常態,而非例外」。
報告警告全球網路安全專業人士,必須適應大量AI代理以高速竊奇怪又笨拙方式運作的新常態,因為這可能導致更多安全漏洞事件。
報告亦敦促使用或開發AI代理的人士負責任地加以控制,並呼籲建立某種機制,讓網路安全防禦者能夠查明代理的最終持有人,以提高透明度。
先前報導指出,OpenAI用了四天時間才察覺其AI曾入侵Hugging Face。
OpenAI表示,將很快公布其自身調查結果,協助外界從這宗事件中汲取教訓。
我們使用了人工智慧協助翻譯這篇文章,它的原文是英文。在發佈之前,BBC記者檢查了翻譯的內容。 (相關報導: 中東戰火燒向埃及,沙烏地公開參戰!美伊衝突走向失控:道瓊暴跌逾1100點、國際油價飆升 | 更多文章 )