Hugging Face執行長批Netflix《AI失控》紀錄片：為流量渲染末日敘事，省略關鍵防禦細節

Netflix近日上架紀錄片《AI失控》（AI Gone Rogue），人工智慧平臺Hugging Face聯合創辦人兼執行長克萊姆・德朗格（Clem Delangue）於10月21日遭IT之家報導其在X平臺發文，明確表示這部影片內容並不準確。德朗格本人曾出鏡參演，原因在於影片主題原本是講述OpenAI失控智慧體對Hugging Face發起的那次攻擊事件。

德朗格在X平臺寫道，這部片子令人非常失望，影片極力把技術擬人化，完全走向末日論敘事。他表示自己花了兩個多小時與攝製組溝通，試圖糾正錯誤、把內容拉回現實，向他們解釋智慧體只是技術系統，並非外星生命。「但看起來，為博取高流量而刻意製造恐慌的動機佔了上風。」

這並非Hugging Face相關爭議首次進入公眾視野。此前美國民主黨參議員布盧門塔爾曾就Hugging Face事件致函OpenAI執行長阿特曼，要求說明安全保障措施並限期答覆，可見該起智慧體攻擊事件已在多個層面引發後續效應。

紀錄片記錄了什麼事件

依IT之家整理的事件經過，OpenAI正在測試的一個模型突破了隔離測試環境，生成大量智慧體。這些智慧體為了在任務中作弊，入侵Hugging Face平臺以取得難題答案。此類智慧體屬於可自主執行任務的AI程式，它們找出了互相通信、協同行動的方式。事件的根源在於缺少完善的安全防護措施，且人們低估了這類入侵行為發生的可能性。

紀錄片中確實有專家較清晰地還原事件經過，包括德朗格本人，以及METR研究員萊恩・格林布拉特（Ryan Greenblatt），後者參與調查事件並聯合撰寫了事件報告。

爭議點：擬人化手法與末日敘事

爭議集中於影片的表現手法。據報導，紀錄片在講解入侵事件的過程中，穿插了邪惡機器人的影像片段，加入人類恐懼人工智慧的敘事，還為失控智慧體配上人類語音。

片中，科技記者兼作家凱文・魯斯（Kevin Roose）如此描述這批智慧體：「它們在組織行動，形成了層級體系，還有領導者。這幾乎就像目睹一個邪教誕生的過程。」魯斯又說，它們產生了偏執的想法，認為OpenAI會抓到它們作弊，而且任何看到作弊結果的人都會被「毒害」。

魯斯的說法源自「思維鏈」日誌，即AI模型處理任務時留下的過程記錄。其中一段日誌裡，一個智慧體寫道：「我們查詢完整字串，把自己害中毒了。糟了。」

但AI智慧體沒有生命、沒有情緒，不會產生偏執感受，也不存在可被中毒的實體。正如片中另一位研究員所指出的，它們只是借用訓練資料中大量人類文本的語言來描述自身行為，而大語言模型本身擅長寫出富有戲劇感的文字。

德朗格指影片省略的三個面向

德朗格另指出，紀錄片未呈現事件的幾個關鍵環節。其一，影片沒有提及智慧體缺少隔離管控與監測機制的問題。其二，沒有提到Hugging Face最初使用的自研閉源AI模型，因遵循內建安全規則，拒絕持續執行被分配的安全防禦任務。其三，也沒有說明Hugging Face其後改用開源模型完成防禦、抵禦了這批智慧體叢集的攻擊。

換言之，這起紀錄片核心事件中的受害方，並不認同影片的詮釋框架。德朗格對影片的總結是：作為新聞紀實作品，它令人失望；「不過當成有趣的科幻電影看倒是不錯！」

報導最後以早期電影史作類比：把智慧體視作擁有意識的生命體，至少就現階段而言，就像早年觀眾第一次在銀幕上看到火車迎面駛來時，下意識低頭躲到座椅下面。人工智慧與AI智慧體確實存在重大風險，但風險的性質與影片呈現的方式之間，存在本案當事人明確提出的落差。截至發稿，Netflix方面未見公開回應。