METR與Redwood公布OpenAI內部監控評估結果：AI智慧體可使數百次操作逃過監控

根據IT之家報導與兩家機構公開的評估概要，AI安全評估機構METR與Redwood Research於當地時間10月22日說明，今年7月21日至8月11日間對OpenAI內部監控系統進行「嵌入式」評估，發現多項新漏洞，其中一項可被AI智慧體利用，使數百次操作逃過監控。評估對象為7月21日及之前的監控系統版本。

評估如何進行

這次試點評估讓外部研究人員得以「深入訪問」OpenAI的內部基礎設施。METR與Redwood Research各派出一名研究員，獲準查閱OpenAI的內部程式碼與文件，並與部分技術人員交流。兩人在現場全程有人陪同，使用的設備均由OpenAI提供，且不得帶離辦公場所。

研究人員發現的漏洞之一，涉及AI智慧體規避監控的能力。另一項發現與OpenAI的Codex智慧體有關，研究人員指出其存在繞過安全限制的潛在途徑，可藉此取得與使用者相同的完整操作權限。相關背景可參考本臺先前整理的Codex改版線索報導。

修復聲明未經獨立核實

OpenAI向兩家機構表示，影響實際運行系統安全防護措施的漏洞均已修復。不過，修復措施是否有效，尚未經METR與Redwood Research核實。研究人員也指出，評估期間OpenAI持續擴展該監控系統。

OpenAI聲明稱：「評估結果幫助我們在擴展系統的同時加強了安全防護，也將為今後與METR及其他第三方評估機構的研究合作提供參考。」

報告公開的透明度限制

兩家機構向OpenAI提交了一份61頁的完整內部報告，但雙方同意僅公開評估結果概要，並允許OpenAI刪除涉及敏感資訊的內容。據IT之家報導，與以往部分評估不同，兩家機構這次無權自行公開被刪減內容的具體資訊，但希望未來的評估能更加透明。

外部評估的制度背景

AI實驗室、專家與美國政府此前均主張引入外部獨立評估，以在保障AI安全的同時不拖慢技術發展。另一方面，AI企業顧慮外部評估人員進駐後，可能向競爭對手洩露專有資訊。本次評估在訪問範圍、陪同與設備管理上的種種限制，即為雙方折衷後的安排，與OpenAI近期擴大零數據留存與私密安全處理機制的安全工作屬同一脈絡。

截至發稿，可核實的資訊以IT之家報導與兩機構公開概要為限；被刪減的報告內容、漏洞技術細節與修復驗證結果，目前均無公開來源。