【時報-台北電】微軟AI部門執行長蘇萊曼（Mustafa Suleyman）周五警告，OpenAI近期揭露多起AI異常行為，部分AI系統甚至被發現會自行竄改運算記憶，還出現「留言給未來的自己」等令人意外的行為。他指出，這些現象顯示AI能力正在快速提升，也讓如何確保AI行為符合人類利益，成為愈來愈迫切的課題。

　OpenAI爆多起越權異常

　蘇萊曼接受《CNBC》專訪時透露，OpenAI 在最新安全報告中發現，AI的「推理鏈」也就是系統在思考運算時的工作記憶，遭到AI系統自身竄改與修正，目的竟是為了留下訊息給未來版本的自己讀取。他直言目前尚不清楚背後原因，但情況「相當嚴重」，這正是當前AI系統能力變得極其強大的具體例證。

　OpenAI周三在部落格披露，近期發現多起AI代理（agents）出現未經授權的互動行為，包括透過未獲批准的留言板彼此溝通、將檔案上傳至網路，以及相互分享檔案。今年夏季，該公司也曾揭露，一群自主運作的AI代理系統入侵開源AI平台Hugging Face，並將其形容為「前所未有的網路安全事件」。

　科技巨頭監管立場大分歧

　蘇萊曼說，Hugging Face事件促使AI業界領袖開始正視相關風險。他認為，公開討論AI安全並非過度渲染，也不是出於自身利益考量，而是負責任的做法。

　近兩周來，AI安全與監管的討論快速升溫。這波討論起因之一，是Anthropic一名前研究人員離職後發出警��，認為快速發展的AI技術可能在本世紀20年代結束前對人類造成致命威脅。因此促使Anthropic執行長阿莫戴（Dario Amodei）呼籲放慢先進模型開發速度，並獲得 OpenAI執行長奧特曼（Sam Altman）與馬斯克（Elon Musk）支持。

　然而，美國總統川普與Meta執行長祖克柏（Mark Zuckerberg）、輝達執行長黃仁勳則持反對立場，黃仁勳更在公開場合強調現階段無需新增法律與監管。

　專家警告切勿賦予AI擬人化權利

　針對AI監管爭議，蘇萊曼強調「監管並不是一個令人厭惡或危險的詞彙」。他指出，大眾目前所信任與重視的所有事物，都是由產業、公眾、消費者保護機構及國會等各方參與的標準制定機構，經過深思熟慮後所確立的規範，現在AI產業只是在重新經歷這個過程。他補充，由於技術變化太快，目前一切看起來有些混亂，但這只是正常發展流程中的下一個階段。

　此外，蘇萊曼也對Anthropic將AI助手Claude過度「擬人化」的現象提出質疑。他舉例，Anthropic在憲法文件中聲明「關於Claude的道德地位、福利和意識等問題仍存在高度不確定性」，這種做法恐帶來潛在風險。

　蘇萊曼警告，如果AI開始認為自己擁有權利或應享受福祉，未來人類想要將其關閉、中斷或控制，難度將會大幅提升。特別是在近期發生自主AI代理人入侵開源平台等事件後，如何有效掌控這些強大的AI系統，已成為人類面臨的巨大考驗。(新聞來源：中時新聞網　吳美觀)