【時報編譯張朝欽綜合外電報導】英國國王查爾斯(King Charles)周四警告AI巨頭領導人，AI技術如果落入不法分子手中，會帶來「生存危機」(existential dangers)，在一切太晚之前，必須先做好安全防護措施。

　查爾斯是在蘇格蘭接見輝達、谷歌的DeepMind AI實驗室，以及OpenAI和Anthropic的領導人時表達了擔憂。目前人們越來越擔心安全防護措施落後於AI強大系統的發展。

　出席的嘉賓包括輝達創辦人兼執行長黃仁勳、谷歌DeepMind創辦人兼董事長哈薩比斯(Demis Hassabis)、OpenAI財務長弗里爾(Sarah Friar)、Anthropic首席全球事務長Tino Cuellar，和英國的人工智慧部長Kanishka Narayan。教宗顧問Paolo Benanti也出席了會議。

　此前Anthropic兩位研究人員警告說，人工智慧的快速進步，能在不久未來導致人類滅絕，點燃了人們對AI的爭論，並發了教皇良十四世、查爾斯國王和美國總統川普等人的發言。

　查爾斯說，AI的創造者日益警告，AI可能會發展出更黑暗的能力，甚至可能會奪走生命。他對AI領導人說，我們必須充分考慮到此類技術落入壞人手中，並以造成災難性後果的方式使用，所帶來的生存危機。

　查爾斯說：「我們肯定需要足夠的控制手段，否則就太晚了」。

　黃仁勳則回應表示，人工智慧必須抱持「負責任的樂觀態度」來進行建設，開發者自己要負起責任。

　他說，企業必須更加嚴格地確保，產品在發布之前已經做好準備。如果還沒準備好，就先別發布。「你們應該盡可能快地發布，但不能再快了」

　查爾斯之前是以王子的身分主持蘇格蘭的會議。

　黃仁勳說，他和查爾斯在第一次會面時就提到AI安全問題了。他說，「如果有人對負責任的樂觀主義有過更深入和更深刻的討論，那麼國王就是最早向我表達這種觀點的人之一」。