時下，作為新一輪科技革命和產業變革的重要驅動力量，人工智能正帶來前所未有發展機遇。用AI算法驅動生產，請AI“健康管家”根據個性化營養需求定制食譜，通過AI系統優化紅綠燈配時、緩解交通擁堵……人工智能技術正深度融入社會經濟的方方面面，走進人們的日常生活。

美國公司Relativity Space執行董事長兼首席執行官埃里克·施密特預計，今后兩年將涌現一大批AI智能體，可以通過語言記憶來完成任務，即人類發出語言指令，智能體記住指令并采取行動。這將對企業產生巨大影響。

中國人工智能企業MiniMax創始人、首席執行官閆俊杰注意到，AI正不斷拓展應用場景，還在與人類一起持續改進AI自身。今后，AI將日益強大，且這種變化“有可能是無止境的”。

(資料圖)

但與此同時，人工智能也帶來前所未遇的風險挑戰。如何確保人工智能安全可控，始終沿著人類文明進步方向發展，是與會人士最為關注的問題之一。

上海人工智能實驗室主任、首席科學家周伯文表示，當前人工智能的特點是通用性、可復制和開源。AI的發展和安全同樣重要，二者并非零和游戲。

“我們目前仍然沒有科學方法來確保人工智能的安全性，也無法確保人工智能可以始終符合人類意愿，并被人類控制。”圖靈獎得主約書亞·本吉奧直言。

在2024年諾貝爾物理學獎得主杰弗里·辛頓看來，人類已習慣作為頂級智能存在，很難想象被更高級智能主導。“就像飼養虎崽作為寵物，我們必須確保其成年后不會反噬。”

杰弗里·辛頓認為，如何訓練已經相當聰明的AI，使其甘于輔助人類，是各國應當通力合作的重要議題。他主張建立一個由各國人工智能安全研究機構與協會組成的國際化社群，促進AI向善。

如何避免發展中國家深陷智能鴻溝，也是亟待解決的一大問題。此前有業內人士指，發達國家總體上掌握著比發展中國家更先進的人工智能技術，這進一步影響了后者在國際舞臺上的話語權。

美國約翰斯·霍普金斯大學政府與政策學院教授吉莉安·哈德菲爾德說，應當確保各國，尤其是那些尚未從工業革命中充分獲益的國家都能從人工智能發展中受益。

規避這些“暗礁”，步伐已經邁出。2025世界人工智能大會暨人工智能全球治理高級別會議發表《人工智能全球治理行動計劃》稱，及時開展人工智能風險研判，提出針對性防范應對措施，構建具有廣泛共識的安全治理框架。

此外，行動計劃還明確提出，支持各國特別是全球南方結合自身國情發展人工智能技術和服務，助力全球南方真正接觸和應用人工智能，推動人工智能包容普惠發展。

中國政府26日倡議成立世界人工智能合作組織，初步考慮總部設在上海。這是中方堅持踐行多邊主義、推動共商共建共享全球治理的重要舉措，也是中方響應全球南方呼聲、助力彌合數字和智能鴻溝、促進人工智能向善普惠發展的實際行動。

標簽：