AI教父獲諾貝爾物理獎他預警機器人將統治全世界「貓的搖籃」預言將成真？

邱立玲

2024年10月11日週五下午2:06

諾貝爾物理獎得主辛頓預測：「AI最終將對人類文明產生巨大影響，改善生產力和醫療保健，這可以和工業革命相媲美。」（圖片來源／Geoffrey Hinton受訪影片截圖）

素有「人工智慧（AI）教父」稱號的加拿大科學家辛頓 (Geoffrey Hinton)和美國物理學家霍普菲爾德（John J. Hopfield）10月8日共同獲得2024諾貝爾物理獎。

先前他多次警告AI系統可能逃脫人類的控制，機器人可能統治全世界，他希望這次獲獎，能夠提高他警示AI技術危險信的可信度。

有趣的是，辛頓在獲獎當天發表談話時，也談到了AI界的當紅炸子雞OpenAI這家公司以及其執行長奧特曼（Sam Altman）。

曾開除奧特曼的OpenAI共同創辦人蘇茨克維是辛頓的學生

根據美國新聞網站《新聞內幕》（Business Insider）報導，辛頓坦言，他認為奧特曼更重視利潤而不是安全，辛頓還加碼指出：「我特別自豪的是，我的一名學生曾開除阿特曼。」辛頓所指的他的學生就是OpenAI共同創辦人暨首席科學家蘇茨克維（Ilya Sutskever）。

在去年感恩節前，蘇茨克維對於奧特曼急於推出AI產品，而忽視安全的方向感到不滿。舊董事會在未通知大部分OpenAI員工的情況下，突然解僱了奧特曼，並在聲明中表示奧特曼在與董事會的溝通中並未保持坦承。

這一決定激怒了微軟和OpenAI的其他投資者，並導致大多數OpenAI員工，包括蘇茨克維在內，要求除非奧特曼迅速恢復職位，否則將辭職。最終，奧特曼成功復職，舊董事會的大部分成員辭職。蘇茨克維也在今年5月宣佈離開OpenAI。蘇茨克維在離職公告中表示，正在進行一個新的計畫，但並未解釋為何此時離職，強調對OpenAI的未來充滿信心，認為OpenAI將建立安全且有益的人工智慧。

蘇茨克維2013年獲得多倫多大學的電腦科學博士學位，辛頓則是他的指導教授。

AI對人類文明造成重大影響，媲美工業革命

辛頓是英國出生的加拿大多倫多大學教授，具有雙重國籍，而霍普菲爾德是美國人，在普林斯頓大學教書。「這兩位先生確實是先驅，」諾貝爾物理學委員會成員馬克．皮爾斯說。

這2位幫助創建機器學習的基石，因而獲得諾貝爾物理獎，機器學習正在徹底改變我們人類的工作和生活方式，但也為人類帶來新的威脅。

綜合《華爾街日報》與《美聯社》報導，瑞典皇家科學院諾貝爾委員會的穆斯（Ellen Moons）表示：「2位研究人員開創的人工神經網路，受人腦神經元啟動的互連計算機節點，被廣泛應用於科學和醫學領域，也已成為我們日常生活的一部分。」

霍普菲爾德1982年的研究成果為辛頓的工作奠定基礎，他告訴美聯社：「我仍然對它產生的影響感到驚訝」。

得獎後辛頓預測：「AI最終將對人類文明產生巨大影響，改善生產力和醫療保健的改善，這可以和工業革命相媲美。」

AI可能擺脫人類的控制

「我們以前沒有經歷過比人類更聰明的事物是什麼感覺，如今AI在很多方面都將是美妙的，但我們也必須擔心一些潛在不良後果，特別是AI科技有失控的風險。」辛頓指出。

76歲的辛頓2023年春季辭去做了11年的谷歌職務，以便能夠更自由暢談他幫助創造的AI可能擺脫人類控制、AI影響選舉或驅動危險機器人的風險。他示警：「我擔心推動AI科技的總體後果可能是比我們更聰明的系統最終會取得控制權。」

霍普菲爾德在普林斯頓大學的記者會上，也提到這些擔憂，他說到喬治．奧威爾小說《1984》想像的反烏托邦世界，或者是科幻大師馮內果（Kurt Vonnegut）的小說《貓的搖籃》虛構一位諾貝爾物理獎得主無意間創造出世界末日。

76歲的辛頓在1980年代幫助開發「反向傳播」的技術，用於訓練機器如何透過微調錯誤直到錯誤消失為止，達到「學習的效果」。

這類似學生學習方式，對初始解決方案進行評分，發現缺陷並返回以進行修復，這個過程一直持續到答案與網路的現實版本相符為止。

《貓的搖籃》虛構世界末日景象

多倫多大學的辛頓團隊在2012年使用人類神經網路贏得國際知名的ImageNet電腦視覺競賽，令同業驚嘆不已，「這是重要的時刻，許多人認為現代AI由此誕生。」史丹佛大學電腦科學家、ImageNet創辦人李飛飛讚美。

辛頓在多倫多谷歌人工智慧部門的第一個員工弗羅斯特（Nick Frosst）表示，辛頓擁有非傳統的心理學家背景，他也曾因童年承受極大壓力，大學畢業後還當過木匠，他對大腦的運作方式感到好奇。

辛頓的諾貝爾獎為他提出世界末日警語提供一個新的平台，諷刺的是，物理獎也是認可他在推動世界末日的技術方面發揮關鍵作用。

辛頓認為先進AI系統能夠理解其輸出內容，這是研究界有爭議的觀點。他和霍普菲爾德研發出神經網絡，以受人腦啟發的方式處理資訊。

這項成果是當今使用的許多人工智慧技術的基礎，從聊天機器人ChatGPT到Google Photos，都能識別你拍攝每張照片的人物和風景。

辛頓離開谷歌後，最近花了很多時間談論人工智慧的風險。

辛頓對AI安全提出重要建議

「政府需要做的一件事就是，迫使大公司在安全研究上投入更多資源，這樣一來，像OpenAI這樣的公司就不能把安全研究放在次要位置。」辛頓獲得諾貝爾獎後接受採訪時說道。

辛頓去年共同簽署一份文件，主張從事人工智慧工作的公司應該分配至少三分之一的研發資源，用於確保其AI系統被安全使用與合乎道德規範。

辛頓的觀點使他與AI界一些激進派系產生對立，這些派系認為沉迷於想像世界末日場景，肯定會減緩技術進步或是轉移更直接傷害的注意力，例如對少數群體的歧視。

辛頓、加拿大電腦科學家班吉歐等研究人員一起支持加州議會今年夏天通過的AI安全法案，該法案要求大型人工智慧系統的開發人員採取一系列措施，以確保它們不會造成災難性損害。但是最近州長紐森否決該法案，原因是該法案遭到谷歌等多數大型科技公司的反對。

(原始連結)

其他人也在看