連AI教父都搖頭！逾850位專家連署「暫停開發」超級AI：確認安全可控前，貿然行事恐斷送人類文明

全球數百名知名人士，包括諾貝爾獎得主、人工智慧（AI）與科技領域的專家等，在22日發表聯署聲明，呼籲停止開發「超級智慧」（superintelligence）——也就是智慧將超越人類的AI。

根據全國廣播公司商業頻道（CNBC），該聲明的連署人數已超過850人，當中包括科技領袖如英國維珍集團（Virgin Group）創辦人布蘭森（Richard Branson）、蘋果（Apple）共同創辦人沃茲尼亞克（Steve Wozniak），以及人工智慧先驅研究者，包括加拿大電腦科學教授班吉歐（Yoshua Bengio）、「人工智慧教父」（godfather of AI）辛頓（Geoffrey Hinton）和加州大學柏克萊分校AI安全專家羅素（Stuart Russell）等重量級人物。

「超級智慧」已成為AI領域的熱門詞彙，各大公司從馬斯克（Elon Musk）的xAI到阿特曼（Sam Altman）的OpenAI，都在競相推出更先進的大型語言模型（LLM）；Meta甚至將旗下的LLM部門命名為「Meta超級智慧實驗室」（Meta Superintelligence Labs）。

然而，這份聲明警告，超級智慧可能帶來的風險包括「人類經濟功能被取代與權力喪失、自由與公民權利受限、尊嚴與掌控力喪失，以及國家安全風險，甚至可能導致人類滅絕」。聲明呼籲，在社會達成強烈共識，並且在科學界確認這項技術足以安全開發與控制之前，應禁止開發超級智慧。

除了AI與科技領域人士，連署者還包括學者、媒體人物、宗教領袖，以及跨派的美國前政治人物與官員，包括前美國參謀首長聯席會議主席穆倫（Mike Mullen）和前白宮國家安全顧問萊斯（Susan Rice）、英國皇室成員哈利王子（Prince Harry）與其妻子梅根（Meghan Markle），以及前愛爾蘭總統羅賓遜（Mary Robinson）。截至22日，連署名單仍在擴增中。

「樂觀派」VS「悲觀派」

CNBC指出，科技界對AI的看法分歧越來越大，一派認為AI是造福人類的強大力量，應該不限制地發展；另一派則認為AI十分危險，需要更多規範。

根據「超級智慧聲明」（Statement on Superintelligence）網站，包括馬斯克和阿特曼過去都曾警告超級智慧的危險。在成為OpenAI執行長之前，阿特曼曾在2015年於部落格中寫道：「超人類機器智慧（superhuman machine intelligence）的開發，可能是對人類延續生存的最大威脅。」而今年早些時候，馬斯克也在播客節目上表示，先進AI超越人類智慧所帶來的毀滅風險約有20％。

​美國國家廣播公司（NBC）指出，部分AI研究者認為，人工智慧發展快速，很快就可能達到「通用人工智慧」（Artificial General Intelligence，AGI），也就是能像人類依樣執行認知任務的能力。之後，研究者與科技公司高管認為，AI可能進一步發展為「超級智慧」，即其表現甚至能超越表現最頂尖的人類。

加州大學聖克魯斯分校（University of California, Santa Cruz）物理學家、生命未來研究所（Future of Life Institute）執行董事阿吉雷（ Anthony Aguirre）表示，AI的發展速度遠超過大眾對其理解的速度。他說：「某種程度上，AI公司和創辦人以及推動他們的經濟體系已經替我們選好了這條路，但幾乎沒有人真正問過：『這是我們想要的嗎？』」

阿吉雷認為，關於「我們是否希望擁有替代人類的AI系統」的討論非常少，並說：「大家似乎認為這就是趨勢，所以只能面對其後果，但事實上，我們有很多選擇可以決定技術的發展方向，包括AI。」

該聲明引用了生命未來研究所的一項調查，顯示只有5％的美國成年人支持「快速、無規範」的超級智慧開發；這項針對2000名美國成年人的調查也發現，多數人認為在證明安全或可控之前，不應開發「超人類AI」，並希望對先進AI實施嚴格規範。而NBC今年的民調則顯示，44％的美國人認為AI會改善自己與家庭的生活、42％認為AI會讓未來更糟。

連署人之一、圖靈獎（Turing Award）得主班吉歐（Yoshua Bengio）在聲明中表示，AI系統可能在幾年內就能在大多數的認知任務上超過大部分人，並補充道，這類技術雖然能幫助解決全球挑戰，但也伴隨重大風險。班級歐說：「要安全地朝超級智慧邁進，我們必須用科學方法設計AI系統，使其從根本上無法傷害人類，無論是因為偏差（misalignment）或惡意使用。」

班級歐還強調：「我們還必須確保公眾在塑造共同未來的決策上，擁有更強而有力的發言權。

更多風傳媒報導

• 「AI教父」認了中國人工智慧追上美國？郭正亮曝1大優勢：這產業價格太便宜

• 北京觀察》阿里與輝達共建AI革命！「通義千問」未來3年砸千億，挑戰超級人工智慧極限？

• 打不過就加入！生成式AI太香，「這一國」超過50%上班族超愛用人工智慧