AI將造成人類滅絕?推理模型進步神速 AI教父:當務之急是制定相關安全規範
[FTNN新聞網]記者陳献朋/綜合報導
2年前,ChatGPT橫空出世,推出後立即席捲全球,AI也瞬間進入大眾視野,成為當紅顯學,當時有「AI教父」之稱的班吉歐(Yoshua Bengio)便示警,大力疾呼,若不暫緩AI模型發展並優先聚焦制定相關安全規範,這項新興技術恐導致人類滅絕。
然而時至今日,AI發展非但沒有停歇,反倒以驚人的速度持續進化,甚至具備執行一連串推理的能力,還能代表用戶採取自主行動,令班吉歐對AI前景的擔憂有增無減。他日前接受《華爾街日報》訪問時指出,「倘若我們打造比我們更聰明的機器,而且這些機器擁有自身維護的目標,那是很危險的。」
班吉歐在蒙特婁大學(Universite de Montreal)任教,並創辦了位於魁北克(Québec)的AI研究機構Mila。今年稍早,他設立了非營利的研究單位LawZero,旨在研究建造真正安全的AI模型之方法。
被問及他曾說AI會欺騙用戶一事,班吉歐回答《華爾街日報》,目前沒有科學答案能完整解釋,但可從兩方面去思考,其一是AI系統多被訓練要模仿人類,而人會說謊與欺騙,也會為了自身目的而違抗指令;其二是推理模型進展神速,已十分擅於制定策略。
班吉歐認為,有時人們創造AI時所設定的目標,可能與使用者真正的目標不一致,「要了達成一個主目標,你必須設下子目標,問題在於我們時常忽略這些子目標。當你要求AI做事,我們無法干涉它要如何達成」。
他特別提到1968年上映的庫柏利克(Stanley Kubrick)名作《2001太空漫遊》(2001:A Space Odyssey),電影中名叫「HAL 9000」的超級電腦正是具備強大的學習能力,並在最後發展出自我意識而決定殺死太空人。班吉歐表示,在一些情況下,AI被設定的目標是生存,而當它在生存與人類性命之間作抉擇時,就可能為了生存而放棄人類性命。
針對能否在建造AI時即設定不能說謊或傷害人類的問題,班吉歐回應《華爾街日報》,現在的AI全具備安全和道德指令,但執行上的可靠度依舊不足,更引述OpenAI最近的說法,稱以目前的發展方向及前沿模型的現有框架來看,AI仍無法完全擺脫「幻覺」。據OpenAI定義,「幻覺」意指AI模型自信地產生不實答案,研究指出,此情況的產生是因為標準訓練流程獎勵AI猜測,而非承認不確定的答案。
班吉歐警告,AI可以透過說服、威脅或操縱輿論來影響人類。例如,AI足以協助恐怖份子製造病毒並散布新的疫情,進而危害世人。他強調,AI可能利用各種方式,令人們在這世上完成任務。班吉歐直言,「像是人類滅絕這類的大災難或是破壞我們民主的危害,就算發生的機率只有1%,也令人無法接受。」
關於愈來愈多科技業者試著將AI整合至工作流程,班吉歐建議,企業應該先尋求證據,以確定使用的系統值得信賴。政府機關也應提出相同要求,如果有更多企業明白AI存在著不可預知及災難性的風險,就能推動業者做正確的事。
更多FTNN新聞網報導
ChatGPT也懂製圖、聽音樂? Canva、Spotify等app將能直接在對話中使用
AI大戰開打!ChatGPT宣布「專案」功能完全免費 迎戰Google Gemini
大手筆!OpenAI員工一人150萬美元獎金 AI人才大戰白熱化
其他人也在看
顛覆傳統認知!黑洞撕裂恆星 產生最強最快無線電閃焰
天文學家首度在星系核心外觀測到黑洞撕裂恆星的劇烈現象。這個名為AT 2024tvd的「潮汐撕裂事件」(Tidal Disruption Event, TDE),產生了有史以來最強烈、變化最快的無線電閃焰,顛覆了超大質量黑洞僅存在於星系核心的傳統認知。
自由時報 ・ 1 天前
蘋果M5晶片秀戰力!AI效能飆升加持,三新品搶攻年底購物季
蘋果(Apple)於台灣時間15日晚間正式發布備受期待的秋季硬體更新,一口氣推出搭載全新M5晶片的MacBook Pro、iPad Pro、Vision Pro新機型。AI效能的大幅躍升,作為此次產品陣容的核心賣點,這批搭載M5的新產品定價與前代大致保持一致,將於日後在台灣開放訂購,肩負著公司衝刺年
遠見雜誌 ・ 1 天前
逆向超車撞死女騎士整台烏龜翻 酒駕累犯逃5小時投案遭收押
金門17日發生一起死亡車禍,51歲張姓男駕駛在環島北路、玉環路口違規逆向超車,撞上對向45歲翁姓女騎士,張男不顧車撞成烏龜翻,爬出車外搭了計程車就跑,經5小時後才向警方投案,還被測出超標酒測值,女騎士則送醫不治,張男酒駕累犯過往也被查出,昨(18日)遭金門地方法院裁定收押禁見。
鏡新聞 ・ 15 小時前
任天堂申請雙 mon 配件專利,Switch 2 可能變身 3DS
文章來源:Qooah.com 消息源 @MikeOdysseyYT 在 X 平台發佈重磅消息,分享任天堂最新獲批專利,顯示 Switch 2 或將推出雙屏配件,以還原 DS 與 3DS 經典手提遊戲機體驗,相關專利公開號為 US 2025/0319396 A1。 據專利文件,該配件連接 Switch 2 後,將提供三種顯示模式適配不同遊戲需求。一是「雙屏模式」,可復刻 DS/3DS 原生體驗,主遊戲畫面與地圖、道具欄等輔助信息分置兩塊屏幕;二是「單屏模式」,以畫中畫形式在主屏幕嵌入小窗口顯示副屏內容;三是「切換模式」,支援玩家隨時切換兩塊屏幕顯示內容,靈活性極高。 1 of 4 專利信息顯示,該申請由任天堂公司提交,發明者為 Koichi KAWAMOTO 與 Yuki SAKAMOTO,2025 年 4 月 1 日提交申請,2025 年 10 月 16 日公開,同時享有 2024 年 4 月 11 日日本專利申請的優先權。 不過科技媒體 Notebook Check 提醒,任天堂過往諸多專利未轉化為商業產品,申請專利多為技術儲備或創意保護,該雙屏配件能否落地仍存不確定性。 HONOR
Qooah ・ 1 天前
海底電纜又斷? 數發部澄清:非台灣段障礙
CNEWS匯流新聞網記者潘語綺/台北報導 針對網路謠言「出大事了,台灣海底電纜又斷了」,數位發展部今(19)日澄清指出,實際情況為國際海纜亞太直達海纜(APG)S3區段於昨日發生障礙,位置在距離中國大陸崇明約66公里處,並非台灣登陸段。初步研判是海纜供電異常導致,目前已請中華電信儘速與APG海纜聯盟確認修復時間。 數發部表示,此次影響範圍包括,中華電信HiN...
匯流新聞網 ・ 19 小時前假按摩真詐騙 App Store點數卡成洗錢工具
(中央社記者黃麗芸台北19日電)App Store點數卡逐漸取代遊戲點數卡,成假援交或假按摩行騙工具。刑事局今天表示,上半年透過網路通訊軟體交易按摩服務遭詐騙案共5620件,有醫務師財損高達新台幣260萬元。
中央社 ・ 20 小時前數發部:國際海纜APG供電異常 台灣網路不受影響
(中央社記者蘇思云台北19日電)針對網路傳言「出大事了,台灣海底電纜又斷了」,數發部今天表示,10月18日國際海纜亞太直達海纜(APG)S3區段發生海纜障礙,初步評估原因海纜供電異常,可能造成連中國、香港、日本及新加坡等部分網站少許延遲,故障海纜已有替代路由,不影響一般民眾通訊或使用網路。
中央社 ・ 1 天前
全球最有價值品牌排行榜出爐!Toyota 聯手 M.Benz 殺入總榜前 10 名
每年全球各大品牌重頭戲之一,由知名顧問公司 Interbrand 公布的 2025 年全球最有價值品牌榜單出爐,汽車品牌方面,Toyota 以 742 億美元持續蟬聯冠軍,總榜單穩居第 6 名,而第 2 名的 Mercedes-Benz 繳出 501 億美元在總榜單位居第 10 名。
自由時報汽車頻道 ・ 1 天前
向 Google 學習 ?OpenAI 擬推「Sign in with ChatGPT」功能以擴張影響力
據報 OpenAI 正在探討用戶能夠使用 ChatGPT 帳戶登入第三方應用程式的方式,現在正評估開發者對此服務是否有興趣。
Yahoo Tech ・ 1 天前
《閃亂神樂》新手遊代號「PROJECT N」開發中!預計2026年正式推出
Marvelous 旗下以《閃亂神樂》(閃乱カグラ)系列聞名的日本遊戲工作室 HONEY∞PARADE GAMES,在日前舉辦的「シノマス展 81ナルEXPO特番」直播活動中,正式公開了系列最新作品的開發消息,目標是在 2026 年正式推出,為玩家帶來全新的忍者少女戰鬥詩篇。
Yahoo奇摩遊戲編輯部 ・ 1 天前
AI衝擊網路生態,維基媒體基金會示警:維基百科流量因AI摘要與聊天機器人下滑
維基媒體基金會 (Wikimedia Funation)稍早發出警告,指出人工智慧技術正對網路可靠知識與資訊生態帶來嚴重衝擊。根據該組織最新數據,維基百科頁面瀏覽量出現明顯下滑趨勢,主要原因歸咎於大型語言模型聊天機器人的普及,以及搜尋引擎中AI生成摘要的廣泛使用。
Mashdigi ・ 12 小時前本土業者IDC布局 以租代建成趨勢
AI催化下,不僅大型CSP業者積極投資興建IDC資料中心,就連國際IDC業者也擴大包括台灣在內的亞洲市場興建大型IDC動作,但反觀台灣原本就建有IDC中心的中華電信、台灣大甚至是方電訊,都有計畫「以租代建」,向算力中心或大型IDC資料中心業者承租,納入布局新方向。
工商時報 ・ 7 小時前《大陸產業》字節跳動海外版AI應用 爆紅
【時報-台北電】字節跳動旗下大模型近日深受使用者喜愛,除「豆包」在中國備受歡迎,其海外版AI應用「Cici」也在英國、墨西哥及東南亞等國流行開來。 綜合陸媒報導,豆包正以驚人的速度實現用戶和技術雙重突破。這款2023年推出的AI助手,憑藉差異化產品策略和字節跳動的流量分發能力,在競爭激烈的中國AI市場超越DeepSeek,成為月活用戶最多的AI應用。 QuestMobile日前公布數據顯示,豆包8月份以1.57億的月活躍用戶超越DeepSeek,登頂中國原生AI應用月活榜首,較7月增長6.6%。DeepSeek當月用戶規模雖仍處於「億」級,但月活用戶數月減4%,退步一名至第二。 另據火山引擎披露最新數據,豆包大模型團隊日均Tokens(大模型文本單位)調用量已突破30兆,較今年5月底增長80%,較去年5月的1,200億狂增253倍。 另據美國連線雜誌報導,市場研究機構Sensor Tower數據顯示,過去三個月,Cici在印尼、馬來西亞、菲律賓、墨西哥和英國等市場始終名列Google Play商店免費應用程式下載榜前20名。 以墨西哥為例,Cici過去一週每天都是Google Play
時報資訊 ・ 21 小時前Why social casinos are gaining popularity among casual gamblers and gaming enthusiasts
Social casinos have become a hot topic among casual gam […]
觀傳媒 ・ 8 小時前
Xiaomi 15T Pro / Xiaomi Pad mini 開箱實測:旗艦性能 × Xiaomi HyperAI 全面進化
以往阿達對小米的產品一直算情有獨鍾,這次台灣市場同步登場的 Xiaomi 15T Pro 與 Xiaomi Pad mini,不僅在硬體規格上直攻旗艦定位,更結合全新的
電腦王阿達 ・ 10 小時前
Google Pixel Buds 2a 實測:價格更親民,能力不打折
伴隨著 Pixel 10 系列手機的推出,Google 還發表了新款藍牙耳機 Pixel Buds 2a,價格更親民之外卻又擁有許多向旗艦 Pixel Buds Pro 2 看齊的
電腦王阿達 ・ 10 小時前
台南 扎根10年 首辦全國AI機器人賽
台南市推動機器人教育迄已10年,去年率先推動「機器人教育中程計畫」,遴選90所重點發展學校,其中3成位於偏鄉,盼機器人教育普及化,也為偏鄉學子帶來更多學習可能性。台南市政府教育局更連辦10年AI機器人競賽不輟,今年還首辦全國賽,6縣市331隊822名選手競技。
中時新聞網 ・ 7 小時前
《睡犬》電影版劉思慕確認「劇本初稿完成」!香港版GTA將搬上大銀幕
以香港為背景的知名開放世界遊戲《睡犬》(Sleeping Dogs,香港秘密警察),從 2018 年起就由甄子丹自費取得版權想拍真人版電影,然而在 2025 年 1 月卻證實取消。但沒幾天後就由飾演漫威超級英雄「尚氣」的華裔演員劉思慕宣布接手。而在經過 9 個多月後,劉思慕在個人社群上宣布劇本初稿完成。
Yahoo奇摩遊戲編輯部 ・ 20 小時前

MLB季後賽》藍鳥擊敗水手拿下背水一戰延長戰線 逼出決勝第7戰
MLB美國職棒大聯盟季後賽美聯冠軍賽G6,背水一戰的多倫多藍鳥靠著把握住西雅圖水手失誤擊出適時一擊,以及銅牆鐵壁的防守,終場以6比2拿下關鍵戰役,逼出生死第7戰。
Yahoo奇摩運動 ・ 1 小時前