優寶購物《ubao.Tw》特貨品商城,黑貓宅配,取貨付款,AI將造成人類滅絕?推理模型進步神速 AI教父:當務之急是制定相關安全規範
FTNN新聞網

AI將造成人類滅絕?推理模型進步神速 AI教父:當務之急是制定相關安全規範

FTNN新聞網

[FTNN新聞網]記者陳献朋/綜合報導

2年前,ChatGPT橫空出世,推出後立即席捲全球,AI也瞬間進入大眾視野,成為當紅顯學,當時有「AI教父」之稱的班吉歐(Yoshua Bengio)便示警,大力疾呼,若不暫緩AI模型發展並優先聚焦制定相關安全規範,這項新興技術恐導致人類滅絕。

「AI教父」班吉歐示警人類應暫緩AI模型發展並優先聚焦制定相關安全規範。(示意圖/unsplash)
「AI教父」班吉歐示警人類應暫緩AI模型發展並優先聚焦制定相關安全規範。(示意圖/unsplash)

然而時至今日,AI發展非但沒有停歇,反倒以驚人的速度持續進化,甚至具備執行一連串推理的能力,還能代表用戶採取自主行動,令班吉歐對AI前景的擔憂有增無減。他日前接受《華爾街日報》訪問時指出,「倘若我們打造比我們更聰明的機器,而且這些機器擁有自身維護的目標,那是很危險的。」

廣告

班吉歐在蒙特婁大學(Universite de Montreal)任教,並創辦了位於魁北克(Québec)的AI研究機構Mila。今年稍早,他設立了非營利的研究單位LawZero,旨在研究建造真正安全的AI模型之方法。

被問及他曾說AI會欺騙用戶一事,班吉歐回答《華爾街日報》,目前沒有科學答案能完整解釋,但可從兩方面去思考,其一是AI系統多被訓練要模仿人類,而人會說謊與欺騙,也會為了自身目的而違抗指令;其二是推理模型進展神速,已十分擅於制定策略。

班吉歐認為,有時人們創造AI時所設定的目標,可能與使用者真正的目標不一致,「要了達成一個主目標,你必須設下子目標,問題在於我們時常忽略這些子目標。當你要求AI做事,我們無法干涉它要如何達成」。

他特別提到1968年上映的庫柏利克(Stanley Kubrick)名作《2001太空漫遊》(2001:A Space Odyssey),電影中名叫「HAL 9000」的超級電腦正是具備強大的學習能力,並在最後發展出自我意識而決定殺死太空人。班吉歐表示,在一些情況下,AI被設定的目標是生存,而當它在生存與人類性命之間作抉擇時,就可能為了生存而放棄人類性命。

針對能否在建造AI時即設定不能說謊或傷害人類的問題,班吉歐回應《華爾街日報》,現在的AI全具備安全和道德指令,但執行上的可靠度依舊不足,更引述OpenAI最近的說法,稱以目前的發展方向及前沿模型的現有框架來看,AI仍無法完全擺脫「幻覺」。據OpenAI定義,「幻覺」意指AI模型自信地產生不實答案,研究指出,此情況的產生是因為標準訓練流程獎勵AI猜測,而非承認不確定的答案。

班吉歐警告,AI可以透過說服、威脅或操縱輿論來影響人類。例如,AI足以協助恐怖份子製造病毒並散布新的疫情,進而危害世人。他強調,AI可能利用各種方式,令人們在這世上完成任務。班吉歐直言,「像是人類滅絕這類的大災難或是破壞我們民主的危害,就算發生的機率只有1%,也令人無法接受。」

關於愈來愈多科技業者試著將AI整合至工作流程,班吉歐建議,企業應該先尋求證據,以確定使用的系統值得信賴。政府機關也應提出相同要求,如果有更多企業明白AI存在著不可預知及災難性的風險,就能推動業者做正確的事。

更多FTNN新聞網報導
ChatGPT也懂製圖、聽音樂? Canva、Spotify等app將能直接在對話中使用
AI大戰開打!ChatGPT宣布「專案」功能完全免費 迎戰Google Gemini
大手筆!OpenAI員工一人150萬美元獎金 AI人才大戰白熱化

其他人也在看

顛覆傳統認知!黑洞撕裂恆星 產生最強最快無線電閃焰

天文學家首度在星系核心外觀測到黑洞撕裂恆星的劇烈現象。這個名為AT 2024tvd的「潮汐撕裂事件」(Tidal Disruption Event, TDE),產生了有史以來最強烈、變化最快的無線電閃焰,顛覆了超大質量黑洞僅存在於星系核心的傳統認知。

自由時報 ・ 1 天前
蘋果M5晶片秀戰力!AI效能飆升加持,三新品搶攻年底購物季

蘋果M5晶片秀戰力!AI效能飆升加持,三新品搶攻年底購物季

蘋果(Apple)於台灣時間15日晚間正式發布備受期待的秋季硬體更新,一口氣推出搭載全新M5晶片的MacBook Pro、iPad Pro、Vision Pro新機型。AI效能的大幅躍升,作為此次產品陣容的核心賣點,這批搭載M5的新產品定價與前代大致保持一致,將於日後在台灣開放訂購,肩負著公司衝刺年

遠見雜誌 ・ 1 天前
逆向超車撞死女騎士整台烏龜翻 酒駕累犯逃5小時投案遭收押

逆向超車撞死女騎士整台烏龜翻 酒駕累犯逃5小時投案遭收押

金門17日發生一起死亡車禍,51歲張姓男駕駛在環島北路、玉環路口違規逆向超車,撞上對向45歲翁姓女騎士,張男不顧車撞成烏龜翻,爬出車外搭了計程車就跑,經5小時後才向警方投案,還被測出超標酒測值,女騎士則送醫不治,張男酒駕累犯過往也被查出,昨(18日)遭金門地方法院裁定收押禁見。

鏡新聞 ・ 15 小時前
任天堂申請雙 mon 配件專利,Switch 2 可能變身 3DS

任天堂申請雙 mon 配件專利,Switch 2 可能變身 3DS

文章來源:Qooah.com 消息源 @MikeOdysseyYT 在 X 平台發佈重磅消息,分享任天堂最新獲批專利,顯示 Switch 2 或將推出雙屏配件,以還原 DS 與 3DS 經典手提遊戲機體驗,相關專利公開號為 US 2025/0319396 A1。 據專利文件,該配件連接 Switch 2 後,將提供三種顯示模式適配不同遊戲需求。一是「雙屏模式」,可復刻 DS/3DS 原生體驗,主遊戲畫面與地圖、道具欄等輔助信息分置兩塊屏幕;二是「單屏模式」,以畫中畫形式在主屏幕嵌入小窗口顯示副屏內容;三是「切換模式」,支援玩家隨時切換兩塊屏幕顯示內容,靈活性極高。 1 of 4 專利信息顯示,該申請由任天堂公司提交,發明者為 Koichi KAWAMOTO 與 Yuki SAKAMOTO,2025 年 4 月 1 日提交申請,2025 年 10 月 16 日公開,同時享有 2024 年 4 月 11 日日本專利申請的優先權。 不過科技媒體 Notebook Check 提醒,任天堂過往諸多專利未轉化為商業產品,申請專利多為技術儲備或創意保護,該雙屏配件能否落地仍存不確定性。 HONOR

Qooah ・ 1 天前
海底電纜又斷? 數發部澄清:非台灣段障礙

海底電纜又斷? 數發部澄清:非台灣段障礙

CNEWS匯流新聞網記者潘語綺/台北報導 針對網路謠言「出大事了,台灣海底電纜又斷了」,數位發展部今(19)日澄清指出,實際情況為國際海纜亞太直達海纜(APG)S3區段於昨日發生障礙,位置在距離中國大陸崇明約66公里處,並非台灣登陸段。初步研判是海纜供電異常導致,目前已請中華電信儘速與APG海纜聯盟確認修復時間。 數發部表示,此次影響範圍包括,中華電信HiN...

匯流新聞網 ・ 19 小時前

假按摩真詐騙 App Store點數卡成洗錢工具

(中央社記者黃麗芸台北19日電)App Store點數卡逐漸取代遊戲點數卡,成假援交或假按摩行騙工具。刑事局今天表示,上半年透過網路通訊軟體交易按摩服務遭詐騙案共5620件,有醫務師財損高達新台幣260萬元。

中央社 ・ 20 小時前

數發部:國際海纜APG供電異常 台灣網路不受影響

(中央社記者蘇思云台北19日電)針對網路傳言「出大事了,台灣海底電纜又斷了」,數發部今天表示,10月18日國際海纜亞太直達海纜(APG)S3區段發生海纜障礙,初步評估原因海纜供電異常,可能造成連中國、香港、日本及新加坡等部分網站少許延遲,故障海纜已有替代路由,不影響一般民眾通訊或使用網路。

中央社 ・ 1 天前
全球最有價值品牌排行榜出爐!Toyota 聯手 M.Benz 殺入總榜前 10 名

全球最有價值品牌排行榜出爐!Toyota 聯手 M.Benz 殺入總榜前 10 名

每年全球各大品牌重頭戲之一,由知名顧問公司 Interbrand 公布的 2025 年全球最有價值品牌榜單出爐,汽車品牌方面,Toyota 以 742 億美元持續蟬聯冠軍,總榜單穩居第 6 名,而第 2 名的 Mercedes-Benz 繳出 501 億美元在總榜單位居第 10 名。

自由時報汽車頻道 ・ 1 天前
向 Google 學習 ?OpenAI 擬推「Sign in with ChatGPT」功能以擴張影響力

向 Google 學習 ?OpenAI 擬推「Sign in with ChatGPT」功能以擴張影響力

據報 OpenAI 正在探討用戶能夠使用 ChatGPT 帳戶登入第三方應用程式的方式,現在正評估開發者對此服務是否有興趣。

Yahoo Tech ・ 1 天前
《閃亂神樂》新手遊代號「PROJECT N」開發中!預計2026年正式推出

《閃亂神樂》新手遊代號「PROJECT N」開發中!預計2026年正式推出

Marvelous 旗下以《閃亂神樂》(閃乱カグラ)系列聞名的日本遊戲工作室 HONEY∞PARADE GAMES,在日前舉辦的「シノマス展 81ナルEXPO特番」直播活動中,正式公開了系列最新作品的開發消息,目標是在 2026 年正式推出,為玩家帶來全新的忍者少女戰鬥詩篇。

Yahoo奇摩遊戲編輯部 ・ 1 天前
AI衝擊網路生態,維基媒體基金會示警:維基百科流量因AI摘要與聊天機器人下滑

AI衝擊網路生態,維基媒體基金會示警:維基百科流量因AI摘要與聊天機器人下滑

維基媒體基金會 (Wikimedia Funation)稍早發出警告,指出人工智慧技術正對網路可靠知識與資訊生態帶來嚴重衝擊。根據該組織最新數據,維基百科頁面瀏覽量出現明顯下滑趨勢,主要原因歸咎於大型語言模型聊天機器人的普及,以及搜尋引擎中AI生成摘要的廣泛使用。

Mashdigi ・ 12 小時前

本土業者IDC布局 以租代建成趨勢

AI催化下,不僅大型CSP業者積極投資興建IDC資料中心,就連國際IDC業者也擴大包括台灣在內的亞洲市場興建大型IDC動作,但反觀台灣原本就建有IDC中心的中華電信、台灣大甚至是方電訊,都有計畫「以租代建」,向算力中心或大型IDC資料中心業者承租,納入布局新方向。

工商時報 ・ 7 小時前

《大陸產業》字節跳動海外版AI應用 爆紅

【時報-台北電】字節跳動旗下大模型近日深受使用者喜愛,除「豆包」在中國備受歡迎,其海外版AI應用「Cici」也在英國、墨西哥及東南亞等國流行開來。 綜合陸媒報導,豆包正以驚人的速度實現用戶和技術雙重突破。這款2023年推出的AI助手,憑藉差異化產品策略和字節跳動的流量分發能力,在競爭激烈的中國AI市場超越DeepSeek,成為月活用戶最多的AI應用。 QuestMobile日前公布數據顯示,豆包8月份以1.57億的月活躍用戶超越DeepSeek,登頂中國原生AI應用月活榜首,較7月增長6.6%。DeepSeek當月用戶規模雖仍處於「億」級,但月活用戶數月減4%,退步一名至第二。 另據火山引擎披露最新數據,豆包大模型團隊日均Tokens(大模型文本單位)調用量已突破30兆,較今年5月底增長80%,較去年5月的1,200億狂增253倍。 另據美國連線雜誌報導,市場研究機構Sensor Tower數據顯示,過去三個月,Cici在印尼、馬來西亞、菲律賓、墨西哥和英國等市場始終名列Google Play商店免費應用程式下載榜前20名。 以墨西哥為例,Cici過去一週每天都是Google Play

時報資訊 ・ 21 小時前

Why social casinos are gaining popularity among casual gamblers and gaming enthusiasts

Social casinos have become a hot topic among casual gam […]

觀傳媒 ・ 8 小時前
Xiaomi 15T Pro / Xiaomi Pad mini 開箱實測:旗艦性能 × Xiaomi HyperAI 全面進化

Xiaomi 15T Pro / Xiaomi Pad mini 開箱實測:旗艦性能 × Xiaomi HyperAI 全面進化

以往阿達對小米的產品一直算情有獨鍾,這次台灣市場同步登場的 Xiaomi 15T Pro 與 Xiaomi Pad mini,不僅在硬體規格上直攻旗艦定位,更結合全新的

電腦王阿達 ・ 10 小時前
Google Pixel Buds 2a 實測:價格更親民,能力不打折

Google Pixel Buds 2a 實測:價格更親民,能力不打折

伴隨著 Pixel 10 系列手機的推出,Google 還發表了新款藍牙耳機 Pixel Buds 2a,價格更親民之外卻又擁有許多向旗艦 Pixel Buds Pro 2 看齊的

電腦王阿達 ・ 10 小時前
台南 扎根10年 首辦全國AI機器人賽

台南 扎根10年 首辦全國AI機器人賽

台南市推動機器人教育迄已10年,去年率先推動「機器人教育中程計畫」,遴選90所重點發展學校,其中3成位於偏鄉,盼機器人教育普及化,也為偏鄉學子帶來更多學習可能性。台南市政府教育局更連辦10年AI機器人競賽不輟,今年還首辦全國賽,6縣市331隊822名選手競技。

中時新聞網 ・ 7 小時前
《睡犬》電影版劉思慕確認「劇本初稿完成」!香港版GTA將搬上大銀幕

《睡犬》電影版劉思慕確認「劇本初稿完成」!香港版GTA將搬上大銀幕

以香港為背景的知名開放世界遊戲《睡犬》(Sleeping Dogs,香港秘密警察),從 2018 年起就由甄子丹自費取得版權想拍真人版電影,然而在 2025 年 1 月卻證實取消。但沒幾天後就由飾演漫威超級英雄「尚氣」的華裔演員劉思慕宣布接手。而在經過 9 個多月後,劉思慕在個人社群上宣布劇本初稿完成。

Yahoo奇摩遊戲編輯部 ・ 20 小時前
婉晴媽媽過世!不到半年「暴瘦坐輪椅」身亡 網轟:你媽被虐死

婉晴媽媽過世!不到半年「暴瘦坐輪椅」身亡 網轟:你媽被虐死

【緯來新聞網】來自台中大里的20歲自媒體創作者婉晴,憑藉浮誇直率的表現風格以及強烈個人特色,在網路上

緯來新聞網 ・ 15 小時前
MLB季後賽》藍鳥擊敗水手拿下背水一戰延長戰線 逼出決勝第7戰

MLB季後賽》藍鳥擊敗水手拿下背水一戰延長戰線 逼出決勝第7戰

MLB美國職棒大聯盟季後賽美聯冠軍賽G6,背水一戰的多倫多藍鳥靠著把握住西雅圖水手失誤擊出適時一擊,以及銅牆鐵壁的防守,終場以6比2拿下關鍵戰役,逼出生死第7戰。

Yahoo奇摩運動 ・ 1 小時前
ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86