按摩 :果罕AWS自研AI晶片背,背後意何?@高雄楠梓GOOGLE高按摩健康事品牌|PChome Online 人新台
2025-03-29 06:36:59| 人4| 回0 | 上一篇 | 下一篇
0 收藏 0 0 站台

按摩 :果罕AWS自研AI晶片背,背後意何?

按摩

蘋果機器學習與 AI 業務負責人 Benoit Dupin於2024年底 re:Invent 大會 (畫面截取自AWS 全球官方YouTube 頻道)
果器 AI 人 Benoit Dupin於2024年底 re:Invent 大 (面截取自AWS 全球官方YouTube 道)

(媒中心)【者郭嘉/合】果公司(Apple)早先罕地在路服公司(AWS)的年度大上站,表示其用AWS Graviton AI晶片,期望自家的端服提供增能降本的解方案,而消息一出不震撼科技界,也等於同宣告於AI算力中,企正於如何晶片取得先地位的「算力局」刻。

AI域上,各言模型如DeepSeek、Gork3等前仆後,也不禁人一步思考,晶片供上,旗下「AI三晶(Graviton、Inferentia Trainium)」的AWS是否也成算力局的新?

:果器 AI 人 Benoit Dupin於2024年底 re:Invent 大
(面截取自AWS 全球官方YouTube 道)

站台是徵兆,AI晶片背後其有自

「入AWS Graviton Inferentia 已果搜服提升了 40% 效率。」

果器 AI 人 Benoit Dupin 在 AWS re:Invent 2024 大上的席,被科技界投界罕的超量站台,因在全球智慧手平板市中的果公司,一直都是以自行研晶片享有硬整合而名,如今公背,指性非一般。此外,Benoit Dupin 也透露在估使用 AWS AI 晶片 Trainium2,期能Apple Intelligence 其他模型 50% 的效率提升、降低成本,疑是於算力局上再次 AWS 自研的AI晶片投下信任票。

事上,果非第一用AWS 自研AI 晶片的科技巨,包含 Netflix、Spotify、Epic Game…等十家2C市者,早已 Graviton收到效益,如 Netflix 在影片的效能提升了20%,同降低成本;Spotify 改善了串流服的延,提升了用程;Epic Games 有效率地化引擎,玩家更,而在 2B 企市方面,也有 ARM、SIEMENS、SAP等多家一企用,如ARM就在工作上省了30% 的成本。

些案例明了AWS 的有拿下一席之地的力,且在效能、成本、可靠度上具有相。然而,更令外界好奇的是,AWS究竟有怎的魅力些大牌客「上」?家答案就出在地端合的「算力局」。

比 AI 晶片更:算力局

端算位生活企型的基本架,企法只聚焦AI晶片算力,不兼及端上的效能充、安,甚至是永法,是2C或2B企都面的。更何在中,AI 展一日多,今天的先技很可能一月就是落後物,也有知又不想冤大的企始明白,玩AI如果波逐流恐怕只是花大史物,如同前述考量地端的算能力才是解之道。

在端上能快速、有效行,且可能少入、、成本要有大的源支援系,已是用端服的共同,甚至也是代或技被任命的目。因此,一旦估入 AI 行的端供商能符合前述件,所推出的 AI 晶片又兼具算力成本,端源的高度整合,多企其作首,即便非行用,也可能移平台,以求「算力局」的最佳化一性。

「竟,拼西的算力非企所望,它始在上有著成本加。」他接著。

法也果 AWS 十多年的合作得到印,包含Siri、地、音等功能都架在AWS的服上,Dupin更是宣「Amazon 的 AI 晶片十分可靠,足以全球果用提供服。」

算力局下,如何AI 晶片的六大考量

根 2024 年端服市占,AWS 仍以30% 居於首位,先微 Azure 的 21% Google Cloud 的12%,三家先後推出自家AI 晶片,加上市面上晶片繁多,家建可以以下六面向考量:

1. 算效能:AI 用需要大量算源,晶片效能直接影到 AI 模型的速度和度,效能也直接力能耗後用。

2. 成本:AI算力局不涉及硬成本,也包含端算源的租、用等,是企策的重要指。

3. 可展性性:AI展瞬息,活的AI源有助於模型、推或料理,多企都希望能根需求整算源

4. 生系:有完善的和工具生系,有助地和署 AI 用,除了硬本身的算能力,企需估晶片是否能有的工具、架整合。

5. 能源效率:由於AI算密集度高,能源消耗日益受到重,加上ESG永在能碳上的限制,有效低能耗的晶片逐成基本要求。

6. 安安全性: AI用涉及敏感,企需要有格安全防措施的算力服,而安安全也是如DJSI在的ESG比中在公司治理上的重要目,也在各 AI 政策中被列首要。

AWS 先局晶片先一步

AWS 的 AI三晶能在「算力局」先一,主要是因:第一,在晶片服合的高效率:旗下 Graviton、Inferentia、Trainium 都能於端服高度搭配,其中 Graviton 晶片用 Arm 架,在「高效能、低功耗」就下了分,能旗下Amazon EC2 搭配用,於想端化又想AI化的企是一得。此外,Trainium攻深度、Inferentia主打深度推,AWS 的AI三晶定位清楚,也是提供高效能的。

第二,在定策略的低成本:企可以依需求以量,划算的方案,免源浪,助企降低AI算力成本;第三,可展性性的自由度:AWS 提供多制,如用Amazon EC2 Auto Scaling 可以根需求,整 Graviton 行的量,以不同的算力理;

第四,在富完整的合作夥伴: Amazon SageMaker 支援 Graviton 晶片,企可以更地和部署器模型,或有 AWS Neuron SDK(AWS Inferentia、Trainium 等AI晶片的工具包),提供了富的工具和函式,方便人快速建AI用程式。

第五,在安的安全性: AWS端平台具有格的安全制,包括加密、控制和漏洞描等,保企的AI用和安全虞;第六、在的永性:在能碳上均有,例如,AWS 的 客碳足工具(Carbon Footprint Tool) 就追、量、和在 AWS 用量生的碳排放量,方便企入零碳排的能算。

AWS 的 AI晶片,也各公司在AI入上有了正念,看「算力局」的整思,而 AI 晶片市中的同出,也象徵市坐大蓬勃展,真正意味AI起的刻即到。



以下文出自: https://tw.news.yahoo.com/%E8%A7%80%E9%BB%9E-%E8%98%8B%E6%9E%9C%E7%BD%95%E8%A6%8B%E7%82%BAaws%E8%87%

台: ianftft4
人(4) | 回(0)| 推 (0)| 收藏 (0)|
全站分: 育(各、情、球迷)

是 (若未登入"人新台"看不到回覆唷!)
* 入:
入片中算式的果(可能0) 
(有*必填)
TOP
全文
ubaomsnsnddmindexpchomeyahoorakutenmypapermeadowduckbidyahooyoubaozxmzxmasdabnvcgcvbfgdfscvmmhjkxxddcyybgbzznbnccubaouaituacvGXCVETGDGYHFGBCVBFJFHCBRECBCGDGET54WRWRRWERWREWWRWERRWERSDGEWSFDSFSFfbbsubaofhddfgewrdgdfewwrewwretruyutututdfgfgdgdfgtetgdfgtdfgdert4gdfggwr235wer3wevsdfsdfgdfertxcvsdfrwerhfddfgcvbrwfafbdfhjghbmnlghrtygfdscxvxcvxcsvdasfdffgdcvsdftertsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfsdfshasha9178shasha9178shasha9178shasha9178shasha9178liflif2liflif2liflif2liflif2liflif2liblib3liblib3liblib3liblib3liblib3zhazha444zhazha444zhazha444zhazha444zhazha444dende5dendedendendenden2denden21fenfen9fenf619fen619fenfe9fe619sdfsdfsdfsdfsdfzhazh90zhazh0zhaa50zha90zh590zhozhozzhozhzhozhozhozho2lislislls95lili95lils5liss9sdf0ty987sdft876sdft9876sdf09876sd0t9876sdf0ty98sdf0976sdf0ty986sdf0ty96sdf0t76sdf0876df0ty98sf0t876sd0ty76sdy76sdf76sdf0t76sdf0ty9sdf0ty98sdf0ty987sdf0ty98sdf6676sdf876sd876sd876sdf6sdf6sdf9876sdf0tsdf06sdf0ty9776sdf0ty9776sdf0ty76sdf8876sdf0tsd6sdf06s688876sd688sdf86