Apple Intelligence 内存占用相关讨论 - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
iovekkk
V2EX    Apple

Apple Intelligence 内存占用相关讨论

  •  1
     
  •   iovekkk 149 天前 2960 次点击
    这是一个创建于 149 天前的主题,其中的信息可能已经有所发展或是发生改变。
    早在一年多以前,第一次听说苹果为了 Apple Intelligence ,Phone16 全系标配 8G 内存这个消息的时候,我就产生了这样一个疑问:Apple Intelligence 的进程是常驻的吗?

    虽然全系标配了 8G 内存,但是如果常驻的 AI 进程始终占用了一部分内存,甚至当内存紧张的时候,这部分内存也不会被回收的话,那么内存升级的利好就没有那么大了。我甚至都在想,如果因为 AI 进程常驻导致内存依然不够用的话,我宁愿关闭 AI 功能,也要享受大内存带来的性能提升。

    尤其是最近一段时间网络上又有了关于 iPhone17 全系标配 12GB 内存的传言,又让我产生了新的疑问:16 系才刚刚全系标配了更大的内存,为什么 17 系列又要升级内存?

    对于这个问题,出于对 AI 模型的一点浅薄认知,我想可能是因为 17 系列会升级功能更强但更大的模型文件,因此需要更多的内存占用,不得已让苹果再次升级了内存。如果真是这样的话,iPhone16 系列作为刚发布一年的产品,没有理由不跟进升级,那么届时是否也会让 16 系的内存使用变得更加捉襟见肘呢?
    22 条回复    2025-05-16 10:01:38 +08:00
    MacsedProtoss
        1
    MacsedProtoss  
       149 天前 via iPhone
    当然不是常驻的 不然发热都搞死你 但是 ai 是 overlay 形式的 当你运行吃性能的应用的时候呼出 ai 得保证内存依然足够 不能把前台 app 给弄死了 而之前 6GB 的是不够的 所以必须加内存
    反而 12GB 的传言大概率不实
    iovekkk
        2
    iovekkk  
    OP
       149 天前
    @MacsedProtoss 如果不是常驻的,每次唤醒的时候再去加载 AI 模型以及初始化一些个性化设置,响应延迟会不会变得很高呢?
    feikaras
        3
    feikaras  
       149 天前 via iPhone
    @iovekkk 那你知道现在工作站每秒几个 token 么? 8g 还搞后台常驻,手机可以丢了。你以为还能跑啥本地模型?能认个人脸谢天谢地了。
    iovekkk
        4
    iovekkk  
    OP
       149 天前
    @feikaras 我现在没有对 AI 进程是否常驻有确定的结论,只是提出了一个如果不常驻会什么问题难以解决的疑问,我似乎都没有表达出一个明确的观点,不知道你在反驳什么。
    所以你的观点是什么呢?是苹果的 Apple Intelligence 功能并不是通过加载一个 AI 模型来实现的?
    说到这里,其实我又有一个猜测:
    从设计角度来看,苹果的 AI 进程可以是常驻的,但是常驻进程只会预先加载一个微型的语言模型,不会提前加载特别大的模型文件,然后在接收到用户指令之后,通过一些微型语言模型的分析和判断,判断出问题涉及到的专业和领域之后,再去加载一些对应领域的专家模型来处理这个任务。等到任务处理完毕,这些用于加载专家模型的内存是可以被回收的。
    这样一个流程的处理模式从表现上看,是能够及时的做出响应的,但是处理的过程实际上可能还是比较耗时的。
    以上还是我的一些猜测,期待有大佬能够给出一些实锤性质的结论或者讨论内容。
    feikaras
        5
    feikaras  
       149 天前 via iPhone
    @iovekkk 就 ios 的内存占用来看你的想法想多了。冷启动不能接受的话你问问地球你见过多少回。读书读傻了?
    feikaras
        6
    feikaras/strong>  
       149 天前 via iPhone
    本来这个 ai 绝大多数的时候都是要服务器响应的。是否拉起本地模型你以为影响有多大?本地模型多半存在于 app 内部。常驻模型+偶尔打开相机你无时无刻都在看地球。你要留个后台也基本是为快速启动相机的 ai 服务的。
    kyor0
        7
    kyor0  
       148 天前
    怎么可能常驻,别说内存电池都受不了
    cat
        8
    cat  
       148 天前   13
    楼上怎么有个傻逼说话这么冲,看下来楼主也没什么大放厥词的发言,就讨论一些他不懂的东西,你能好好说话就发言解答,你觉得楼主理解有问题也可以直出,能提供一些依据则更好,但东扯西扯的还带骂人是几个意思呢,这么没素质么

    都懒得 @ 了,看了晦气
    zealotxxxx
        9
    zealotxxxx  
       148 天前
    真的不太想解释了,自己去查一下关于 苹果智能 的分析视频吧

    我只提一点,你为什么会认为苹果会让你可以关掉 ai 就能把空间给其他应用的自由?你难道不知道 iOS 的后台任务多的一逼?每天晚上睡觉的时候你的手机一直在跑任务。
    SeaSaltPepper
        10
    SeaSaltPepper  
       148 天前
    @cat 看了楼上这位的历史发言,全是训人一样的语气.....
    MrGba2z
        11
    MrGba2z  
       148 天前
    两种都有看需求选择
    冷启动的话一般在 3s 内甚至能做到<1s
    目前 iPhone 能用的 AI 功能 都不需要那么低的响应速度,相比于带来的系统压力,我倾向于他们是冷启动为主的。现在应该有几十个模型(可能有些是常驻的,但他们都不是大家平时说的那种 LLM )
    freeloop1
        12
    freeloop1  
       148 天前
    其实就算是冷启动也不慢的,跟 ai 应用交互输入信息的时间足够后台启动了,更何况也不是所有的任务都是本地模型执行,siri 在没有宣传 ai 之前也是能不联网处理一些简单的任务的,我觉得应该是可以区分出是本地模型执行还是云端模型执行。
    xiuming
        13
    xiuming  
       148 天前
    Apple Intelligence 在 MAC 上用用就好了 手机短期内不抱太大希望
    heiya
        14
    heiya  
       148 天前
    @cat 没素质且觉得自己很厉害
    Stoney
        15
    Stoney  
       148 天前
    对 iPhone16 pro 是续航很失望,最开始用 iPhone 11 的时候能用三天,iPhone 16 pro 基本一天一充,不知道跟 apple intelligence 是否有关,还是说现在 iOS 其他功能太多导致太耗电,天天芯片制程进步了,但是也没见续航提升啊
    byicer
        16
    byicer  
       148 天前
    @Stoney #15 iPhone11 用三天一冲,看来是极度轻度使用手机啊
    Stoney
        17
    Stoney  
       148 天前 via iPhone
    @byicer 感觉以前 iPhone 耐用,现在虽然加了很多功能,但是发热耗电也增加了
    dyexlzc
        18
    dyexlzc  
       148 天前
    最新发布的 qwen3 0.6b 量化以后才 480M ,要做实时或者加载也是可以的。MLX 加速一下,本地 token 也很快的,纯 CPU 都能 37token/s ,楼上说的基本都是过时经验了
    SkywalkerJi
        19
    SkywalkerJi  
       147 天前 via Android
    即使没有 LLM ,2025 年了手机还没 12G 就不合理。
    iovekkk
        20
    iovekkk  
    OP
       147 天前
    @SkywalkerJi 我的 iPad air6 是 8G 内存,bilibili 打开一个视频,播放一会之后暂停,然后打开原神玩个小时,再切回 bilibili 应用,播放页面还在进度也在,我觉得这表现已经不错了
    PaperWing
        21
    PaperWing  
       146 天前
    @dyexlzc #18 第一次见 0.6B ,能用吗
    dyexlzc
        22
    dyexlzc  
       146 天前
    @PaperWing 能,默认 think ,智商挺高
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     942 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 26ms UTC 19:11 PVG 03:11 LAX 12:11 JFK 15:11
    Do have faith in what you're doing.
    ubao snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86