现在市面上有使用 ARM NPU 的板子吗?支持 Linux 吗? - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
Distributions
Ubuntu
Fedora
CentOS
中文资源站
网易开源镜像站
usb7
V2EX    Linux

现在市面上有使用 ARM NPU 的板子吗?支持 Linux 吗?

  •  1
     
  •   usb7 2023-12-15 10:17:58 +08:00 3059 次点击
    这是一个创建于 734 天前的主题,其中的信息可能已经有所发展或是发生改变。
    22 条回复    2023-12-16 14:21:13 +08:00
    mingl0280
        1
    mingl0280  
       2023-12-15 10:26:31 +08:00 via Android
    瑞芯微好像有,Linux 没试过
    zhengjing
        2
    zhengjing  
       2023-12-15 10:33:05 +08:00
    很多了,便宜的全志和 RV 都有,贴一个全志的: https://v853.docs.aw-ol.com/
    sunmacarenas
        3
    sunmacarenas  
       2023-12-15 10:35:57 +08:00
    可以看看 Nvidia Jetson orin agx ;不过是 GPU
    ryan4yin
        4
    ryan4yin  
       2023-12-15 10:36:06 +08:00
    rk3588 之类的板子,官方 sdk 基本都只支持 Linux 啊,rknn / rknpu 之类的
    XIVN1987
        5
    XIVN1987  
       2023-12-15 10:36:30 +08:00
    RK3588 ,,6T 算力。。
    timeance
        6
    timeance  
       2023-12-15 10:40:04 +08:00
    Jetson Orin 系列,20T~275T 算力
    ormand1bd
        7
    ormand1bd  
       2023-12-15 11:02:54 +08:00
    有,支持
    tangtang369
        8
    tangtang369  
       2023-12-15 11:06:50 +08:00
    都支持 linux 的 现在 arm 板都是安卓或者 linux
    usb7
        9
    usb7  
    OP
       2023-12-15 11:46:27 +08:00
    @XIVN1987 请问 RK3588 用的哪家公司设计的 NPU ?它的文件里没说,只是说: 6TOPs@int8
    https://www.rock-chips.com/uploads/pdf/2022.8.26/192/RK3588%20Brief%20Datasheet.pdf

    请问在 RK3588 上运行什么版本的 Linux ?你有在 RK3588 的板子上,实际运行过 TensorFlow 吗?
    tangtang369
        10
    tangtang369  
       2023-12-15 11:55:23 +08:00
    @usb7 3588 官方板是 debian 第三方版是 ubuntu ,npu 大多数都不支持直接运行 TensorFlow 等框架 ,是要利用他们自己的转换工具,把 tensorflow/pytorch/onnx 转成 npu 专用的模型格式,3588 的其实就是三个核心的 2T ,这个芯片据称是自研的,但是在这之前几代的 npu 用的是芯原的
    XIVN1987
        11
    XIVN1987  
       2023-12-15 11:57:38 +08:00
    @usb7

    你管他用的哪家的 IP ,,不都是直接调用厂家提供的库甚至是 pytorch 、tensorflow 库直接使用的吗,,难道你还能自己从寄存器开始写起??
    usb7
        12
    usb7  
    OP
       2023-12-15 11:57:41 +08:00
    @tangtang369 请问可以付费语音咨询吗?如有意愿,请发邮件: [email protected]
    usb7
        13
    usb7  
    OP
       2023-12-15 11:59:28 +08:00
    @XIVN1987
    => 你管他用的哪家的 IP ,,不都是直接调用厂家提供的库甚至是 pytorch 、tensorflow 库直接使用的吗,,难道你还能自己从寄存器开始写起??

    因为精力有限,我想仅仅拥抱一个 NPU IP 。
    Dogtler
        14
    Dogtler  
       2023-12-15 12:38:31 +08:00   1
    香橙派 RK3588
    suke119
        15
    suke119  
       2023-12-15 13:26:56 +08:00
    rk356X 瑞芯微的 还有 3588 系列 rv 系列 系统 ubuntu arm64 ,这几天刚将 PPOCR3-4 部署到上面
    vicalloy
        16
    vicalloy  
       2023-12-15 14:09:18 +08:00
    看你具体想做什么。一般来说 NPU 都是没法直接用的,需要你去适配对应的 SDK 。
    RK3588 的 NPU 是瑞芯微自研的,除了官方给的几个 DEMO 估计没有什么人可以真正用起来。
    如果你只是单纯的需要一个 ARM 的 Linux 开发板 RK3588 性能还是不错的。
    avalon8
        17
    avalon8  
       2023-12-15 14:20:37 +08:00
    晶晨 a311D
    xuxuxu123
        18
    xuxuxu123  
       2023-12-15 14:42:13 +08:00   1
    ltkun
        19
    ltkun  
       2023-12-15 15:08:36 +08:00
    @xuxuxu123 这个不错
    402124773
        20
    402124773  
       2023-12-15 15:19:55 +08:00
    intel stick 2 插在树莓派上面用如何?外挂 npu
    需要 stick 2 联系我
    enihcam
        21
    enihcam  
       2023-12-16 13:07:13 +08:00
    @xuxuxu123 华为硬件太闭环了,没有生态。龙芯中科的 LoongArch64 都比它开放。
    usb7
        22
    usb7  
    OP
       2023-12-16 14:21:13 +08:00
    @enihcam
    => 华为硬件太闭环了,没有生态。龙芯中科的 LoongArch64 都比它开放。

    赞你的这句。
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     4873 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 25ms UTC 09:42 PVG 17:42 LAX 01:42 JFK 04:42
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86