有没有活跃的内核开发交流社区? - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
Distributions
Ubuntu
Fedora
CentOS
中文资源站
网易开源镜像站
Hanggi
V2EX    Linux

有没有活跃的内核开发交流社区?

  •  
  •   Hanggi 2018-04-05 14:48:30 +08:00 4434 次点击
    这是一个创建于 2746 天前的主题,其中的信息可能已经有所发展或是发生改变。

    最近在写 linux 内核代码,与文件系统相关,过程中遇到了很多问题, 希望能找到相关经验的大神交流,

    有没有相关推荐的交流社区讨论问题呢?

    15 条回复    2018-12-26 14:20:27 +08:00
    Andiry
        1
    Andiry  
       2018-04-05 14:54:39 +08:00
    [email protected]
    楼主在写哪种文件系统?我也在写,欢迎交流
    Hanggi
        2
    Hanggi  
    OP
       2018-04-05 15:07:00 +08:00
    @Andiry 我现在在写 Lustre Filesystem, 他的底层文件系统叫 ldiskfs, 其实就是打了补丁的 ext4。ext4 本身其实没什么问题,但是在 Lustre 里执行 Direct write 会强制提交日志,导致整个性能很低。日志部分是 jbd2 的守护进程处理的( jbd2 是单线程日志提交,我正在考虑通过多线程并发提交提高其性能。现在拼命补 block layer 部分的知识。目前尝试让 lustre 服务端的数据 io 线程协助 jbd2 提交元数据,不太顺,有点怀疑这种方法是否可行。

    大神你研究过相关内容吗?
    Andiry
        3
    Andiry  
       2018-04-05 15:13:19 +08:00
    @Hanggi Direct write 为什么会强制提交日志? fsync ?具体的 IO access pattern 是怎么样的?
    如果要把 jbd2 改成多线程的话,可以看这两篇论文:
    https://www.usenix.org/conference/atc17/technical-sessions/presentation/park
    https://www.usenix.org/conference/fast18/presentation/son
    Hanggi
        4
    Hanggi  
    OP
       2018-04-05 15:23:38 +08:00
    @Andiry 首先,Lustre 的底层文件系统虽然是 EXT4,但是的 IO path 跟 ext4 完全不一样,是 Lustre 自己的分布式文件系统的 IO path。网络和分布式锁部分还没来得及看,之后就进到 IO path 了。大致就是准备数据块,从远端客户端读取数据,提交数据,然后就强制提交日志了。我目前了解的就是服务端要保证客户端的同步性和 Serialization,所以必须完全执行完数据和元数据的提交才返回客户端。(目前测试,Direct write 性能跟 fsync per write 差不多)。这两篇论文我先看了,谢谢~
    Andiry
        5
    Andiry  
       2018-04-05 15:31:39 +08:00
    @Hanggi 写日志,就是追加写咯?每次写都会分配空间,提交的元数据比数据还多
    一个简单的做法是写之前直接 fallocate,应该会减少 fsync 的 overhead
    Hanggi
        6
    a href="/member/Hanggi" class="dark">Hanggi  
    OP
       2018-04-05 15:37:35 +08:00
    @Andiry 是的,目前打出来,单线程 fio,一个 4k 数据块,会提交 7 个元数据块,加上描述块和提交块,都有 10 倍于数据块的元数据了。fallocate 我先研究一下,谢谢了。
    tamlok
        7
    tamlok  
       2018-04-05 16:58:11 +08:00 via Android
    内核的社区不就是邮件列表吗?
    Hanggi
        8
    Hanggi  
    OP
       2018-04-05 17:00:29 +08:00
    @tamlok 对啊,效率太低了。。。而且界面不忍直视啊。
    tamlok
        9
    tamlok  
       2018-04-05 17:03:42 +08:00
    @Hanggi 还好吧!我倒觉得效率很高!比论坛好多了!或者可以试试 IRC。
    jerry033
        10
    jerry033  
       2018-04-05 17:06:04 +08:00
    @tamlok 说到邮件列表都是泪,上次订阅被拒绝了……
    tamlok
        11
    tamlok  
       2018-04-05 17:09:48 +08:00
    @jerry033 ~~还有这样的操作!我从邮件列表里面学到挺多东西的,比如每次回复邮件的时候,都会想着会打扰到成千上万的人,所以都很谨慎。
    jerry033
        12
    jerry033  
       2018-04-05 17:21:41 +08:00
    @tamlok 天地良心哦!我什么话都没说,一直默默视女干……
    Garantion
        13
    Garantion  
       2018-04-06 01:45:02 +08:00
    发过 SOSP 的…… 神仙……
    Kongtou
        14
    Kongtou  
       2018-04-06 08:04:41 +08:00 via Android
    看雪
    zhq5515
        15
    zhq5515  
       2018-12-26 14:20:27 +08:00
    @Hanggi 楼主,请问你是怎么打印元数据操作的?我也在看这块代码,想打印看下
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     5485 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 35ms UTC 08:32 PVG 16:32 LAX 01:32 JFK 04:32
    Do have faith in what you're doing.
    ubao snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86