现在的场景是
多个进程 /线程去 sql 查询 然后将查询的结果写共享内存给到另一个代码进程(称为主进程吧)
现在问题出在
各个线程写给主进程性能堪忧
多个进程 /线程去 sql 查询 然后将查询的结果写共享内存给到另一个代码进程(称为主进程吧)
现在问题出在
各个线程写给主进程性能堪忧

1 Go1denwind OP 如果线程的代码用 C 写 或者协程这类替换线程的方式 会不会有什么明显的提升 能定位问题是在主线程整合各个线程的数据上耗时比较多 |
2 NaVient Nov 27, 2020 换 golang |
3 zerofiny Nov 27, 2020 查询 SQL,不涉及密集计算多线程就可以, 如果是根据查询的结果进行计算,那多进程 mutiprocessing 这个模块有个 Queue 可以进行进程通信 只能传输基本类型 |
4 Go1denwind OP @hasdream 哦补充下 查出来的结果要进行一些计算的 multiprocessing.Queue 好像不支持不同进程间通讯 而且估计速度也和这样差不多 |
5 Go1denwind OP @NaVient 转行了转行了 /cry |
6 laminux29 Nov 27, 2020 @Go1denwind 不看文档嘛? 人家 Queue 就是用来做多线程同步的。 你这种需求,正确的操作是,多线程获取数据后,通过 Queue 发送给主线程。不然你主线程还要等每个子线程写数据,这种操作方式本质是串行化,没办法完全利用硬件,速度当然慢。 https://docs.python.org/3/library/queue.html |
7 zerofiny Nov 27, 2020 @Go1denwind multiprocessing.Queue 基于 multiprocessing.Process 创建的进程通信是没问题的。 如果你觉得不靠谱 那就 fork 多个进程 主进程创建多个 PIPE 进行通信也行 |
8 jones2000 Nov 28, 2020 写共享内存和读取应该很快的, 每个线程或进程写单独的一块内存地址, 写完发送事件消息给主进程, 主进程就读对应地址的内存块。 |