这是一个创建于 1451 天前的主题，其中的信息可能已经有所发展或是发生改变。
小弟正在用 java(kotlin)做一个基于 HTTP 的数据传输工具，部分情况可能会需要传输比较大的文件（大于 10G ）。目前 server 端使用 commons-fileupload-1.4 包，client 端使用 httpclient 工具。测试下来发现虽然能传，但是速度非常慢，localhost 传输只有不到 20M/S 。请问各位这里有什么好的传输性能好的手段么？
HTTP 传输为硬性条件，没办法使用 SFTP 、FTP 等其他传输协议，悲剧…
 | 1 thetbw 2021-10-19 19:43:14 +08:00 多线程上传试试 |
 | 2 Zuckonit 2021-10-19 19:48:10 +08:00 文件分块，然后在服务端组装 |
 | 3 heavyrainn OP @thetbw 请问有什么方案或者思路可以指导一下么？ |
 | 4 yukong 2021-10-19 21:16:10 +08:00 速度慢，先看看是不是硬件条件约束，百兆网卡的速度也就 20MB/s 左右，如果要传输大于 10G 的文件，网卡建议万兆起步，其次发现如果不是硬件条件导致速度慢，那么可以尝试多线程+file shard 上传从而尽量的跑满网卡的上限。 |
 | 5 BBCCBB 2021-10-19 21:18:26 +08:00 多线程的意思就是: 参考 http 协议里的 range , 将文件分位多段,上传后在服务器组装. |
| 6 thetbw 2021-10-19 23:13:10 +08:00 @heavyrainn 下载的话 github 上就有好多多线程下载的，上传的话还真没碰见过 |
 | 7 kaneg 2021-10-19 23:23:02 +08:00 可以查看一下几点： 1. 下载还是上传？上传与下载带宽可能不对等 2. 看服务端和客户端的 CPU 占用率 3. 用其他工具来确认服务端和客户端直接的带宽是否只有 20M 4. 是否文件读写是被磁盘速度限制。老一点的机械硬盘也就这个速度 |
 | 8 huangsen365 2021-10-19 23:26:08 +08:00 使用阿里云的 OSS 存储，js 方式的接口 |
 | 9 forgottencoast 2021-10-19 23:51:44 +08:00 20MB/s 吗？挺快了吧，大部分人上网的实际的上传下载速度都到不了这个级别。 |
 | 10 ch2 2021-10-20 00:03:09 +08:00 http 可以并发上传的，range 了解一下 |
 | 11 FindHao 2021-10-20 03:02:53 +08:00 via Android 先压缩再分块，客户端再解压缩 |
 | 12 msg7086 2021-10-20 03:05:53 +08:00  1 我是头一次看到有人说 localhost 跑 20MB/s 挺快的。 |
 | 13 wangyu17455 2021-10-20 04:01:10 +08:00 分块多线程上传 |
 | 14 xuanbg 2021-10-20 06:38:50 +08:00 |
 | 15 aru 2021-10-20 06:50:35 +08:00 可能是你的硬盘比较慢吧，换个 ssd 试试 |
 | 16 unco020511 2021-10-20 09:45:02 +08:00 分块后多线程呀 |
 | 17 lusi1990 2021-10-20 10:21:18 +08:00 很有可能是网络慢，和语言关系不大 |
 | 18 ungrown 2021-10-20 10:22:00 +08:00 有人提到磁盘慢，IO 瓶颈确实是个关键因素，在你这个测试之中。 建议先别进行磁盘读写，直接在内存中测试，看看数据块发送接收的速度，收到的数据直接丢掉不用保存。 |
 | 19 summer2019 2021-10-20 10:40:50 +08:00 via iPhone @forgottencoast localhost 啊，20M 快个鬼吧 |
 | 20 darknoll 2021-10-20 10:41:24 +08:00 带宽是固定的，分不分块有什么区别？ |
 | 21 keakon 2021-10-20 11:22:34 +08:00 也可能是硬盘慢。。 |
 | 22 ikas 2021-10-20 14:06:57 +08:00 commons-fileupload-1.4 这种接收上传需要写临时文件,然后再复制..太多浪费性能的地方了 前端直接用 js 发送 byte 数据.后端直接 inputstream 接收,直接写. 你要更快,那就是自己分段发送 |
 | 23 aitaii 2021-10-20 14:29:00 +08:00 抛开硬件谈优化的意义不大 |
 | 24 x940727 2021-10-20 15:56:27 +08:00 先确定到底是哪个限制了只有 20M 的速度，是硬盘吗？你可以直接把 10G 的文件全部加载到内存里面再传。 |
 | 25 lisongeee 2021-10-20 17:15:42 +08:00 使用 http3 |
 | 26 youxiachai 2021-10-20 17:53:58 +08:00 我觉得..没说用啥 io..讨论这个意义不大 |
| 27 heavyrainn OP 统一回复一下吧，因为我的场景是 localhost 传，可能我有一点没有说清楚，我 localhost 走下载方法的时候速度是可以达到 200M/S 的。所以并不是网络的问题。推测问题应该是我使用的 commons-fileupload-1.4 包上。用这个包的原因是，我使用 javalin 框架，javalin 框架的文件上传功能有问题，一旦数据过大会导致直接报内存爆炸报错。 后来呢…后来我只好换了个框架，改成了 kotlin 自己的 ktor 框架，然后速度一下就飚上去了…ktor 写起来也挺舒服的 |
Select Language