当前位置: 代码迷 >> Java Web开发 >> mysql洪量数据出力CSV
  详细解决方案

mysql洪量数据出力CSV

热度:958   发布时间:2016-04-10 23:57:45.0
mysql海量数据出力CSV
1.需出力的数据时海量的。可以说如果用一次查询的话,都可能报异常
2.海量数据出力,要考虑的问题就是效率问题

我的疑问是。是否可以用多线程去跑,一个线程负责去取数据,一个线程取写数据。比如:一个线程取取一个不至于内存溢出的数据,另一个把取的数据写人CSV.是否可以。
 在次,写数据时,是在一个CSV中操作了,还是等完成之后,在合并取的多个数据。
海量数据 csv mysql 内存溢出 多线程

------解决方案--------------------
海量数据的话,可以开两个线程。分别负责读写。应该是可行的
在一个CSV中操作好了。
------解决方案--------------------
可以分批去做啊。
先读取5kw写完之后,在写5kw这样的
------解决方案--------------------
你是做对日开发的?
------解决方案--------------------
无论多少个线程,用的都是同一块内存。。
如果你觉得一次全读出来溢出的话,那么就像楼上说的,一部分一部分的读,
反正数据库是有id的,根据id由小到大分批取
  相关解决方案