mysql海量数据出力CSV
1.需出力的数据时海量的。可以说如果用一次查询的话,都可能报异常
2.海量数据出力,要考虑的问题就是效率问题
我的疑问是。是否可以用多线程去跑,一个线程负责去取数据,一个线程取写数据。比如:一个线程取取一个不至于
内存溢出的数据,另一个把取的数据写人CSV.是否可以。
在次,写数据时,是在一个CSV中操作了,还是等完成之后,在合并取的多个数据。
------解决方案--------------------海量数据的话,可以开两个线程。分别负责读写。应该是可行的
在一个CSV中操作好了。
------解决方案--------------------可以分批去做啊。
先读取5kw写完之后,在写5kw这样的
------解决方案--------------------你是做对日开发的?
------解决方案--------------------无论多少个线程,用的都是同一块内存。。
如果你觉得一次全读出来溢出的话,那么就像楼上说的,一部分一部分的读,
反正数据库是有id的,根据id由小到大分批取