日期:2014-05-17  浏览次数:20823 次

oracle导出多CSV文件的问题
用ksh脚本从oracle数据库中导出80w数据到csv文件,如用户给定名字为a.csv(文件最大4000行记录),则自动生产文件为a_1.csv,a_2.csv,....,   a_200.csv

我已经实现了一个方法,但80w要导5小时,用户没法接受。如下:
sqlplus   -s   user/pwd   @${SqlDir}/select_log.sql   > /tmp/a.tmp
然后每read   4000行到文件a_1.csv,并且每隔4000行换一个文件名。

大家有什么好方法吗?注意效率

------解决方案--------------------
先一次性生成一个csv文件
再用split分割文件
------解决方案--------------------
完全赞同楼上说的。

关于性能问题,用oracle spool出80万行纪录是非常快的,我刚试了一下,再hp-ux下,spool出某表中100万纪录(2列)耗时大约2分钟,输出文件80m, 用split命令分割为每个4000行的文件耗时数秒而已。 下附测试代码:

/* sql file: spool_test.sql */
set pages 0
set head off
set echo off
set feedback off
spool spool_text.csv
select col1, col2 from my_table where rownum <1000000;
spool off
exit

## shell script to spool out:
sqlplus -s user/password @spool_test.sql > /dev/null

## split file:
split -l 4000 spool_text.csv splited

------解决方案--------------------
先整个导出罢,然后在处理
------解决方案--------------------
根据需要导出的列,单独建个临时表,比如:create table sales_range_tmp as select salesman_id,salesman_name,sales_amount,sales_date from sales;
再利用脚本导出来,看看速度应该有所提高。不过有一点必须明白,全扫描8w的表数据肯定不是几分钟可以完成的,何况要写成物理文件。

------解决方案--------------------
SELECT 中不要拼接字符串,非常影响速度