请教:关于大量数据插入性能的问题!
我的程序每天要读取200万至2000万条记录入库,入库的时间是由程序收到数据后决定的,程序收到的数据存在一个buf里,我需要把它解释出来入库,一般来说解释出来一个buf里估计含200条记录,我现在的做法是:
我在数据库中建立一个存储过程:ProIns,每次插入一条记录,同时记录是有主键的,如果存在相同的纪录,则不插入,过程如下:
create or replace procedure ProIns (T_ID in varchar2,
P_D in varchar2)
as
RecordNum Number;
begin
select count(*) into RecordNum from table1 where TID = T_ID;
if RecordNum=0 then
insert into table1 (TID,PD) values (T_ID,P_D);
commit;
end if;
exception when others then
null;
end ProIns;
/
然后我在程序中循环调用该存储过程,每次插入一条记录,这样就很慢,怎么样
提高入库性能呢?
大概有以下几个特点:
1、无法保证入库的数据的唯一性;
2、数据入库时间不定;
3、一次接收到的buf中包含的纪录数不定;
4、表有关键字:t_id;
5、其他人可以在任意时候查询该表;
象这种情况,怎样提高入库性能?谢谢
------解决方案--------------------更改存储过程,一次传人多条记录的条件,批量提交
------解决方案--------------------用表类型,数组类型应该都可以
------解决方案--------------------1.先建立一张临时表table_temp或者一个表类型和你的 table1 结构一致,在table_temp与TABLE1相同的主键栏位上建索引,
2.将你解析的数据(buffer里的)一次全部插入这个临时表table_temp
3.存储过程中改为
begin
insert into table1 (TID,PD)
select a.TID,a.PD from table_temp a
where not exists (select 'x ' from
table1 b where a.TID = b.TID)
commit;
end;
/
以上只是个人想法没有经过测试,可遇见的是可以大量减少对于table1的INSERT操作
------解决方案--------------------插入200万至2000万
日志也会很大啊
不知道lz想怎么处理
------解决方案--------------------icedut(冰-装修准备中) 说得很对阿。
同时个人认为,效率低下主要还是调用Procedure过于频繁。
LZ可以考虑积累1~10万条,执行一次插入数据库操作。
另外,为了能够有效的减少select count(*)的次数,可以按照表的主键使用hash结构,保证准备插入数据库中的数据本身主键不会重复。
------解决方案--------------------我刚刚也在弄类似的问题。
有索引的时候插入速度会明显下降,如果对日志要求不高可以使用direct-path插入,这样就不会写redo日志,可以极大的提升插入性能。
------解决方案--------------------在我的机器配置上,使用direct-path和不使用的插入速度差距在5倍左右,现在一秒钟可以插入80000多条了(无索引)
------解决方案--------------------楼上:baojianjun(包子)做法最好,肯定可行,效率也高,不过可以改进的是,在每次插入完成后就删除临时表(或表类型和你的 table1 结构一致的表)的数据,因为有大量的数据时,select count(*)会很费时间,每次都调存储过程更费时间,包子做法可以批量插入,性能肯定能大大提高.
------解决方案--------------------select count(*) into RecordNum from table1 where TID = T_ID;
if RecordNum=0 then
insert into table1 (TID,PD) values (T_ID,P_D);
用这样的方法,造成频繁的访问,肯定要慢啊。
把连接的方法降低,速度肯定会变快的。
------解决方案--------------------