日期:2014-05-16  浏览次数:20475 次

Oracle 物化视图定时全量刷新导致归档日志骤增
一、问题描述
  2011年3月28日,某项目组来电,说有一个源表约2万多条的物化视图,每5分钟定时全量(Complete)刷新一次,一天下来,导致Oracle数据库归档日志骤增。

二、问题分析及解决
  先明确一个问题:归档日志(Archive Log)和重做日志(REDO Log)的关系。
  Oracle的重做日志是一组(或几组)文件,按一定的规则顺序循环写,当重做日志写满后,从头开始写之前,如果数据库在归档模式(Archive),则在重写之前,需要把当前的重做日志进行归档(Archive),形成归档日志。即归档日志来自于重做日志。
  基于此,可以通过减少产生重做日志的量来达到减少归档日志量的目的。

  综合一下:
  1、不要全量刷新,采用在源表上记录物化视图日志的方式,实现快速刷新,减少更新的数据量,达到减少重做日志的目的;
  2、指定物化视图为nologging模式
  3、减少或取消其上的索引(2W条记录,如果使用得比较频繁,甚至可以考虑把它cache到内存中)
  4、如果一定要有索引,自己写刷新的Job,先disable索引,然后刷新,然后重建索引(唯一索引可能有问题)。
  5、评估业务、技术要求,考虑取消物化视图,建立一般视图,在访问该视图时,直接从源表中查询。

三、验证过程
  验证全量刷新的物化视图产生的REDO日志的大小:
-- 建立源表
create table big_table as select * from dba_objects;

-- 我机器上(11g),大概8W条记录
select count(*) from big_table;

/*
  开始验证全量刷新产生的REDO日志的量
*/
-- 建立物化视图
create materialized view big_table_mv as select * from big_table;

-- 查看目前REDO日志的量(重新启动数据库会自动清理)
-- 记录下数值,用于接下来的比较
select a.name, b.value from v$statname a, v$mystat b where a.statistic# = b.statistic# and a.name = 'redo size';
--243964

-- 手工全量刷新物化视图
begin
  dbms_mview.refresh( 'BIG_TABLE_MV', 'C' );
end;

-- 再查看REDO日志的量,比较一下
-- 记录下数值,用于接下来的比较
select a.name, b.value, to_char( b.value-&V, '999999999999' ) diff from v$statname a, v$mystat b where a.statistic# = b.statistic# and a.name = 'redo size';
--value:38845196
--diff:38601232,增加了约37M

-- 还是比较可观的

-- 把物化视图改为nologging模式
alter table big_table_mv nologging;

-- 再全量刷新
begin
  dbms_mview.refresh( 'BIG_TABLE_MV', 'C' );
end;

-- 再查看REDO日志的量,比较一下
-- 记录下数值,用于接下来的比较
select a.name, b.value, to_char( b.value-&V, '999999999999' ) diff from v$statname a, v$mystat b where a.statistic# = b.statistic# and a.name = 'redo size';
--value:77495608
--diff:38894376,增加了约37M,全量刷新时,指定nologging没有什么效果喔。

-- 给物化视图建立索引
create index big_table_mv_idx on big_table_mv(owner,object_type,object_name);

-- 全量刷新
begin
  dbms_mview.refresh( 'BIG_TABLE_MV', 'C' );
end;

-- 再查看REDO日志的量,比较一下
select a.name, b.value, to_char( b.value-&V, '999999999999' ) diff from v$statname a, v$mystat b where a.statistic# = b.statistic# and a.name = 'redo size';
--value:166458592
--diff:127564216,增加了约121M,索引的影响还是比较大的。

-- 清理
drop materialized view big_table_mv;
drop table big_table purge;

  可以发现:
  1、全量刷新时,将产生较多的REDO,以上面的情况为例,如果该物化视图每5分钟刷新一次,则全天将产生约10656M(约10G,以不带索引,37M计算)的归档日志数据。
  2、当该物化视图上有索引时,归档日志的数据将更大。

  接下来再做一个验证,相同数据量,记录物化视图日志,快速刷新,每10秒更新源表中的数条记录。
  重启数据库,清理REDO。
  验证快速刷新的物化视图产生的REDO日志的大小:
-- 建立源表
create table big_table as select * from dba_objects;

-- 我机器上(11g),大概8W条记录
select count(*) from big_table;

-- 建立物化视图日志
create materialized view log on big_table with rowid including new values;

/*
  开始验证快速刷新产生的REDO日志的量
*/
-- 建立物化视图,每10秒刷新一次
create materialized view big_table_mv nologging
refresh fast on demand
with rowid
START WITH TO_DATE('18-03-2011 10:09:08', 'DD-MM-YYYY HH24:MI:SS') NEXT SYSDATE + 1 / 8640 
as select * from big_table;

-- 查看目前REDO日志的量(重新启动数据库会自动清理)
-- 记录下数值,用于接下来的比较
select a.name, b.value from v$statname a, v$mystat b where a.statistic# = b.statistic# and a.name = 'redo size';
--305808

select count(*) from big_table t where t.owner = 'EPAPRD';
--937

-- 每隔2秒钟,删除并重新插入1000条记录,执行100次吧。
-- 共删除10万条,插入10万条。
declare
  i integer;
begin
  i := 1;
  loop
    delete from big_table t where t.owner = 'EPAPRD';
    insert into big_table select * from dba