日期:2013-05-14  浏览次数:20548 次

我们可能会出现这种情况,某个表原来设计不周全,导致表里面的数据数据反复,那么,如何对反复的数据进行删除呢?

反复的数据可能有这样两种情况,第一种时表中只要某些字段一样,第二种是两行记录完全一样。

一、对于部分字段反复数据的删除

先来谈谈如何查询反复的数据吧。

下面语句可以查询出那些数据是反复的:

select 字段1,字段2,count(*) from 表名 group by 字段1,字段2 having count(*) > 1


将上面的>号改为=号就可以查询出没有反复的数据了。

想要删除这些反复的数据,可以使用下面语句进行删除

delete from 表名 a where 字段1,字段2 in(select 字段1,字段2,count(*) from 表名 group by 字段1,字段2 having count(*) > 1)


上面的语句非常简单,就是将查询到的数据删除掉。不过这种删除执行的效率非常低,对于大数据量来说,可能会将数据库吊死。所以我建议先将查询到的反复的数据插入到一个临时表中,然后对进行删除,这样,执行删除的时候就不用再进行一次查询了。如下:

CREATE TABLE 临时表 AS(select 字段1,字段2,count(*) from 表名 group by 字段1,字段2 having count(*) > 1)


上面这句话就是建立了临时表,并将查询到的数据插入其中。

下面就可以进行这样的删除操作了:

delete from 表名 a where 字段1,字段2 in (select 字段1,字段2 from 临时表);


这种先建临时表再进行删除的操作要比直接用一条语句进行删除要高效得多。

这个时候,大家可能会跳出来说,什么?你叫我们执行这种语句,那不是把所有反复的全都删除吗?而我们想保留反复数据中最新的一条记录啊!大家不要急,下面我就讲一下如何进行这种操作。

在oracle中,有个隐藏了自动rowid,里面给每条记录一个独一的rowid,我们如果想保留最新的一条记录,

我们就可以利用这个字段,保留反复数据中rowid最大的一条记录就可以了。

下面是查询反复数据的一个例子:

select a.rowid,a.* from 表名 a where a.rowid != (  select max(b.rowid) from 表名 b   where a.字段1 = b.字段1 and   a.字段2 = b.字段2  )


下面我就来讲解一下,上面括号中的语句是查询出反复数据中rowid最大的一条记录。

而外面就是查询出除了rowid最大之外的其他反复的数据了。

由此,我们要删除反复数据,只保留最新的一条数据,就可以这样写了:

delete from 表名 a where a.rowid !=  (  select max(b.rowid) from 表名 b   where a.字段1 = b.字段1 and   a.字段2 = b.字段2  )


随便说一下,上面语句的执行效率是很低的,可以考虑建立临时表,讲需求判断反复的字段、rowid插入临时表中,然后删除的时候在进行比较。

create table 临时表 as   select a.字段1,a.字段2,MAX(a.ROWID) dataid from 正式表 a GROUP BY a.字段1,a.字段2;  delete from 表名 a  where a.rowid !=  (  select b.dataid from 临时表 b   where a.字段1 = b.字段1 and   a.字段2 = b.字段2  ); commit;


二、对于完全反复记录的删除

对于表中两行记录完全一样的情况,可以用下面语句获取到去掉反复数据后的记录:

select distinct * from 表名


可以将查询的记录放到临时表中,然后再将原来的表记录删除,最后将临时表的数据导回原来的表中。如下:

CREATE TABLE 临时表 AS (select distinct * from 表名);  drop table 正式表;  insert into 正式表 (select * from 临时表);  drop table 临时表;


如果想删除一个表的反复数据,可以先建一个临时表,将去掉反复数据后的数据导入到临时表,然后在从临时表将数据导入正式表中,如下:

INSERT INTO t_table_bakselect distinct * from t_table;