现在的位置: 首页 > 综合 > 正文

oracle 快速删除大批量数据方法(全部删除,条件删除,删除大量重复记录)

2018年02月04日 ⁄ 综合 ⁄ 共 2053字 ⁄ 字号 评论关闭

全部删除

如果是删除某个表的所有数据,并且不需要回滚,使用 TRUNCATE 就ok了。关于Trancate 参见这里http://blog.csdn.net/gnolhh168/archive/2011/05/24/6442561.aspx

SQL> truncate   table   table_name;

 

条件删除

如果删除数据有条件,如 delete from tablename where col1 = 'lucy';这时除了加索引外, 你可以删除时加NO   LOGGING选项,不写日志加快删除速度

 

引用某人的一句话“几千万条记录的表都不分区,明显有问题嘛。Oracle的技术支持工程师建议,2,000,000条以上记录的表,应该考虑分区,你完全可以按照时间为维度来建表,每个月的数据存放在一个分区表中,以后要删除一个月的数据,直接truncate   table即可,不记录日志,速度很快。”

 

 删除大量重复记录

《转》做项目的时候,一位同事导数据的时候,不小心把一个表中的数据全都搞重了,也就是说,这个表里所有的记录都有一条重复的。这个表的数据是千万级的,而且是生产系统。也就是说,不能把所有的记录都删除,而且必须快速的把重复记录删掉。

对此,总结了一下删除重复记录的方法,以及每种方法的优缺点。

为了陈诉方便,假设表名为Tbl,表中有三列col1,col2,col3,其中col1,col2是主键,并且,col1,col2上加了索引。

1、通过创建临时表

可以把数据先导入到一个临时表中,然后删除原表的数据,再把数据导回原表,SQL语句如下:

 

creat table tbl_tmp (select distinct* from tbl);

truncate table tbl;            //清空表记录i

nsert into tbl select * from tbl_tmp;//将临时表中的数据插回来。

 

这种方法可以实现需求,但是很明显,对于一个千万级记录的表,这种方法很慢,在生产系统中,这会给系统带来很大的开销,不可行。

2、利用rowid

在oracle中,每一条记录都有一个rowid,rowid在整个数据库中是唯一的,rowid确定了每条记录是oracle中的哪一个数据文件、块、行上。在重复的记录中,可能所有列的内容都相同,但rowid不会相同。SQL语句如下:

 

delete from tbl where rowid in (select a.rowid

from tbl a,            tbl b

where a.rowid>b.rowid and a.col1=b.col1 and a.col2 = b.col2) 

 

如果已经知道每条记录只有一条重复的,这个sql语句适用。但是如果每条记录的重复记录有N条,这个N是未知的,就要考虑适用下面这种方法了。

3、利用max或min函数

这里也要使用rowid,与上面不同的是结合max或min函数来实现。SQL语句如下

 

delete from tbl a

where rowid not in (

          select max(b.rowid)           

          from tbl b

           where a.col1=b.col1 and a.col2 = b.col2);            //这里max使用min也可以 

 

或者用下面的语句

 

delete from tbl awhere rowid<(

             select max(b.rowid)           

             from tbl b

             where a.col1=b.col1 and a.col2 = b.col2);            //这里如果把max换成min的话,前面的where子句中需要把"<"改为">" 

 

跟上面的方法思路基本是一样的,不过使用了group by,减少了显性的比较条件,提高效率。SQL语句如下:

 

deletefrom tbl where rowid not in (

                select max(rowid)           

               from tbl tgroup by t.col1, t.col2);

 

delete from tbl where (col1, col2)  in (

                   select col1,col2

                    from tblgroup bycol1,col2havingcount(*)            >1) and rowidnotin(selectnin(rowid)fromtblgroup bycol1,           
col2havingcount(*) >1)    ----???

还有一种方法,对于表中有重复记录的记录比较少的,并且有索引的情况,比较适用。假定col1,col2上有索引,并且tbl表中有重复记录的记录比较少,SQL语句如下4、利用group by,提高效率

抱歉!评论已关闭.