首页 新闻 论坛 群组 Blog 文档 下载 读书 Tag 网摘 搜索 .NET Java 游戏 视频 人才 外包 培训 数据库 书店 程序员
中国软件网
欢迎您:游客 | 登录 注册 帮助
  • 如何删除表中的重复记录只保留其中一条? [已结帖,结帖人:zhuawang]
    进入用户个人空间
    加为好友
    发送私信
    在线聊天
    • zhuawang
    • 等级:
    • 可用分等级:
    • 总技术分:
    • 总技术分排名:
    • 结帖率:
    发表于:2008-10-31 15:54:41 楼主
    如何删除表中的重复记录只保留其中一条?
    50  修改 删除 举报 引用 回复
    进入用户个人空间
    加为好友
    发送私信
    在线聊天
    • hyde100
    • 等级:
    • 可用分等级:
    • 总技术分:
    • 总技术分排名:
    发表于:2008-10-31 15:56:401楼 得分:5
    SQL code
    1) insert into 零时表 select distinctfrom2delete from3) insert intoselect from 零时表
    修改 删除 举报 引用 回复
    进入用户个人空间
    加为好友
    发送私信
    在线聊天
    • fellowcheng
    • 等级:
    • 可用分等级:
    • 总技术分:
    • 总技术分排名:
    发表于:2008-10-31 15:56:572楼 得分:5
    在SQL Server中快速删除重复记录(多图)
    ________________________________________
    http://www.sina.com.cn 2004年10月22日 10:12 电脑报

      文/夏翔
        开发人员的噩梦——删除重复记录

      想必每一位开发人员都有过类似的经历,在对数据库进行查询或统计的时候不时地会碰到由于表中存在重复的记录而导致查询和统计结果不准确。解决该问题的办法就是将这些重复的记录删除,只保留其中的一条。

      在SQL Server中除了对拥有十几条记录的表进行人工删除外,实现删除重复记录一般都是写一段代码,用游标的方法一行一行检查,删除重复的记录。因为这种方法需要对整个表进行遍历,所以对于表中的记录数不是很大的时候还是可行的,如果一张表的数据达到上百万条,用游标的方法来删除简直是个噩梦,因为它会执行相当长的一段时间。

      四板斧——轻松消除重复记录

      殊不知在SQL Server中有一种更为简单的方法,它不需要用游标,只要写一句简单插入语句就能实现删除重复记录的功能。为了能清楚地表述,我们首先假设存在一个产品信息表Products,其表结构如下:
    CREATE TABLE Products (
    ProductID int,
    ProductName nvarchar (40),
    Unit char(2),
    UnitPrice money
    )

      表中的数据如图1:

    图表

      图1中可以看出,产品Chang和Tofu的记录在产品信息表中存在重复。现在要删除这些重复的记录,只保留其中的一条。步骤如下:

      第一板斧——建立一张具有相同结构的临时表
    CREATE TABLE Products_temp (
    ProductID int,
    ProductName nvarchar (40),
    Unit char(2),
    UnitPrice money
    )

      第二板斧——为该表加上索引,并使其忽略重复的值

      方法是在企业管理器中找到上面建立的临时表Products _temp,单击鼠标右键,选择所有任务,选择管理索引,选择新建。如图2所示。

      按照图2中圈出来的地方设置索引选项。

    图2

      第三板斧——拷贝产品信息到临时表
    insert into Products_temp Select * from Products

      此时SQL Server会返回如下提示:

      服务器: 消息 3604,级别 16,状态 1,行 1

      已忽略重复的键。

      它表明在产品信息临时表Products_temp中不会有重复的行出现。

      第四板斧——将新的数据导入原表

      将原产品信息表Products清空,并将临时表Products_temp中数据导入,最后删除临时表Products_temp。
    delete Products
    insert into Products select * from Products_temp
    drop table Products_temp

      这样就完成了对表中重复记录的删除。无论表有多大,它的执行速度都是相当快的,而且因为几乎不用写语句,所以它也是很安全的。

      小提示:上述方法中删除重复记录取决于创建唯一索引时选择的字段,在实际的操作过程中读者务必首先确认创建的唯一索引字段是否正确,以免将有用的数据删除。

    修改 删除 举报 引用 回复
    进入用户个人空间
    加为好友
    发送私信
    在线聊天
    • dawugui
    • 等级:
    • 可用分等级:
    • 总技术分:
    • 总技术分排名:
    • 3

      3

    发表于:2008-10-31 15:56:583楼 得分:5
    SQL code
    delete tb from tb t where val = (select min(val) from tb where id = t.id) delete tb from tb t where val = (select max(val) from tb where id = t.id)
    修改 删除 举报 引用 回复
    进入用户个人空间
    加为好友
    发送私信
    在线聊天
    • Yang_
    • 等级:
    • 可用分等级:
    • 总技术分:
    • 总技术分排名:
    • 2

      5

    发表于:2008-10-31 15:56:584楼 得分:5
    具体点

    通用方法:

    SQL code
    select distinct * into # from tab truncate table tab insert tab select * from # drop table #
    修改 删除 举报 引用 回复
    进入用户个人空间
    加为好友
    发送私信
    在线聊天
    • dawugui
    • 等级:
    • 可用分等级:
    • 总技术分:
    • 总技术分排名:
    • 3

      3

    发表于:2008-10-31 15:57:475楼 得分:5
    在几千条记录里,存在着些相同的记录,如何能用SQL语句,删除掉重复的呢?谢谢!
    1、查找表中多余的重复记录,重复记录是根据单个字段(peopleId)来判断
    select * from people
    where peopleId in (select  peopleId  from  people  group  by  peopleId  having  count(peopleId) > 1)

    2、删除表中多余的重复记录,重复记录是根据单个字段(peopleId)来判断,只留有rowid最小的记录
    delete from people
    where peopleId  in (select  peopleId  from people  group  by  peopleId  having  count(peopleId) > 1)
    and rowid not in (select min(rowid) from  people  group by peopleId  having count(peopleId )>1)

    3、查找表中多余的重复记录(多个字段)
    select * from vitae a
    where (a.peopleId,a.seq) in  (select peopleId,seq from vitae group by peopleId,seq  having count(*) > 1)

    4、删除表中多余的重复记录(多个字段),只留有rowid最小的记录
    delete from vitae a
    where (a.peopleId,a.seq) in  (select peopleId,seq from vitae group by peopleId,seq having count(*) > 1)
    and rowid not in (select min(rowid) from vitae group by peopleId,seq having count(*)>1)

    5、查找表中多余的重复记录(多个字段),不包含rowid最小的记录
    select * from vitae a
    where (a.peopleId,a.seq) in  (select peopleId,seq from vitae group by peopleId,seq having count(*) > 1)
    and rowid not in (select min(rowid) from vitae group by peopleId,seq having count(*)>1)

    比方说在A表中存在一个字段“name”,而且不同记录之间的“name”值有可能会相同,
    现在就是需要查询出在该表中的各记录之间,“name”值存在重复的项;
    Select Name,Count(*) From A Group By Name Having Count(*) > 1

    如果还查性别也相同大则如下:
    Select Name,sex,Count(*) From A Group By Name,sex Having Count(*) > 1
    修改 删除 举报 引用 回复
    进入用户个人空间
    加为好友
    发送私信
    在线聊天
    • fellowcheng
    • 等级:
    • 可用分等级:
    • 总技术分:
    • 总技术分排名:
    发表于:2008-10-31 15:58:056楼 得分:5
    2.group by方法

    查数据:
      select count(num), max(name) from student --列出重复的记录数,并列出他的name属性
      group by num
      having count(num) >1 --按num分组后找出表中num列重复,即出现次数大于一次
    删数据:
      delete from student
      group by num
      having count(num) >1
      这样的话就把所有重复的都删除了。

    3.用distinct方法 -对于小的表比较有用

    create table table_new as  select distinct *  from table1 minux
    truncate table table1;
    insert into table1 select * from table_new;


    delete select a.* from FLRK1 a inner join FLRK1 b on a.记录号=b.记录号 and
    (a.[ID]=b.[ID] and a.入库日期=b.入库日期 and a.操作时间=b.操作时间)

    delete from FLRK1 where 记录号 in
    (select min(记录号) from FLRK1 group by 记录号 having count(记录号)>1)


    A表结构:

    ID        RQ          SJ          C     
    --------------------------------------------
    1    2005-07-14  14:20:50      A1   
    2    2005-02-15  05:12:23      A1   
    3    2005-07-14  14:20:50      A1   
    4    2005-06-16  16:16:16      A2   
    5    2005-06-16  16:16:16      A2   
    6    2005-05-18  05:10:35      A3   
    7    2005-02-15  05:12:23      A1   

    --------------------------------------------

    求SQL语句一条,把表A中 RQ,SJ,C 三个字段有相同的重复记录删除.

    得到的结果:

    ID        RQ          SJ          C     
    --------------------------------------------
    1    2005-07-14  14:20:50      A1   
    2    2005-02-15  05:12:23      A1   
    4    2005-06-16  16:16:16      A2   
    6    2005-05-18  05:10:35      A3   
    --------------------------------------------

    Delete from A Where ID Not In (Select Min(ID) from A Group By RQ,SJ,C )

    Delete a from tb a inner join tb as b on a.fid <b.fid and a.c=b.c and a.rq=b.rq and a.sj=b.sj

    delete from A t
    where exists(select 1 from A where ID <A.ID and SJ=t.SJ and RQ=t.RQ and C=t.c)


    方法一

    declare @max integer,@id integer
    declare cur_rows cursor local for select 主字段,count(*) from 表名 group by 主字段 having count(*) > 1
    open cur_rows
    fetch cur_rows into @id,@max
    while fetch_status=0
    begin
    select @max = @max -1
    set rowcount @max
    delete from 表名 where 主字段 = @id
    fetch cur_rows into @id,@max
    end
    close cur_rows
    set rowcount 0

      方法二

      有两个意义上的重复记录,一是完全重复的记录,也即所有字段均重复的记录,二是部分关键字段重复的记录,比如Name字段重复,而其他字段不一定重复或都重复可以忽略。

      1、对于第一种重复,比较容易解决,使用

    select distinct * from tableName


      就可以得到无重复记录的结果集。
      如果该表需要删除重复的记录(重复记录保留1条),可以按以下方法删除

    select distinct * into #Tmp from tableName
    drop table tableName
    select * into tableName from #Tmp
    drop table #Tmp

      发生这种重复的原因是表设计不周产生的,增加唯一索引列即可解决。

      2、这类重复问题通常要求保留重复记录中的第一条记录,操作方法如下

      假设有重复的字段为Name,Address,要求得到这两个字段唯一的结果集

    select identity(int,1,1) as autoID, * into #Tmp from tableName
    select min(autoID) as autoID into #Tmp2 from #Tmp group by Name,autoID
    select * from #Tmp where autoID in(select autoID from #tmp2)

      最后一个select即得到了Name,Address不重复的结果集(但多了一个autoID字段,实际写时可以写在select子句中省去此列)


    修改 删除 举报 引用 回复
    进入用户个人空间
    加为好友
    发送私信
    在线聊天
    • Dragon_pan
    • 等级:
    • 可用分等级:
    • 总技术分:
    • 总技术分排名:
    发表于:2008-10-31 15:59:067楼 得分:5
    收藏
    修改 删除 举报 引用 回复
    进入用户个人空间
    加为好友
    发送私信
    在线聊天
    • jiangshun
    • 等级:
    • 可用分等级:
    • 总技术分:
    • 总技术分排名:
    发表于:2008-10-31 16:00:288楼 得分:5
    来晚了
    修改 删除 举报 引用 回复
    进入用户个人空间
    加为好友
    发送私信
    在线聊天
    • wufeng4552
    • 等级:
    • 可用分等级:
    • 总技术分:
    • 总技术分排名:
    • 2

      2

    发表于:2008-10-31 16:00:339楼 得分:5
    SQL code
    --处理表重复记录(查询和删除) /****************************************************************************************************************************************************** 1、Num、Name相同的重复值记录,没有大小关系只保留一条 2、Name相同,ID有大小关系时,保留大或小其中一个记录 整理人:中国风(Roy) 日期:2008.06.06 ******************************************************************************************************************************************************/ --1、用于查询重复处理记录(如果列没有大小关系时2000用生成自增列和临时表处理,SQL2005用row_number函数处理) --> --> (Roy)生成測試數據 if not object_id('Tempdb..#T') is null drop table #T Go Create table #T([ID] int,[Name] nvarchar(1),[Memo] nvarchar(2)) Insert #T select 1,N'A',N'A1' union all select 2,N'A',N'A2' union all select 3,N'A',N'A3' union all select 4,N'B',N'B1' union all select 5,N'B',N'B2' Go --I、Name相同ID最小的记录(推荐用1,2,3),方法3在SQl05时,效率高于1、2 方法1: Select * from #T a where not exists(select 1 from #T where Name=a.Name and ID<a.ID) 方法2: select a.* from #T a join (select min(ID)ID,Name from #T group by Name) b on a.Name=b.Name and a.ID=b.ID 方法3: select * from #T a where ID=(select min(ID) from #T where Name=a.Name) 方法4: select a.* from #T a join #T b on a.Name=b.Name and a.ID>=b.ID group by a.ID,a.Name,a.Memo having count(1)=1 方法5: select * from #T a group by ID,Name,Memo having ID=(select min(ID)from #T where Name=a.Name) 方法6: select * from #T a where (select count(1) from #T where Name=a.Name and ID<a.ID)=0 方法7: select * from #T a where ID=(select top 1 ID from #T where Name=a.name order by ID) 方法8: select * from #T a where ID!>all(select ID from #T where Name=a.Name) 方法9(注:ID为唯一时可用): select * from #T a where ID in(select min(ID) from #T group by Name) --SQL2005: 方法10: select ID,Name,Memo from (select *,min(ID)over(partition by Name) as MinID from #T a)T where ID=MinID 方法11: select ID,Name,Memo from (select *,row_number()over(partition by Name order by ID) as MinID from #T a)T where MinID=1 生成结果: /* ID Name Memo ----------- ---- ---- 1 A A1 4 B B1 (2 行受影响) */ --II、Name相同ID最大的记录,与min相反: 方法1: Select * from #T a where not exists(select 1 from #T where Name=a.Name and ID>a.ID) 方法2: select a.* from #T a join (select max(ID)ID,Name from #T group by Name) b on a.Name=b.Name and a.ID=b.ID order by ID 方法3: select * from #T a where ID=(select max(ID) from #T where Name=a.Name) order by ID 方法4: select a.* from #T a join #T b on a.Name=b.Name and a.ID<=b.ID group by a.ID,a.Name,a.Memo having count(1)=1 方法5: select * from #T a group by ID,Name,Memo having ID=(select max(ID)from #T where Name=a.Name) 方法6: select * from #T a where (select count(1) from #T where Name=a.Name and ID>a.ID)=0 方法7: select * from #T a where ID=(select top 1 ID from #T where Name=a.name order by ID desc) 方法8: select * from #T a where ID!<all(select ID from #T where Name=a.Name) 方法9(注:ID为唯一时可用): select * from #T a where ID in(select max(ID) from #T group by Name) --SQL2005: 方法10: select ID,Name,Memo from (select *,max(ID)over(partition by Name) as MinID from #T a)T where ID=MinID 方法11: select ID,Name,Memo from (select *,row_number()over(partition by Name order by ID desc) as MinID from #T a)T where MinID=1 生成结果2: /* ID Name Memo ----------- ---- ---- 3 A A3 5 B B2 (2 行受影响) */ --2、删除重复记录有大小关系时,保留大或小其中一个记录 --> --> (Roy)生成測試數據 if not object_id('Tempdb..#T') is null drop table #T Go Create table #T([ID] int,[Name] nvarchar(1),[Memo] nvarchar(2)) Insert #T select 1,N'A',N'A1' union all select 2,N'A',N'A2' union all select 3,N'A',N'A3' union all select 4,N'B',N'B1' union all select 5,N'B',N'B2' Go --I、Name相同ID最小的记录(推荐用1,2,3),保留最小一条 方法1: delete a from #T a where exists(select 1 from #T where Name=a.Name and ID<a.ID) 方法2: delete a from #T a left join (select min(ID)ID,Name from #T group by Name) b on a.Name=b.Name and a.ID=b.ID where b.Id is null 方法3: delete a from #T a where ID not in (select min(ID) from #T where Name=a.Name) 方法4(注:ID为唯一时可用): delete a from #T a where ID not in(select min(ID)from #T group by Name) 方法5: delete a from #T a where (select count(1) from #T where Name=a.Name and ID<a.ID)>0 方法6: delete a from #T a where ID<>(select top 1 ID from #T where Name=a.name order by ID) 方法7: delete a from #T a where ID>any(select ID from #T where Name=a.Name) select * from #T 生成结果: /* ID Name Memo ----------- ---- ---- 1 A A1 4 B B1 (2 行受影响) */ --II、Name相同ID保留最大的一条记录: 方法1: delete a from #T a where exists(select 1 from #T where Name=a.Name and ID>a.ID) 方法2: delete a from #T a left join (select max(ID)ID,Name from #T group by Name) b on a.Name=b.Name and a.ID=b.ID where b.Id is null 方法3: delete a from #T a where ID not in (select max(ID) from #T where Name=a.Name) 方法4(注:ID为唯一时可用): delete a from #T a where ID not in(select max(ID)from #T group by Name) 方法5: delete a from #T a where (select count(1) from #T where Name=a.Name and ID>a.ID)>0 方法6: delete a from #T a where ID<>(select top 1 ID from #T where Name=a.name order by ID desc) 方法7: delete a from #T a where ID<any(select ID from #T where Name=a.Name) select * from #T /* ID Name Memo ----------- ---- ---- 3 A A3 5 B B2 (2 行受影响) */ --3、删除重复记录没有大小关系时,处理重复值 --> --> (Roy)生成測試數據 if not object_id('Tempdb..#T') is null drop table #T Go Create table #T([Num] int,[Name] nvarchar(1)) Insert #T select 1,N'A' union all select 1,N'A' union all select 1,N'A' union all select 2,N'B' union all select 2,N'B' Go 方法1: if object_id('Tempdb..#') is not null drop table # Select distinct * into # from #T--排除重复记录结果集生成临时表# truncate table #T--清空表 insert #T select * from # --把临时表#插入到表#T中 --查看结果 select * from #T /* Num Name ----------- ---- 1 A 2 B (2 行受影响) */ --重新执行测试数据后用方法2 方法2: alter table #T add ID int identity--新增标识列 go delete a from #T a where exists(select 1 from #T where Num=a.Num and Name=a.Name and ID>a.ID)--只保留一条记录 go alter table #T drop column ID--删除标识列 --查看结果 select * from #T /* Num Name ----------- ---- 1 A 2 B (2 行受影响) */ --重新执行测试数据后用方法3 方法3: declare Roy_Cursor cursor local for select count(1)-1,Num,Name from #T group by Num,Name having count(1)>1 declare @con int,@Num int,@Name nvarchar(1) open Roy_Cursor fetch next from Roy_Cursor into @con,@Num,@Name