如何清除mysql查询的重复数据
查询及删除重复记录的SQL语句
查询及删除重复记录的SQL语句
1、查找表中多余的重复记录，重复记录是根据单个字段(peopleId)来判断
select*frompeople
wherepeopleIdin(selectpeopleIdfrompeoplegroupbypeopleIdhavingcount(peopleId)>1)
2、删除表中多余的重复记录，重复记录是根据单个字段(peopleId)来判断，只留有rowid最小的记录
deletefrompeople
wherepeopleIdin(selectpeopleIdfrompeoplegroupbypeopleIdhavingcount(peopleId)>1)
androwidnotin(selectmin(rowid)frompeoplegroupbypeopleIdhavingcount(peopleId)>1)
3、查找表中多余的重复记录(多个字段)
select*fromvitaea
where(a.peopleId,a.seq)in(selectpeopleId,seqfromvitaegroupbypeopleId,seqhavingcount(*)>1)
4、删除表中多余的重复记录(多个字段)，只留有rowid最小的记录
deletefromvitaea
where(a.peopleId,a.seq)in(selectpeopleId,seqfromvitaegroupbypeopleId,seqhavingcount(*)>1)
androwidnotin(selectmin(rowid)fromvitaegroupbypeopleId,seqhavingcount(*)>1)
5、查找表中多余的重复记录(多个字段)，不包含rowid最小的记录
select*fromvitaea
where(a.peopleId,a.seq)in(selectpeopleId,seqfromvitaegroupbypeopleId,seqhavingcount(*)>1)
androwidnotin(selectmin(rowid)fromvitaegroupbypeopleId,seqhavingcount(*)>1)
在A表中存在一个字段“name”，
而且不同记录之间的“name”值有可能会相同，
现在就是需要查询出在该表中的各记录之间，“name”值存在重复的项；
SelectName,Count(*)FromAGroupByNameHavingCount(*)>1
如果还查性别也相同大则如下:
SelectName,sex,Count(*)FromAGroupByName,sexHavingCount(*)>1
declare@maxinteger,@idinteger
declarecur_rowscursorlocalforselect主字段,count(*)from表名groupby主字段havingcount(*)>；1
opencur_rows
fetchcur_rowsinto@id,@max
本回答由提问者推荐
怎么删除重复的Mysql数据？
MYSQL里有五百万数据，但大多是重复的，真实的就180万，于是想怎样把这些重复的数据搞出来，在网上找了一圈，好多是用NOTIN这样的代码，这样效率很低，自己琢磨组合了一下，找到一个高效的处理方式，用这个方式，五百万数据，十来分钟就全部去除重复了，请各位参考。
第一步：从500万数据表data_content_152里提取出不重复的字段SFZHM对应的ID字段到TMP3表
1createtabletmp3asselectmin(id)ascol1fromdata_content_152groupbySFZHM;
第二步：创建新表RES
1234CREATETABLE`res`(`id`int(11),`sfz`char(20))ENGINE=MyISAM;
第三步：把TMP3表ID对应到data_content_152里需要提取的数据添加到RES表的SFZ字段
1INSERTINTOres(sfz)SELECTsfzhmFROMdata_content_152,tmp3wheredata_content_152.id=tmp3.col1
至此，就在MYSQL里实现了，给数据表data_content_152完全删除重复数据，把去重复后的数据导入到RES表。
怎样删除数据库的重复数据怎样在数据库中删除重复的数据，我说的是自
我不知道你用的是什么数据库,如果要自动的话,大型数据库可编存储过程,在存储过程中编制程序,删除重复记录,如果是如FOXPRO的这类用的小型数据库,也只能在程序的编程中解决.
重复数据删除影响数据的备份和恢复？重复数据删除影响数据的备份和恢
一般不会的！除非你数据访问的是你要删的那个
mysql 中如何去除重复数据
使用DISTINCT关键字即可。
格式如下：
SELECT DISTINCT 列名 FROM 表名;//去除重复的数据 如果是重复的只显示1个
select distinct d_name from tbl_vod
--下面是查出重复的记录
select d_name from tbl_vod
minus
select distinct d_name from tbl_vod
mysql怎么删除表中的重复的数据
通常情况下，一个我们在做一个产品的时候，一开始可能由于设计考虑不周或者程序写的不够严谨，某个字段上的值产生重复了，但是又必须去掉，这个时候就稍微麻烦了一点，直接加一个 UNIQUE KEY 肯定是不行了，因为会报错。
现在，我们来采用一种变通的办法，不过可能会丢失一些数据 :)
在这里，我们设定一个表，其结构如下：
mysql> desc `user`;
+-------+------------------+------+-----+---------+----------------+
| Field | Type| Null | Key | Default | Extra|
+-------+------------------+------+-----+---------+----------------+
| id| int(10) unsigned | NO| PRI | NULL| auto_increment |
| name | char(10)| NO||||
| extra | char(10)| NO||||
+-------+------------------+------+-----+---------+----------------+
原来表中的数据假定有以下几条：
mysql> SELECT * FROM `user`;
+----+-------+--------+
| id | name | extra |
+----+-------+--------+
| 1 | user1 | user1 |
| 2 | user2 | user2 |
| 3 | user3 | user3 |
| 4 | user4 | user4 |
| 5 | user5 | user5 |
| 6 | user3 | user6 |
| 7 | user6 | user7 |
| 8 | user2 | user8 |
| 9 | USER2 | user9 |
| 10 | USER6 | user10 |
+----+-------+--------+
1、将原来的数据导出
mysql>SELECT * INTO OUTFILE '/tmp/user.txt' FROM `user`;
2、清空数据表
mysql>TRUNCATE TABLE `user`;
3、创建唯一索引，并且修改 `name` 字段的类型为 BINARY CHAR 区分大小写
mysql> ALTER TABLE `user` MODIFY `name` CHAR(10) BINARY NOT NULL DEFAULT '';
mysql> ALTER TABLE `user` ADD UNIQUE KEY ( `name` );
现在来看看新的表结构：
mysql> desc user;
+-------+------------------+------+-----+---------+----------------+
| Field | Type| Null | Key | Default | Extra|
+-------+------------------+------+-----+---------+----------------+
| id| int(10) unsigned | NO| PRI | NULL| auto_increment |
| name | char(10)| NO| UNI |||
| extra | char(10)| NO||||
+-------+------------------+------+-----+---------+----------------+
4、把数据导回去，在这里，有两种选择：新的重复记录替换旧的记录，只保留最新的记录 或者是 新的记录略过，只保留最旧的记录
mysql> LOAD DATA INFILE '/tmp/user.txt' REPLACE INTO TABLE `user`;
Query OK, 10 rows affected (0.00 sec)
Records: 8 Deleted: 2 Skipped: 0 Warnings: 0
mysql> SELECT * FROM USER;
+----+-------+--------+
| id | name | extra |
+----+-------+--------+
| 1 | user1 | user1 |
| 8 | user2 | user8 |
| 6 | user3 | user6 |
| 4 | user4 | user4 |
| 5 | user5 | user5 |
| 7 | user6 | user7 |
| 9 | USER2 | user9 |
| 10 | USER6 | user10 |
+----+-------+--------+
上面是采用 REPLACE 的方式，可以看到，导入过程中删掉了两条数据，结果验证确实是 新的重复记录替换旧的记录，只保留最新的记录。
现在，来看看用 IGNORE 的方式：
mysql> LOAD DATA INFILE '/tmp/user.txt' IGNORE INTO TABLE `user`;
Query OK, 6 rows affected (0.01 sec)
Records: 8 Deleted: 0 Skipped: 2 Warnings: 0
mysql> SELECT * FROM USER;
+----+-------+--------+
| id | name | extra |
+----+-------+--------+
| 1 | user1 | user1 |
| 2 | user2 | user2 |
| 3 | user3 | user3 |
| 4 | user4 | user4 |
| 5 | user5 | user5 |
| 7 | user6 | user7 |
| 9 | USER2 | user9 |
| 10 | USER6 | user10 |
+----+-------+--------+
看到了吧，确实是 新的记录略过，只保留最旧的记录。可以用mysql的客户端gui软件， 比如mysql-front，navicat for mysql，mysql administrator 等软件。
