跳到正文

重复行去除

Duplicate Line Remover

删掉重复的行、只留下重复的行,或统计每一行出现了几次。

从列表里删掉重复的行,或者只显示重复的行——比较规则写明在界面上,不靠猜。行尾空格和 Unicode 规范化,是两行看起来相同却都在普通去重里活下来的两个原因。

🔒 完全在你的浏览器里运行dedupelinesclean

行

比较规则

保留

相同的行只留第一条。去重之后的清单。

比较前会做一次 Unicode 规范化,所以从 Mac 上复制来的谚文或带浊点的假名,和 Windows 上打出来的同一个词能对上——看着一样,字节并不一样。汉字没有分解形式,中文文本不受这一步影响。

结果

输入行数

6

不同的行

3

重复的行

2

输出行数

3

怎么用

  1. 粘贴列表

    一行一个值——邮箱地址、订单号、从表格某一列复制出来的名字都行。

  2. 选择保留什么

    去重后的列表、只出现过一次的值,或者只有重复过的值。当重复本身就是问题而不是噪音时,你要的是最后一种。

  3. 设定比较规则

    区分大小写和首尾空格是最能改变答案的两项。打开计数会显示每个值出现了几次,这是另一个问题,但往往才是真正想问的。

常见问题

两个一样的名字都被保留了

先怀疑行尾空格——打开"忽略首尾空格"。如果不是,那就是两串看起来相同、字节不同的字符串,Unicode 规范化就是为此存在的;这个工具已经先规范化再比较,所以在 Mac 上输入的韩文名字能和在 Windows 上输入的匹配。汉字没有分解形式,中文名字不会因此不匹配。

会保留原来的顺序吗?

会。每个值的第一次出现留在原位,后面的去掉。除非你把结果拿到排序工具里,否则什么都不会被排序。

能按 CSV 的某一列去重吗?

这里不行——这个工具比较整行。CSV 去重工具按键列去重并保留行内其余字段,表格数据要用那个。

可以从这些接进来

接下来

这些工具吃得下当前工具的产出,结果可以直接送过去。