≡ 论坛之家工具箱

文本去重

DATA SIEVE
DEDUPE / CLEAN

逐行文本去重

每行一条记录。重复行只保留第一次出现,也可以忽略大小写和首尾空白,结果实时更新。

输入 · 原始文本 0 行
输入后自动去重
去重规则即时生效
输出 · 去重结果
统计—
0原始行数
0输出行数
0重复行
0空行移除
行数减少比例0%
重复最多的行Top 6

    什么是文本去重工具

    复制粘贴的数据里经常夹着重复行:导出名单、关键词列表、日志片段或多个版本合并后的文本。这个工具把每一行当作一条记录,按你选择的规则比较并删除重复项,同时给出原始行数、输出行数、重复行数和减少比例。

    默认保留第一次出现的顺序,适合维持原有排列;取消「保留顺序」后会按中文拼音排序。忽略大小写、忽略首尾空白可以让看似不同的行被识别为同一条记录;删除空行则用于清理排版留下的空白。处理完全在浏览器本地完成。

    逐行去重

    整行相同才合并,保留第一次出现的内容与位置。

    规则可调

    大小写、首尾空白、空行与排序都可以单独控制。

    即时统计

    实时显示重复行、空行移除与行数减少比例。

    重复明细

    列出出现次数最多的行,便于快速定位脏数据。

    使用方法

    1. 把需要清理的文本粘贴到左侧,每行一条记录。
    2. 按需要勾选或取消去重规则,结果会立即更新。
    3. 查看右侧统计与重复明细,确认无误后复制或下载 TXT。

    常见问题

    去重是按行还是按内容?

    按行去重,每一行视为一条独立记录。只有整行内容相同才会被判定为重复,行内部分文字相同不会合并。如果需要比较两段文本的差异,请使用文本对比工具。

    保留顺序是什么意思?

    勾选保留顺序时,重复行只保留第一次出现的位置,其余删除,输出顺序与输入一致。取消勾选后会按中文拼音规则对去重结果排序,方便浏览或导出。

    忽略首尾空白会改变输出内容吗?

    会。勾选后会先去掉每行开头和结尾的空格、制表符,再进行比较和输出,因此输出行会更整洁。行中间的空格不会被改动。

    空行也会被当成重复吗?

    默认勾选「删除空行」,所有空白行都会被移除。取消勾选后,连续空行会像普通行一样去重,最终最多保留一个空行。

    减少比例是怎么算的?

    减少比例等于(删除的重复行数 + 删除的空行数)除以原始行数,再乘以 100%。它反映整理前后的行数变化,不代表字符数变化。

    文本会上传到服务器吗?

    不会。所有去重处理都在当前浏览器中完成,文本不会上传,也不会被保存。下载的结果文件只保存在你的设备上。