随着平台会员制的普及和生态封闭,我们在平台的数据“所有权”正在被“使用权”替代。为了打破平台限制,实现数字资产本地化是目前最稳妥的解决方案。
如何将散乱的原始文件转化为井然有序的数字资产,是提升使用体验的关键。本栏目旨在分享在数据本地化实践中,能够优化管理逻辑、提升效率和数据归档的实用工具。
随着本地数字资产库的建立,文件堆积带来的冗余问题也随之而来。对于音、视频文件,我们尚能通过目测或文件名重复等方式快速分辨。但对于摄影佬,或像我这种相册文件杂乱的人来说,面对上千张照片、文件名不同但一模一样的图片,仅靠肉眼寻找重复项是一件极其枯燥且容易出错的工作。

本期分享的是,一款高效的重复文件查找工具:AllDup
1. 简介
『AllDup』是一款专业的“重复文件搜索+清理”类工具。相较于手机相册的相似图片检查功能,它还可以通过文件内容、属性以及哈希值等多种维度进行检索。
软件提供绿色版本,无需安装,即开即用,是进行数据去重整理时的常备工具。

2. 优势
因论坛、聊天软件等平台保存非原图文件时,会压缩图片并重命名,所以在处理海量相册文件或表情包等素材时,单纯的文件名比对已经无法满足去重需求。
AllDup的核心优势:
①搜索结果保存:支持保存并导出搜索结果,方便日后继续处理文件。

②文件日志:单次记录软件的操作日志,确保有据可查。

③查找类似图片:针对相机照片,它几乎兼容所有图片格式,可以自由选择比较模式、匹配度和图片区域来进行筛选。

④高效处理性能:支持多线程扫描,在处理大规模的照片或文件时,校对速度依然遥遥领先。
⑤条件过滤:支持排除系统目录或指定格式,如忽略文件名开头或末尾的字符,避免误判。
3. 功能亮点
①存档文件扫描: AllDup不仅能扫描普通文件夹,还能直接扫描压缩包等存档,来判定在不同压缩包里的重复文件。支持包括7Z、ISO、RAR、ZIP在内的16种存档格式。

②音频深度检测: 该工具可以提取并对比MP3、WAV等音频的采样率、比特率及持续时间。即使两个音频文件名完全不同,只要文件内容一致,它就能精准锁定。

③文件预览: 扫描结果会以组的形式展示,通过内置预览窗口即可直接观察两张图片的差异。除图片预览外,软件内部还支持多种音、视频文件,可以在搜索结果页面直接预览,无需频繁切换资源管理器。

4. 使用前注意事项
备份:这是老生常谈的内容了,如果没有保存在云端的数据,在操作前一定要留存至少一份副本作为备用,而且是对比文件夹和被对比文件夹都要备份。我个人习惯在处理去重前打开文件夹属性,看到底少了多少文件,再比较日志,完事才清理掉备份副本。就算是RAW文件,最大也不会超过200M,照片被删可不像音、视频一样容易找回,这都是血淋淋的教训啊。

确认后执行:在执行去重操作前,请务必亲自检查比对结果(不想用鼠标点的话可以折叠分组用键盘↑↓)。软件只是辅助筛选,最终的取舍应掌握在自己手中,防止误删内容有细微差异的文件。
未检测到的重复文件:在去重过程中,即使把“根据文件属性查找相同文件”的选项全部勾选,等再看相册发现还是有外表相同的图片,这是因为部分平台在传输时,会对图片进行二次压缩和重新编码,导致两张看起来一样,但在二进制层面已经变成了完全不同的文件。发生上述情况时,建议切换到“查找类似图片”模式进行检索。
尽可能保留压缩包:其实在第五步操作演示时翻车了,不小心乱点错选项,导致无法正常搜索,不过还好压缩包还在,重新解压一个就行了,所以这条小插曲就当是个教训吧。
5. 实操流程
因为我平时都是拿来去重相册文件用,所以这次以相册文件去重作为演示,其他文件类型可在搜索选项和搜索条件中进行调整。
①添加文件夹:在文件夹空白窗口右键点击“添加文件夹”

②勾选比较模式:这里我选择的是“仅比较不同源文件夹之间的文件”,可根据情况切换模式

③搜索条件:这里可以根据需要自由选择搜索条件,如果想比对哈希值,必须勾选“文件内容”,其中的比较模式大致区别为:
精准度:逐字节 > SHA512 > SHA384 > SHA256 > SHA1 > MD5
比对速度:MD5 > SHA1 > SHA256 > SHA384 > SHA512 > 逐字节

④一切就绪后点击开始查找:稍等片刻后显示查找结果

⑤选中文件:核对无误后,选中任意一张需要删除的重复图片,右键,点击“选择具有相同属性的所有文件”

⑥核查:仔细检查文件分组与勾选内容,确认无误后,点击左上角进入文件处理界面。

⑦删除重复:在“将执行什么操作”处选择“移动文件到回收站”,点击确定即可

软件下载地址:
蓝奏云:https://wwbxe.lanzoue.com/iXkMa3o1cowh
密码:asxn度盘: https://pan.baidu.com/s/1JTpRmftACsHe0nZab0Eyag?pwd=ASXN 提取码: ASXN
评论