全球主机交流论坛

 找回密码
 注册

QQ登录

只需一步,快速开始

CeraNetworks网络延迟测速工具IP归属甄别会员请立即修改密码
楼主: cyz971337

[疑问] 硬盘里三万视频怎么去重复

[复制链接]
发表于 2020-10-1 19:37:49 来自手机 | 显示全部楼层
好像是d开头的软件 以前筛选cd用过
发表于 2020-10-1 19:54:31 | 显示全部楼层


DuplicateCleaner
专业版有15天免费试用期
发表于 2020-10-1 19:55:40 | 显示全部楼层
收藏量真可观
发表于 2020-10-1 19:58:46 | 显示全部楼层
如果文件不同(不如不同压缩比例的大姐姐视频)

只能人工鉴黄师
发表于 2020-10-1 20:02:52 | 显示全部楼层
视频逐个算md5  入库    遇到重复的直接删除就行了  感觉用python 应该工作量不大
发表于 2020-10-1 20:29:54 来自手机 | 显示全部楼层
随便找个软件就行了 比如ccleaner之类的
 楼主| 发表于 2020-10-1 22:51:02 来自手机 | 显示全部楼层
老爷爷wkjy 发表于 2020-10-1 19:54
DuplicateCleaner
专业版有15天免费试用期

谢谢
发表于 2020-10-1 23:47:35 | 显示全部楼层
本帖最后由 tir 于 2020-10-1 23:48 编辑

缩略图, MD5 ,大小 !
视频去重-般先进行抽帧,然后基于图片做重复检测,为了提高准确率,也可以借助音频流指纹做
辅助判断,图片重复检测有pHash、dHash、 HashNet等, 为了应付大量视频的重复比较,还要借
助Faiss来进行召回过滤, 我的一篇文章里面有提到,希望能帮助到你:
https://zhuanlan.zhihu.com/p/101323402
发表于 2020-10-2 09:09:17 | 显示全部楼层
md5去重不香吗
您需要登录后才可以回帖 登录 | 注册

本版积分规则

Archiver|手机版|小黑屋|全球主机交流论坛

GMT+8, 2024-5-6 00:31 , Processed in 0.062191 second(s), 8 queries , Gzip On, MemCache On.

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表