[自行打包] 个人收集精品杂图3 [2500p+9.1g][百度盘]

西域烤鱼干

tinbg 发表于 2024-7-12 19:13
! _* c1 \, d9 a4 f9 B* f大哥，你这个头像很爱啊，像ai又想vam，有没有出处

8 T! L5 p7 t7 |, h7 [  h7 w2 @抖音上有很多

uuuuyyyyy

为啥我一直密码错误ヽ(`Д´)ﾉ

不如离弃

好看

cndeng

感谢分享，大佬辛苦了。

lattess

有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈希值函数加个异常解决了，大家可以留着以后备用lol
2 a8 s$ ]( }- ?import os
import imagehash
* @1 e) f7 g& a( hfrom PIL import Image
) i7 Q/ g# V  i3 r
& x: T+ j/ B, r/ P9 g$ Xdef compute_image_hash(image_path):
    # image = Image.open(image_path)
    # return imagehash.average_hash(image)
) n2 T: u5 m$ V4 a2 o    try:
/ w' ?, v5 s8 q/ G1 G4 P9 Z        with Image.open(image_path) as image:
            return imagehash.average_hash(image)
3 @4 j8 @1 {5 X) [) H) R    except (OSError, IOError) as e:
        print(f"处理图像 {image_path} 时出错: {e}")
; r; O, b, B6 C" ?3 }! o! }        return None

! t- G( O5 ~. K: h4 l7 U# Z/ M! h) x5 Hdef remove_duplicates(image_folder):
1 c' q) g1 n, o" F; O  o) w    hash_dict = {}
5 X( n# r' w! R    duplicates = []

8 S. U: a7 n) D$ O- U8 n; W- G    for filename in os.listdir(image_folder):
        if filename.endswith(('.png', '.jpg', '.jpeg', '.bmp', '.gif')):
# N" E, m. J; Q3 t! n( W            image_path = image_folder + "\\" + filename
            image_hash = compute_image_hash(image_path)
: F; A2 K, }6 Y3 ~
            if image_hash in hash_dict:
                duplicates.append(image_path)
            else:
8 N/ b" K& J- s/ D                hash_dict[image_hash] = image_path
, S7 |- r" U4 R: A* o# P3 j        else:
            pass

9 @! Q) i# A8 F1 I5 G    for duplicate in duplicates:
! z0 V0 L) o7 L5 E        os.remove(duplicate)
        print(f"Removed duplicate image: {duplicate}")
$ f% i) R# E* h4 I! D( U
    print("Duplicate removal complete.")
9 S* @' o, [  ~
6 c5 L$ z. I5 G' G5 d" S, P& f! O. gimage_folder = 'D:/data/baidu/去重训练文件夹' #换成自己的文件夹
7 r7 b$ c* V2 nremove_duplicates(image_folder)

lattess

lattess 发表于 2024-7-23 16:25
有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈 ...

  }! D, O3 ]8 q1 B有问题的图片名为1558571_114.png

一言九鼎

tinbg 发表于 2024-7-12 19:13
: p# c& o9 W6 F1 o6 D+ I  k大哥，你这个头像很爱啊，像ai又想vam，有没有出处

一眼ai
* k0 f8 n$ e+ l