Upload compress/compress.py with huggingface_hub

compress/compress.py

@@ -0,0 +1,63 @@
+import os
+import shutil
+import math
+from tqdm import tqdm
+
+def split_and_compress_directory(src_dir, dst_base_dir, num_parts=5):
+    """
+    将源目录分割成多个等大小的部分并压缩
+    
+    Args:
+        src_dir (str): 源目录路径
+        dst_base_dir (str): 目标基础目录
+        num_parts (int): 要分割的部分数量
+    """
+    # 确保目标目录存在
+    os.makedirs(dst_base_dir, exist_ok=True)
+    
+    # 获取所有文件路径
+    all_files = []
+    for dirpath, _, filenames in os.walk(src_dir):
+        for f in filenames:
+            all_files.append(os.path.join(dirpath, f))
+    
+    # 计算每部分的文件数量
+    files_per_part = math.ceil(len(all_files) / num_parts)
+    
+    # 分割并压缩
+    for i in range(num_parts):
+        part_name = f"part_{i+1}"
+        start_idx = i * files_per_part
+        end_idx = min((i + 1) * files_per_part, len(all_files))
+        
+        # 创建当前部分的文件列表
+        current_files = all_files[start_idx:end_idx]
+        
+        print(f"\n处理第 {i+1}/{num_parts} 部分...")
+        
+        # 使用tqdm显示进度
+        for src_file in tqdm(current_files, desc=f"复制文件到 {part_name}"):
+            # 保持目录结构
+            rel_path = os.path.relpath(src_file, src_dir)
+            dst_file = os.path.join(dst_base_dir, part_name, rel_path)
+            
+            # 确保目标目录存在
+            os.makedirs(os.path.dirname(dst_file), exist_ok=True)
+            
+            # 复制文件
+            shutil.copy2(src_file, dst_file)
+        
+        # 压缩当前部分
+        part_dir = os.path.join(dst_base_dir, part_name)
+        shutil.make_archive(part_dir, 'zip', part_dir)
+        
+        # 删除未压缩的目录
+        shutil.rmtree(part_dir)
+        
+        print(f"完成 {part_name} 的压缩")
+
+# 使用示例
+src_directory = "/mnt/HDD_16TB/jusheng_files/Align3D-130/objaverse10/images"
+dst_directory = "/mnt/HDD_16TB/jusheng_files/Align3D-130/objaverse10/img_compress"
+
+split_and_compress_directory(src_directory, dst_directory, 5)