07/12/2023 00:03:08 - INFO - __main__ - Distributed environment: MULTI_GPU  Backend: nccl
Num processes: 3
Process index: 1
Local process index: 1
Device: cuda:1
Mixed precision type: fp16
Resolving data files: 100%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 229/229 [00:00<00:00, 24949.88it/s]