I think I fixed everything!

gen_split.py

@@ -36,6 +36,21 @@ def get_split(path, train_split: float, must_be_in_train):
 
     return train_paths, valid_paths
 
+def arxiv_split(): 
+    train_paths = []
+    val_paths = []
+    for f in os.listdir("arxiv"): 
+        if f[-3:] == ".gz": 
+            f_path = os.path.join("./arxiv", f)
+            # validation set is june of years divisible by 4
+            if int(f[1])%4==0 and int(f[3])==6: 
+                val_paths.append(f_path)
+            else: 
+                train_paths.append(f_path)
+
+    return train_paths, val_paths
+
+
 def main(): 
     train_rate = 0.95
     splits = {}
@@ -51,6 +66,11 @@ def main():
         splits[subdir + "-train"] = train
         splits[subdir + "-valid"] = valid 
 
+    train, valid = arxiv_split()
+    splits["arxiv-train"] = train
+    splits["arxiv-valid"] = valid
+    print("arxiv", len(train), len(valid))
+
     with open("splits.json", "w") as f: 
         f.write(json.dumps(splits, indent=4))
 

proof-pile.py

@@ -122,15 +122,11 @@ class ProofPile(datasets.GeneratorBasedBuilder):
 
         if self.config.name in self.archived_configs: 
             if self.config.name=="arxiv": 
-                train_paths = []
-                val_paths = []
-                for f in os.listdir("arxiv"): 
-                    f_path = os.path.join("./arxiv", f)
-                    # validation set is june of years divisible by 4
-                    if int(f[1])%4==0 and int(f[3])==6: 
-                        val_paths.append(f_path)
-                    else: 
-                        train_paths.append(f_path)
+                with open(dl_manager.download("splits.json")) as f: 
+                    split = json.load(f)
+
+                train_paths = split["arxiv-train"]
+                val_paths = split["arxiv-valid"]
             if self.config.name=="stack-exchange": 
                 train_paths = [os.path.join("./stack-exchange", x) for x in ["math_overflow.tar.gz",
                     "math_stack_exchange.tar.gz"]]
@@ -144,8 +140,7 @@ class ProofPile(datasets.GeneratorBasedBuilder):
                 val_paths = ["wiki/proofwiki_val.tar.gz"]
 
             train_files = itertools.chain.from_iterable(dl_manager.iter_archive(dl_manager.download(x)) for x in train_paths)
-            val_files = itertools.chain.from_iterable(dl_manager.iter_files(dl_manager.download_and_extract(x)) 
-                    for x in val_paths)
+            val_files = itertools.chain.from_iterable(dl_manager.iter_archive(dl_manager.download(x)) for x in val_paths)
  
             return [
                 datasets.SplitGenerator(
@@ -198,6 +193,7 @@ class ProofPile(datasets.GeneratorBasedBuilder):
                     "file": name, 
                     "text": text,
                     }
+                key += 1
         else: 
             for name in data_files: 
                 with open(name, encoding="utf-8") as f:

splits.json

@@ -14699,5 +14699,373 @@
         "formal/afp/Higher_Order_Terms/Fresh_Monad.thy",
         "formal/afp/Network_Security_Policy_Verification/Examples/Tainting/MeasrDroid.thy",
         "formal/afp/JinjaThreads/DFA/Opt.thy"
+    ],
+    "arxiv-train": [
+        "./arxiv/1311.tar.gz",
+        "./arxiv/0810.tar.gz",
+        "./arxiv/9211.tar.gz",
+        "./arxiv/0701.tar.gz",
+        "./arxiv/2201.tar.gz",
+        "./arxiv/1903.tar.gz",
+        "./arxiv/2203.tar.gz",
+        "./arxiv/9305.tar.gz",
+        "./arxiv/0203.tar.gz",
+        "./arxiv/9108.tar.gz",
+        "./arxiv/0805.tar.gz",
+        "./arxiv/1610.tar.gz",
+        "./arxiv/1609.tar.gz",
+        "./arxiv/9908.tar.gz",
+        "./arxiv/1312.tar.gz",
+        "./arxiv/9208.tar.gz",
+        "./arxiv/1712.tar.gz",
+        "./arxiv/0404.tar.gz",
+        "./arxiv/0005.tar.gz",
+        "./arxiv/0905.tar.gz",
+        "./arxiv/9511.tar.gz",
+        "./arxiv/9707.tar.gz",
+        "./arxiv/1502.tar.gz",
+        "./arxiv/2001.tar.gz",
+        "./arxiv/0911.tar.gz",
+        "./arxiv/0202.tar.gz",
+        "./arxiv/1608.tar.gz",
+        "./arxiv/9602.tar.gz",
+        "./arxiv/9608.tar.gz",
+        "./arxiv/0608.tar.gz",
+        "./arxiv/0411.tar.gz",
+        "./arxiv/1507.tar.gz",
+        "./arxiv/9403.tar.gz",
+        "./arxiv/9504.tar.gz",
+        "./arxiv/1110.tar.gz",
+        "./arxiv/9207.tar.gz",
+        "./arxiv/1810.tar.gz",
+        "./arxiv/2010.tar.gz",
+        "./arxiv/1905.tar.gz",
+        "./arxiv/0409.tar.gz",
+        "./arxiv/2104.tar.gz",
+        "./arxiv/1409.tar.gz",
+        "./arxiv/0002.tar.gz",
+        "./arxiv/9706.tar.gz",
+        "./arxiv/0605.tar.gz",
+        "./arxiv/9710.tar.gz",
+        "./arxiv/9901.tar.gz",
+        "./arxiv/1009.tar.gz",
+        "./arxiv/1704.tar.gz",
+        "./arxiv/0312.tar.gz",
+        "./arxiv/0603.tar.gz",
+        "./arxiv/0407.tar.gz",
+        "./arxiv/1308.tar.gz",
+        "./arxiv/9302.tar.gz",
+        "./arxiv/1411.tar.gz",
+        "./arxiv/1503.tar.gz",
+        "./arxiv/9906.tar.gz",
+        "./arxiv/2202.tar.gz",
+        "./arxiv/9410.tar.gz",
+        "./arxiv/0110.tar.gz",
+        "./arxiv/0302.tar.gz",
+        "./arxiv/1401.tar.gz",
+        "./arxiv/1107.tar.gz",
+        "./arxiv/0712.tar.gz",
+        "./arxiv/9401.tar.gz",
+        "./arxiv/1405.tar.gz",
+        "./arxiv/1612.tar.gz",
+        "./arxiv/1012.tar.gz",
+        "./arxiv/1410.tar.gz",
+        "./arxiv/9812.tar.gz",
+        "./arxiv/1102.tar.gz",
+        "./arxiv/2007.tar.gz",
+        "./arxiv/2004.tar.gz",
+        "./arxiv/9303.tar.gz",
+        "./arxiv/0405.tar.gz",
+        "./arxiv/9702.tar.gz",
+        "./arxiv/1506.tar.gz",
+        "./arxiv/1008.tar.gz",
+        "./arxiv/0908.tar.gz",
+        "./arxiv/9610.tar.gz",
+        "./arxiv/1210.tar.gz",
+        "./arxiv/0804.tar.gz",
+        "./arxiv/2206.tar.gz",
+        "./arxiv/0402.tar.gz",
+        "./arxiv/0807.tar.gz",
+        "./arxiv/2003.tar.gz",
+        "./arxiv/1005.tar.gz",
+        "./arxiv/0510.tar.gz",
+        "./arxiv/9204.tar.gz",
+        "./arxiv/0107.tar.gz",
+        "./arxiv/9402.tar.gz",
+        "./arxiv/9807.tar.gz",
+        "./arxiv/1705.tar.gz",
+        "./arxiv/0611.tar.gz",
+        "./arxiv/0207.tar.gz",
+        "./arxiv/1304.tar.gz",
+        "./arxiv/1611.tar.gz",
+        "./arxiv/1011.tar.gz",
+        "./arxiv/0709.tar.gz",
+        "./arxiv/0310.tar.gz",
+        "./arxiv/0112.tar.gz",
+        "./arxiv/9310.tar.gz",
+        "./arxiv/9209.tar.gz",
+        "./arxiv/9212.tar.gz",
+        "./arxiv/1512.tar.gz",
+        "./arxiv/1509.tar.gz",
+        "./arxiv/0003.tar.gz",
+        "./arxiv/0607.tar.gz",
+        "./arxiv/9308.tar.gz",
+        "./arxiv/1001.tar.gz",
+        "./arxiv/0802.tar.gz",
+        "./arxiv/0509.tar.gz",
+        "./arxiv/0208.tar.gz",
+        "./arxiv/1909.tar.gz",
+        "./arxiv/0707.tar.gz",
+        "./arxiv/9905.tar.gz",
+        "./arxiv/1711.tar.gz",
+        "./arxiv/0512.tar.gz",
+        "./arxiv/0904.tar.gz",
+        "./arxiv/9206.tar.gz",
+        "./arxiv/2105.tar.gz",
+        "./arxiv/9306.tar.gz",
+        "./arxiv/2103.tar.gz",
+        "./arxiv/1403.tar.gz",
+        "./arxiv/2009.tar.gz",
+        "./arxiv/9805.tar.gz",
+        "./arxiv/9506.tar.gz",
+        "./arxiv/0106.tar.gz",
+        "./arxiv/9911.tar.gz",
+        "./arxiv/9711.tar.gz",
+        "./arxiv/1209.tar.gz",
+        "./arxiv/1002.tar.gz",
+        "./arxiv/0209.tar.gz",
+        "./arxiv/0501.tar.gz",
+        "./arxiv/1305.tar.gz",
+        "./arxiv/9405.tar.gz",
+        "./arxiv/9109.tar.gz",
+        "./arxiv/0401.tar.gz",
+        "./arxiv/0504.tar.gz",
+        "./arxiv/0702.tar.gz",
+        "./arxiv/0610.tar.gz",
+        "./arxiv/1402.tar.gz",
+        "./arxiv/1309.tar.gz",
+        "./arxiv/0109.tar.gz",
+        "./arxiv/0909.tar.gz",
+        "./arxiv/0303.tar.gz",
+        "./arxiv/9703.tar.gz",
+        "./arxiv/9704.tar.gz",
+        "./arxiv/9904.tar.gz",
+        "./arxiv/0511.tar.gz",
+        "./arxiv/1906.tar.gz",
+        "./arxiv/0801.tar.gz",
+        "./arxiv/9301.tar.gz",
+        "./arxiv/9601.tar.gz",
+        "./arxiv/9803.tar.gz",
+        "./arxiv/1007.tar.gz",
+        "./arxiv/0903.tar.gz",
+        "./arxiv/0009.tar.gz",
+        "./arxiv/2108.tar.gz",
+        "./arxiv/0506.tar.gz",
+        "./arxiv/1112.tar.gz",
+        "./arxiv/2204.tar.gz",
+        "./arxiv/0907.tar.gz",
+        "./arxiv/0507.tar.gz",
+        "./arxiv/0201.tar.gz",
+        "./arxiv/0803.tar.gz",
+        "./arxiv/0808.tar.gz",
+        "./arxiv/0505.tar.gz",
+        "./arxiv/1004.tar.gz",
+        "./arxiv/9809.tar.gz",
+        "./arxiv/1706.tar.gz",
+        "./arxiv/0210.tar.gz",
+        "./arxiv/0408.tar.gz",
+        "./arxiv/1105.tar.gz",
+        "./arxiv/0101.tar.gz",
+        "./arxiv/1812.tar.gz",
+        "./arxiv/1904.tar.gz",
+        "./arxiv/1707.tar.gz",
+        "./arxiv/9407.tar.gz",
+        "./arxiv/9404.tar.gz",
+        "./arxiv/1412.tar.gz",
+        "./arxiv/0502.tar.gz",
+        "./arxiv/1601.tar.gz",
+        "./arxiv/2109.tar.gz",
+        "./arxiv/9112.tar.gz",
+        "./arxiv/0007.tar.gz",
+        "./arxiv/1606.tar.gz",
+        "./arxiv/1211.tar.gz",
+        "./arxiv/1804.tar.gz",
+        "./arxiv/0308.tar.gz",
+        "./arxiv/0703.tar.gz",
+        "./arxiv/2110.tar.gz",
+        "./arxiv/0304.tar.gz",
+        "./arxiv/9110.tar.gz",
+        "./arxiv/9701.tar.gz",
+        "./arxiv/0010.tar.gz",
+        "./arxiv/0111.tar.gz",
+        "./arxiv/0910.tar.gz",
+        "./arxiv/9604.tar.gz",
+        "./arxiv/0311.tar.gz",
+        "./arxiv/1504.tar.gz",
+        "./arxiv/0809.tar.gz",
+        "./arxiv/9802.tar.gz",
+        "./arxiv/1701.tar.gz",
+        "./arxiv/9408.tar.gz",
+        "./arxiv/0410.tar.gz",
+        "./arxiv/9210.tar.gz",
+        "./arxiv/9409.tar.gz",
+        "./arxiv/0301.tar.gz",
+        "./arxiv/0012.tar.gz",
+        "./arxiv/0212.tar.gz",
+        "./arxiv/0403.tar.gz",
+        "./arxiv/0706.tar.gz",
+        "./arxiv/0705.tar.gz",
+        "./arxiv/1809.tar.gz",
+        "./arxiv/1602.tar.gz",
+        "./arxiv/2112.tar.gz",
+        "./arxiv/1902.tar.gz",
+        "./arxiv/9201.tar.gz",
+        "./arxiv/0306.tar.gz",
+        "./arxiv/0602.tar.gz",
+        "./arxiv/1106.tar.gz",
+        "./arxiv/9708.tar.gz",
+        "./arxiv/2012.tar.gz",
+        "./arxiv/9510.tar.gz",
+        "./arxiv/1310.tar.gz",
+        "./arxiv/1708.tar.gz",
+        "./arxiv/0704.tar.gz",
+        "./arxiv/2102.tar.gz",
+        "./arxiv/0004.tar.gz",
+        "./arxiv/1104.tar.gz",
+        "./arxiv/9808.tar.gz",
+        "./arxiv/0104.tar.gz",
+        "./arxiv/0503.tar.gz",
+        "./arxiv/1912.tar.gz",
+        "./arxiv/0601.tar.gz",
+        "./arxiv/0901.tar.gz",
+        "./arxiv/1302.tar.gz",
+        "./arxiv/9507.tar.gz",
+        "./arxiv/1603.tar.gz",
+        "./arxiv/9712.tar.gz",
+        "./arxiv/1605.tar.gz",
+        "./arxiv/9512.tar.gz",
+        "./arxiv/0710.tar.gz",
+        "./arxiv/9811.tar.gz",
+        "./arxiv/1109.tar.gz",
+        "./arxiv/1303.tar.gz",
+        "./arxiv/0902.tar.gz",
+        "./arxiv/9111.tar.gz",
+        "./arxiv/1803.tar.gz",
+        "./arxiv/1510.tar.gz",
+        "./arxiv/1604.tar.gz",
+        "./arxiv/2002.tar.gz",
+        "./arxiv/2107.tar.gz",
+        "./arxiv/9412.tar.gz",
+        "./arxiv/1306.tar.gz",
+        "./arxiv/9203.tar.gz",
+        "./arxiv/9705.tar.gz",
+        "./arxiv/9205.tar.gz",
+        "./arxiv/9612.tar.gz",
+        "./arxiv/9607.tar.gz",
+        "./arxiv/1010.tar.gz",
+        "./arxiv/1407.tar.gz",
+        "./arxiv/9709.tar.gz",
+        "./arxiv/9304.tar.gz",
+        "./arxiv/1501.tar.gz",
+        "./arxiv/1710.tar.gz",
+        "./arxiv/9503.tar.gz",
+        "./arxiv/9810.tar.gz",
+        "./arxiv/1801.tar.gz",
+        "./arxiv/1802.tar.gz",
+        "./arxiv/2011.tar.gz",
+        "./arxiv/0305.tar.gz",
+        "./arxiv/1101.tar.gz",
+        "./arxiv/9505.tar.gz",
+        "./arxiv/1808.tar.gz",
+        "./arxiv/1911.tar.gz",
+        "./arxiv/9609.tar.gz",
+        "./arxiv/0011.tar.gz",
+        "./arxiv/1408.tar.gz",
+        "./arxiv/1709.tar.gz",
+        "./arxiv/9309.tar.gz",
+        "./arxiv/1805.tar.gz",
+        "./arxiv/0211.tar.gz",
+        "./arxiv/2008.tar.gz",
+        "./arxiv/0711.tar.gz",
+        "./arxiv/0906.tar.gz",
+        "./arxiv/0206.tar.gz",
+        "./arxiv/9804.tar.gz",
+        "./arxiv/0912.tar.gz",
+        "./arxiv/9902.tar.gz",
+        "./arxiv/1108.tar.gz",
+        "./arxiv/9312.tar.gz",
+        "./arxiv/0811.tar.gz",
+        "./arxiv/1003.tar.gz",
+        "./arxiv/9907.tar.gz",
+        "./arxiv/0812.tar.gz",
+        "./arxiv/0604.tar.gz",
+        "./arxiv/9903.tar.gz",
+        "./arxiv/9910.tar.gz",
+        "./arxiv/9508.tar.gz",
+        "./arxiv/2205.tar.gz",
+        "./arxiv/9311.tar.gz",
+        "./arxiv/1212.tar.gz",
+        "./arxiv/0204.tar.gz",
+        "./arxiv/0008.tar.gz",
+        "./arxiv/2101.tar.gz",
+        "./arxiv/1505.tar.gz",
+        "./arxiv/0108.tar.gz",
+        "./arxiv/2106.tar.gz",
+        "./arxiv/0606.tar.gz",
+        "./arxiv/9502.tar.gz",
+        "./arxiv/1807.tar.gz",
+        "./arxiv/1511.tar.gz",
+        "./arxiv/9509.tar.gz",
+        "./arxiv/1103.tar.gz",
+        "./arxiv/9605.tar.gz",
+        "./arxiv/9912.tar.gz",
+        "./arxiv/1607.tar.gz",
+        "./arxiv/9611.tar.gz",
+        "./arxiv/1811.tar.gz",
+        "./arxiv/0103.tar.gz",
+        "./arxiv/9202.tar.gz",
+        "./arxiv/1404.tar.gz",
+        "./arxiv/0412.tar.gz",
+        "./arxiv/0102.tar.gz",
+        "./arxiv/9411.tar.gz",
+        "./arxiv/1908.tar.gz",
+        "./arxiv/1703.tar.gz",
+        "./arxiv/1508.tar.gz",
+        "./arxiv/1702.tar.gz",
+        "./arxiv/9307.tar.gz",
+        "./arxiv/9801.tar.gz",
+        "./arxiv/9603.tar.gz",
+        "./arxiv/9107.tar.gz",
+        "./arxiv/1901.tar.gz",
+        "./arxiv/0205.tar.gz",
+        "./arxiv/0105.tar.gz",
+        "./arxiv/0001.tar.gz",
+        "./arxiv/9501.tar.gz",
+        "./arxiv/9606.tar.gz",
+        "./arxiv/0309.tar.gz",
+        "./arxiv/0612.tar.gz",
+        "./arxiv/1910.tar.gz",
+        "./arxiv/9909.tar.gz",
+        "./arxiv/1301.tar.gz",
+        "./arxiv/1907.tar.gz",
+        "./arxiv/1111.tar.gz",
+        "./arxiv/2005.tar.gz",
+        "./arxiv/0708.tar.gz",
+        "./arxiv/0609.tar.gz",
+        "./arxiv/1307.tar.gz",
+        "./arxiv/2111.tar.gz",
+        "./arxiv/0307.tar.gz",
+        "./arxiv/0508.tar.gz"
+    ],
+    "arxiv-valid": [
+        "./arxiv/9406.tar.gz",
+        "./arxiv/0806.tar.gz",
+        "./arxiv/1806.tar.gz",
+        "./arxiv/0006.tar.gz",
+        "./arxiv/9806.tar.gz",
+        "./arxiv/1406.tar.gz",
+        "./arxiv/2006.tar.gz",
+        "./arxiv/0406.tar.gz",
+        "./arxiv/1006.tar.gz"
     ]
 }

test.py

@@ -5,7 +5,7 @@ import time
 from tqdm import tqdm
 
 total_size = 0 
-for x in ["arxiv", "books", "formal", "wiki", "stack-exchange", "math-dataset"]: 
+for x in ["arxiv"]: 
     dataset = load_dataset("./proof-pile.py", x)
     size = dataset["train"].dataset_size / 2**30
     total_size += size