Update README.md

README.md

@@ -100,8 +100,7 @@ An example from the dataset:
 {
   'timestamp': '2020-02-22T22:24:31Z', 
   'url': 'https://altreconomia.it/una-rotonda-sul-pane/', 
-  'text': 'Per raggiungere il campo attraversiamo la striscia d’asfalto che porta verso la provinciale numero 13. Mettiamo a rischio la nostra incolumità in un territorio di auto e camion. Sullo sfondo, i profili della Grigna e del Resegone. Più vicini, quelli del solito ipermercato di provincia, e delle villette a schiera che avanzano tra le coltivazioni. È lo sprawling, l’avanzata del cemento.\
-Da questo lato dalla strada, invece, è ancora regno contadino. Almeno per ora. Torniamo a Caponago (Mb), Brianza pura, dove ha avuto i natali il progetto “Spiga e madia”. Ne parlammo su Ae nel gennaio 2009: in un territorio “spaesato”, il Comitato “verso il Distretto di economia solidale della Brianza” (Desbri) e la “Retina” dei gruppi di acquisto locali danno vita a un progetto di produzione di frumento, molitura, panificazione e distribuzione in un raggio di 20 chilometri. Si comincia da zero, nel 2007, senza alcun di finanziamento, quando una famiglia del [...]. Il giochino vale almeno 3 miliardi di euro all’anno. La misura, introdotta in via straordinaria con la finanziaria 2005, è stata prorogata anche con l’ultimo decreto “milleproroghe”.'
+  'text': 'Per raggiungere il campo attraversiamo la striscia d’asfalto che porta verso la provinciale numero 13. Mettiamo a rischio la nostra incolumità in un territorio di auto e camion. Sullo sfondo, i profili della Grigna e del Resegone. Più vicini, quelli del solito ipermercato di provincia, e delle villette a schiera che avanzano tra le coltivazioni. È lo sprawling, l’avanzata del cemento.\\nDa questo lato dalla strada, invece, è ancora regno contadino. Almeno per ora. Torniamo a Caponago (Mb), Brianza pura, dove ha avuto i natali il progetto “Spiga e madia”. Ne parlammo su Ae nel gennaio 2009: in un territorio “spaesato”, il Comitato “verso il Distretto di economia solidale della Brianza” (Desbri) e la “Retina” dei gruppi di acquisto locali danno vita a un progetto di produzione di frumento, molitura, panificazione e distribuzione in un raggio di 20 chilometri. Si comincia da zero, nel 2007, senza alcun di finanziamento, quando una famiglia del [...]. Il giochino vale almeno 3 miliardi di euro all’anno. La misura, introdotta in via straordinaria con la finanziaria 2005, è stata prorogata anche con l’ultimo decreto “milleproroghe”.'
 }
 ```
 
@@ -117,15 +116,15 @@ The data contains the following fields:
 
 To build mC4, the original authors used [CLD3](https://github.com/google/cld3) to identify over 100 languages. For Italian, the whole corpus of scraped text was divided in `1032` jsonl files, `1024` for training following the naming style `c4-it.tfrecord-0XXXX-of-01024.json.gz` and 8 for validation following the naming style `c4-it-validation.tfrecord-0000X-of-00008.json.gz`. The full set of preprocessed files takes roughly 215GB of disk space to download with Git LFS.
 
-For ease of use under different storage capacities, the following incremental splits are available (sizes are estimates):
+For ease of use under different storage capacities, the following incremental splits are available (sizes are estimates). **Important**: The sizes in GB represent the estimated weight for :
 
-|split |train size                    |validation size|
-|:-----|-----------------------------:|--------------:|
-|tiny  | 10M docs, 4B words (22 GB)   | 12k docs      |
-|small | 20M docs, 8B words (44 GB)   | 24k docs      |
-|medium| 50M docs, 20B words (105 GB) | 48k docs      |
-|large | 75M docs, 30B words (158 GB) | 72k docs      |
-|full  | 103M docs, 41B words (215 GB)| 96k docs      |
+|split |train size (docs, words, download + preproc disk space)|validation size|
+|:-----|------------------------------------------------------:|--------------:|
+|tiny  | 10M docs, 4B words (9 GB + 27 GB)                     | 12k docs      |
+|small | 20M docs, 8B words (18 GB + 54 GB)                    | 24k docs      |
+|medium| 50M docs, 20B words (47 GB + 135 GB)                  | 48k docs      |
+|large | 75M docs, 30B words (71 GB + 203 GB)                  | 72k docs      |
+|full  | 103M docs, 41B words (109 GB + 279 GB)                | 96k docs      |
 
 You can load any subset like this: