C4-Kn / README.md
RaviNaik's picture
Update README.md
c83bc97 verified
metadata
dataset_info:
  features:
    - name: text
      dtype: string
    - name: timestamp
      dtype: timestamp[s]
    - name: url
      dtype: string
  splits:
    - name: train
      num_bytes: 7772502793
      num_examples: 1056849
    - name: validation
      num_bytes: 7579027
      num_examples: 1039
  download_size: 3033462453
  dataset_size: 7780081820
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*
      - split: validation
        path: data/validation-*

This is a filtered version of the C4 dataset only containing samples of Kannada language. The dataset contains total of 1056849 training and 1039 validation samples.

Data Sample:

{'text': 'ಹಳ್ಳಿಯ ‘ಬೋಲ್ಟ್\u200c’ಗಳನ್ನು ಗುರುತಿಸಿ | Prajavani\nಪ್ರಜಾವಾಣಿ ವಾರ್ತೆ Updated: 18 ಫೆಬ್ರವರಿ 2020, 01:30 IST\nಉಡುಪಿಯ ಐಕಳದಲ್ಲಿ ಇತ್ತೀಚೆಗೆ ನಡೆದ ಕಂಬಳದ ಓಟದಲ್ಲಿ ಶ್ರೀನಿವಾಸ ಗೌಡ ಎಂಬುವರು ವಿಶ್ವದ ವೇಗದ ಓಟಗಾರ ಉಸೇನ್ ಬೋಲ್ಟ್ ಅವರಿಗಿಂತಲೂ ವೇಗವಾಗಿ ಓಡಿ ಗುರಿ ತಲುಪಿದ್ದು, ಸಾರ್ವಜನಿಕರ ಮೆಚ್ಚುಗೆಗೆ ಪಾತ್ರರಾಗಿದ್ದಾರೆ. ಗ್ರಾಮೀಣ ಪ್ರದೇಶ\nಗಳಲ್ಲಿ ಇರುವ ಇಂತಹ ಓಟಗಾರರು ಮತ್ತು ಆಟಗಾರರು ಎಲೆಮರೆಯ ಕಾಯಿಯಂತೆ ತಮ್ಮ ಪಾಡಿಗೆ ತಾವು ಬೆಳೆಯುತ್ತಿರುತ್ತಾರೆ. ಶಾಲಾ- ಕಾಲೇಜುಗಳಲ್ಲಿ ಓದುತ್ತಿರುವವರಿಗೆ ಮುಂದೆ ಬರಲು ಸ್ವಲ್ಪಮಟ್ಟಿಗಾದರೂ ಅವಕಾಶ ಇರುತ್ತದೆ. ಅವಿದ್ಯಾವಂತರಿಗೆ ಅದೂ ಇಲ್ಲ.\nಇನ್ನು ಕ್ರೀಡಾಕೂಟಗಳಿಗೆ.......',
 'timestamp': datetime.datetime(2020, 4, 1, 16, 50, 10),
 'url': 'https://www.prajavani.net/op-ed/readers-letter/need-more-publicity-to-kambala-sports-706114.html'}

Use with Datasets:

from datasets import load_dataset

ds = load_dataset("RaviNaik/C4-Kn")