Datasets:

Modalities:
Text
Formats:
json
Languages:
Serbian
ArXiv:
Libraries:
Datasets
pandas
License:
STARS / README.md
procesaur's picture
Update README.md
c49d51d verified
metadata
language:
  - sr
pretty_name: S.T.A.R.S.
size_categories:
  - 100M<n<1B
configs:
  - config_name: default
    data_files:
      - split: train
        path:
          - '*_sr.jsonl'
          - '*_cnr.jsonl'
task_categories:
  - text-generation
license: cc-by-sa-4.0

Скуп Теза и Академских Радова на Српском

Високо-квалитетан скуп објављених научних радова писаних на српском језику.

Неопходан за обучавање квалитетних језичких модела за српски језик.

Укупно 23,215 докумената, укупно са 27.6 милиона реченица и700 милиона речи.

Филтрирање могуће по институцијама, ауторима, кључним речима.

Свака ЈСОН линија представља једну публикацију.

Унутар сваког документа су обележене реченице и параграфи.

Set of Thesis and Academic Research in Serbian

Highly curated, High-quality, Serbian scientific corpus

Necessary for training quality language models for Serbian.

A total of 23,215 documents containing 27.6 million sentences and700 million words.

Filtering possible by institutions, authors, keywords.

Each JSON line represents one publication.

All documents are paragraph and sentence-delimited.

Izvori: Sources
Број докумената
Doc. count
Број реченица
Sent. count
Број речи
Word count
Удео
Share
НАРДУС дисертације
NARDUS doc. dissertations
11,432 22,779,252 574,600,000 82%
Институционални репозиторијуми
Institutional repositories
10,889 4,192,656 109,400,000 15.6%
Универзитет Црне Горе
University of Montenegro
315 605,119 14,500,000 2.1%
OpenSlovenia 571 42,777 1,080,000 0.2%
Универзитет у Источном Сарајеву
University of East Sarajevo
8 21,156 510,000 0.1%
Укупно
Total
23,215 27,662,960 700,000,000 100%
from datasets import load_dataset
dataset = load_dataset("procesaur/STARS")["train"]["text"]
print(dataset[0])
'<s>Na oraničnim površinama gaje se raznovrsne ratarske kulture koje imaju važno mesto u našoj...'
Editor
Mihailo Škorić
Editor
Nikola Janković

Citation:

@article{skoric24korpusi,
  author    = {\vSkori\'c, Mihailo and Jankovi\'c, Nikola},
  title     = {New Textual Corpora for Serbian Language Modeling},
  journal   = {Infotheca},
  volume    = {24},
  issue     = {1},
  year      = {2024},
  publisher = {Zajednica biblioteka univerziteta u Srbiji, Beograd},
  url       = {https://arxiv.org/abs/2405.09250}
}

Истраживање jе спроведено уз подршку Фонда за науку Републике Србиjе, #7276, Text Embeddings – Serbian Language Applications – TESLA.

This research was supported by the Science Fund of the Republic of Serbia, #7276, Text Embeddings - Serbian Language Applications - TESLA.

За комплетне метаподатке докторских дисертација погледајте NARDUS-meta (метаподаци 13,289 дисертација саНАРДУС-а).

За паралелни КОРПУС ПРЕВОДА сажетака погледајте PaSaž (преко 20,000 паралелних сегмената).

For the complete metadata check out NARDUS-meta (metadata for 13,289 dissertations from NARDUS-a).

For the coprus of PARALEL TRANSALTIONS check out PaSaž (over 20,000 paralel segments).