File size: 1,305 Bytes
ef37abc
 
 
 
 
 
 
 
 
 
 
 
 
5cc57c4
 
 
 
 
be77321
 
 
 
9979496
 
be77321
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
---
license: cc
task_categories:
- question-answering
- text2text-generation
- sentence-similarity
language:
- pt
tags:
- q&a
- brazil
- question
- embedding
- brasil
- portuguese
- portugues
- perguntas
pretty_name: Brazilian Questions and Answers
---

# Perguntas e Respostas Brasileiras

Esse dataset é uma compilação das perguntas e respostas em português disponíveis em [clips/mqa](https://huggingface.co/datasets/clips/mqa).
Foi realizada uma limpeza e normalização dos dados, mantendo apenas domínios mais relevantes, removendo texto danosos e inadequados.
O código para a limpeza dos dados pode ser acessado [aqui](https://github.com/emdemor/opensource-llm-recipes/blob/master/project/09-prepare-dataset-for-embedding-finetune.ipynb)

O principal objetivo deste dataset é ajudar modelos de linguagem natural e modelos de embedding em português a gerar textos e cálculos de similaridade
mais precisos e contextualizados.

### Detalhes do Dataset

* Total de exemplos: 4140677 linhas
* Colunas
  * `id`
  * `bucket`
  * `domain`
  * `text`
  * `question`
  * `answer


## Projetos Originais
```
@misc{clips-2022-mqa,
  title   = {Multilingual corpus of Questions and Answers (MQA)},
  author  = {clips}, 
  year    = {2022},
  url     = {https://huggingface.co/datasets/clips/mqa},
}
```