quinquilharia / README.md
tallesl's picture
Update README.md
6679d0d verified
metadata
task_categories:
  - text-generation
language:
  - pt
license: unlicense
pretty_name: Quinquilharia

Quinquilharia

Textos variados em português do Brasil.

Fóruns

Tema Link do fórum Dataset com scrap realizado
Agility (esporte) agilityrj.forumeiros.com agilityrj.csv (~10 mil linhas)
Artes marciais forum.bjjforum.com.br bjjforum.csv (~318 mil linhas)
Artes marciais ufconfantasy.forumeiros.com ufconfantasy.csv (~120 mil linhas)
Artesanato atelierdasartes.forumeiros.com atelierdasartes.csv (~30 mil linhas)
Artesanato dsmemories.forumeiros.com dsmemories.csv (~17 mil linhas)
Artistas e celebridades avrilportugal.forumeiros.com avrilportugal.csv (~35 mil linhas)
Artistas e celebridades forumyuibrasil.forumeiros.com yuibrasil.csv (~38 mil linhas)
Aúdio e vídeo audioanalogicodeportugal.net audioanalogicodeportugal.csv (~885 mil linhas)
Aúdio e vídeo audiopt.forumeiros.com audiopt.csv (~17 mil linhas)
Brinquedos fingerboardbrasil.1forum.biz fingerboardbrasil.csv (~13 mil linhas)
Carros e motos angolaoffroad.forumeiros.com angolaoffroad.csv (~34 mil linhas)
Carros e motos cherybrasil.forumeiros.com cherybrasil.csv (~42 mil linhas)
Carros e motos cinquecento.forumeiros.com cinquecento.csv (~43 mil linhas)
Carros e motos clubenovoka.forumeiros.com clubenovoka.csv (~179 mil linhas)
Carros e motos dafra.forumeiros.com dafra.csv (~85 mil linhas)
Carros e motos dragstaronline.forumeiros.com dragstaronline.csv (~36 mil linhas)
Carros e motos enduroportugal.forumeiros.com enduroportugal.csv (~72 mil linhas)
Carros e motos fusca4ever.com.br fusca4ever.csv (~38 mil linhas)
Carros e motos hondacbrbrasil.forumeiros.com hondacbrbrasil.csv (~202 mil linhas)
Carros e motos moto125cc.forumotion.com moto125cc.csv (~77 mil linhas)
Carros e motos opaleirosdoparana.forumeiros.com opaleirosdoparana.csv (~630 mil linhas)
Carros e motos pequenasnotaveis.net pequenasnotaveis.csv (~19 mil linhas)
Carros e motos pitbikemasters.forumeiros.com pitbikemasters.csv (~21 mil linhas)
Carros e motos portalmercedes.com portalmercedes.csv (~775 mil linhas)
Carros e motos ybrfactor.forumeiros.com ybrfactor.csv (~75 mil linhas)
Caça e criação de animais aquapeixes.forumeiros.com aquapeixes.csv (~95 mil linhas)
Caça e criação de animais aves.forumeiros.com aves.csv (~167 mil linhas)
Caça e criação de animais brasilreef.com.br brasilreef.csv (~90 mil linhas)
Caça e criação de animais caes-caca-pesca-natu.forumeiros.com caescacapescanatu.csv (~62 mil linhas)
Caça e criação de animais criadoresdepassaros.com criadoresdepassaros.csv (~128 mil linhas)
Caça e criação de animais kacipesca.forumeiro.com kacipesca.csv (~11 mil linhas)
Caça e criação de animais peixefauna.forumeiros.com peixefauna.csv (~72 mil linhas)
Computadores forum.adrenaline.com.br adrenaline.csv (~133 mil linhas)
Computadores forum.projetoderedes.com.br projetoderedes.csv (~4 mil linhas)
Computadores ubuntuforum-br.org ubuntuforum.csv (~383 mil linhas)
Computadores under-linux.org underlinux.csv (~29 mil linhas)
Dança bboypt.forumeiros.com bboypt.csv (~7 mil linhas)
Desenhos animados clothmythrevolution.forumeiros.com clothmythrevolution.csv (~85 mil linhas)
Desenhos animados deathnote-portugal.forumeiros.com deathnoteportugal.csv (~73 mil linhas)
Desenhos animados digiplace.forumeiros.com digiplace.csv (~165 mil linhas)
Desenhos animados familia-anime.forumeiros.com familiaanime.csv (~77 mil linhas)
Desenhos animados forumnsanimes.com forumnsanimes.csv (~11 mil linhas)
Desenhos animados madhouse.forumeiro.com madhouse.csv (~615 mil linhas)
Desenhos animados naruto.forumeiros.com naruto.csv (~73 mil linhas)
Eletríca e Eletrônica eletronica2002.forumeiros.com eletronica2002.csv (~421 mil linhas)
Eletríca e Eletrônica eletronicasilveira.forumeiros.com eletronicasilveira.csv (~54 mil linhas)
Eletríca e Eletrônica genioseletronica.forumeiros.com genioseletronica.csv (~59 mil linhas)
Eletríca e Eletrônica gpsinfo.com.br gpsinfo.csv (~41 mil linhas)
Eletríca e Eletrônica htforum.net htforum.csv (~99 mil linhas)
Eletríca e Eletrônica intelbras.com.br intelbras.csv (~56 mil linhas)
Eletríca e Eletrônica tx-rx.forumeiros.net txtr.csv (~25 mil linhas)
Engenharia elétrica forum.conprove.com conprove.csv (~8 mil linhas)
Espiritualidade e religião extestemunhasdejeova.net extestemunhasdejeova.csv (~189 mil linhas)
Fanction fanfictions.forumeiros.com fanfictions.csv (~24 mil linhas)
Filosofia mestredoconhecimento.forumeiros.com mestredoconhecimento.csv (~21 mil linhas)
Forças armadas e policial concursopmerj2010.forumeiro.com concursopmerj2010.csv (~163 mil linhas)
Forças armadas e policial forumgnr.forumeiros.com forumgnr.csv (~85 mil linhas)
Fotografia aveirofotoclube.forumeiros.com aveirofotoclube.csv (~13 mil linhas)
Futebol academiatalentos.forumeiros.com academiatalentos.csv (~7 mil linhas)
Futebol colecaofutebol.forumeiros.com colecaofutebol.csv (~63 mil linhas)
Futebol proallmanagers.forumeiros.com proallmanagers.csv (~41 mil linhas)
Fóruns ajuda.forumeiros.com ajuda.csv (~2,7 milhões de linhas)
Gastronomia e culinária forumdepizzas.net forumdepizzas.csv (~199 mil linhas)
Jardinagem arte108.forumeiros.com arte108.csv (~22 mil linhas)
Jogos de carta e tabuleiro 5dsbr.forumeiros.com 5dsbr.csv (~23 mil linhas)
Jogos de carta e tabuleiro battlescenes.forumeiros.com battlescenes.csv (~3 mil linhas)
Literatura ailhadanoite.forumeiros.com ailhadanoite.csv (~35 mil linhas)
Luta fpwrestling.forumeiros.com fpwrestling.csv (~391 mil linhas)
Luta mma-warriors.forumeiros.com mmawarriors.csv (~40 mil linhas)
Modelismo autochampion.forumeiros.com autochampion.csv (~25 mil linhas)
Modelismo plastibrasil.com plastibrasil.csv (~256 mil linhas)
Motos e carros forumtransalp.forumeiros.com transalp.csv (~72 mil linhas)
Música contrabaixobr.com contrabaixobr.csv (~931 mil linhas)
Música forum.metalremains.com metalremains.csv (~192 mil linhas)
Música guitarradas.forumeiros.com guitarradas.csv (~146 mil linhas)
Programação forum.scriptbrasil.com.br scriptbrasil.csv (~322 mil linhas)
Programação gmbr.forumeiros.com gmbr.csv (~23 mil linhas)
Programação maximoaccess.com maximoaccess.csv (~27 mil linhas)
Programação opencartbrasil.com.br opencartbrasil.csv (~53 mil linhas)
Programação scriptcase.com.br scriptcase.csv (~116 mil linhas)
Prostituição forumx.com.br forumx.csv (~1,5 milhão de linhas)
RPG forum.jamboeditora.com.br jamboeditora.csv (~112 mil linhas)
RPG houseofnightrpg.forumeiros.com houseofnightrpg.csv (~8 mil linhas)
RPG magicworld.forumeiro.com magicworld.csv (~230 mil linhas)
RPG rosarioto.catsboard.com rosarioto.csv (~28 mil linhas)
RPG samaria.forumeiros.com samaria.csv (~76 mil linhas)
Saúde forum.datasus.gov.br datasus.csv (~43 mil linhas)
Saúde forum.datasus.gov.br datasus.csv (~43 mil linhas)
Simuladores railworksbrasil.forumeiros.com railworksbrasil.csv (~29 mil linhas)
TV, filmes, e séries bonanzabrasil.forumeiros.com bonanzabrasil.csv (~66 mil linhas)
TV, filmes, e séries forumchaves.com.br forumchaves.csv (~132 mil linhas)
TV, filmes, e séries onepieceportugal.forumotion.com onepieceportugal.csv (~70 mil linhas)
TV, filmes, e séries rozenmaiden.forumbrasil.net rozenmaiden.csv (~25 mil linhas)
TV, filmes, e séries valinor.com.br valinor.csv (~377 mil linhas)
TV, filmes, e séries xploitedforum.catsboard.com xploitedforum.csv (~81 mil linhas)
TV, filmes, e séries zapping.forumeiros.com zapping.csv (~392 mil linhas)
Turismo viageiros.forumeiros.com viageiros.csv (~4 mil linhas)
Variedades arraf.forumeiros.com arraf.csv (~226 mil linhas)
Variedades bcharts.com.br bcharts.csv (~1,6 milhões de linhas)
Variedades forumjovem15.forumeiros.com forumjovem15.csv (~55 mil linhas)
Variedades nosmulheres.forumeiros.com nosmulheres.csv (~43 mil linhas)
Variedades tralhasgratis.forumeiros.com tralhasgratis.csv (~217 mil linhas)
Variedades vagueando.forumeiros.com vagueando.csv (~95 mil linhas)
Video-game forum.br.herozerogame.com herozerogame.csv (~31 mil linhas)
Video-games clanrota.forumeiros.com clanrota.csv (~14 mil linhas)
Video-games forum.craftlandia.com.br craftlandia.csv (~113 mil linhas)
Video-games forum.exaioros.com exaioros.csv (~164 mil linhas)
Video-games forum.l2tnt.com.br l2tnt.csv (~333 mil linhas)
Video-games forum.newro.com.br newro.csv (~63 mil linhas)
Video-games forum.tribogamer.com tribogamer.csv (~90 mil linhas)
Video-games gamezerbrasil.forumeiros.com gamezerbrasil.csv (~21 mil linhas)
Video-games grupogamer.forumeiros.com grupogamer.csv (~41 mil linhas)
Video-games mhfatalisbr.forumeiros.com mhfatalisbr.csv (~61 mil linhas)
Video-games nintendoblast.forumbrasil.net nintendoblast.csv (~706 mil linhas)
Video-games propixel.forumeiros.com propixel.csv (~176 mil linhas)
Video-games psnation.forumeiro.com psnation.csv (~159 mil linhas)
Video-games retrogames.forumbrasil.net retrogames.csv (~531 mil linhas)
Video-games rpgtibia.forumeiro.com rpgtibia.csv (~81 mil linhas)
Video-games schultzgames.com schultzgames.csv (~74 mil linhas)
Video-games tibiabr.com tibiabr.csv (~65 mil linhas)
Video-games tremulous.forumeiro.com tremulous.csv (~56 mil linhas)
Video-games voovirtual.com voovirtual.csv (~477 mil linhas)
Video-games xboxblast.forumbrasil.net xboxblast.csv (~53 mil linhas)
Video-games zeebo.forumbrasil.net zeebo.csv (~196 mil linhas)

O conteúdo obtido de páginas da web foi acessado com ajuda do comando wget, que suporta varrer um website obtendo suas páginas (crawling). Cada website requereu diferentes argumentos dentre os listados abaixo:

Parâmetro Descrição
--adjust-extension Garante que ".html" seja adicionado aos arquivos.
--convert-links Converte links para links locais (útil para visualização offline).
--directory-prefix=/my/directory Define o diretório de destino.
--include-directories=posts Lista separada por vírgulas dos diretórios permitidos a serem seguidos no rastreamento.
--level=inf Define o nível de recursão como infinito.
--no-check-certificate Ignora a verificação de certificado SSL.
--no-clobber Evita o download de arquivos que já existem localmente.
--no-remove-listing Mantém os arquivos ".listing" criados para registrar o conteúdo dos diretórios.
--page-requisites Faz download de imagens embutidas, sons e folhas de estilo referenciadas.
--random-wait Multiplica o --wait aleatoriamente entre 0,5 e 1,5 para cada requisição.
--recursive Habilita o download recursivo (segue links).
--reject "*\?*" Rejeita URLs que contenham strings de consulta.
--span-hosts Permite download de arquivos de links que apontam para diferentes hosts.
--user-agent Envia o cabeçalho "User-Agent" especificado para o servidor.
--wait=6 Aguarda o número especificado de segundos entre cada requisição.
-domains Lista separada por vírgulas dos domínios a serem seguidos.
-e robots=off Ignora instruções do arquivo robots.txt.

Todo o crawling foi realizado utilizado um thin client de baixo consumo de energia e, atráves do parâmetro --wait, houve um cuidado para não sobrecarregar os servidores sendo acessados.