belisards's picture
Upload dataset
8df7731 verified
metadata
dataset_info:
  features:
    - name: Codigo
      dtype: string
    - name: IdentificacaoProcesso
      dtype: string
    - name: DescricaoIdentificacao
      dtype: string
    - name: Sigla
      dtype: string
    - name: Numero
      dtype: string
    - name: Ano
      dtype: string
    - name: Ementa
      dtype: string
    - name: Autor
      dtype: string
    - name: Data
      dtype: string
    - name: UrlDetalheMateria
      dtype: string
    - name: SiglaComissao
      dtype: string
  splits:
    - name: train
      num_bytes: 65312145
      num_examples: 153925
  download_size: 21858123
  dataset_size: 65312145
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*
import requests
import pandas as pd
import requests
from tqdm import tqdm

tqdm.pandas()
# Função para obter IDs de matérias legislativas de um ano específico
def obter_ids_materias(ano):
    url = f"https://legis.senado.leg.br/dadosabertos/materia/pesquisa/lista"
    params = {"ano": ano}
    headers = {"accept": "application/json"}

    response = requests.get(url, params=params, headers=headers)

    if response.status_code == 200:
        data = response.json()
        # return data
        try:
            return data["PesquisaBasicaMateria"]["Materias"]["Materia"]
        except KeyError:
            print(f"Erro na requisição para o ano {ano}: {data['PesquisaBasicaMateria']['Mensagem']}")
            return []
    else:
        print(f"Erro na requisição para o ano {ano}: {response.status_code}")
        return []

start_year = 1946
# start_year = 2022
end_year = 2024

dados = []
# add tqdm
for year in tqdm(range(start_year, end_year + 1)):
    ids = obter_ids_materias(year)
    for id in ids:
        dados.append(id)


df = pd.json_normalize(dados)
df["ano"] = df["Data"].str[:4]
df.ano.value_counts()