--- language: - es - en license: apache-2.0 dataset_info: features: - name: raw_text dtype: string - name: topic dtype: string - name: speciallity dtype: string - name: raw_text_type dtype: string - name: topic_type dtype: string - name: source dtype: string - name: country dtype: string - name: document_id dtype: string splits: - name: train num_bytes: 190710909 num_examples: 2136490 download_size: 48472707 dataset_size: 190710909 configs: - config_name: default data_files: - split: train path: data/train-* --- # Dataset Card for Dataset Spanish Medical Este dataset agrupa y organiza varios dataset presentes en hugginface (p.ej: PlanTL-GOB-ES/cantemist-ner, PlanTL-GOB-ES/pharmaconer) y otros recursos públicos creados por investigadores con distintos formatos (p.ej.; MedLexSp ) para permitir ser fuente de conocimiento de grandes modelos de lenguaje en idioma español para el dominio médico. ## Dataset Details ### Dataset Description - **Funded by:** [Dionis López Ramos](), [Alvaro Garcia Barragan](https://huggingface.co/Alvaro8gb), [Dylan Montoya](https://huggingface.co/dylanmontoya22), [Daniel](https://huggingface.co/Danielbrdz) - **Language(s) (NLP):** Spanish - **License:** Apache License 2.0 ### Dataset Sources [optional] ## Uses Se sugiere el uso de este dataset para lograr el autojuste y prentrenamiento de LLM para el dominio médico con información en idioma español. ### Out-of-Scope Use Los creadores del dataset no se hacen responsable de resultados nocivos que puedan generar los modelos al ser entrenados con esta información. Se sugiere un proceso de evaluación riguroso con especialistas de los resultados generados por modelos de LLM entrenados. ## Dataset Structure Por cada entrada o documento en la fuente de información organizarla en un dataset de hugginface de la siguiente forma: - **question (raw_text)**: Texto asociado al documento, pregunta, caso clínico u otro tipo de información. - **answer (topic)**: (Texto asociado al tratamiento médico (healthcare_treatment), diagnóstico (healthcare_diagnosis), tópico de salud (topic), respuesta de una pregunta (answer), other, o estar vacío p.ej en el texto abierto) - **speciality**: (Especialidad médica a la que se relaciona el raw_text p.ej: cardiología, cirugía, otros) - **raw_text_type**: (Puede ser clinic_case, open_text, question o vacio) - **topic_type**: (Puede ser medical_topic, medical_diagnostic,answer,natural_medicine_topic, other, o vacio) - **source**: Identificador de la fuente asociada al documento que aparece en el README y descripción del dataset. - **country**: Identificador del país de procedencia de la fuente (p.ej.; ch, es) usando el estándar ISO 3166-1 alfa-2 (Códigos de país de dos letras.). - **document_id**: Identificador del documento en el dataset de procedencia, este valor puede estar vacio en caso que no se conozca - **idioma**: (Variedad geográfica) código ISO del idioma - **registro** (Variedad funcional): Siempre es `medio`. - **periodo** (Variedad histórica): Siempre es `actual`. - **dominio**: salud (clínico, biomédico, farmacia). - **tarea**: `pregunta` | `resumen` | `open_text` | `clinic_case`. - **país_origen**: País de origen de los datos. Al inicio de este proceso de construcción se debe actualizar en la tabla de la sección [Source Data](#source_data) la descripción de la fuente de información con los siguientes datos: - **Id**: Este será un número para que la fuente de información pueda ser referenciada en cada entrada del conjunto de datos. - **Nombre**: Nombre de la fuente de donde procede. - **Tokens**: Cantidad de tokens que contiene. - **Memoria**: Tamaño en memoria del dataset generado para hugginface - **Licencia**: En este caso si es solo para investigación o si posee otra licencia como MIT, Apache 2 u otras - **Dirección**: URL de donde se puede descargar o consultar la información. - **País**: País de procedencia de la información. ### Source Data | Id | Nombre | Tokens | Memoria | Licencia | Dirección | País | | --- | ----------- | ----------- | ----------- | ----------- | ----------- | ----------- | | 1 | Cantemist corpus: gold standard of oncology clinical cases annotated with CIE-O 3 terminology | 349287 | 9157 kB | [CC Attribution 4.0 International](https://creativecommons.org/licenses/by/4.0/) | https://huggingface.co/datasets/bigbio/cantemist/viewer/cantemist_bigbio_kb | es | | 2 | MedlinePlus Spanish (National Library of Medicine, NLM) | 7757337 | 35 MB | | https://medlineplus.gov/spanish/ | es | | 3 | PharmaCoNER | 275955 | 2 MB | [CC Attribution 4.0 International](https://creativecommons.org/licenses/by/4.0/) | https://huggingface.co/datasets/PlanTL-GOB-ES/pharmaconer | es | | 4 | Spanish Biomedical Crawled Corpus | 1973048 | 264 MB | cc-by-4.0 | https://zenodo.org/records/5513237 | es | | 5 | CARES | 322353 | 1828 kB | Afl-3.0 | https://huggingface.co/datasets/chizhikchi/CARES | es | | 6 | MEDDOCAN | 364462 | 1639 kB | cc-by-4.0 | https://huggingface.co/datasets/bigbio/meddocan | es | | 7 | Alvaro8gb/enfermedades-wiki-marzo-2024 | 1424685 | 9073 kB | [MIT](https://choosealicense.com/licenses/mit/) | https://huggingface.co/datasets/Alvaro8gb/enfermedades-wiki-marzo-2024 | es | | 8 | BioMistral/BioInstructQA(**spanish**) | 1072476 | 5963 kB | [Apache 2.0](https://choosealicense.com/licenses/apache-2.0/) | https://huggingface.co/datasets/BioMistral/BioInstructQA | ca | | 9 | DisTEMIST | 550203 | 2754 kB | cc-by-4.0 | https://huggingface.co/datasets/bigbio/distemist | es | | 10 | The Chilean Waiting List Corpus | 678934 | 3116 kB | cc-by-4.0 | https://zenodo.org/records/5518225 or https://huggingface.co/plncmm | chl | | 11 | BARR2 | 1732432 | 8472 kB | cc-by-4.0 | https://temu.bsc.es/BARR2/downloads/background_set.raw_text.tar.bz2 | es | | 12 | SPACC | 551849 | 2711 kB | cc-by-4.0 | https://zenodo.org/records/2560316 | es | | 13 | MedLexSp | 608374 | 21 MByte | MedLexSp is distributed freely for research or educational purposes. You need to sign an agreement with the authors for other purposes. | https://digital.csic.es/handle/10261/270429 | es | #### Data Collection and Processing - En el caso de [BioMistral/BioInstructQA](https://huggingface.co/datasets/BioMistral/BioInstructQA) se utilizó la información en idioma español. Para más información consultar el artículo [BioMistral: A Collection of Open-Source Pretrained Large Language Models for Medical Domains](https://arxiv.org/pdf/2402.10373.pdf?trk=public_post_comment-text). - Para [Cantemist](https://huggingface.co/datasets/bigbio/cantemist/viewer/cantemist_bigbio_kb) se hizo una búsqueda del código asociado a la patología y se estableció como tópico. - En [CARES](https://huggingface.co/datasets/chizhikchi/CARES) se busco el tipo asociado en la tabla de códigos establecido. ## Bias, Risks, and Limitations Se sugiere tener en cuenta el alcance de las licencia de cada una de las fuentes (e.d., revisar el campo source y Licencia de la tabla anterior). En el caso de necesitar filtrar por fuente de datos u otro criterio usted puede auxiliarse de las propiedades de la estructura de datos `Dataset` del marco de trabajo Hugginface. En el siguiente ejemplo de código se obtienen del conjunto de datos las entradas que tienen un tipo de tópico sobre diagnóstico medico o un tópico médico: ` spanishMedicaLllmDataset = load_dataset(SPANISH_MEDICA_LLM_DATASET, split="train") spanishMedicaLllmDataset = spanishMedicaLllmDataset.filter(lambda example: example["topic_type"] in ['medical_diagnostic' | 'medical_topic']) ` ### Recommendations Users should be made aware of the risks, biases and limitations of the dataset. More information needed for further recommendations. Se sugiere tener en cuenta las filas donde el tipo del topic (e.d., campo topic_type) tenga valores `medical_topic`, `medical_diagnostic`, `answer`, `natural_medicine_topic` para un autojuste del modelo y en el caso de que el texto se `open_text` un pre-entranmiento inicial del modelo LLM. ## Dataset Card Contact For any doubt or suggestion contact to: PhD Dionis López (inoid2007@gmail.com)