Spaces:

jorge-henao
/

ask2democracycol

Runtime error

App Files Files Community

Jorge Henao commited on Mar 21, 2023

Commit

44c25e2

•

1 Parent(s): ae5fd49

pages refactor

Browse files

Files changed (15) hide show

.gitignore +2 -0
README.md +1 -1
__pycache__/config.cpython-38.pyc +0 -0
__pycache__/document_quieries.cpython-38.pyc +0 -0
__pycache__/pinecode_quieries.cpython-38.pyc +0 -0
about.py +40 -0
app_es.py +0 -101
app_pinecode.py +0 -165
config.py +7 -4
document_quieries.py +0 -60
hallazgos.py +113 -0
main_page.py +22 -0
pinecode_quieries.py +84 -76
reformas.py +131 -0
requirements.txt +2 -2

.gitignore ADDED Viewed

	@@ -0,0 +1,2 @@


1	+ venv/
2	+ __pycache__/

README.md CHANGED Viewed

@@ -5,7 +5,7 @@ colorFrom: yellow
 colorTo: blue
 sdk: streamlit
 sdk_version: 1.10.0
-app_file: app_pinecode.py
 pinned: True
 license: apache-2.0
 ---

 colorTo: blue
 sdk: streamlit
 sdk_version: 1.10.0
+app_file: main_page.py
 pinned: True
 license: apache-2.0
 ---

__pycache__/config.cpython-38.pyc DELETED Viewed

Binary file (569 Bytes)

__pycache__/document_quieries.cpython-38.pyc DELETED Viewed

Binary file (3.26 kB)

__pycache__/pinecode_quieries.cpython-38.pyc DELETED Viewed

Binary file (5.23 kB)

about.py ADDED Viewed

	@@ -0,0 +1,40 @@

+import streamlit as st
+def about_ask2democracy():
+    st.markdown("""
+    <h1 style='
+    text-align: center;
+    color: #39AA35'>
+    Ask2Democracy 🇨🇴
+    </h1>
+    <p>Muchas de las discusiones que ocurren en Colombia generalmente están sustentadas en artículos o pdfs que salvo excpciones, casi nadie lee.
+    Este sistema ha indexado algunos textos relevantes para la discución pública que suelen estar dispersos y poco accesibles, además, apoyandose en modelos de lenguaje (abajo más detalles) puede entender preguntas elaboradas.
+    Algunos de los textos indexados: las propuestas presidenciales del 22, los hallazgos de la comisión de la verdad, los textos de las reformas, entre otros.
+    <div align="right">
+    Creado por Jorge Henao 🇨🇴 <a href="https://twitter.com/jhenaotw" target='_blank'>Twitter</a> <a     href="https://www.linkedin.com/in/henaojorge" target='_blank'/>LinkedIn</a>
+    </div>
+    """, unsafe_allow_html=True)
+    description = """
+    <p>
+    <h2>Sobre esta iniciativa</h2>
+    Pretende ayudar a construir democracia participativa apaloncándose en el estado del arte de la inteligencia artificial.
+    Siendo una herramienta que aporta a la discución pública, empoderando al ciudadano del común para ser partícipe del debate público mientras hace preguntas en su propio lenguaje, y llegando a sus propias conclusiones.
+    <h2>Inteligencia artificial abierta en la democracia</h2>
+    Uno de los objetivos es contribuir a la inteligencia artificial abierta y en español, con la construcción de un dataset y el entrenamiento de un modelo de lenguaje  adaptado para las discuciones ciudadanas.
+    Algo útil para elevar la calidad del debate en todos los países de habla hispana.
+    <h2>¿Cómo utilizar este espacio?</h2>
+Selecciona el texto sobre el que quieres buscar en el panel de la izquierda. Luego puedes escribir preguntas concretas como “¿cantidad de víctimas en la masacre de bojayá?”. No se trata de un sistema de búsquedas basado en palabras clave, por el contrario, puedes redactar preguntas más extensas y elaboradas. Cuanto más contexto le des a la pregunta, mejor funciona.
+    <h2>Ask2Democracy v 1.2</h2>
+    Esta version usa  sentence transformers, Cosine similarity, y una base de dactos vectorial Pinecone para mejorar la precision en las respuestas.
+    Los modelos transformers de lenguaje utilizados son:
+    <code aligh="left">
+sentence-transformers/multi-qa-MiniLM-L6-cos-v1
+deepset/xlm-roberta-base-squad2-distilled
+    </code>
+    <h2>Beta disclaimer</h2>
+    Las respuestas que arroja el sistema no han sido pregrabadas ni basadas en opiniones. Todas son respuestas extraídas de fuentes oficiales, como el Informe final de la CEV.
+    Este explorador usa modelos de lenguaje (sentence transformers, bert, otros ) para entender el lenguaje español, sin embargo, necesita de un mayor entrenamiento por lo que, en ocasiones, puede ser confuso y no tan preciso.
+    Si quieres apoyar escríbeme a <a href="mailto:jorge.henao@diezonce.co">jorge.henao@diezonce.co</a>
+    </p>
+    """
+    st.markdown(description, unsafe_allow_html=True)

app_es.py DELETED Viewed

@@ -1,101 +0,0 @@
-import streamlit as st
-import json
-import time
-from config import Config
-from document_quieries import ExtractiveProposalQueries
-extractive_query = ExtractiveProposalQueries(es_host = Config.es_host, es_index = Config.proposals_index,
-                                  es_user = Config.es_user, es_password = Config.es_password,
-                                  reader_name_or_path = Config.reader_model_name_or_path,
-                                  use_gpu = Config.use_gpu)
-def fake_search(question, retriever_top_k, reader_top_k):
-  #p1_result = query.search_by_query(query = question, retriever_top_k = retriever_top_k, reader_top_k = reader_top_k, es_index = "informecomisionverdad")
-  result = []
-  p = """
-  La masacre de Bojayá fue perpetrada por el Frente José María Córdoba, de las FARC-EP, al lanzar un cilindro bomba que cayó en una iglesia en la que los pobladores se refugiaban del enfrentamiento de este grupo con el Bloque Élmer Cárdenas de las AUC. Las víctimas fueron 81 personas, 47 de ellas eran niñas, niños y adolescentes
-    """
-  for i in range(0, reader_top_k):
-    result.append([[i+1],"81 personas", p[:250],"Las masacres","Comisión de la verdad - Informe de hallazgos y recomendaciones Junio 2022","5"])
-  return result
-def search(question, retriever_top_k, reader_top_k):
-  query_result = extractive_query.search_by_query(query = question, retriever_top_k = retriever_top_k, reader_top_k = reader_top_k)
-  result = []
-  for i in range(0, len(query_result)):
-    item = query_result[i]
-    result.append([[i+1], item.answer, item.context[:200], item.meta['title'], item.meta['source'], int(item.meta['page'])])
-  return result
-if __name__ == "__main__":
-    # streamlit part starts here with title
-    title = """
-    <h1 style='
-    text-align: center;
-    color: #39AA35'>
-    Ask2Democracy 🇨🇴 - Informe de la comisión de la verdad Junio 2022
-    </h1>
-    <p>
-      El 28 de junio del 2022, la Comisión de la Verdad en Colombia liberó su informe final. Fue el resultado de más de 3 años de investigación sobre el conflicto armado interno durante los últimos 60 años. Apoyándose en un modelo de inteligencia artificial. Este espacio pretende ayudar a explorar las más de 6000 páginas que conforman más de 10 libros del Informe, comenzando por el de Hallazgos y recomendaciones.
-    """
-    st.markdown(title, unsafe_allow_html=True)
-    # input form
-    with st.form("my_form"):
-        # here we have input space
-        query = st.text_input("Ingresa la pregunta, frase abierta o tema que quieres explorar",
-                              placeholder="Escribe tu consulta aquí...")
-        # Every form must have a submit button.
-        submitted = st.form_submit_button("Buscar")
-    # on submit we execute search
-    if(submitted):
-        # set start time
-        stt = time.time()
-        # retrieve top 5 documents
-        results = search(query, retriever_top_k=5, reader_top_k=3)
-        # set endtime
-        ent = time.time()
-        # measure resulting time
-        elapsed_time = round(ent - stt, 2)
-        # show which query was entered, and what was searching time
-        st.write(f"**Resultados relacionados con:** \"{query}\" ({elapsed_time} sec.)")
-        # then we use loop to show results
-        for i, answer in enumerate(results):
-            # answer starts with header
-            st.subheader(f"{answer[1]}")
-            # cropped answer
-            doc = answer[2][:250] + "..."
-            # and url to the full answer
-            url = f"https://www.comisiondelaverdad.co/sites/default/files/descargables/2022-06/Informe%20Final%20capi%CC%81tulo%20Hallazgos%20y%20recomendaciones.pdf#page={answer[5]+1}"
-            # then we display it
-            #st.markdown(f'{doc}\n<br>Fuente: {answer[4]}\n<br>Capítulo: {answer[3]}\n<br>Página: {answer[5]}\n[**Lee más aquí**]({url})\n', unsafe_allow_html=True)
-            st.markdown(f"{doc}[**Lee más aquí**]({url})")
-            st.caption(f"Fuente: {answer[4]} - Capítulo: {answer[3]} - Página: {answer[5]}")
-        st.markdown("---")
-    else:
-        st.markdown("""Cuanto más contexto le des a la pregunta, mejor funciona. puedes escribir consultas como: _**\"¿periodo con más detenciones arbitrarias registradas?\"**_,\_**\"¿cantidad de víctimas en la masacre de bojayá?\"**_,\
-                    _**\"¿cuantas víctimas de desplazamiento en antioquia?\"**_""")
-        st.markdown("""
-     <div align="right">
-    Creado por Jorge Henao 🇨🇴 <a href="https://twitter.com/jhenaotw" target='_blank'>Twitter</a> <a     href="https://www.linkedin.com/in/henaojorge" target='_blank'/>LinkedIn</a>
-     <br>Con el apoyo de Manuela Gonima en comunicaciones 🇨🇴 <a href="https://www.instagram.com/mgcomunicacionesco/" target='_blank'/>Instagram</a> <a href="https://www.linkedin.com/in/manuela-gonima-carvajal" target='_blank'/>LinkedIn</a>
-    </div>
-        """, unsafe_allow_html=True)
-        description = """
-        <p>
-        <h2>Sobre esta iniciativa</h2>
-        Se enmarca en la construcción de ciudadanía, la creación de valor público y el fortalecimiento de la democracia participativa desde la invitación a la población a informarse, conocer, compartir y dialogar en torno a la memoria histórica y a la verdad del conflicto armado colombiano, partiendo del Informe de la Comisión de la Verdad, se espera incluir varias fuentes adicionales. Hace parte de un proyecto open-source que utiliza Inteligencia Artificial para contribuir al entendimiento de temas relevantes para el país.<a href= "https://github.com/jorge-henao/ask_to_democracy"> repo en github con FastAPI</a>
-        </br></br>Por: Jorge Henao 🇨🇴 <a href="https://twitter.com/jhenaotw" target='_blank'>Twitter</a> <a href="https://www.linkedin.com/in/henaojorge" target='_blank'/>LinkedIn</a>, con el apoyo de Manuela Gónima 🇨🇴 <a href="https://www.instagram.com/mgcomunicacionesco/" target='_blank'/>Instagram</a> <a href="https://www.linkedin.com/in/manuela-gonima-carvajal" target='_blank'/>LinkedIn</a>
-        <h2>¿Cómo utilizar este espacio?</h2>
-        Puedes escribir oraciones abiertas como “Masacres en Antioquia”, o una pregunta concreta como “¿cantidad de víctimas en la masacre de bojayá?”. No se trata de un sistema de búsquedas basado en palabras clave, por el contrario, puedes redactar preguntas más extensas y elaboradas. Cuanto más contexto le des a la pregunta, mejor funciona.
-        <h2>Beta disclaimer</h2>
-        Las respuestas que arroja el sistema no han sido pregrabadas ni basadas en opiniones. Todas son respuestas extraídas del Informe final de la CEV, por un sistema en beta. Este explorador se basa en un modelo de inteligencia artificial entrenado para entender el lenguaje español, sin embargo, necesita de un mayor entrenamiento por lo que, en ocasiones, puede ser confuso y no tan preciso.
-        Si quieres apoyar escríbeme a <a href="mailto:jorge.henao@diezonce.co">jorge.henao@diezonce.co</a>
-        </p>
-        """
-        st.markdown(description, unsafe_allow_html=True)

app_pinecode.py DELETED Viewed

@@ -1,165 +0,0 @@
-import streamlit as st
-import json
-import time
-from config import Config
-from pinecode_quieries import PinecodeProposalQueries
-import logging
-logging.basicConfig(format="%(levelname)s - %(name)s -  %(message)s", level=logging.WARNING)
-logging.getLogger("haystack").setLevel(logging.INFO)
-logging.info("This is a test log ..")
-samples_salud = """
-¿Cuándo se implementará el Sistema de Salud?
-¿Cómo se implementará el Sistema de Salud?
-¿Qué es principio de interpretación y fundamento de la transición en relación al Sistema de Salud?
-¿Qué se garantiza en todo momento con el nuevo Sistema de Salud?
-¿Qué son los Centros de Atención Primaria Integrales y Resolutivos en Salud - CAPIRS?
-¿Qué se garantiza durante el periodo de transición del nuevo Sistema de Salud?
-¿Puede haber personas sin protección de su salud durante el periodo de transición?
-¿Cuál es el derecho fundamental que se garantiza en todo momento durante la transición del nuevo Sistema de Salud?
-¿En qué país se está implementando este Sistema de Salud?
-¿Qué se debe realizar para garantizar la gestión de los recursos en el nivel nacional y desconcentrado?
-¿Cómo se regirá el régimen de contratación de los contratos mencionados en el texto?
-¿Qué son las cláusulas exorbitantes previstas en el estatuto General de Contratación de la administración pública?
-¿Qué principios deben atender los contratos mencionados en el texto?
-¿Cuál es el ámbito de aplicación de los contratos mencionados en el texto?
-¿Quién tiene la responsabilidad de realizar la auditoría de las cuentas en relación a estos contratos?
-¿Cuáles son las características que deben cumplir los contratos mencionados en el texto?
-¿Qué se entiende por "coordinación" en el contexto de los contratos mencionados en el texto?
-¿Qué objetivo se busca con los contratos mencionados en el texto?
-¿Quién será el encargado de contratar los servicios de salud y otros requerimientos para el cumplimiento de su labor en el nivel regional?
-¿Qué tipo de instituciones hospitalarias y ambulatorias se integran a la red de servicios del territorio?
-¿Qué tarifas deben seguir las instituciones hospitalarias y ambulatorias para la prestación de servicios de salud?
-¿Qué busca modular el régimen de tarifas y formas de pago para la prestación de servicios de salud?
-¿Qué tipo de registro llevará el Fondo Regional de Salud?
-¿Cuáles son algunas de las variables que se incluirán en el registro de cada servicio prestado y pagado?
-"""
-samples_hallazgos = """
-¿Cuándo se implementará el Sistema de Salud?
-¿Cómo se implementará el Sistema de Salud?
-¿Qué es principio de interpretación y fundamento de la transición en relación al Sistema de Salud?
-¿Qué se garantiza en todo momento con el nuevo Sistema de Salud?
-¿Qué son los Centros de Atención Primaria Integrales y Resolutivos en Salud - CAPIRS?
-¿Qué se garantiza durante el periodo de transición del nuevo Sistema de Salud?
-¿Puede haber personas sin protección de su salud durante el periodo de transición?
-¿Cuál es el derecho fundamental que se garantiza en todo momento durante la transición del nuevo Sistema de Salud?
-¿En qué país se está implementando este Sistema de Salud?
-¿Qué se debe realizar para garantizar la gestión de los recursos en el nivel nacional y desconcentrado?
-¿Cómo se regirá el régimen de contratación de los contratos mencionados en el texto?
-¿Qué son las cláusulas exorbitantes previstas en el estatuto General de Contratación de la administración pública?
-¿Qué principios deben atender los contratos mencionados en el texto?
-¿Cuál es el ámbito de aplicación de los contratos mencionados en el texto?
-¿Quién tiene la responsabilidad de realizar la auditoría de las cuentas en relación a estos contratos?
-¿Cuáles son las características que deben cumplir los contratos mencionados en el texto?
-¿Qué se entiende por "coordinación" en el contexto de los contratos mencionados en el texto?
-¿Qué objetivo se busca con los contratos mencionados en el texto?
-¿Quién será el encargado de contratar los servicios de salud y otros requerimientos para el cumplimiento de su labor en el nivel regional?
-¿Qué tipo de instituciones hospitalarias y ambulatorias se integran a la red de servicios del territorio?
-¿Qué tarifas deben seguir las instituciones hospitalarias y ambulatorias para la prestación de servicios de salud?
-¿Qué busca modular el régimen de tarifas y formas de pago para la prestación de servicios de salud?
-¿Qué tipo de registro llevará el Fondo Regional de Salud?
-¿Cuáles son algunas de las variables que se incluirán en el registro de cada servicio prestado y pagado?
-"""
-extractive_query = PinecodeProposalQueries (es_host = Config.es_host, es_index = Config.proposals_index,
-                                   es_user = Config.es_user, es_password = Config.es_password,
-                                   reader_name_or_path = Config.reader_model_name_or_path,
-                                   use_gpu = Config.use_gpu)
-def clear_submit():
-    st.session_state["submit"] = False
-def fake_search(question, retriever_top_k, reader_top_k):
-  #p1_result = query.search_by_query(query = question, retriever_top_k = retriever_top_k, reader_top_k = reader_top_k, es_index = "informecomisionverdad")
-  result = []
-  p = """
-  La masacre de Bojayá fue perpetrada por el Frente José María Córdoba, de las FARC-EP, al lanzar un cilindro bomba que cayó en una iglesia en la que los pobladores se refugiaban del enfrentamiento de este grupo con el Bloque Élmer Cárdenas de las AUC. Las víctimas fueron 81 personas, 47 de ellas eran niñas, niños y adolescentes
-    """
-  for i in range(0, reader_top_k):
-    result.append([[i+1],"81 personas", p[:250],"Las masacres","Comisión de la verdad - Informe de hallazgos y recomendaciones Junio 2022","5"])
-  return result
-def search(question, retriever_top_k, reader_top_k):
-  query_result = extractive_query.search_by_query(query = question, retriever_top_k = retriever_top_k, reader_top_k = reader_top_k)
-  result = []
-  for i in range(0, len(query_result)):
-    item = query_result[i]
-    result.append([[i+1], item.answer, item.context[:200], item.meta['title'], item.meta['source'], int(item.meta['page'])])
-    #result.append([[i+1], item.answer, item.context[:200], item.meta['title']])
-  return result
-def search_and_show_results():
-  # set start time
-  stt = time.time()
-  # retrieve top 5 documents
-  results = search(query, retriever_top_k=5, reader_top_k=3)
-  # set endtime
-  ent = time.time()
-  # measure resulting time
-  elapsed_time = round(ent - stt, 2)
-  # show which query was entered, and what was searching time
-  st.write(f"**Resultados relacionados con:** \"{query}\" ({elapsed_time} sec.)")
-  # then we use loop to show results
-  for i, answer in enumerate(results):
-      # answer starts with header
-      st.subheader(f"{answer[1]}")
-      # cropped answer
-      doc = answer[2][:250] + "..."
-      # and url to the full answer
-      #url = f"https://www.comisiondelaverdad.co/sites/default/files/descargables/2022-06/Informe%20Final%20capi%CC%81tulo%20Hallazgos%20y%20recomendaciones.pdf#page={answer[5]+1}"
-      url = f"https://petro.presidencia.gov.co/Documents/230213-Reforma-salud.pdf"
-      # then we display it
-      #st.markdown(f'{doc}\n<br>Fuente: {answer[4]}\n<br>Capítulo: {answer[3]}\n<br>Página: {answer[5]}\n[**Lee más aquí**]({url})\n', unsafe_allow_html=True)
-      st.markdown(f"{doc}[**Lee más aquí**]({url})")
-      st.caption(f"Fuente: {answer[4]} - Capítulo: {answer[3]} - Página: {answer[5]}")
-  st.markdown("---")
-#results = search("que es el adres", retriever_top_k=5, reader_top_k=3)
-# if __name__ == "__main__":
-    # streamlit part starts here with title
-st.set_page_config(layout="wide", page_title="Buscar")
-title = """
-  <h1 style='
-  text-align: center;
-  color: #39AA35'>
-  Ask2Democracy 🇨🇴
-  </h1>
-  <p>
-Muchas de las discusiones que ocurren en Colombia terminan siendo artículos o pdfs que salvo excpciones, nadie lee.
-Este sistema de búsquedas usa inteligencia artificial para apoyar el entendimiendo de textos relevantes que suelen estar dispersos y poco accesibles.
-Como las propuestas presidenciales del 22, los hallazgos de la comisión de la verdad, los textos de las reformas, etc.
-"""
-st.markdown(title, unsafe_allow_html=True)
-st.markdown("""<div align="right">
-  Creado por Jorge Henao 🇨🇴 <a href="https://twitter.com/jhenaotw" target='_blank'>Twitter</a> <a     href="https://www.linkedin.com/in/henaojorge" target='_blank'/>LinkedIn</a>    </div>
-      """, unsafe_allow_html=True)
-st.write(f"Cuanto más contexto le des a la pregunta mejor funciona el sistema.")
-# Sidebar
-selected_index = None
-query = st.text_area("Escribe tu pregunta", on_change=clear_submit)
-button = st.button("Buscar")
-if button or st.session_state.get("submit"):
-    if not query:
-        st.error("¡escribe una pregunta!")
-    else:
-        st.session_state["submit"] = True
-        search_and_show_results()
-with st.sidebar:
-  st.write("Ask2Democracy 🇨🇴")
-  selected_index = st.selectbox("Seleccion la colección sobre el que deseas buscar",
-                                ["Propuesta Reforma de la salud 2023",
-                                 "Hallazgos de la comisión de la verdad 2022"])

config.py CHANGED Viewed

@@ -1,9 +1,12 @@
 class Config():
     es_host = "saimon-askwdemocracy.es.us-central1.gcp.cloud.es.io"
     es_user = "elastic"
-    es_password = "53f2a7a9-ea9d-4fd2-a8bc-f471b67f0262"
-    proposals_index = "docsreloaded"
     reader_model_name_or_path = "deepset/xlm-roberta-base-squad2-distilled"
     #reader_model_name_or_path = "deepset/xlm-roberta-base-squad2"
-    use_gpu = True

 class Config():
     es_host = "saimon-askwdemocracy.es.us-central1.gcp.cloud.es.io"
     es_user = "elastic"
+    #es_password = "53f2a7a9-ea9d-4fd2-a8bc-f471b67f0262"
+    es_password = "1f45bf76-b600-42b3-b2cc-ab6062693eb7"
+    index_name = "docsreloaded"
     reader_model_name_or_path = "deepset/xlm-roberta-base-squad2-distilled"
+    pinecone_environment="us-east-1-aws"
+    embedding_dim = 384
+    similarity="cosine"
     #reader_model_name_or_path = "deepset/xlm-roberta-base-squad2"
+    use_gpu = True

document_quieries.py DELETED Viewed

@@ -1,60 +0,0 @@
-from abc import ABC, abstractmethod
-from haystack.nodes import BM25Retriever, FARMReader
-from haystack.document_stores import ElasticsearchDocumentStore
-from haystack.pipelines import ExtractiveQAPipeline
-import certifi
-import datetime
-import requests
-from base64 import b64encode
-ca_certs=certifi.where()
-class DocumentQueries(ABC):
-    @abstractmethod
-    def search_by_query(self, query : str, retriever_top_k: int, reader_top_k: int, es_index: str):
-        pass
-class ExtractiveProposalQueries(DocumentQueries):
-    def __init__(self, es_host: str, es_index: str, es_user, es_password, reader_name_or_path: str, use_gpu = True) -> None:
-        reader = FARMReader(model_name_or_path = reader_name_or_path, use_gpu = use_gpu, num_processes=1, context_window_size=200)
-        self._initialize_pipeline(es_host, es_index, es_user, es_password, reader = reader)
-        self.log = Log(es_host= es_host, es_index="log", es_user = es_user, es_password= es_password)
-    def _initialize_pipeline(self, es_host, es_index, es_user, es_password, reader = None):
-        if reader is not None:
-            self.reader = reader
-        self.es_host = es_host
-        self.es_user = es_user
-        self.es_password = es_password
-        self.document_store = ElasticsearchDocumentStore(host = es_host, username=es_user, password=es_password, index = es_index, port = 443, scheme='https', verify_certs=True, ca_certs=ca_certs, create_index=False)
-        self.retriever = BM25Retriever(document_store = self.document_store)
-        self.pipe = ExtractiveQAPipeline(self.reader, self.retriever)
-    def search_by_query(self, query : str, retriever_top_k: int, reader_top_k: int, es_index: str = None) :
-        self.log.write_log(query, "hfspace-informecomision")
-        #if es_index is not None:
-            #self._initialize_pipeline(self.es_host, es_index, self.es_user, self.es_password)
-        params = {"Retriever": {"top_k": retriever_top_k}, "Reader": {"top_k": reader_top_k}}
-        prediction = self.pipe.run( query = query, params = params)
-        return prediction["answers"]
-class Log():
-    def __init__(self, es_host: str, es_index: str, es_user, es_password) -> None:
-        self.elastic_endpoint = f"https://{es_host}:443/{es_index}/_doc"
-        self.credentials = b64encode(b"3pvrzh9tl:4yl4vk9ijr").decode("ascii")
-        self.auth_header = { 'Authorization' : 'Basic %s' %  self.credentials }
-    def write_log(self, message: str, source: str) -> None:
-        created_date = datetime.datetime.now().strftime('%Y-%m-%dT%H:%M:%SZ')
-        post_data  = {
-            "message" : message,
-            "createdDate": {
-                "date" : created_date
-            },
-            "source": source
-        }
-        r = requests.post(self.elastic_endpoint, json = post_data, headers = self.auth_header)
-        print(r.text)

hallazgos.py ADDED Viewed

	@@ -0,0 +1,113 @@

+from random import randint
+import streamlit as st
+import streamlit as st
+import json
+import time
+from config import Config
+from pinecode_quieries import PinecodeProposalQueries
+import logging
+logging.basicConfig(format="%(levelname)s - %(name)s -  %(message)s", level=logging.WARNING)
+logging.getLogger("haystack").setLevel(logging.INFO)
+extractive_query = PinecodeProposalQueries (index_name= Config.index_name,
+                                        api_key = Config.es_password,
+                                        environment = Config.pinecone_environment,
+                                        embedding_dim = Config.embedding_dim,
+                                        reader_name_or_path = Config.reader_model_name_or_path,
+                                        use_gpu = Config.use_gpu)
+def hallazgos_comision_verdad_2022():
+    title = """
+    <h1 style='
+    text-align: center;
+    color: #39AA35'>
+    Ask2Democracy 🇨🇴 - Hallazgos y recomendaciones de la comisión de la verdad
+    </h1>
+    <p>
+    El 28 de junio del 2022, la Comisión de la Verdad en Colombia liberó su informe final. Fue el resultado de más de 3 años de investigación sobre el conflicto armado interno durante los últimos 60 años. Apoyándose en modelos de lenguaje (sentence transformers, bert, ver más aquí). Este espacio pretende ayudar a explorar las más de 6000 páginas que conforman más de 10 libros del Informe, comenzando por el de Hallazgos y recomendaciones.
+  """
+    st.markdown(title, unsafe_allow_html=True)
+    st.markdown("""<div align="right">
+    Creado por Jorge Henao 🇨🇴 <a href="https://twitter.com/jhenaotw" target='_blank'>Twitter</a> <a     href="https://www.linkedin.com/in/henaojorge" target='_blank'/>LinkedIn</a>    </div>
+        """, unsafe_allow_html=True)
+    question_samples_str = """¿cantidad de víctimas en la masacre de bojayá?
+    ¿periodo con más detenciones arbitrarias registradas?
+    ¿cantidad de víctimas en la masacre de bojayá?
+    ¿cuantas víctimas de desplazamiento en antioquia?"""
+    question_samples = question_samples_str.splitlines()
+    def clear_submit():
+        st.session_state["submit"] = False
+    def fake_search(question, retriever_top_k, reader_top_k):
+        #p1_result = query.search_by_query(query = question, retriever_top_k = retriever_top_k, reader_top_k = reader_top_k, es_index = "informecomisionverdad")
+        result = []
+        p = """
+        La masacre de Bojayá fue perpetrada por el Frente José María Córdoba, de las FARC-EP, al lanzar un cilindro bomba que cayó en una iglesia en la que los pobladores se refugiaban del enfrentamiento de este grupo con el Bloque Élmer Cárdenas de las AUC. Las víctimas fueron 81 personas, 47 de ellas eran niñas, niños y adolescentes
+            """
+        for i in range(0, reader_top_k):
+            result.append([[i+1],"81 personas", p[:250],"Las masacres","Comisión de la verdad - Informe de hallazgos y recomendaciones Junio 2022","5"])
+        return result
+    def search(question, retriever_top_k, reader_top_k):
+        filters = {"source_title": "Hallazgos y recomendaciones - 28 de Junio 2022"}
+        query_result = extractive_query.search_by_query(query = question,
+                                                        retriever_top_k = retriever_top_k,
+                                                        reader_top_k = reader_top_k,
+                                                        filters = filters)
+        result = []
+        for i in range(0, len(query_result)):
+            item = query_result[i]
+            result.append([[i+1], item.answer, item.context[:200],
+                        item.meta['title'], item.meta['source_title'], int(item.meta['page'])])
+            #result.append([[i+1], item.answer, item.context[:200], item.meta['title']])
+        return result
+    def search_and_show_results():
+        # set start time
+        stt = time.time()
+        # retrieve top 5 documents
+        results = search(query, retriever_top_k=5, reader_top_k=3)
+        # set endtime
+        ent = time.time()
+        # measure resulting time
+        elapsed_time = round(ent - stt, 2)
+        # show which query was entered, and what was searching time
+        st.write(f"**Resultados relacionados con:** \"{query}\" ({elapsed_time} sec.)")
+        # then we use loop to show results
+        for i, answer in enumerate(results):
+            # answer starts with header
+            st.subheader(f"{answer[1]}")
+            # cropped answer
+            doc = answer[2][:250] + "..."
+            # and url to the full answer
+            #url = f"https://www.comisiondelaverdad.co/sites/default/files/descargables/2022-06/Informe%20Final%20capi%CC%81tulo%20Hallazgos%20y%20recomendaciones.pdf#page={answer[5]+1}"
+            url = f"https://petro.presidencia.gov.co/Documents/230213-Reforma-salud.pdf"
+            # then we display it
+            #st.markdown(f'{doc}\n<br>Fuente: {answer[4]}\n<br>Capítulo: {answer[3]}\n<br>Página: {answer[5]}\n[**Lee más aquí**]({url})\n', unsafe_allow_html=True)
+            st.markdown(f"{doc}[**Lee más aquí**]({url})")
+            st.caption(f"Fuente: {answer[4]} - Capítulo: {answer[3]} - Página: {answer[5]}")
+        st.markdown("---")
+    #results = search("que es el adres", retriever_top_k=5, reader_top_k=3)
+    st.markdown(f"""<br><p>Cuanto más contexto le des a la pregunta mejor funciona el sistema.
+             No es un sistema basado en palabras claves, puedes escribir preguntas elaboradas.
+             Una serie de modelos de lenguaje transformers intervienen en cada consulta para ayudar a entenderlas.""",
+             unsafe_allow_html=True)
+    selected_question = st.selectbox("Aquí algunos ejemplos:", question_samples)
+    query = st.text_area("Escribe tu pregunta", value = selected_question, on_change=clear_submit)
+    button = st.button("Buscar")
+    if button or st.session_state.get("submit"):
+        if not query:
+            st.error("¡escribe una pregunta!")
+        else:
+            st.session_state["submit"] = True
+            search_and_show_results()

main_page.py ADDED Viewed

	@@ -0,0 +1,22 @@

+import streamlit as st
+from about import about_ask2democracy
+from hallazgos import hallazgos_comision_verdad_2022
+from reformas import reforma_salud_febrero_2023
+from pinecode_quieries import PinecodeProposalQueries
+from config import Config
+# Define the sidebar
+api_key = st.sidebar.text_input("OpenAI API Key", type="password")
+# Define the navigation between pages
+page_options = {
+    "About": about_ask2democracy,
+    "Propuesta: Reforma a la salud febrero de 2023": reforma_salud_febrero_2023,
+    "Hallazgos de la comisión de la verdad 2022": hallazgos_comision_verdad_2022
+}
+# Define the page selector
+selected_page = st.sidebar.radio("Selecciona la página que deseas explorar:", list(page_options.keys()))
+# Render the selected page
+page_options[selected_page]()

pinecode_quieries.py CHANGED Viewed

@@ -4,7 +4,7 @@ from haystack.nodes import BM25Retriever, FARMReader
 from haystack.document_stores import ElasticsearchDocumentStore
 from haystack.pipelines import ExtractiveQAPipeline, DocumentSearchPipeline
 from haystack.document_stores import PineconeDocumentStore
-from haystack.nodes import EmbeddingRetriever
 import json
 import logging
@@ -17,8 +17,6 @@ from pathlib import Path
 from typing import List, Optional
 import pandas as pd
-import pinecone
-import streamlit as st
 from haystack import BaseComponent, Document
 from haystack.document_stores import PineconeDocumentStore
@@ -26,7 +24,10 @@ from haystack.nodes import (
     EmbeddingRetriever,
     FARMReader
 )
-from haystack.pipelines import ExtractiveQAPipeline, Pipeline
 from sentence_transformers import SentenceTransformer
 import certifi
@@ -34,102 +35,109 @@ import datetime
 import requests
 from base64 import b64encode
-ca_certs=certifi.where()
-class PineconeRetriever(BaseComponent):
-    outgoing_edges = 1
-    def __init__(self, sentence_transformer_name: str, api_key:str, environment: str, index_name: str):
-        # a small subset of the component's parameters is sent in an event after applying filters defined in haystack.telemetry.NonPrivateParameters
-        self.sts_model = SentenceTransformer(sentence_transformer_name)
-        pinecone.init(api_key = api_key, environment=environment)
-        self.index = pinecone.Index(index_name)
-    def run(self, query: str, top_k: Optional[int]):
-        #TODO: problema de versiones del cliente de pinecone. en esta versión retorna una coleción de resutsl con los matches.
-        #TODO2: no esta el contenido dentro de los metadatos, ni en ningun lado. normal? , workarround. guararlo en otrometado.
-        #TODO3: hacer consulta por id, pastelarlo desde el colab que si retorna?
-        # process the inputs
-        vector_embeddings = self.sts_model.encode(query).tolist()
-        response = self.index.query([vector_embeddings], top_k=top_k, include_metadata=True)
-        docs = [
-            Document(
-                content=d["metadata"]['content'],
-                meta={'title': d["metadata"]['title'],
-                      'page': d["metadata"]['page'],
-                      'source': d["metadata"]['source']
-                      }
-                )
-                for d in response['matches']
-        ]
-        output = {"documents": docs, "query": query}
-        return output, "output_1"
-    def run_batch(self, queries: List[str], top_k: Optional[int]):
-        return {}, "output_1"
 class DocumentQueries(ABC):
     @abstractmethod
-    def search_by_query(self, query : str, retriever_top_k: int, reader_top_k: int, es_index: str):
         pass
 class PinecodeProposalQueries(DocumentQueries):
-    def __init__(self, es_host: str, es_index: str, es_user, es_password, reader_name_or_path: str, use_gpu = True) -> None:
-        reader = FARMReader(model_name_or_path = reader_name_or_path, use_gpu = use_gpu, num_processes=1, context_window_size=200)
-        self._initialize_pipeline(es_host, es_index, es_user, es_password, reader = reader)
         #self.log = Log(es_host= es_host, es_index="log", es_user = es_user, es_password= es_password)
-    def _initialize_pipeline(self, es_host, es_index, es_user, es_password, reader = None):
         if reader is not None:
             self.reader = reader
         #pinecone.init(api_key=es_password, environment="us-east1-gcp")
-        index_name = es_index
         self.document_store = PineconeDocumentStore(
-            api_key=es_password,
-            environment = "us-east1-gcp",
-            index=index_name,
-            similarity="cosine",
-            embedding_dim=384,
-            metadata_config = {"indexed": ["title", "content"]}
         )
-        self.pipe = Pipeline()
-        pinecone_retriever = PineconeRetriever("sentence-transformers/multi-qa-MiniLM-L6-cos-v1",
-                                               es_password, "us-east1-gcp",
-                                               index_name)
-        #self.pipe.add_node(component=pinecone_retriever, name="Retriever", inputs=["Query"])
-        #self.pipe.add_node(component=self.reader, name="Reader", inputs=["Retriever"])
-        # #self.retriever = BM25Retriever(document_store = self.document_store)
         self.retriever = EmbeddingRetriever(
-            document_store=self.document_store,
-            #embedding_model="multi-qa-distilbert-dot-v1",
             embedding_model = "sentence-transformers/multi-qa-MiniLM-L6-cos-v1",
             model_format="sentence_transformers"
         )
-        # retriever_model = "sentence-transformers/multi-qa-mpnet-base-dot-v1"
-        #self.document_store.update_embeddings(self.retriever, update_existing_embeddings=False)
-        self.pipe = ExtractiveQAPipeline (reader = self.reader, retriever = self.retriever)
-        #self.pipe = DocumentSearchPipeline(self.retriever)
-    def search_by_query(self, query : str, retriever_top_k: int, reader_top_k: int, es_index: str = None) :
-        #self.document_store.update_embeddings(self.retriever, update_existing_embeddings=False)
-        #if es_index is not None:
-            #self._initialize_pipeline(self.es_host, es_index, self.es_user, self.es_password)
-        params = {"Retriever": {"top_k": retriever_top_k}, "Reader": {"top_k": reader_top_k}}
-        #params = {"Retriever": {"top_k": retriever_top_k}}
-        prediction = self.pipe.run( query = query, params = params)
         return prediction["answers"]
 class Log():
     def __init__(self, es_host: str, es_index: str, es_user, es_password) -> None:

 from haystack.document_stores import ElasticsearchDocumentStore
 from haystack.pipelines import ExtractiveQAPipeline, DocumentSearchPipeline
 from haystack.document_stores import PineconeDocumentStore
+from haystack.nodes import EmbeddingRetriever, OpenAIAnswerGenerator
 import json
 import logging
 from typing import List, Optional
 import pandas as pd
 from haystack import BaseComponent, Document
 from haystack.document_stores import PineconeDocumentStore
     EmbeddingRetriever,
     FARMReader
 )
+from haystack.pipelines import ExtractiveQAPipeline, Pipeline, GenerativeQAPipeline
+from haystack.pipelines import BaseStandardPipeline
+from haystack.nodes.reader import BaseReader
+from haystack.nodes.retriever import BaseRetriever
 from sentence_transformers import SentenceTransformer
 import certifi
 import requests
 from base64 import b64encode
+ca_certs = certifi.where()
+class QAPipeline(BaseStandardPipeline):
+    """
+    Pipeline for Extractive Question Answering.
+    """
+    def __init__(self, reader: BaseReader, retriever: BaseRetriever):
+        """
+        :param reader: Reader instance
+        :param retriever: Retriever instance
+        """
+        self.pipeline = Pipeline()
+        self.pipeline.add_node(component=retriever, name="Retriever", inputs=["Query"])
+        self.pipeline.add_node(component=reader, name="Reader", inputs=["Retriever"])
+        self.metrics_filter = {"Retriever": ["recall_single_hit"]}
+    def run(self, query: str, params: Optional[dict] = None, debug: Optional[bool] = None):
+        """
+        :param query: The search query string.
+        :param params: Params for the `retriever` and `reader`. For instance,
+                       params={"Retriever": {"top_k": 10}, "Reader": {"top_k": 5}}
+        :param debug: Whether the pipeline should instruct nodes to collect debug information
+                      about their execution. By default these include the input parameters
+                      they received and the output they generated.
+                      All debug information can then be found in the dict returned
+                      by this method under the key "_debug"
+        """
+        output = self.pipeline.run(query=query, params=params, debug=debug)
+        return output
 class DocumentQueries(ABC):
     @abstractmethod
+    def search_by_query(self, query : str, retriever_top_k: int, reader_top_k: int, index_name: str = None, filters = None):
         pass
 class PinecodeProposalQueries(DocumentQueries):
+    def __init__(self, index_name: str, api_key, reader_name_or_path: str, use_gpu = True,
+                 embedding_dim = 384, environment = "us-east1-gcp") -> None:
+        reader = FARMReader(model_name_or_path = reader_name_or_path,
+                            use_gpu = use_gpu, num_processes = 1,
+                            context_window_size = 200)
+        self._initialize_pipeline(index_name, api_key, reader = reader, embedding_dim=
+                                  embedding_dim, environment = environment)
         #self.log = Log(es_host= es_host, es_index="log", es_user = es_user, es_password= es_password)
+    def _initialize_pipeline(self, index_name, api_key, similarity = "cosine",
+                             embedding_dim = 384, reader = None,
+                             environment = "us-east1-gcp",
+                             metadata_config = {"indexed": ["title", "source_title"]}):
         if reader is not None:
             self.reader = reader
+        self.OPENAI_generator = OpenAIAnswerGenerator(api_key="",
+                                                      model="text-davinci-003", temperature=.5, max_tokens=60)
         #pinecone.init(api_key=es_password, environment="us-east1-gcp")
         self.document_store = PineconeDocumentStore(
+            api_key = api_key,
+            environment = environment,
+            index = index_name,
+            similarity = similarity,
+            embedding_dim = embedding_dim,
+            metadata_config = {"indexed": ["title","source_title"]}
         )
         self.retriever = EmbeddingRetriever(
+            document_store= self.document_store,
             embedding_model = "sentence-transformers/multi-qa-MiniLM-L6-cos-v1",
             model_format="sentence_transformers"
         )
+        self.extractive_pipe = ExtractiveQAPipeline (reader = self.reader,
+                                          retriever = self.retriever)
+        self.generative_OPENAI_pipe = GenerativeQAPipeline(generator = self.OPENAI_generator,
+                                                           retriever = self.retriever)
+    def search_by_query(self, query : str, retriever_top_k: int, reader_top_k: int, index_name: str = None, filters = None):
+        #self.document_store.update_embeddings(self.retriever, update_existing_embeddings=False)
+        params = {"Retriever": {"top_k": retriever_top_k,
+                                "filters": filters},
+                  "Reader": {"top_k": reader_top_k}}
+        prediction = self.extractive_pipe.run( query = query, params = params, debug = True)
         return prediction["answers"]
+    def genenerate_answer_OpenAI(self, query : str, retriever_top_k: int, reader_top_k: int, es_index: str = None, filters = None) :
+        params = {"Retriever": {"top_k": retriever_top_k,
+                                "filters": filters},
+                  "Generator": {"top_k": reader_top_k}}
+        prediction = self.generative_OPENAI_pipe.run( query = query, params = params)
+        return prediction
+    def genenerate_answer_HF(self, query : str, retriever_top_k: int, reader_top_k: int, es_index: str = None, filters = None) :
+        params = {"Retriever": {"top_k": retriever_top_k,
+                                "filters": filters},
+                  "Generator": {"top_k": reader_top_k}}
+        prediction = self.generative_HF_pipe.run( query = query, params = params)
+        return prediction
 class Log():
     def __init__(self, es_host: str, es_index: str, es_user, es_password) -> None:

reformas.py ADDED Viewed

	@@ -0,0 +1,131 @@

+from random import randint
+import streamlit as st
+import streamlit as st
+import json
+import time
+from config import Config
+from pinecode_quieries import PinecodeProposalQueries
+import logging
+logging.basicConfig(format="%(levelname)s - %(name)s -  %(message)s", level=logging.WARNING)
+logging.getLogger("haystack").setLevel(logging.INFO)
+extractive_query = PinecodeProposalQueries (index_name= Config.index_name,
+                                        api_key = Config.es_password,
+                                        environment = Config.pinecone_environment,
+                                        embedding_dim = Config.embedding_dim,
+                                        reader_name_or_path = Config.reader_model_name_or_path,
+                                        use_gpu = Config.use_gpu)
+def reforma_salud_febrero_2023():
+    title = """
+    <h1 style='
+    text-align: center;
+    color: #39AA35'>
+    Ask2Democracy 🇨🇴 - Propuesta reforma a la salud 2023
+    </h1>
+  """
+    st.markdown(title, unsafe_allow_html=True)
+    st.markdown("""<div align="right">
+    Creado por Jorge Henao 🇨🇴 <a href="https://twitter.com/jhenaotw" target='_blank'>Twitter</a> <a     href="https://www.linkedin.com/in/henaojorge" target='_blank'/>LinkedIn</a>    </div>
+        """, unsafe_allow_html=True)
+    question_samples_str = """¿Cuándo se implementará el Sistema de Salud?
+¿Cómo se implementará el Sistema de Salud?
+¿Qué es principio de interpretación y fundamento de la transición en relación al Sistema de Salud?
+¿Qué se garantiza en todo momento con el nuevo Sistema de Salud?
+¿Qué son los Centros de Atención Primaria Integrales y Resolutivos en Salud - CAPIRS?
+¿Qué se garantiza durante el periodo de transición del nuevo Sistema de Salud?
+¿Puede haber personas sin protección de su salud durante el periodo de transición?
+¿Cuál es el derecho fundamental que se garantiza en todo momento durante la transición del nuevo Sistema de Salud?
+¿En qué país se está implementando este Sistema de Salud?
+¿Qué se debe realizar para garantizar la gestión de los recursos en el nivel nacional y desconcentrado?
+¿Cómo se regirá el régimen de contratación de los contratos mencionados en el texto?
+¿Qué son las cláusulas exorbitantes previstas en el estatuto General de Contratación de la administración pública?
+¿Qué principios deben atender los contratos mencionados en el texto?
+¿Cuál es el ámbito de aplicación de los contratos mencionados en el texto?
+¿Quién tiene la responsabilidad de realizar la auditoría de las cuentas en relación a estos contratos?
+¿Cuáles son las características que deben cumplir los contratos mencionados en el texto?
+¿Qué se entiende por "coordinación" en el contexto de los contratos mencionados en el texto?
+¿Qué objetivo se busca con los contratos mencionados en el texto?
+¿Quién será el encargado de contratar los servicios de salud y otros requerimientos para el cumplimiento de su labor en el nivel regional?
+¿Qué tipo de instituciones hospitalarias y ambulatorias se integran a la red de servicios del territorio?
+¿Qué tarifas deben seguir las instituciones hospitalarias y ambulatorias para la prestación de servicios de salud?
+¿Qué busca modular el régimen de tarifas y formas de pago para la prestación de servicios de salud?
+¿Qué tipo de registro llevará el Fondo Regional de Salud?
+¿Cuáles son algunas de las variables que se incluirán en el registro de cada servicio prestado y pagado?"""
+    question_samples = question_samples_str.splitlines()
+    def clear_submit():
+        st.session_state["submit"] = False
+    def fake_search(question, retriever_top_k, reader_top_k):
+        #p1_result = query.search_by_query(query = question, retriever_top_k = retriever_top_k, reader_top_k = reader_top_k, es_index = "informecomisionverdad")
+        result = []
+        p = """
+        La masacre de Bojayá fue perpetrada por el Frente José María Córdoba, de las FARC-EP, al lanzar un cilindro bomba que cayó en una iglesia en la que los pobladores se refugiaban del enfrentamiento de este grupo con el Bloque Élmer Cárdenas de las AUC. Las víctimas fueron 81 personas, 47 de ellas eran niñas, niños y adolescentes
+            """
+        for i in range(0, reader_top_k):
+            result.append([[i+1],"81 personas", p[:250],"Las masacres","Comisión de la verdad - Informe de hallazgos y recomendaciones Junio 2022","5"])
+        return result
+    def search(question, retriever_top_k, reader_top_k):
+        filters = {"source_title": "Reforma de la salud 13 Febrero 2023"}
+        query_result = extractive_query.search_by_query(query = question,
+                                                        retriever_top_k = retriever_top_k,
+                                                        reader_top_k = reader_top_k,
+                                                        filters = filters)
+        result = []
+        for i in range(0, len(query_result)):
+            item = query_result[i]
+            result.append([[i+1], item.answer, item.context[:200],
+                        item.meta['title'], item.meta['source_title'], int(item.meta['page'])])
+            #result.append([[i+1], item.answer, item.context[:200], item.meta['title']])
+        return result
+    def search_and_show_results():
+        # set start time
+        stt = time.time()
+        # retrieve top 5 documents
+        results = search(query, retriever_top_k=5, reader_top_k=3)
+        # set endtime
+        ent = time.time()
+        # measure resulting time
+        elapsed_time = round(ent - stt, 2)
+        # show which query was entered, and what was searching time
+        st.write(f"**Resultados relacionados con:** \"{query}\" ({elapsed_time} sec.)")
+        # then we use loop to show results
+        for i, answer in enumerate(results):
+            # answer starts with header
+            st.subheader(f"{answer[1]}")
+            # cropped answer
+            doc = answer[2][:250] + "..."
+            # and url to the full answer
+            #url = f"https://www.comisiondelaverdad.co/sites/default/files/descargables/2022-06/Informe%20Final%20capi%CC%81tulo%20Hallazgos%20y%20recomendaciones.pdf#page={answer[5]+1}"
+            url = f"https://petro.presidencia.gov.co/Documents/230213-Reforma-salud.pdf"
+            # then we display it
+            #st.markdown(f'{doc}\n<br>Fuente: {answer[4]}\n<br>Capítulo: {answer[3]}\n<br>Página: {answer[5]}\n[**Lee más aquí**]({url})\n', unsafe_allow_html=True)
+            st.markdown(f"{doc}[**Lee más aquí**]({url})")
+            st.caption(f"Fuente: {answer[4]} - Capítulo: {answer[3]} - Página: {answer[5]}")
+        st.markdown("---")
+    #results = search("que es el adres", retriever_top_k=5, reader_top_k=3)
+    st.write(f"""<br><p>Cuanto más contexto le des a la pregunta mejores resultados se obtienen.
+             No es un sistema basado en palabras claves, puedes escribir preguntas elaboradas.
+             Una serie de modelos de lenguaje transformers intervienen en cada consulta para ayudar a entenderlas."""
+             ,unsafe_allow_html=True)
+    selected_question = st.selectbox("Aquí algunos ejemplos:", question_samples)
+    query = st.text_area("Escribe tu pregunta", value = selected_question, on_change=clear_submit)
+    button = st.button("Buscar")
+    if button or st.session_state.get("submit"):
+        if not query:
+            st.error("¡escribe una pregunta!")
+        else:
+            st.session_state["submit"] = True
+            search_and_show_results()

requirements.txt CHANGED Viewed

@@ -1,4 +1,4 @@
-streamlit==1.15.0
 sentence-transformers
 farm-haystack[pinecone]
-pinecone-client

 sentence-transformers
 farm-haystack[pinecone]
+pinecone-client
+streamlit==1.15.0