date understanding query 이슈
#3
by
kimcando
- opened
안녕하세요.
date understanding 항목의 query가 정상적으로 들어간 것인가요?
아래 질문에서' ###선택지' 이전 string들이 모든 query에 대해서 동일합니다. 아마 올해는 2020년 또는 광복절 과 같은 부분이 automatic하게 변경됐어야하나 싶어서 문의드립니다.
다음 질문에 대답으로 가장 적절한 것을 고르시요. ### 질문: 올해는 2020년, 오늘은 광복절 입니다. 친구와 익일 후에 만나기로 약속을 잡았다면, 우리가 만나는 날짜는 언제인가요? ### 선택지: (A) 2020-08-12 (B) 2025-08-14 (C) 2020-08-16 (D) 2028-12-02 (E) 2020-08-14 ### 정답:
감사합니다
문의하신 내용 확인하였습니다.
date understanding 항목의 query를 자동적으로 조합하던 과정에서 문제가 있었던 것 같습니다. 해례벤치 1.1은 개발 도중 중단된 프로젝트라 다소 미흡한 점이 있을 수 있습니다. 보다 최근에 공개된 HRMCR 데이터셋의 Date 카테고리는 현재 논의 중인 date_understanding 문제와 매우 유사하므로 참고해보시는 것도 좋을 것 같습니다.
논문 링크: https://arxiv.org/abs/2501.05712
데이터셋 링크: https://huggingface.co/datasets/HAERAE-HUB/HRMCR