Cross-Encoder (Reranker) 평가 관련

#1
by sigridjineth - opened

Cross-Encoder (Reranker) 를 평가하신 방법이 궁금합니다!
감사합니다.

안녕하세요. 리트리버 모델 평가하듯이 똑같이 진행하였는데 관련 내용은 아래 autorag 링크 참고하시면 좋을 것 같습니다.

https://edai.notion.site/Retrieval-Metrics-dde3d9fa1d9547cdb8b31b94060d21e7

평가코드를 공유는 조만간 진행해볼게요

@dragonkue 아 그리고. 다음달에 instruct.kr 라는 오픈소스 언어모델 커뮤니티에서 밋업을 하는데 작업하신 내용에 대해 혹시 발표에 관심 있으시면 초대 드려보려고 합니다.

좋은 모델 공개 감사합니다.

커뮤니티 초대에 감사합니다. 방금 reranker-embedding 방에 참여하였습니다.

dragonkue changed discussion status to closed

@sigridjineth 안녕하세요.

말씀하신 평가 코드 cross_encoder_eval.ipynb 추가하였습니다.
깔끔하게 하려고 부분 수정을 하다 보니 실행 중 에러가 날 수도 있습니다. 양해 바랍니다.
평가 데이터는 "git clone https://github.com/Marker-Inc-Korea/AutoRAG-example-korean-embedding-benchmark.git" 명령어로 다운 받으실 수 있습니다.

추가 궁금한 점은 언제든지 질문 주세요!

dragonkue changed discussion status to open
dragonkue changed discussion status to closed

Sign up or log in to comment