sentence_pair / README.md
qgyd2021's picture
[update]add ocnli
4eff5ab
|
raw
history blame
3.64 kB
metadata
license: apache-2.0
task_categories:
  - sentence-similarity
language:
  - zh
  - en
size_categories:
  - 100M<n<1B

句子对数据集

数据集从网上收集整理如下:

数据 语言 原始数据/项目地址 样本个数 原始数据描述 替代数据下载地址
ChineseSTS 汉语 ChineseSTS 24.7K STS 中文文本语义相似度(使用时注意打乱数据集) ChineseSTS
ccks2018_task3 汉语 CCKS2018_3 100K CCKS 2018 微众银行智能客服问句匹配大赛
DIAC2019 汉语 DIAC2019 6K 以问题组的形式提供,每组问句又分为等价部分和不等价部分,等价问句之间互相组合可以生成正样本,等价问句和不等价问句之间互相组合可以生成负样本。我们提供6000组问句的训练集。
LCQMC 汉语 LCQMC; C18-1166.pdf TRAIN: 238766, VALID: 8802, TEST: 12500 百度知道领域的中文问题匹配数据集,目的是为了解决在中文领域大规模问题匹配数据集的缺失。该数据集从百度知道不同领域的用户问题中抽取构建数据。 lcqmc_data
AFQMC 汉语 AFQMC TRAIN: 34334, VALID: 4316, TEST: 3861 蚂蚁金融语义相似度数据集,用于问题相似度计算。即:给定客服里用户描述的两句话,用算法来判断是否表示了相同的语义。
BUSTM 汉语 BUSTM; BUSTM 总样本数为:177173,其中,匹配样本个数为:54805,不匹配样本个数为:122368 小布助手对话短文本语义匹配比赛数据集 BUSTM
CHIP2019 汉语 CHIP2019 2万 平安医疗科技疾病问答迁移学习比赛数据集
COVID-19 汉语 COVID-19 天池新冠疫情相似句对判定大赛 COVID-19
Chinese-MNLI 汉语 Chinese-MNLI TRAIN: 390K, VALID: 12K, TEST: 13K 通过翻译加部分人工修正的方法,从英文原数据集生成(原数据是:蕴含,中性,冲突,的句子推理数据集,已转换为句子对)。
Chinese-SNLI 汉语 Chinese-SNLI TRAIN: 550K, VALID: 10K, TEST: 10K 通过翻译加部分人工修正的方法,从英文原数据集生成(原数据是:蕴含,中性,冲突,的句子推理数据集,已转换为句子对)。
OCNLI 汉语 OCNLI TRAIN: 50K, VALID: 3K, TEST: 3K 原生中文自然语言推理数据集,是第一个非翻译的、使用原生汉语的大型中文自然语言推理数据集。
参考的数据来源,展开查看

https://github.com/liucongg/NLPDataSet

https://huggingface.co/datasets/tiansz/ChineseSTS https://zhuanlan.zhihu.com/p/454173790