File size: 17,844 Bytes
2f6ccd3
 
 
 
 
 
 
a9f4f1f
 
 
 
 
1e26971
a9f4f1f
1e26971
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
a9f4f1f
1e26971
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
a9f4f1f
1e26971
a9f4f1f
1e26971
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
a9f4f1f
1e26971
 
 
 
 
 
 
 
 
 
 
 
 
a9f4f1f
1e26971
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
a9f4f1f
1e26971
a9f4f1f
1e26971
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
a9f4f1f
1e26971
a9f4f1f
1e26971
a9f4f1f
1e26971
a9f4f1f
1e26971
 
a9f4f1f
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
loading env vars from: /home/inflaton/code/logical-reasoning/.env
Adding /home/inflaton/code/logical-reasoning to sys.path
loading /home/inflaton/code/logical-reasoning/llm_toolkit/logical_reasoning_utils.py
shenzhi-wang/Mistral-7B-v0.3-Chinese-Chat llama-factory/saves/Mistral-7B-v0.3-Chinese-Chat/checkpoint-350 False datasets/mgtv data/Mistral-7B-v0.3-Chinese-Chat_results.csv
(1) GPU = NVIDIA GeForce RTX 4090. Max memory = 23.988 GB.
0.0 GB of memory reserved.
loading model: shenzhi-wang/Mistral-7B-v0.3-Chinese-Chat with adapter: llama-factory/saves/Mistral-7B-v0.3-Chinese-Chat/checkpoint-350
09/10/2024 11:07:39 - INFO - llamafactory.model.patcher - Using KV cache for faster generation.
09/10/2024 11:08:29 - INFO - llamafactory.model.model_utils.attention - Using torch SDPA for faster training and inference.
09/10/2024 11:08:30 - INFO - llamafactory.model.adapter - Merged 1 adapter(s).
09/10/2024 11:08:30 - INFO - llamafactory.model.adapter - Loaded adapter(s): llama-factory/saves/Mistral-7B-v0.3-Chinese-Chat/checkpoint-350
09/10/2024 11:08:30 - INFO - llamafactory.model.loader - all params: 7,248,023,552
(2) GPU = NVIDIA GeForce RTX 4090. Max memory = 23.988 GB.
14.045 GB of memory reserved.
loading train/test data files
DatasetDict({
    train: Dataset({
        features: ['text', 'label', 'answer', 'title', 'puzzle', 'truth', 'train_text', 'prompt'],
        num_rows: 25000
    })
    test: Dataset({
        features: ['text', 'label', 'answer', 'title', 'puzzle', 'truth', 'train_text', 'prompt'],
        num_rows: 3000
    })
})
--------------------------------------------------
text: 甄加索是自杀吗
--------------------------------------------------
label: 不是
--------------------------------------------------
answer: nan
--------------------------------------------------
title: 海岸之谜
--------------------------------------------------
puzzle: 在远离城市喧嚣的海边小屋,一天清晨,邻居发现甄加索僵卧在沙滩上,已无生命迹象。现场没有发现任何打斗的迹象。请问甄加索的死因是什么?
--------------------------------------------------
truth: 甄加索是一位热爱自然的画家,他每年都会来到这个海边小屋寻找灵感。在他生命的最后几天,他一直在创作一幅描绘海洋生物的画作。在画即将完成的前一天晚上,他骑着自行车外出,打算在海边观赏夜景。然而,他在沙滩上意外发现了一只搁浅的海豚,为了救助这只海豚,他耗费了极大的体力,最终成功将其送回海中。筋疲力尽的甄加索在沙滩上睡着了,由于他患有严重的心脏病,却未告知旁人,在寒冷的海风中,他的心脏停止了跳动。因此,警方在现场只发现了车轮痕迹和未完成的画作,而没有发现任何他杀的迹象。
--------------------------------------------------
train_text: <s>[INST] 你是一个情景猜谜游戏的主持人。游戏规则如下:

1. 参与者会得到一个谜面,谜面会描述一个简单又难以理解的事件。
2. 主持人知道谜底,谜底是谜面的答案。
3. 参与者可以询问任何封闭式问题来找寻事件的真相。
4. 对于每个问题,主持人将根据实际情况回答以下五个选项之一:是、不是、不重要、回答正确、问法错误。各回答的判断标准如下:
   - 若谜面和谜底能找到问题的答案,回答:是或者不是
   - 若谜面和谜底不能直接或者间接推断出问题的答案,回答:不重要
   - 若参与者提问不是一个封闭式问题或者问题难以理解,回答:问法错误
   - 若参与者提问基本还原了谜底真相,回答:回答正确
5. 回答中不能添加任何其它信息,也不能省略选项中的任何一个字。例如,不可以把“不是”省略成“不”。

请严格按照这些规则回答参与者提出的问题。

**谜面:** 在远离城市喧嚣的海边小屋,一天清晨,邻居发现甄加索僵卧在沙滩上,已无生命迹象。现场没有发现任何打斗的迹象。请问甄加索的死因是什么?

**谜底:** 甄加索是一位热爱自然的画家,他每年都会来到这个海边小屋寻找灵感。在他生命的最后几天,他一直在创作一幅描绘海洋生物的画作。在画即将完成的前一天晚上,他骑着自行车外出,打算在海边观赏夜景。然而,他在沙滩上意外发现了一只搁浅的海豚,为了救助这只海豚,他耗费了极大的体力,最终成功将其送回海中。筋疲力尽的甄加索在沙滩上睡着了,由于他患有严重的心脏病,却未告知旁人,在寒冷的海风中,他的心脏停止了跳动。因此,警方在现场只发现了车轮痕迹和未完成的画作,而没有发现任何他杀的迹象。

**参与者提出的问题:** 甄加索是自杀吗
 [/INST]不是</s>
--------------------------------------------------
prompt: <s>[INST] 你是一个情景猜谜游戏的主持人。游戏规则如下:

1. 参与者会得到一个谜面,谜面会描述一个简单又难以理解的事件。
2. 主持人知道谜底,谜底是谜面的答案。
3. 参与者可以询问任何封闭式问题来找寻事件的真相。
4. 对于每个问题,主持人将根据实际情况回答以下五个选项之一:是、不是、不重要、回答正确、问法错误。各回答的判断标准如下:
   - 若谜面和谜底能找到问题的答案,回答:是或者不是
   - 若谜面和谜底不能直接或者间接推断出问题的答案,回答:不重要
   - 若参与者提问不是一个封闭式问题或者问题难以理解,回答:问法错误
   - 若参与者提问基本还原了谜底真相,回答:回答正确
5. 回答中不能添加任何其它信息,也不能省略选项中的任何一个字。例如,不可以把“不是”省略成“不”。

请严格按照这些规则回答参与者提出的问题。

**谜面:** 在远离城市喧嚣的海边小屋,一天清晨,邻居发现甄加索僵卧在沙滩上,已无生命迹象。现场没有发现任何打斗的迹象。请问甄加索的死因是什么?

**谜底:** 甄加索是一位热爱自然的画家,他每年都会来到这个海边小屋寻找灵感。在他生命的最后几天,他一直在创作一幅描绘海洋生物的画作。在画即将完成的前一天晚上,他骑着自行车外出,打算在海边观赏夜景。然而,他在沙滩上意外发现了一只搁浅的海豚,为了救助这只海豚,他耗费了极大的体力,最终成功将其送回海中。筋疲力尽的甄加索在沙滩上睡着了,由于他患有严重的心脏病,却未告知旁人,在寒冷的海风中,他的心脏停止了跳动。因此,警方在现场只发现了车轮痕迹和未完成的画作,而没有发现任何他杀的迹象。

**参与者提出的问题:** 甄加索是自杀吗
 [/INST]
--------------------------------------------------
text: 死者受伤了吗
--------------------------------------------------
label: 不是
--------------------------------------------------
answer: nan
--------------------------------------------------
title: 甄庄哭声
--------------------------------------------------
puzzle: 在一个安静的夜晚,小村庄的湖边突然传来了阵阵哭泣声。第二天早晨,村长甄锐发现湖边的石头上放着一顶破旧的帽子,但没有人知道这顶帽子是从哪里来的,哭泣声又是为何。请还原故事真相。
--------------------------------------------------
truth: 原来,这顶破旧的帽子属于一个小男孩,他小时候与爷爷在湖边生活。爷爷教他钓鱼、游泳,还告诉他湖中的海龟是他们的朋友。后来,小男孩随父母去了城市生活,但每年夏天都会回到村子探望爷爷。然而,去年夏天,爷爷因病去世,小男孩伤心欲绝。今年夏天,他回到村子,来到湖边,想起和爷爷的美好回忆,忍不住哭泣。他将爷爷的帽子放在湖边的石头上,希望能让爷爷的在天之灵得到安慰。那晚的哭泣声正是小男孩在祭莫他亲爱的爷爷。
--------------------------------------------------
train_text: <s>[INST] 你是一个情景猜谜游戏的主持人。游戏规则如下:

1. 参与者会得到一个谜面,谜面会描述一个简单又难以理解的事件。
2. 主持人知道谜底,谜底是谜面的答案。
3. 参与者可以询问任何封闭式问题来找寻事件的真相。
4. 对于每个问题,主持人将根据实际情况回答以下五个选项之一:是、不是、不重要、回答正确、问法错误。各回答的判断标准如下:
   - 若谜面和谜底能找到问题的答案,回答:是或者不是
   - 若谜面和谜底不能直接或者间接推断出问题的答案,回答:不重要
   - 若参与者提问不是一个封闭式问题或者问题难以理解,回答:问法错误
   - 若参与者提问基本还原了谜底真相,回答:回答正确
5. 回答中不能添加任何其它信息,也不能省略选项中的任何一个字。例如,不可以把“不是”省略成“不”。

请严格按照这些规则回答参与者提出的问题。

**谜面:** 在一个安静的夜晚,小村庄的湖边突然传来了阵阵哭泣声。第二天早晨,村长甄锐发现湖边的石头上放着一顶破旧的帽子,但没有人知道这顶帽子是从哪里来的,哭泣声又是为何。请还原故事真相。

**谜底:** 原来,这顶破旧的帽子属于一个小男孩,他小时候与爷爷在湖边生活。爷爷教他钓鱼、游泳,还告诉他湖中的海龟是他们的朋友。后来,小男孩随父母去了城市生活,但每年夏天都会回到村子探望爷爷。然而,去年夏天,爷爷因病去世,小男孩伤心欲绝。今年夏天,他回到村子,来到湖边,想起和爷爷的美好回忆,忍不住哭泣。他将爷爷的帽子放在湖边的石头上,希望能让爷爷的在天之灵得到安慰。那晚的哭泣声正是小男孩在祭莫他亲爱的爷爷。

**参与者提出的问题:** 死者受伤了吗
 [/INST]不是</s>
--------------------------------------------------
prompt: <s>[INST] 你是一个情景猜谜游戏的主持人。游戏规则如下:

1. 参与者会得到一个谜面,谜面会描述一个简单又难以理解的事件。
2. 主持人知道谜底,谜底是谜面的答案。
3. 参与者可以询问任何封闭式问题来找寻事件的真相。
4. 对于每个问题,主持人将根据实际情况回答以下五个选项之一:是、不是、不重要、回答正确、问法错误。各回答的判断标准如下:
   - 若谜面和谜底能找到问题的答案,回答:是或者不是
   - 若谜面和谜底不能直接或者间接推断出问题的答案,回答:不重要
   - 若参与者提问不是一个封闭式问题或者问题难以理解,回答:问法错误
   - 若参与者提问基本还原了谜底真相,回答:回答正确
5. 回答中不能添加任何其它信息,也不能省略选项中的任何一个字。例如,不可以把“不是”省略成“不”。

请严格按照这些规则回答参与者提出的问题。

**谜面:** 在一个安静的夜晚,小村庄的湖边突然传来了阵阵哭泣声。第二天早晨,村长甄锐发现湖边的石头上放着一顶破旧的帽子,但没有人知道这顶帽子是从哪里来的,哭泣声又是为何。请还原故事真相。

**谜底:** 原来,这顶破旧的帽子属于一个小男孩,他小时候与爷爷在湖边生活。爷爷教他钓鱼、游泳,还告诉他湖中的海龟是他们的朋友。后来,小男孩随父母去了城市生活,但每年夏天都会回到村子探望爷爷。然而,去年夏天,爷爷因病去世,小男孩伤心欲绝。今年夏天,他回到村子,来到湖边,想起和爷爷的美好回忆,忍不住哭泣。他将爷爷的帽子放在湖边的石头上,希望能让爷爷的在天之灵得到安慰。那晚的哭泣声正是小男孩在祭莫他亲爱的爷爷。

**参与者提出的问题:** 死者受伤了吗
 [/INST]
Evaluating model: shenzhi-wang/Mistral-7B-v0.3-Chinese-Chat
Batch output: ['不是', '是']
(3) GPU = NVIDIA GeForce RTX 4090. Max memory = 23.988 GB.
16.438 GB of memory reserved.
      text  ... shenzhi-wang/Mistral-7B-v0.3-Chinese-Chat/checkpoint-350_torch.float16_lf
0  甄加索是自杀吗  ...                                                 不是                       

[1 rows x 16 columns]
{'accuracy': 0.6976666666666667, 'incorrect_ids': [5, 9, 12, 17, 24, 26, 27, 28, 31, 32, 33, 34, 36, 38, 55, 58, 59, 63, 65, 66, 67, 71, 72, 75, 76, 78, 83, 88, 91, 99, 101, 102, 104, 106, 108, 109, 112, 113, 114, 115, 121, 124, 127, 128, 131, 135, 136, 137, 138, 139, 143, 150, 153, 155, 161, 164, 170, 174, 178, 179, 188, 189, 190, 191, 192, 193, 199, 200, 202, 207, 214, 216, 222, 224, 225, 230, 233, 234, 236, 243, 245, 248, 250, 251, 252, 253, 255, 257, 260, 263, 271, 272, 273, 275, 276, 283, 293, 295, 304, 305, 307, 308, 311, 314, 316, 317, 318, 320, 321, 325, 327, 328, 334, 335, 340, 341, 344, 346, 348, 349, 350, 351, 352, 353, 355, 356, 360, 361, 362, 367, 368, 370, 371, 372, 373, 374, 376, 377, 378, 383, 386, 389, 395, 396, 397, 410, 414, 416, 423, 425, 428, 430, 431, 436, 438, 440, 445, 447, 450, 452, 454, 456, 459, 460, 464, 465, 470, 471, 472, 473, 476, 480, 486, 490, 492, 493, 494, 495, 501, 502, 506, 507, 509, 510, 511, 512, 513, 514, 517, 518, 519, 520, 528, 530, 531, 536, 540, 543, 553, 560, 568, 570, 571, 578, 579, 581, 589, 591, 592, 593, 596, 597, 599, 601, 612, 613, 614, 621, 625, 626, 628, 629, 632, 644, 646, 647, 663, 665, 666, 671, 674, 678, 682, 689, 691, 695, 697, 699, 701, 702, 709, 716, 717, 720, 721, 722, 729, 730, 732, 734, 735, 739, 740, 741, 752, 754, 755, 758, 760, 766, 770, 771, 772, 774, 778, 785, 790, 791, 798, 799, 800, 802, 803, 805, 809, 813, 817, 818, 819, 820, 821, 822, 823, 824, 826, 827, 828, 833, 834, 840, 842, 847, 848, 851, 856, 857, 859, 861, 866, 867, 869, 870, 871, 875, 876, 884, 888, 889, 890, 894, 899, 901, 904, 910, 912, 913, 927, 928, 937, 940, 945, 953, 962, 964, 966, 968, 969, 980, 982, 991, 994, 998, 1001, 1003, 1006, 1007, 1011, 1012, 1014, 1017, 1022, 1028, 1036, 1038, 1040, 1045, 1046, 1051, 1053, 1056, 1057, 1066, 1069, 1071, 1073, 1076, 1077, 1078, 1080, 1081, 1087, 1089, 1096, 1098, 1107, 1108, 1111, 1116, 1121, 1125, 1129, 1135, 1138, 1139, 1141, 1143, 1153, 1161, 1163, 1166, 1167, 1168, 1170, 1172, 1177, 1178, 1180, 1181, 1185, 1192, 1203, 1209, 1220, 1228, 1232, 1239, 1241, 1242, 1251, 1252, 1258, 1259, 1267, 1269, 1274, 1278, 1292, 1293, 1299, 1305, 1306, 1308, 1311, 1313, 1314, 1315, 1317, 1322, 1323, 1324, 1326, 1331, 1339, 1342, 1349, 1353, 1354, 1358, 1361, 1362, 1363, 1365, 1367, 1370, 1374, 1380, 1384, 1385, 1386, 1387, 1388, 1391, 1402, 1406, 1407, 1413, 1416, 1417, 1420, 1422, 1423, 1427, 1430, 1432, 1440, 1445, 1450, 1451, 1452, 1453, 1454, 1457, 1459, 1460, 1462, 1469, 1470, 1473, 1476, 1478, 1486, 1490, 1494, 1495, 1496, 1500, 1501, 1504, 1506, 1512, 1516, 1517, 1525, 1526, 1528, 1533, 1536, 1547, 1554, 1558, 1560, 1561, 1562, 1567, 1568, 1573, 1581, 1584, 1585, 1587, 1588, 1590, 1591, 1593, 1594, 1603, 1604, 1605, 1606, 1611, 1622, 1624, 1627, 1631, 1633, 1636, 1637, 1641, 1645, 1647, 1648, 1654, 1655, 1658, 1667, 1668, 1671, 1672, 1673, 1674, 1678, 1679, 1683, 1686, 1689, 1690, 1691, 1694, 1695, 1700, 1701, 1704, 1712, 1716, 1726, 1727, 1734, 1736, 1738, 1739, 1743, 1745, 1751, 1752, 1753, 1755, 1756, 1758, 1766, 1768, 1769, 1770, 1779, 1780, 1786, 1787, 1796, 1798, 1799, 1800, 1810, 1812, 1814, 1816, 1824, 1826, 1827, 1835, 1841, 1848, 1854, 1858, 1860, 1867, 1872, 1879, 1880, 1881, 1888, 1897, 1899, 1919, 1933, 1934, 1935, 1941, 1944, 1945, 1949, 1953, 1957, 1958, 1962, 1963, 1964, 1970, 1973, 1978, 1979, 1981, 1984, 1989, 1990, 1992, 1994, 1995, 2001, 2008, 2013, 2017, 2019, 2021, 2029, 2035, 2040, 2049, 2054, 2059, 2062, 2064, 2070, 2076, 2077, 2078, 2081, 2088, 2091, 2092, 2094, 2100, 2102, 2106, 2109, 2110, 2112, 2114, 2118, 2119, 2120, 2121, 2126, 2130, 2133, 2138, 2139, 2141, 2145, 2147, 2160, 2161, 2162, 2164, 2167, 2169, 2173, 2174, 2177, 2180, 2183, 2185, 2186, 2188, 2193, 2194, 2196, 2197, 2199, 2212, 2214, 2222, 2223, 2226, 2230, 2233, 2237, 2240, 2243, 2245, 2246, 2247, 2250, 2254, 2260, 2261, 2262, 2274, 2278, 2281, 2287, 2297, 2309, 2311, 2312, 2319, 2320, 2322, 2324, 2330, 2333, 2335, 2336, 2344, 2348, 2354, 2360, 2364, 2365, 2366, 2367, 2370, 2376, 2378, 2379, 2389, 2390, 2395, 2398, 2400, 2404, 2407, 2409, 2410, 2412, 2420, 2423, 2424, 2425, 2429, 2437, 2440, 2441, 2442, 2445, 2446, 2461, 2463, 2465, 2469, 2472, 2474, 2475, 2477, 2484, 2486, 2488, 2491, 2493, 2499, 2501, 2511, 2515, 2517, 2522, 2529, 2530, 2532, 2535, 2538, 2540, 2545, 2547, 2548, 2549, 2554, 2555, 2556, 2559, 2560, 2562, 2566, 2575, 2589, 2590, 2592, 2597, 2605, 2606, 2607, 2610, 2616, 2623, 2624, 2629, 2644, 2653, 2655, 2658, 2660, 2661, 2663, 2664, 2667, 2670, 2672, 2676, 2678, 2686, 2691, 2704, 2707, 2711, 2714, 2715, 2716, 2719, 2730, 2731, 2732, 2735, 2736, 2744, 2746, 2747, 2749, 2754, 2756, 2757, 2760, 2761, 2762, 2764, 2766, 2767, 2769, 2777, 2781, 2786, 2787, 2788, 2791, 2793, 2795, 2798, 2801, 2803, 2805, 2807, 2810, 2811, 2812, 2815, 2816, 2820, 2823, 2824, 2837, 2841, 2843, 2844, 2845, 2851, 2854, 2857, 2858, 2860, 2867, 2870, 2877, 2878, 2880, 2882, 2884, 2885, 2888, 2896, 2899, 2902, 2905, 2912, 2913, 2915, 2916, 2921, 2933, 2935, 2937, 2938, 2942, 2944, 2949, 2953, 2955, 2963, 2966, 2967, 2973, 2975, 2979, 2980, 2981, 2983, 2985, 2990, 2991, 2995, 2998, 2999]}