rahul2001 commited on
Commit
8a55d0a
·
1 Parent(s): ba19e16

hyper parameter tuning

Browse files
catboost_info/catboost_training.json CHANGED
The diff for this file is too large to render. See raw diff
 
catboost_info/learn/events.out.tfevents CHANGED
Binary files a/catboost_info/learn/events.out.tfevents and b/catboost_info/learn/events.out.tfevents differ
 
catboost_info/learn_error.tsv CHANGED
@@ -1,1001 +1,101 @@
1
  iter RMSE
2
- 0 14.60668376
3
- 1 14.22257463
4
- 2 13.86007014
5
- 3 13.48925673
6
- 4 13.14139172
7
- 5 12.83049051
8
- 6 12.54910476
9
- 7 12.30208677
10
- 8 12.05365227
11
- 9 11.76062999
12
- 10 11.47503327
13
- 11 11.22781413
14
- 12 10.99600665
15
- 13 10.75897715
16
- 14 10.52407085
17
- 15 10.28397662
18
- 16 10.11579733
19
- 17 9.91933306
20
- 18 9.735798379
21
- 19 9.549818053
22
- 20 9.363353725
23
- 21 9.182309467
24
- 22 9.015291624
25
- 23 8.856914943
26
- 24 8.712403835
27
- 25 8.574287791
28
- 26 8.444249085
29
- 27 8.317384933
30
- 28 8.178590362
31
- 29 8.073002609
32
- 30 7.960563766
33
- 31 7.849441712
34
- 32 7.753838111
35
- 33 7.65937175
36
- 34 7.563791126
37
- 35 7.465628415
38
- 36 7.372242355
39
- 37 7.279241408
40
- 38 7.197765978
41
- 39 7.111690502
42
- 40 7.038043693
43
- 41 6.980533113
44
- 42 6.930878627
45
- 43 6.861359427
46
- 44 6.791709927
47
- 45 6.722598419
48
- 46 6.660883366
49
- 47 6.590187959
50
- 48 6.537772531
51
- 49 6.482294921
52
- 50 6.430416922
53
- 51 6.385699129
54
- 52 6.339986475
55
- 53 6.294925183
56
- 54 6.251214092
57
- 55 6.214835702
58
- 56 6.174090167
59
- 57 6.135237075
60
- 58 6.104992674
61
- 59 6.069774311
62
- 60 6.037442582
63
- 61 6.011559165
64
- 62 5.98236416
65
- 63 5.961645238
66
- 64 5.93462792
67
- 65 5.908467573
68
- 66 5.880785593
69
- 67 5.854718337
70
- 68 5.833208938
71
- 69 5.809116724
72
- 70 5.787466663
73
- 71 5.764701325
74
- 72 5.746845754
75
- 73 5.726603353
76
- 74 5.705827871
77
- 75 5.685698161
78
- 76 5.663933629
79
- 77 5.645013263
80
- 78 5.627844238
81
- 79 5.612897399
82
- 80 5.59678302
83
- 81 5.580711097
84
- 82 5.562808538
85
- 83 5.54403869
86
- 84 5.532915839
87
- 85 5.520612705
88
- 86 5.508675092
89
- 87 5.495625878
90
- 88 5.47850611
91
- 89 5.464947477
92
- 90 5.452391163
93
- 91 5.442414252
94
- 92 5.431117007
95
- 93 5.423640202
96
- 94 5.412886091
97
- 95 5.405320379
98
- 96 5.394580672
99
- 97 5.383231997
100
- 98 5.37177115
101
- 99 5.358369826
102
- 100 5.345397971
103
- 101 5.334246249
104
- 102 5.325113118
105
- 103 5.312209731
106
- 104 5.303579188
107
- 105 5.295855292
108
- 106 5.285745462
109
- 107 5.275471332
110
- 108 5.26878527
111
- 109 5.259510609
112
- 110 5.256859511
113
- 111 5.248370697
114
- 112 5.240869717
115
- 113 5.233490314
116
- 114 5.229393082
117
- 115 5.227776592
118
- 116 5.222816869
119
- 117 5.212607193
120
- 118 5.207183606
121
- 119 5.201880074
122
- 120 5.198722638
123
- 121 5.19634166
124
- 122 5.191236698
125
- 123 5.182306897
126
- 124 5.1776392
127
- 125 5.171884304
128
- 126 5.168034616
129
- 127 5.163630008
130
- 128 5.1605863
131
- 129 5.155852928
132
- 130 5.147862642
133
- 131 5.141822608
134
- 132 5.133729584
135
- 133 5.12953466
136
- 134 5.124071702
137
- 135 5.121763255
138
- 136 5.115227606
139
- 137 5.110619641
140
- 138 5.105826828
141
- 139 5.101372092
142
- 140 5.098689588
143
- 141 5.095510592
144
- 142 5.089056379
145
- 143 5.080095448
146
- 144 5.076682447
147
- 145 5.073643
148
- 146 5.068159407
149
- 147 5.065231925
150
- 148 5.061829803
151
- 149 5.056818786
152
- 150 5.053301142
153
- 151 5.047496812
154
- 152 5.042691251
155
- 153 5.038156648
156
- 154 5.035959636
157
- 155 5.03106259
158
- 156 5.022693054
159
- 157 5.017937636
160
- 158 5.015374112
161
- 159 5.010812749
162
- 160 5.005910011
163
- 161 4.998796494
164
- 162 4.994873605
165
- 163 4.992358759
166
- 164 4.988636915
167
- 165 4.982985111
168
- 166 4.980372049
169
- 167 4.978007657
170
- 168 4.97364116
171
- 169 4.97001727
172
- 170 4.964689283
173
- 171 4.962205787
174
- 172 4.958647148
175
- 173 4.951792855
176
- 174 4.946440773
177
- 175 4.943645617
178
- 176 4.936813978
179
- 177 4.934049177
180
- 178 4.929611317
181
- 179 4.925111917
182
- 180 4.92072123
183
- 181 4.915982362
184
- 182 4.910038783
185
- 183 4.904876155
186
- 184 4.901688829
187
- 185 4.899636689
188
- 186 4.894185021
189
- 187 4.889992899
190
- 188 4.885304372
191
- 189 4.881837666
192
- 190 4.879965664
193
- 191 4.873233821
194
- 192 4.870233156
195
- 193 4.867083098
196
- 194 4.863586698
197
- 195 4.859222908
198
- 196 4.855867957
199
- 197 4.852631742
200
- 198 4.849742015
201
- 199 4.84647841
202
- 200 4.843895383
203
- 201 4.840054637
204
- 202 4.838135564
205
- 203 4.834995585
206
- 204 4.831970066
207
- 205 4.828406258
208
- 206 4.825689172
209
- 207 4.823281104
210
- 208 4.818011775
211
- 209 4.814916651
212
- 210 4.810881626
213
- 211 4.805755734
214
- 212 4.802803131
215
- 213 4.799614236
216
- 214 4.797702058
217
- 215 4.796438123
218
- 216 4.792670749
219
- 217 4.791052772
220
- 218 4.787559364
221
- 219 4.784288171
222
- 220 4.780515913
223
- 221 4.776006872
224
- 222 4.772224552
225
- 223 4.768341669
226
- 224 4.766859282
227
- 225 4.76153681
228
- 226 4.75378697
229
- 227 4.749432696
230
- 228 4.744716327
231
- 229 4.741481093
232
- 230 4.737236301
233
- 231 4.732100637
234
- 232 4.729576719
235
- 233 4.727488318
236
- 234 4.723514205
237
- 235 4.720230407
238
- 236 4.717091007
239
- 237 4.714368087
240
- 238 4.709590961
241
- 239 4.70485378
242
- 240 4.698174637
243
- 241 4.695370953
244
- 242 4.688882396
245
- 243 4.685236812
246
- 244 4.68191208
247
- 245 4.679031934
248
- 246 4.676890275
249
- 247 4.674668467
250
- 248 4.673009747
251
- 249 4.667130367
252
- 250 4.66472352
253
- 251 4.661317009
254
- 252 4.655537318
255
- 253 4.653714732
256
- 254 4.647921093
257
- 255 4.645146133
258
- 256 4.642140406
259
- 257 4.639510149
260
- 258 4.634359194
261
- 259 4.632717324
262
- 260 4.630582367
263
- 261 4.627893222
264
- 262 4.626362777
265
- 263 4.623957557
266
- 264 4.620250521
267
- 265 4.614834116
268
- 266 4.611290681
269
- 267 4.606983096
270
- 268 4.606053017
271
- 269 4.599354622
272
- 270 4.595838633
273
- 271 4.593854125
274
- 272 4.590469777
275
- 273 4.585712896
276
- 274 4.579478565
277
- 275 4.577578503
278
- 276 4.571076916
279
- 277 4.567674521
280
- 278 4.565812122
281
- 279 4.561941151
282
- 280 4.556788062
283
- 281 4.552879294
284
- 282 4.55205044
285
- 283 4.550237573
286
- 284 4.546069989
287
- 285 4.544269197
288
- 286 4.542675258
289
- 287 4.538143571
290
- 288 4.533674522
291
- 289 4.530165467
292
- 290 4.525695533
293
- 291 4.521336599
294
- 292 4.516061109
295
- 293 4.514189672
296
- 294 4.510206827
297
- 295 4.505863178
298
- 296 4.501121951
299
- 297 4.494907772
300
- 298 4.493204037
301
- 299 4.488848604
302
- 300 4.485441437
303
- 301 4.48036418
304
- 302 4.477277644
305
- 303 4.473868021
306
- 304 4.469766357
307
- 305 4.465948295
308
- 306 4.463944795
309
- 307 4.462017176
310
- 308 4.456581439
311
- 309 4.455578207
312
- 310 4.45471769
313
- 311 4.450290225
314
- 312 4.446692546
315
- 313 4.441477019
316
- 314 4.437763322
317
- 315 4.435434454
318
- 316 4.433594492
319
- 317 4.428491418
320
- 318 4.425420132
321
- 319 4.423440189
322
- 320 4.420663598
323
- 321 4.418794434
324
- 322 4.415436322
325
- 323 4.413771638
326
- 324 4.410951397
327
- 325 4.409485002
328
- 326 4.407863782
329
- 327 4.403859868
330
- 328 4.398202067
331
- 329 4.393533784
332
- 330 4.390105052
333
- 331 4.388838145
334
- 332 4.385023164
335
- 333 4.379684609
336
- 334 4.375562042
337
- 335 4.373750156
338
- 336 4.369567164
339
- 337 4.368235387
340
- 338 4.364635401
341
- 339 4.358704319
342
- 340 4.353835877
343
- 341 4.350396919
344
- 342 4.348713878
345
- 343 4.347152107
346
- 344 4.342562983
347
- 345 4.339173715
348
- 346 4.338372738
349
- 347 4.334195928
350
- 348 4.333173018
351
- 349 4.331964204
352
- 350 4.330554093
353
- 351 4.329779799
354
- 352 4.328530889
355
- 353 4.326839249
356
- 354 4.32543599
357
- 355 4.321554995
358
- 356 4.316332822
359
- 357 4.313094855
360
- 358 4.310642103
361
- 359 4.308315982
362
- 360 4.305100085
363
- 361 4.301820781
364
- 362 4.297459199
365
- 363 4.294459521
366
- 364 4.292891424
367
- 365 4.291682388
368
- 366 4.289607142
369
- 367 4.2844034
370
- 368 4.279796532
371
- 369 4.276571704
372
- 370 4.275391327
373
- 371 4.274661707
374
- 372 4.269708809
375
- 373 4.266733539
376
- 374 4.262526778
377
- 375 4.258310657
378
- 376 4.257477665
379
- 377 4.252704008
380
- 378 4.248748677
381
- 379 4.244094278
382
- 380 4.240653404
383
- 381 4.237311518
384
- 382 4.233393404
385
- 383 4.22876645
386
- 384 4.227377182
387
- 385 4.225423556
388
- 386 4.222666613
389
- 387 4.218805699
390
- 388 4.217863448
391
- 389 4.216178341
392
- 390 4.213529032
393
- 391 4.211841601
394
- 392 4.210271888
395
- 393 4.209199928
396
- 394 4.207442252
397
- 395 4.20513565
398
- 396 4.200408322
399
- 397 4.196242344
400
- 398 4.193251998
401
- 399 4.192653487
402
- 400 4.191570358
403
- 401 4.188461607
404
- 402 4.184791541
405
- 403 4.181068657
406
- 404 4.177620506
407
- 405 4.176253823
408
- 406 4.175976526
409
- 407 4.175247405
410
- 408 4.171826826
411
- 409 4.170997258
412
- 410 4.169763855
413
- 411 4.168570209
414
- 412 4.164441179
415
- 413 4.161787504
416
- 414 4.15874983
417
- 415 4.156906987
418
- 416 4.155841117
419
- 417 4.153450629
420
- 418 4.150071759
421
- 419 4.149482247
422
- 420 4.146598693
423
- 421 4.143851059
424
- 422 4.140591764
425
- 423 4.139485415
426
- 424 4.138145765
427
- 425 4.135056465
428
- 426 4.130025793
429
- 427 4.126383134
430
- 428 4.121673168
431
- 429 4.119475154
432
- 430 4.116391437
433
- 431 4.112298266
434
- 432 4.110364976
435
- 433 4.107745197
436
- 434 4.103316261
437
- 435 4.102599417
438
- 436 4.10029635
439
- 437 4.098648285
440
- 438 4.095006836
441
- 439 4.09261162
442
- 440 4.088025967
443
- 441 4.087778864
444
- 442 4.083569248
445
- 443 4.081437385
446
- 444 4.080370889
447
- 445 4.079903451
448
- 446 4.07679964
449
- 447 4.074082164
450
- 448 4.071670298
451
- 449 4.068524958
452
- 450 4.066469798
453
- 451 4.065325108
454
- 452 4.062494901
455
- 453 4.06120266
456
- 454 4.057590205
457
- 455 4.052997825
458
- 456 4.049045996
459
- 457 4.046500814
460
- 458 4.043326366
461
- 459 4.04154476
462
- 460 4.040779289
463
- 461 4.037266603
464
- 462 4.036186171
465
- 463 4.032424682
466
- 464 4.03092575
467
- 465 4.027242213
468
- 466 4.023670504
469
- 467 4.023087661
470
- 468 4.018645431
471
- 469 4.017525606
472
- 470 4.014087453
473
- 471 4.01022635
474
- 472 4.008101532
475
- 473 4.004643888
476
- 474 4.001619149
477
- 475 3.999712474
478
- 476 3.997411603
479
- 477 3.995407429
480
- 478 3.994830179
481
- 479 3.991849539
482
- 480 3.988731918
483
- 481 3.987432252
484
- 482 3.986826661
485
- 483 3.985608287
486
- 484 3.983262705
487
- 485 3.982080691
488
- 486 3.98111299
489
- 487 3.980826905
490
- 488 3.976933652
491
- 489 3.973572482
492
- 490 3.970506866
493
- 491 3.968548019
494
- 492 3.966046627
495
- 493 3.961827126
496
- 494 3.959355935
497
- 495 3.95693258
498
- 496 3.954249319
499
- 497 3.953194769
500
- 498 3.950987971
501
- 499 3.94781034
502
- 500 3.944701525
503
- 501 3.942451728
504
- 502 3.939059585
505
- 503 3.936989611
506
- 504 3.934795819
507
- 505 3.931273603
508
- 506 3.926067728
509
- 507 3.924233003
510
- 508 3.921226793
511
- 509 3.91887563
512
- 510 3.918620206
513
- 511 3.916888921
514
- 512 3.913173929
515
- 513 3.912078716
516
- 514 3.908958821
517
- 515 3.908037912
518
- 516 3.907510011
519
- 517 3.907144961
520
- 518 3.904127264
521
- 519 3.901972582
522
- 520 3.898556311
523
- 521 3.896035962
524
- 522 3.895593961
525
- 523 3.892802344
526
- 524 3.890520995
527
- 525 3.888556475
528
- 526 3.887917036
529
- 527 3.884544323
530
- 528 3.881437989
531
- 529 3.878489442
532
- 530 3.875758676
533
- 531 3.872064754
534
- 532 3.869889346
535
- 533 3.867183671
536
- 534 3.865360926
537
- 535 3.863896221
538
- 536 3.861499719
539
- 537 3.8588285
540
- 538 3.855629897
541
- 539 3.853482188
542
- 540 3.852899865
543
- 541 3.848580672
544
- 542 3.846441385
545
- 543 3.844635463
546
- 544 3.843687616
547
- 545 3.841079028
548
- 546 3.838982703
549
- 547 3.835569662
550
- 548 3.830740935
551
- 549 3.830205339
552
- 550 3.828241182
553
- 551 3.824527886
554
- 552 3.821598559
555
- 553 3.820620635
556
- 554 3.817169245
557
- 555 3.816745591
558
- 556 3.814873542
559
- 557 3.812728506
560
- 558 3.811802933
561
- 559 3.809681236
562
- 560 3.806918768
563
- 561 3.804151964
564
- 562 3.800036738
565
- 563 3.798489897
566
- 564 3.798281361
567
- 565 3.797804492
568
- 566 3.795754141
569
- 567 3.793015827
570
- 568 3.791784001
571
- 569 3.790003497
572
- 570 3.789635108
573
- 571 3.788501864
574
- 572 3.786886282
575
- 573 3.785122678
576
- 574 3.784297612
577
- 575 3.783398374
578
- 576 3.781411833
579
- 577 3.777863166
580
- 578 3.776585907
581
- 579 3.772468367
582
- 580 3.771336019
583
- 581 3.769834253
584
- 582 3.765944124
585
- 583 3.76317445
586
- 584 3.760490533
587
- 585 3.757426609
588
- 586 3.755878186
589
- 587 3.753744233
590
- 588 3.751930742
591
- 589 3.748287666
592
- 590 3.746485785
593
- 591 3.743773353
594
- 592 3.74312573
595
- 593 3.739914357
596
- 594 3.737636183
597
- 595 3.735922706
598
- 596 3.731933404
599
- 597 3.731553899
600
- 598 3.729025826
601
- 599 3.726394289
602
- 600 3.725986347
603
- 601 3.723607759
604
- 602 3.722895672
605
- 603 3.720981914
606
- 604 3.71974882
607
- 605 3.71933913
608
- 606 3.715097015
609
- 607 3.712023795
610
- 608 3.711015837
611
- 609 3.710315852
612
- 610 3.707903882
613
- 611 3.706626204
614
- 612 3.70377193
615
- 613 3.69936852
616
- 614 3.697552798
617
- 615 3.695003019
618
- 616 3.692306804
619
- 617 3.689229087
620
- 618 3.686963308
621
- 619 3.684244742
622
- 620 3.681182737
623
- 621 3.68000767
624
- 622 3.677276261
625
- 623 3.674927503
626
- 624 3.673314161
627
- 625 3.671526302
628
- 626 3.66973699
629
- 627 3.668230934
630
- 628 3.666212445
631
- 629 3.665500557
632
- 630 3.663887204
633
- 631 3.659585311
634
- 632 3.65883028
635
- 633 3.655918496
636
- 634 3.653073381
637
- 635 3.652827308
638
- 636 3.65103949
639
- 637 3.64631626
640
- 638 3.645516059
641
- 639 3.645199956
642
- 640 3.641869792
643
- 641 3.640952062
644
- 642 3.640688876
645
- 643 3.638528374
646
- 644 3.63816075
647
- 645 3.636514375
648
- 646 3.634690647
649
- 647 3.631927533
650
- 648 3.631592616
651
- 649 3.630038953
652
- 650 3.628634802
653
- 651 3.626819121
654
- 652 3.625480063
655
- 653 3.623641399
656
- 654 3.622595846
657
- 655 3.619921774
658
- 656 3.616034828
659
- 657 3.611346571
660
- 658 3.607870184
661
- 659 3.605339373
662
- 660 3.603119024
663
- 661 3.602741358
664
- 662 3.599373988
665
- 663 3.597008454
666
- 664 3.595515375
667
- 665 3.592048565
668
- 666 3.589908884
669
- 667 3.587374095
670
- 668 3.5856298
671
- 669 3.584309341
672
- 670 3.582928621
673
- 671 3.581695995
674
- 672 3.580823193
675
- 673 3.577619359
676
- 674 3.574682774
677
- 675 3.571600787
678
- 676 3.568369469
679
- 677 3.566230558
680
- 678 3.562656114
681
- 679 3.562564912
682
- 680 3.560785103
683
- 681 3.557145799
684
- 682 3.554244301
685
- 683 3.552249127
686
- 684 3.547988782
687
- 685 3.547735694
688
- 686 3.546093992
689
- 687 3.543729377
690
- 688 3.540675945
691
- 689 3.539108788
692
- 690 3.536319966
693
- 691 3.534654946
694
- 692 3.53270958
695
- 693 3.531667143
696
- 694 3.531442372
697
- 695 3.528743529
698
- 696 3.527607369
699
- 697 3.524894454
700
- 698 3.522329803
701
- 699 3.51955641
702
- 700 3.518561477
703
- 701 3.517397289
704
- 702 3.517029447
705
- 703 3.516365001
706
- 704 3.512707279
707
- 705 3.508952024
708
- 706 3.507971439
709
- 707 3.505849904
710
- 708 3.503438751
711
- 709 3.500916146
712
- 710 3.495805091
713
- 711 3.493405834
714
- 712 3.491689896
715
- 713 3.489695544
716
- 714 3.489485236
717
- 715 3.486439073
718
- 716 3.484591806
719
- 717 3.480287657
720
- 718 3.480030075
721
- 719 3.476680227
722
- 720 3.47465449
723
- 721 3.472178631
724
- 722 3.469862407
725
- 723 3.468389937
726
- 724 3.466875124
727
- 725 3.464644237
728
- 726 3.464338526
729
- 727 3.462696937
730
- 728 3.462378946
731
- 729 3.462124479
732
- 730 3.461352565
733
- 731 3.459505615
734
- 732 3.456810428
735
- 733 3.455981982
736
- 734 3.452343773
737
- 735 3.450742178
738
- 736 3.450507929
739
- 737 3.449548767
740
- 738 3.446365876
741
- 739 3.442784089
742
- 740 3.439867615
743
- 741 3.437543385
744
- 742 3.435161295
745
- 743 3.433782999
746
- 744 3.433558718
747
- 745 3.43144786
748
- 746 3.428890588
749
- 747 3.428048205
750
- 748 3.424380443
751
- 749 3.421388419
752
- 750 3.420604055
753
- 751 3.420337155
754
- 752 3.418269066
755
- 753 3.416189722
756
- 754 3.415516258
757
- 755 3.413740426
758
- 756 3.410262896
759
- 757 3.40740523
760
- 758 3.406685148
761
- 759 3.405444129
762
- 760 3.401757601
763
- 761 3.398728263
764
- 762 3.396895447
765
- 763 3.396017402
766
- 764 3.39553727
767
- 765 3.393541738
768
- 766 3.391842488
769
- 767 3.391587022
770
- 768 3.391298134
771
- 769 3.390374247
772
- 770 3.388739518
773
- 771 3.387167611
774
- 772 3.384530098
775
- 773 3.382797907
776
- 774 3.381408569
777
- 775 3.380358841
778
- 776 3.379519577
779
- 777 3.378770948
780
- 778 3.377667458
781
- 779 3.377353089
782
- 780 3.373447394
783
- 781 3.373100667
784
- 782 3.371019666
785
- 783 3.368559797
786
- 784 3.365628039
787
- 785 3.365307446
788
- 786 3.363746285
789
- 787 3.362678244
790
- 788 3.362470877
791
- 789 3.360142547
792
- 790 3.357900027
793
- 791 3.357014937
794
- 792 3.355298674
795
- 793 3.355010622
796
- 794 3.352211141
797
- 795 3.350613339
798
- 796 3.347983185
799
- 797 3.347684663
800
- 798 3.346886201
801
- 799 3.345456514
802
- 800 3.342095339
803
- 801 3.34086442
804
- 802 3.338068378
805
- 803 3.33719828
806
- 804 3.333706102
807
- 805 3.333455405
808
- 806 3.331900529
809
- 807 3.329664489
810
- 808 3.328157314
811
- 809 3.326891618
812
- 810 3.326651447
813
- 811 3.32533905
814
- 812 3.323934978
815
- 813 3.322496149
816
- 814 3.319465342
817
- 815 3.317377906
818
- 816 3.316799017
819
- 817 3.31408167
820
- 818 3.313316887
821
- 819 3.311952206
822
- 820 3.310124342
823
- 821 3.309396577
824
- 822 3.306515113
825
- 823 3.306283001
826
- 824 3.304990447
827
- 825 3.301555893
828
- 826 3.300443401
829
- 827 3.298751912
830
- 828 3.297625274
831
- 829 3.297503971
832
- 830 3.294234953
833
- 831 3.292981127
834
- 832 3.291594865
835
- 833 3.291058667
836
- 834 3.289857382
837
- 835 3.288161483
838
- 836 3.286703611
839
- 837 3.283941174
840
- 838 3.283000234
841
- 839 3.281485088
842
- 840 3.280176684
843
- 841 3.279874713
844
- 842 3.279073464
845
- 843 3.278158436
846
- 844 3.277749397
847
- 845 3.275155115
848
- 846 3.274298307
849
- 847 3.274098018
850
- 848 3.273120057
851
- 849 3.271164586
852
- 850 3.27093934
853
- 851 3.270026755
854
- 852 3.268080172
855
- 853 3.26538731
856
- 854 3.26473234
857
- 855 3.264300861
858
- 856 3.264124256
859
- 857 3.262600163
860
- 858 3.262195626
861
- 859 3.259742422
862
- 860 3.257835274
863
- 861 3.255318715
864
- 862 3.25520973
865
- 863 3.25335556
866
- 864 3.252883113
867
- 865 3.251183344
868
- 866 3.250319208
869
- 867 3.247181422
870
- 868 3.245926375
871
- 869 3.242746577
872
- 870 3.239714175
873
- 871 3.239330965
874
- 872 3.23673456
875
- 873 3.235040726
876
- 874 3.233187421
877
- 875 3.229855644
878
- 876 3.229731479
879
- 877 3.228105556
880
- 878 3.227459541
881
- 879 3.226648333
882
- 880 3.22549932
883
- 881 3.223146569
884
- 882 3.222325914
885
- 883 3.221625696
886
- 884 3.221318475
887
- 885 3.22077519
888
- 886 3.218964923
889
- 887 3.216067338
890
- 888 3.214200293
891
- 889 3.211665848
892
- 890 3.21132398
893
- 891 3.211171853
894
- 892 3.210251759
895
- 893 3.208245883
896
- 894 3.207485961
897
- 895 3.206250924
898
- 896 3.203592509
899
- 897 3.202978456
900
- 898 3.200905168
901
- 899 3.199572306
902
- 900 3.198909512
903
- 901 3.198615891
904
- 902 3.196275786
905
- 903 3.194942782
906
- 904 3.192972019
907
- 905 3.192375162
908
- 906 3.189298162
909
- 907 3.187799043
910
- 908 3.185471981
911
- 909 3.183761181
912
- 910 3.180048955
913
- 911 3.178950789
914
- 912 3.177854142
915
- 913 3.175825898
916
- 914 3.173880927
917
- 915 3.170911621
918
- 916 3.170643201
919
- 917 3.169047636
920
- 918 3.168355049
921
- 919 3.16687337
922
- 920 3.166711732
923
- 921 3.165200957
924
- 922 3.164903217
925
- 923 3.162393518
926
- 924 3.160151141
927
- 925 3.158018412
928
- 926 3.156743185
929
- 927 3.155791988
930
- 928 3.154258156
931
- 929 3.153221571
932
- 930 3.151948314
933
- 931 3.149738428
934
- 932 3.148005052
935
- 933 3.146256604
936
- 934 3.146057276
937
- 935 3.143876997
938
- 936 3.141188321
939
- 937 3.13795791
940
- 938 3.135459242
941
- 939 3.135264435
942
- 940 3.134594862
943
- 941 3.134310236
944
- 942 3.13300799
945
- 943 3.131833592
946
- 944 3.13166447
947
- 945 3.129906702
948
- 946 3.128643455
949
- 947 3.126327556
950
- 948 3.12559696
951
- 949 3.124743667
952
- 950 3.122734848
953
- 951 3.119713098
954
- 952 3.118462352
955
- 953 3.116703454
956
- 954 3.116402219
957
- 955 3.115391477
958
- 956 3.114163084
959
- 957 3.113834789
960
- 958 3.113127209
961
- 959 3.112759886
962
- 960 3.110842429
963
- 961 3.110271025
964
- 962 3.109238215
965
- 963 3.109060688
966
- 964 3.107655795
967
- 965 3.107489184
968
- 966 3.106318465
969
- 967 3.104297776
970
- 968 3.103929047
971
- 969 3.102846484
972
- 970 3.100757638
973
- 971 3.100177069
974
- 972 3.097267668
975
- 973 3.094997704
976
- 974 3.094844102
977
- 975 3.09391157
978
- 976 3.092683705
979
- 977 3.092515739
980
- 978 3.090762334
981
- 979 3.090647667
982
- 980 3.088810543
983
- 981 3.088629009
984
- 982 3.086675048
985
- 983 3.084558284
986
- 984 3.083306544
987
- 985 3.082286531
988
- 986 3.079551814
989
- 987 3.077801645
990
- 988 3.075518282
991
- 989 3.073399369
992
- 990 3.073077546
993
- 991 3.07018272
994
- 992 3.068293246
995
- 993 3.066906761
996
- 994 3.064516522
997
- 995 3.063620715
998
- 996 3.061597636
999
- 997 3.061469059
1000
- 998 3.059598553
1001
- 999 3.057799781
 
1
  iter RMSE
2
+ 0 13.99348315
3
+ 1 13.08679896
4
+ 2 12.24911066
5
+ 3 11.53058054
6
+ 4 10.84207334
7
+ 5 10.30180643
8
+ 6 9.78256195
9
+ 7 9.383051568
10
+ 8 8.99755936
11
+ 9 8.583469865
12
+ 10 8.227667947
13
+ 11 7.929112785
14
+ 12 7.684630471
15
+ 13 7.424891669
16
+ 14 7.201854992
17
+ 15 6.982008334
18
+ 16 6.825014781
19
+ 17 6.660105229
20
+ 18 6.506800805
21
+ 19 6.376253871
22
+ 20 6.266699941
23
+ 21 6.183713198
24
+ 22 6.095001646
25
+ 23 6.017210026
26
+ 24 5.926879154
27
+ 25 5.869115164
28
+ 26 5.794295297
29
+ 27 5.736659494
30
+ 28 5.688737334
31
+ 29 5.646276694
32
+ 30 5.60024339
33
+ 31 5.562148648
34
+ 32 5.518152613
35
+ 33 5.469872589
36
+ 34 5.45057841
37
+ 35 5.428112506
38
+ 36 5.402930191
39
+ 37 5.378422269
40
+ 38 5.357370046
41
+ 39 5.323772692
42
+ 40 5.299500716
43
+ 41 5.281272066
44
+ 42 5.263540736
45
+ 43 5.254240202
46
+ 44 5.239421602
47
+ 45 5.217876804
48
+ 46 5.196339687
49
+ 47 5.173762601
50
+ 48 5.157351931
51
+ 49 5.145163366
52
+ 50 5.132132849
53
+ 51 5.121703354
54
+ 52 5.117554392
55
+ 53 5.110919902
56
+ 54 5.099775896
57
+ 55 5.081971316
58
+ 56 5.063256046
59
+ 57 5.046093491
60
+ 58 5.032051633
61
+ 59 5.018495584
62
+ 60 5.008909962
63
+ 61 4.99771367
64
+ 62 4.989916869
65
+ 63 4.981820588
66
+ 64 4.960666189
67
+ 65 4.94706364
68
+ 66 4.938906099
69
+ 67 4.920677053
70
+ 68 4.903676084
71
+ 69 4.897635401
72
+ 70 4.889952833
73
+ 71 4.882302534
74
+ 72 4.873750572
75
+ 73 4.865386403
76
+ 74 4.857493367
77
+ 75 4.848032763
78
+ 76 4.839634573
79
+ 77 4.826534384
80
+ 78 4.81907123
81
+ 79 4.811944485
82
+ 80 4.807339578
83
+ 81 4.79836765
84
+ 82 4.776924133
85
+ 83 4.768244651
86
+ 84 4.761240486
87
+ 85 4.751984925
88
+ 86 4.733949017
89
+ 87 4.727594275
90
+ 88 4.713457982
91
+ 89 4.706779065
92
+ 90 4.696353448
93
+ 91 4.685069481
94
+ 92 4.679105072
95
+ 93 4.669998076
96
+ 94 4.655194439
97
+ 95 4.6402433
98
+ 96 4.620675835
99
+ 97 4.617949274
100
+ 98 4.611545659
101
+ 99 4.59686047
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
catboost_info/time_left.tsv CHANGED
@@ -1,1001 +1,101 @@
1
  iter Passed Remaining
2
- 0 136 136842
3
- 1 137 68851
4
- 2 138 46165
5
- 3 139 34799
6
- 4 140 28003
7
- 5 141 23497
8
- 6 142 20246
9
- 7 143 17812
10
- 8 144 15911
11
- 9 145 14398
12
- 10 146 13173
13
- 11 147 12159
14
- 12 148 11286
15
- 13 149 10540
16
- 14 150 9897
17
- 15 151 9328
18
- 16 152 8802
19
- 17 153 8350
20
- 18 153 7947
21
- 19 154 7589
22
- 20 155 7252
23
- 21 156 6947
24
- 22 156 6668
25
- 23 157 6419
26
- 24 158 6191
27
- 25 159 5980
28
- 26 160 5778
29
- 27 161 5590
30
- 28 161 5416
31
- 29 162 5257
32
- 30 163 5108
33
- 31 164 4971
34
- 32 165 4840
35
- 33 166 4718
36
- 34 166 4600
37
- 35 167 4486
38
- 36 168 4386
39
- 37 169 4288
40
- 38 170 4198
41
- 39 171 4112
42
- 40 172 4025
43
- 41 172 3943
44
- 42 173 3862
45
- 43 174 3793
46
- 44 175 3725
47
- 45 176 3655
48
- 46 176 3588
49
- 47 177 3526
50
- 48 178 3468
51
- 49 179 3413
52
- 50 180 3357
53
- 51 181 3302
54
- 52 181 3250
55
- 53 182 3199
56
- 54 183 3151
57
- 55 184 3106
58
- 56 185 3064
59
- 57 186 3021
60
- 58 186 2978
61
- 59 187 2938
62
- 60 188 2902
63
- 61 189 2869
64
- 62 190 2837
65
- 63 191 2801
66
- 64 192 2766
67
- 65 193 2732
68
- 66 193 2700
69
- 67 194 2671
70
- 68 195 2641
71
- 69 196 2610
72
- 70 197 2581
73
- 71 198 2552
74
- 72 198 2525
75
- 73 199 2500
76
- 74 200 2478
77
- 75 201 2452
78
- 76 202 2426
79
- 77 203 2401
80
- 78 203 2377
81
- 79 204 2356
82
- 80 205 2337
83
- 81 206 2313
84
- 82 207 2291
85
- 83 208 2268
86
- 84 208 2247
87
- 85 209 2229
88
- 86 210 2212
89
- 87 211 2194
90
- 88 212 2174
91
- 89 213 2156
92
- 90 214 2139
93
- 91 215 2122
94
- 92 215 2106
95
- 93 216 2088
96
- 94 217 2071
97
- 95 218 2054
98
- 96 219 2039
99
- 97 220 2025
100
- 98 221 2012
101
- 99 221 1996
102
- 100 222 1981
103
- 101 223 1966
104
- 102 224 1952
105
- 103 225 1939
106
- 104 226 1926
107
- 105 226 1912
108
- 106 227 1898
109
- 107 228 1884
110
- 108 228 1871
111
- 109 229 1859
112
- 110 230 1846
113
- 111 231 1834
114
- 112 232 1822
115
- 113 232 1810
116
- 114 233 1797
117
- 115 234 1784
118
- 116 235 1774
119
- 117 236 1764
120
- 118 236 1754
121
- 119 237 1742
122
- 120 238 1731
123
- 121 238 1718
124
- 122 239 1708
125
- 123 240 1699
126
- 124 241 1690
127
- 125 242 1680
128
- 126 243 1672
129
- 127 244 1662
130
- 128 244 1653
131
- 129 245 1645
132
- 130 246 1636
133
- 131 247 1627
134
- 132 248 1617
135
- 133 248 1608
136
- 134 249 1600
137
- 135 250 1592
138
- 136 251 1586
139
- 137 252 1577
140
- 138 253 1568
141
- 139 254 1560
142
- 140 254 1553
143
- 141 255 1545
144
- 142 256 1538
145
- 143 257 1531
146
- 144 258 1523
147
- 145 259 1515
148
- 146 259 1508
149
- 147 260 1501
150
- 148 262 1496
151
- 149 262 1488
152
- 150 263 1481
153
- 151 264 1473
154
- 152 264 1466
155
- 153 265 1460
156
- 154 266 1454
157
- 155 267 1447
158
- 156 268 1440
159
- 157 269 1433
160
- 158 270 1428
161
- 159 271 1422
162
- 160 271 1417
163
- 161 272 1411
164
- 162 273 1405
165
- 163 274 1399
166
- 164 275 1393
167
- 165 276 1388
168
- 166 277 1383
169
- 167 278 1377
170
- 168 278 1370
171
- 169 279 1364
172
- 170 280 1359
173
- 171 281 1355
174
- 172 282 1351
175
- 173 283 1345
176
- 174 284 1339
177
- 175 284 1334
178
- 176 285 1329
179
- 177 286 1324
180
- 178 287 1318
181
- 179 288 1313
182
- 180 289 1307
183
- 181 289 1302
184
- 182 290 1297
185
- 183 291 1293
186
- 184 292 1290
187
- 185 293 1285
188
- 186 294 1279
189
- 187 295 1274
190
- 188 295 1269
191
- 189 296 1265
192
- 190 297 1261
193
- 191 298 1256
194
- 192 299 1251
195
- 193 300 1246
196
- 194 300 1242
197
- 195 301 1238
198
- 196 302 1234
199
- 197 303 1230
200
- 198 304 1225
201
- 199 305 1220
202
- 200 305 1216
203
- 201 306 1211
204
- 202 307 1208
205
- 203 308 1203
206
- 204 309 1199
207
- 205 309 1194
208
- 206 310 1190
209
- 207 311 1186
210
- 208 312 1182
211
- 209 313 1178
212
- 210 314 1174
213
- 211 314 1170
214
- 212 315 1166
215
- 213 316 1162
216
- 214 317 1159
217
- 215 318 1155
218
- 216 319 1151
219
- 217 319 1147
220
- 218 320 1143
221
- 219 321 1139
222
- 220 322 1136
223
- 221 323 1133
224
- 222 324 1129
225
- 223 325 1126
226
- 224 325 1121
227
- 225 326 1118
228
- 226 327 1115
229
- 227 328 1112
230
- 228 329 1108
231
- 229 330 1104
232
- 230 330 1100
233
- 231 331 1097
234
- 232 332 1094
235
- 233 333 1090
236
- 234 334 1087
237
- 235 334 1083
238
- 236 335 1080
239
- 237 336 1076
240
- 238 337 1073
241
- 239 338 1070
242
- 240 338 1067
243
- 241 339 1064
244
- 242 340 1060
245
- 243 341 1056
246
- 244 341 1053
247
- 245 342 1050
248
- 246 343 1048
249
- 247 344 1044
250
- 248 345 1041
251
- 249 345 1037
252
- 250 346 1034
253
- 251 347 1031
254
- 252 348 1029
255
- 253 349 1026
256
- 254 350 1023
257
- 255 351 1020
258
- 256 351 1017
259
- 257 352 1014
260
- 258 353 1011
261
- 259 354 1009
262
- 260 355 1006
263
- 261 356 1003
264
- 262 356 999
265
- 263 357 997
266
- 264 358 994
267
- 265 359 992
268
- 266 360 989
269
- 267 361 986
270
- 268 361 983
271
- 269 362 980
272
- 270 363 978
273
- 271 364 975
274
- 272 365 972
275
- 273 366 969
276
- 274 366 966
277
- 275 367 964
278
- 276 368 962
279
- 277 369 959
280
- 278 370 956
281
- 279 371 954
282
- 280 371 951
283
- 281 372 948
284
- 282 373 946
285
- 283 374 944
286
- 284 375 941
287
- 285 376 938
288
- 286 376 936
289
- 287 377 933
290
- 288 378 931
291
- 289 379 928
292
- 290 380 926
293
- 291 380 923
294
- 292 381 920
295
- 293 382 918
296
- 294 383 915
297
- 295 384 913
298
- 296 385 911
299
- 297 385 909
300
- 298 386 906
301
- 299 387 904
302
- 300 388 902
303
- 301 389 900
304
- 302 390 897
305
- 303 391 895
306
- 304 391 893
307
- 305 392 890
308
- 306 393 888
309
- 307 394 886
310
- 308 395 884
311
- 309 395 881
312
- 310 396 879
313
- 311 397 876
314
- 312 398 874
315
- 313 399 872
316
- 314 400 870
317
- 315 400 867
318
- 316 401 865
319
- 317 402 863
320
- 318 403 860
321
- 319 404 858
322
- 320 405 856
323
- 321 405 854
324
- 322 406 852
325
- 323 407 849
326
- 324 408 847
327
- 325 408 845
328
- 326 409 843
329
- 327 410 841
330
- 328 411 839
331
- 329 412 837
332
- 330 413 835
333
- 331 414 833
334
- 332 415 831
335
- 333 415 829
336
- 334 416 827
337
- 335 417 824
338
- 336 418 822
339
- 337 419 820
340
- 338 419 818
341
- 339 420 817
342
- 340 421 815
343
- 341 422 812
344
- 342 423 810
345
- 343 424 808
346
- 344 425 806
347
- 345 426 805
348
- 346 426 803
349
- 347 427 800
350
- 348 428 798
351
- 349 428 796
352
- 350 429 794
353
- 351 430 793
354
- 352 431 791
355
- 353 432 789
356
- 354 433 786
357
- 355 433 785
358
- 356 434 783
359
- 357 435 781
360
- 358 436 779
361
- 359 437 777
362
- 360 438 775
363
- 361 438 773
364
- 362 439 771
365
- 363 440 769
366
- 364 441 767
367
- 365 442 765
368
- 366 442 763
369
- 367 443 761
370
- 368 444 759
371
- 369 445 758
372
- 370 446 756
373
- 371 446 754
374
- 372 447 752
375
- 373 448 750
376
- 374 449 749
377
- 375 450 747
378
- 376 451 746
379
- 377 452 744
380
- 378 453 742
381
- 379 454 740
382
- 380 455 739
383
- 381 456 738
384
- 382 457 736
385
- 383 457 734
386
- 384 458 732
387
- 385 459 730
388
- 386 459 728
389
- 387 461 727
390
- 388 462 725
391
- 389 462 723
392
- 390 463 721
393
- 391 464 719
394
- 392 465 718
395
- 393 466 717
396
- 394 467 715
397
- 395 468 713
398
- 396 468 712
399
- 397 469 710
400
- 398 470 709
401
- 399 472 708
402
- 400 473 706
403
- 401 473 704
404
- 402 474 703
405
- 403 475 701
406
- 404 476 700
407
- 405 477 698
408
- 406 478 697
409
- 407 479 695
410
- 408 479 693
411
- 409 481 692
412
- 410 482 690
413
- 411 482 689
414
- 412 483 687
415
- 413 484 685
416
- 414 485 684
417
- 415 486 683
418
- 416 487 681
419
- 417 488 680
420
- 418 489 678
421
- 419 490 677
422
- 420 491 676
423
- 421 492 674
424
- 422 493 673
425
- 423 494 671
426
- 424 494 669
427
- 425 495 668
428
- 426 496 666
429
- 427 497 665
430
- 428 498 663
431
- 429 499 661
432
- 430 500 660
433
- 431 501 658
434
- 432 502 657
435
- 433 502 655
436
- 434 503 654
437
- 435 504 652
438
- 436 505 650
439
- 437 505 649
440
- 438 506 647
441
- 439 508 646
442
- 440 508 644
443
- 441 509 643
444
- 442 510 641
445
- 443 510 639
446
- 444 511 638
447
- 445 512 636
448
- 446 513 635
449
- 447 514 633
450
- 448 514 631
451
- 449 515 630
452
- 450 516 629
453
- 451 517 627
454
- 452 518 626
455
- 453 519 624
456
- 454 519 622
457
- 455 520 621
458
- 456 521 619
459
- 457 522 618
460
- 458 523 616
461
- 459 524 615
462
- 460 524 613
463
- 461 525 611
464
- 462 526 610
465
- 463 527 609
466
- 464 528 607
467
- 465 529 606
468
- 466 529 604
469
- 467 530 603
470
- 468 531 601
471
- 469 532 600
472
- 470 533 598
473
- 471 533 597
474
- 472 534 595
475
- 473 535 594
476
- 474 536 592
477
- 475 537 591
478
- 476 538 590
479
- 477 539 588
480
- 478 539 587
481
- 479 540 585
482
- 480 541 584
483
- 481 542 583
484
- 482 543 581
485
- 483 544 580
486
- 484 544 578
487
- 485 545 577
488
- 486 546 575
489
- 487 547 574
490
- 488 548 573
491
- 489 549 571
492
- 490 550 570
493
- 491 550 568
494
- 492 551 567
495
- 493 552 565
496
- 494 553 564
497
- 495 554 563
498
- 496 555 561
499
- 497 555 560
500
- 498 556 558
501
- 499 557 557
502
- 500 558 556
503
- 501 559 555
504
- 502 560 553
505
- 503 561 552
506
- 504 561 550
507
- 505 563 549
508
- 506 564 548
509
- 507 564 546
510
- 508 565 545
511
- 509 566 543
512
- 510 566 542
513
- 511 567 541
514
- 512 568 540
515
- 513 569 538
516
- 514 570 537
517
- 515 571 535
518
- 516 572 534
519
- 517 573 533
520
- 518 574 532
521
- 519 574 530
522
- 520 575 529
523
- 521 576 527
524
- 522 577 526
525
- 523 578 525
526
- 524 579 523
527
- 525 579 522
528
- 526 580 521
529
- 527 581 519
530
- 528 582 518
531
- 529 583 517
532
- 530 584 516
533
- 531 585 514
534
- 532 585 513
535
- 533 586 512
536
- 534 587 510
537
- 535 588 509
538
- 536 589 508
539
- 537 590 506
540
- 538 590 505
541
- 539 591 504
542
- 540 592 502
543
- 541 593 501
544
- 542 594 500
545
- 543 595 498
546
- 544 595 497
547
- 545 596 496
548
- 546 597 494
549
- 547 598 493
550
- 548 599 492
551
- 549 600 490
552
- 550 600 489
553
- 551 601 488
554
- 552 602 486
555
- 553 603 485
556
- 554 604 484
557
- 555 604 483
558
- 556 605 481
559
- 557 606 480
560
- 558 607 479
561
- 559 607 477
562
- 560 608 476
563
- 561 609 475
564
- 562 610 473
565
- 563 611 472
566
- 564 612 471
567
- 565 612 469
568
- 566 613 468
569
- 567 614 467
570
- 568 615 466
571
- 569 616 464
572
- 570 617 463
573
- 571 617 462
574
- 572 618 461
575
- 573 619 459
576
- 574 620 458
577
- 575 621 457
578
- 576 621 455
579
- 577 622 454
580
- 578 623 453
581
- 579 624 452
582
- 580 625 450
583
- 581 625 449
584
- 582 626 448
585
- 583 627 446
586
- 584 628 445
587
- 585 629 444
588
- 586 630 443
589
- 587 630 442
590
- 588 631 440
591
- 589 632 439
592
- 590 633 438
593
- 591 634 437
594
- 592 635 435
595
- 593 635 434
596
- 594 636 433
597
- 595 637 432
598
- 596 638 430
599
- 597 639 429
600
- 598 640 428
601
- 599 641 427
602
- 600 641 426
603
- 601 642 424
604
- 602 643 423
605
- 603 644 422
606
- 604 645 421
607
- 605 646 420
608
- 606 646 418
609
- 607 647 417
610
- 608 648 416
611
- 609 649 415
612
- 610 650 414
613
- 611 651 413
614
- 612 652 411
615
- 613 653 410
616
- 614 654 409
617
- 615 655 408
618
- 616 656 407
619
- 617 657 406
620
- 618 658 405
621
- 619 658 403
622
- 620 659 402
623
- 621 660 401
624
- 622 661 400
625
- 623 662 399
626
- 624 663 398
627
- 625 664 396
628
- 626 665 395
629
- 627 666 394
630
- 628 667 393
631
- 629 667 392
632
- 630 668 390
633
- 631 669 389
634
- 632 670 388
635
- 633 671 387
636
- 634 671 386
637
- 635 672 384
638
- 636 673 383
639
- 637 674 382
640
- 638 675 381
641
- 639 676 380
642
- 640 676 379
643
- 641 677 377
644
- 642 678 376
645
- 643 679 375
646
- 644 680 374
647
- 645 681 373
648
- 646 682 372
649
- 647 682 370
650
- 648 683 369
651
- 649 684 368
652
- 650 685 367
653
- 651 686 366
654
- 652 687 365
655
- 653 688 364
656
- 654 689 363
657
- 655 690 362
658
- 656 691 361
659
- 657 692 360
660
- 658 693 359
661
- 659 694 357
662
- 660 695 356
663
- 661 696 355
664
- 662 697 354
665
- 663 698 353
666
- 664 698 352
667
- 665 699 350
668
- 666 700 349
669
- 667 701 348
670
- 668 702 347
671
- 669 703 346
672
- 670 703 345
673
- 671 704 343
674
- 672 705 342
675
- 673 706 341
676
- 674 707 340
677
- 675 708 339
678
- 676 708 338
679
- 677 709 337
680
- 678 710 335
681
- 679 711 334
682
- 680 712 333
683
- 681 713 332
684
- 682 714 331
685
- 683 714 330
686
- 684 715 329
687
- 685 716 327
688
- 686 717 326
689
- 687 718 325
690
- 688 719 324
691
- 689 719 323
692
- 690 720 322
693
- 691 721 321
694
- 692 722 320
695
- 693 723 318
696
- 694 724 317
697
- 695 724 316
698
- 696 725 315
699
- 697 726 314
700
- 698 727 313
701
- 699 728 312
702
- 700 728 310
703
- 701 729 309
704
- 702 730 308
705
- 703 731 307
706
- 704 732 306
707
- 705 733 305
708
- 706 733 304
709
- 707 734 303
710
- 708 735 301
711
- 709 736 300
712
- 710 737 299
713
- 711 738 298
714
- 712 738 297
715
- 713 739 296
716
- 714 740 295
717
- 715 741 293
718
- 716 742 292
719
- 717 743 291
720
- 718 743 290
721
- 719 744 289
722
- 720 745 288
723
- 721 746 287
724
- 722 747 286
725
- 723 748 285
726
- 724 749 284
727
- 725 749 282
728
- 726 750 281
729
- 727 751 280
730
- 728 752 279
731
- 729 753 278
732
- 730 754 277
733
- 731 754 276
734
- 732 755 275
735
- 733 756 274
736
- 734 757 273
737
- 735 758 272
738
- 736 759 271
739
- 737 760 269
740
- 738 760 268
741
- 739 761 267
742
- 740 762 266
743
- 741 763 265
744
- 742 764 264
745
- 743 765 263
746
- 744 765 262
747
- 745 766 261
748
- 746 767 259
749
- 747 768 258
750
- 748 769 257
751
- 749 770 256
752
- 750 770 255
753
- 751 771 254
754
- 752 772 253
755
- 753 773 252
756
- 754 774 251
757
- 755 775 250
758
- 756 776 249
759
- 757 776 248
760
- 758 777 246
761
- 759 778 245
762
- 760 779 244
763
- 761 780 243
764
- 762 781 242
765
- 763 781 241
766
- 764 782 240
767
- 765 783 239
768
- 766 784 238
769
- 767 785 237
770
- 768 786 236
771
- 769 786 234
772
- 770 787 233
773
- 771 788 232
774
- 772 789 231
775
- 773 790 230
776
- 774 791 229
777
- 775 791 228
778
- 776 792 227
779
- 777 793 226
780
- 778 794 225
781
- 779 795 224
782
- 780 795 223
783
- 781 796 222
784
- 782 797 221
785
- 783 798 219
786
- 784 799 219
787
- 785 800 217
788
- 786 801 216
789
- 787 801 215
790
- 788 802 214
791
- 789 803 213
792
- 790 804 212
793
- 791 805 211
794
- 792 806 210
795
- 793 806 209
796
- 794 807 208
797
- 795 808 207
798
- 796 809 206
799
- 797 810 205
800
- 798 811 204
801
- 799 811 202
802
- 800 812 201
803
- 801 813 200
804
- 802 814 199
805
- 803 815 198
806
- 804 816 197
807
- 805 816 196
808
- 806 817 195
809
- 807 818 194
810
- 808 819 193
811
- 809 820 192
812
- 810 821 191
813
- 811 821 190
814
- 812 822 189
815
- 813 823 188
816
- 814 824 187
817
- 815 824 186
818
- 816 825 185
819
- 817 826 183
820
- 818 827 182
821
- 819 828 181
822
- 820 828 180
823
- 821 829 179
824
- 822 830 178
825
- 823 831 177
826
- 824 832 176
827
- 825 832 175
828
- 826 833 174
829
- 827 834 173
830
- 828 835 172
831
- 829 836 171
832
- 830 836 170
833
- 831 837 169
834
- 832 838 168
835
- 833 839 167
836
- 834 840 166
837
- 835 841 165
838
- 836 841 163
839
- 837 842 162
840
- 838 843 161
841
- 839 844 160
842
- 840 845 159
843
- 841 845 158
844
- 842 846 157
845
- 843 847 156
846
- 844 848 155
847
- 845 848 154
848
- 846 849 153
849
- 847 850 152
850
- 848 851 151
851
- 849 852 150
852
- 850 853 149
853
- 851 854 148
854
- 852 854 147
855
- 853 855 146
856
- 854 856 145
857
- 855 857 144
858
- 856 858 143
859
- 857 858 142
860
- 858 859 141
861
- 859 860 140
862
- 860 861 139
863
- 861 862 138
864
- 862 863 137
865
- 863 863 135
866
- 864 864 134
867
- 865 865 133
868
- 866 866 132
869
- 867 867 131
870
- 868 868 130
871
- 869 868 129
872
- 870 869 128
873
- 871 870 127
874
- 872 871 126
875
- 873 872 125
876
- 874 873 124
877
- 875 874 123
878
- 876 875 122
879
- 877 875 121
880
- 878 876 120
881
- 879 877 119
882
- 880 878 118
883
- 881 879 117
884
- 882 880 116
885
- 883 880 115
886
- 884 882 114
887
- 885 882 113
888
- 886 883 112
889
- 887 884 111
890
- 888 885 110
891
- 889 886 109
892
- 890 887 108
893
- 891 888 107
894
- 892 888 106
895
- 893 889 105
896
- 894 890 104
897
- 895 891 103
898
- 896 892 102
899
- 897 892 101
900
- 898 893 100
901
- 899 894 99
902
- 900 895 98
903
- 901 895 97
904
- 902 896 96
905
- 903 897 95
906
- 904 898 94
907
- 905 899 93
908
- 906 900 92
909
- 907 900 91
910
- 908 901 90
911
- 909 902 89
912
- 910 903 88
913
- 911 904 87
914
- 912 905 86
915
- 913 905 85
916
- 914 906 84
917
- 915 907 83
918
- 916 908 82
919
- 917 909 81
920
- 918 909 80
921
- 919 910 79
922
- 920 911 78
923
- 921 912 77
924
- 922 913 76
925
- 923 914 75
926
- 924 915 74
927
- 925 915 73
928
- 926 916 72
929
- 927 917 71
930
- 928 918 70
931
- 929 919 69
932
- 930 920 68
933
- 931 920 67
934
- 932 921 66
935
- 933 922 65
936
- 934 923 64
937
- 935 924 63
938
- 936 925 62
939
- 937 925 61
940
- 938 926 60
941
- 939 927 59
942
- 940 928 58
943
- 941 929 57
944
- 942 930 56
945
- 943 930 55
946
- 944 931 54
947
- 945 932 53
948
- 946 933 52
949
- 947 934 51
950
- 948 935 50
951
- 949 935 49
952
- 950 936 48
953
- 951 937 47
954
- 952 938 46
955
- 953 939 45
956
- 954 939 44
957
- 955 940 43
958
- 956 941 42
959
- 957 942 41
960
- 958 943 40
961
- 959 944 39
962
- 960 945 38
963
- 961 945 37
964
- 962 946 36
965
- 963 947 35
966
- 964 948 34
967
- 965 949 33
968
- 966 950 32
969
- 967 950 31
970
- 968 951 30
971
- 969 952 29
972
- 970 953 28
973
- 971 954 27
974
- 972 955 26
975
- 973 955 25
976
- 974 956 24
977
- 975 957 23
978
- 976 958 22
979
- 977 959 21
980
- 978 960 20
981
- 979 960 19
982
- 980 961 18
983
- 981 962 17
984
- 982 963 16
985
- 983 964 15
986
- 984 964 14
987
- 985 965 13
988
- 986 966 12
989
- 987 967 11
990
- 988 968 10
991
- 989 969 9
992
- 990 970 8
993
- 991 970 7
994
- 992 971 6
995
- 993 972 5
996
- 994 973 4
997
- 995 974 3
998
- 996 975 2
999
- 997 976 1
1000
- 998 977 0
1001
- 999 979 0
 
1
  iter Passed Remaining
2
+ 0 0 89
3
+ 1 1 81
4
+ 2 2 78
5
+ 3 3 88
6
+ 4 6 116
7
+ 5 7 112
8
+ 6 8 107
9
+ 7 9 104
10
+ 8 10 101
11
+ 9 13 124
12
+ 10 14 120
13
+ 11 15 116
14
+ 12 17 114
15
+ 13 19 118
16
+ 14 20 115
17
+ 15 21 113
18
+ 16 23 113
19
+ 17 24 112
20
+ 18 25 109
21
+ 19 26 107
22
+ 20 27 104
23
+ 21 28 102
24
+ 22 29 100
25
+ 23 30 97
26
+ 24 31 95
27
+ 25 32 93
28
+ 26 33 91
29
+ 27 34 89
30
+ 28 35 88
31
+ 29 36 86
32
+ 30 37 84
33
+ 31 38 81
34
+ 32 39 80
35
+ 33 40 78
36
+ 34 41 77
37
+ 35 42 76
38
+ 36 43 74
39
+ 37 44 73
40
+ 38 45 71
41
+ 39 46 70
42
+ 40 47 68
43
+ 41 48 67
44
+ 42 49 65
45
+ 43 50 64
46
+ 44 51 62
47
+ 45 52 61
48
+ 46 53 59
49
+ 47 53 58
50
+ 48 54 57
51
+ 49 55 55
52
+ 50 56 54
53
+ 51 57 52
54
+ 52 58 51
55
+ 53 58 50
56
+ 54 59 48
57
+ 55 60 47
58
+ 56 61 46
59
+ 57 62 45
60
+ 58 63 43
61
+ 59 64 42
62
+ 60 65 41
63
+ 61 65 40
64
+ 62 66 39
65
+ 63 67 37
66
+ 64 68 36
67
+ 65 69 35
68
+ 66 69 34
69
+ 67 70 33
70
+ 68 71 32
71
+ 69 72 31
72
+ 70 73 29
73
+ 71 73 28
74
+ 72 74 27
75
+ 73 75 26
76
+ 74 76 25
77
+ 75 77 24
78
+ 76 78 23
79
+ 77 79 22
80
+ 78 80 21
81
+ 79 81 20
82
+ 80 81 19
83
+ 81 82 18
84
+ 82 83 17
85
+ 83 84 16
86
+ 84 85 15
87
+ 85 86 14
88
+ 86 87 13
89
+ 87 87 11
90
+ 88 88 10
91
+ 89 89 9
92
+ 90 90 8
93
+ 91 91 7
94
+ 92 92 6
95
+ 93 93 5
96
+ 94 94 4
97
+ 95 94 3
98
+ 96 95 2
99
+ 97 96 1
100
+ 98 97 0
101
+ 99 98 0
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
src/Components/model_tranier.py CHANGED
@@ -8,7 +8,7 @@ import os
8
  from sklearn.metrics import mean_squared_error, r2_score
9
  from sklearn.neighbors import KNeighborsRegressor
10
  from sklearn.tree import DecisionTreeRegressor
11
- from sklearn.ensemble import RandomForestRegressor,AdaBoostRegressor
12
  from sklearn.svm import SVR
13
  from sklearn.linear_model import LinearRegression, Ridge,Lasso
14
  from sklearn.metrics import r2_score, mean_absolute_error, mean_squared_error
@@ -40,16 +40,53 @@ class Model_trainer:
40
  test_array[:,:-1],
41
  test_array[:,-1]
42
  )
43
- models = {
44
- "Random Forest":RandomForestRegressor(),
45
- "Decision tree" : DecisionTreeRegressor(),
46
- "Linear Regression" : LinearRegression(),
47
- "K-neighbors Classifier": KNeighborsRegressor(),
48
- "XGBClassifier": XGBRegressor(),
49
- "Catboosting Classifier":CatBoostRegressor(),
50
- "AdaBoost Classifer":AdaBoostRegressor()
51
  }
52
- model_report:dict = evaluate_model(X=x_train,Y = y_train,X_test = x_test,Y_test=y_test,Models = models)
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
53
 
54
  best_model_score = max(sorted(model_report.values()))
55
 
 
8
  from sklearn.metrics import mean_squared_error, r2_score
9
  from sklearn.neighbors import KNeighborsRegressor
10
  from sklearn.tree import DecisionTreeRegressor
11
+ from sklearn.ensemble import RandomForestRegressor,AdaBoostRegressor,GradientBoostingRegressor
12
  from sklearn.svm import SVR
13
  from sklearn.linear_model import LinearRegression, Ridge,Lasso
14
  from sklearn.metrics import r2_score, mean_absolute_error, mean_squared_error
 
40
  test_array[:,:-1],
41
  test_array[:,-1]
42
  )
43
+ models={
44
+ "Random Forest": RandomForestRegressor(),
45
+ "Decision Tree": DecisionTreeRegressor(),
46
+ "Gradient Boosting": GradientBoostingRegressor(),
47
+ "Linear Regression": LinearRegression(),
48
+ "XGBRegressor": XGBRegressor(),
49
+ "CatBoosting Regressor": CatBoostRegressor(verbose=False),
50
+ "AdaBoost Regressor": AdaBoostRegressor(),
51
  }
52
+ params={
53
+ "Decision Tree": {
54
+ 'criterion':['squared_error', 'friedman_mse', 'absolute_error', 'poisson'],
55
+ # 'splitter':['best','random'],
56
+ # 'max_features':['sqrt','log2'],
57
+ },
58
+ "Random Forest":{
59
+ # 'criterion':['squared_error', 'friedman_mse', 'absolute_error', 'poisson'],
60
+
61
+ # 'max_features':['sqrt','log2',None],
62
+ 'n_estimators': [8,16,32,64,128,256]
63
+ },
64
+ "Gradient Boosting":{
65
+ # 'loss':['squared_error', 'huber', 'absolute_error', 'quantile'],
66
+ 'learning_rate':[.1,.01,.05,.001],
67
+ 'subsample':[0.6,0.7,0.75,0.8,0.85,0.9],
68
+ # 'criterion':['squared_error', 'friedman_mse'],
69
+ # 'max_features':['auto','sqrt','log2'],
70
+ 'n_estimators': [8,16,32,64,128,256]
71
+ },
72
+ "Linear Regression":{},
73
+ "XGBRegressor":{
74
+ 'learning_rate':[.1,.01,.05,.001],
75
+ 'n_estimators': [8,16,32,64,128,256]
76
+ },
77
+ "CatBoosting Regressor":{
78
+ 'depth': [6,8,10],
79
+ 'learning_rate': [0.01, 0.05, 0.1],
80
+ 'iterations': [30, 50, 100]
81
+ },
82
+ "AdaBoost Regressor":{
83
+ 'learning_rate':[.1,.01,0.5,.001],
84
+ # 'loss':['linear','square','exponential'],
85
+ 'n_estimators': [8,16,32,64,128,256]
86
+ }
87
+
88
+ }
89
+ model_report:dict = evaluate_model(X=x_train,Y = y_train,X_test = x_test,Y_test=y_test,Models = models,Param = params)
90
 
91
  best_model_score = max(sorted(model_report.values()))
92
 
src/utils.py CHANGED
@@ -26,12 +26,18 @@ def save_object(file_path , obj):
26
  except Exception as e:
27
  raise CustomException(e,sys)
28
 
29
- def evaluate_model(X,Y,X_test,Y_test,Models):
30
  try:
31
  report = {}
32
  for i in range(len(list(Models))):
33
  model = list(Models.values())[i]
34
- model.fit(X, Y) # Train model
 
 
 
 
 
 
35
 
36
  # Make predictions
37
  y_train_pred = model.predict(X)
 
26
  except Exception as e:
27
  raise CustomException(e,sys)
28
 
29
+ def evaluate_model(X,Y,X_test,Y_test,Models,Param):
30
  try:
31
  report = {}
32
  for i in range(len(list(Models))):
33
  model = list(Models.values())[i]
34
+ para = Param[list(Models.keys())[i]]
35
+
36
+ gs = GridSearchCV(model,para,cv=3)
37
+ gs.fit(X,Y)
38
+
39
+ model.set_params(**gs.best_params_)
40
+ model.fit(X,Y)
41
 
42
  # Make predictions
43
  y_train_pred = model.predict(X)