File size: 77,584 Bytes
25b5648 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 225 226 227 228 229 230 231 232 233 234 235 236 237 238 239 240 241 242 243 244 245 246 247 248 249 250 251 252 253 254 255 256 257 258 259 260 261 262 263 264 265 266 267 268 269 270 271 272 273 274 275 276 277 278 279 280 281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300 301 302 303 304 305 306 307 308 309 310 311 312 313 314 315 316 317 318 319 320 321 322 323 324 325 326 327 328 329 330 331 332 333 334 335 336 337 338 339 340 341 342 343 344 345 346 347 348 349 350 351 352 353 354 355 356 357 358 359 360 361 362 363 364 365 366 367 368 369 370 371 372 373 374 375 376 377 378 379 380 381 382 383 384 385 386 387 388 389 390 391 392 393 394 395 396 397 398 399 400 401 402 403 404 405 406 407 408 409 410 411 412 413 414 415 416 417 418 419 420 421 422 423 424 425 426 427 428 429 430 431 432 433 434 435 436 437 438 439 440 441 442 443 444 445 446 447 448 449 450 451 452 453 454 455 456 457 458 459 460 461 462 463 464 465 466 467 468 469 470 471 472 473 474 475 476 477 478 479 480 481 482 483 484 485 486 487 488 489 490 491 492 493 494 495 496 497 498 499 500 501 502 503 504 505 506 507 508 509 510 511 512 513 514 515 516 517 518 519 520 521 522 523 524 525 526 527 528 529 530 531 532 533 534 535 536 537 538 539 540 541 542 543 544 545 546 547 548 549 550 551 552 553 554 555 556 557 558 559 560 561 562 563 564 565 566 567 568 569 570 571 572 573 574 575 576 577 578 579 580 581 582 583 584 585 586 587 588 589 590 591 592 593 594 595 596 597 598 599 600 601 602 603 604 605 606 607 608 609 610 611 612 613 614 615 616 617 618 619 620 621 622 623 624 625 626 627 628 629 630 631 632 633 634 635 636 637 638 639 640 641 642 643 644 645 646 647 648 649 650 651 652 653 654 655 656 657 658 659 660 661 662 663 664 665 666 667 668 669 670 671 672 673 674 675 676 677 678 679 680 681 682 683 684 685 686 687 688 689 690 691 692 693 694 695 696 697 698 699 700 701 702 703 704 705 706 707 708 709 710 711 712 713 714 715 716 717 718 719 720 721 722 723 724 725 726 727 728 729 730 731 732 733 734 735 736 737 738 739 740 741 742 743 744 745 746 747 748 749 750 751 752 753 754 755 756 757 758 759 760 761 762 763 764 765 766 767 768 769 770 771 772 773 774 775 776 777 778 779 780 781 782 783 784 785 786 787 788 789 790 791 792 793 794 795 796 797 798 799 800 801 802 803 804 805 806 807 808 809 810 811 812 813 814 815 816 817 818 819 820 821 822 823 824 825 826 827 828 829 830 831 832 833 834 835 836 837 838 839 840 841 842 843 844 845 846 847 848 849 850 851 852 853 854 855 856 857 858 859 860 861 862 863 864 865 866 867 868 869 870 871 872 873 874 875 876 877 878 879 880 881 882 883 884 885 886 887 888 889 890 891 892 893 894 895 896 897 898 899 900 901 902 903 904 905 906 907 908 909 910 911 912 913 914 915 916 917 918 919 920 921 922 923 924 925 926 927 928 929 930 931 932 933 934 935 936 937 938 939 940 941 942 943 944 945 946 947 948 949 950 951 952 953 954 955 956 957 958 959 960 961 962 963 964 965 966 967 968 969 970 971 972 973 974 975 976 977 978 979 980 981 982 983 984 985 986 987 988 989 990 991 992 993 994 995 996 997 998 999 1000 1001 1002 1003 1004 1005 1006 1007 1008 1009 1010 1011 1012 1013 1014 1015 1016 1017 1018 1019 1020 1021 1022 1023 1024 1025 1026 1027 1028 1029 1030 1031 1032 1033 1034 1035 1036 1037 1038 1039 1040 1041 1042 1043 1044 1045 1046 1047 1048 1049 1050 1051 1052 1053 1054 1055 1056 1057 1058 1059 1060 1061 1062 1063 1064 1065 1066 1067 1068 1069 1070 1071 1072 1073 1074 1075 1076 1077 1078 1079 1080 1081 1082 1083 1084 1085 1086 1087 1088 1089 1090 1091 1092 1093 1094 1095 1096 1097 1098 1099 1100 1101 1102 1103 1104 1105 1106 1107 1108 1109 1110 1111 1112 1113 1114 1115 1116 1117 1118 1119 1120 1121 1122 1123 1124 1125 1126 1127 1128 1129 1130 1131 1132 1133 1134 1135 1136 1137 1138 1139 1140 1141 1142 1143 1144 1145 1146 1147 1148 1149 1150 1151 1152 1153 1154 1155 1156 1157 1158 1159 1160 1161 1162 1163 1164 1165 1166 1167 1168 1169 1170 1171 1172 1173 1174 1175 1176 1177 1178 1179 1180 1181 1182 1183 1184 1185 1186 1187 1188 1189 1190 1191 1192 1193 1194 1195 1196 1197 1198 1199 1200 1201 1202 1203 1204 1205 1206 1207 1208 1209 1210 1211 1212 1213 1214 1215 1216 1217 1218 1219 1220 1221 1222 1223 1224 1225 1226 1227 1228 1229 1230 1231 1232 1233 1234 1235 1236 1237 1238 1239 1240 1241 1242 1243 1244 1245 1246 1247 1248 1249 1250 1251 1252 1253 1254 1255 1256 1257 1258 1259 1260 1261 1262 1263 1264 1265 1266 1267 1268 1269 1270 1271 1272 1273 1274 1275 1276 1277 1278 1279 1280 1281 1282 1283 1284 1285 1286 1287 1288 1289 1290 1291 1292 1293 1294 1295 1296 1297 1298 1299 1300 1301 1302 1303 1304 1305 1306 1307 1308 1309 1310 1311 1312 1313 1314 1315 1316 1317 1318 1319 1320 1321 1322 1323 1324 1325 1326 1327 1328 1329 1330 1331 1332 1333 1334 1335 1336 1337 1338 1339 1340 1341 1342 1343 1344 1345 1346 1347 1348 1349 1350 1351 1352 1353 1354 1355 1356 1357 1358 1359 1360 1361 1362 1363 1364 1365 1366 1367 1368 1369 1370 1371 1372 1373 1374 1375 1376 1377 1378 1379 1380 1381 1382 1383 1384 1385 1386 1387 1388 1389 1390 1391 1392 1393 1394 1395 1396 1397 1398 1399 1400 1401 1402 1403 1404 1405 1406 1407 1408 1409 1410 1411 1412 1413 1414 1415 1416 1417 1418 1419 1420 1421 1422 1423 1424 1425 1426 1427 1428 1429 1430 1431 1432 1433 1434 1435 1436 1437 1438 1439 1440 1441 1442 1443 1444 1445 1446 1447 1448 1449 1450 1451 1452 1453 1454 1455 1456 1457 1458 1459 1460 1461 1462 1463 1464 1465 1466 1467 1468 1469 1470 1471 1472 1473 1474 1475 1476 1477 1478 1479 1480 1481 1482 1483 1484 1485 1486 1487 1488 1489 1490 1491 1492 1493 1494 1495 1496 1497 1498 1499 1500 1501 1502 1503 1504 1505 1506 1507 1508 1509 1510 1511 1512 1513 1514 1515 1516 1517 1518 1519 1520 1521 1522 1523 1524 1525 1526 1527 1528 1529 1530 1531 1532 1533 1534 1535 1536 1537 1538 1539 1540 1541 1542 1543 1544 1545 1546 1547 1548 1549 1550 1551 1552 1553 1554 1555 1556 1557 1558 1559 1560 1561 1562 1563 1564 1565 1566 1567 1568 1569 1570 1571 1572 1573 1574 1575 1576 1577 1578 1579 1580 1581 1582 1583 1584 1585 1586 1587 1588 1589 1590 1591 1592 1593 1594 1595 1596 1597 1598 1599 1600 1601 1602 1603 1604 1605 1606 1607 1608 1609 1610 1611 1612 1613 1614 1615 1616 1617 1618 1619 1620 1621 1622 1623 1624 1625 1626 1627 1628 1629 1630 1631 1632 1633 1634 1635 1636 1637 1638 1639 1640 1641 1642 1643 1644 1645 1646 1647 1648 1649 1650 1651 1652 1653 1654 1655 1656 1657 1658 1659 1660 1661 1662 1663 1664 1665 1666 1667 1668 1669 1670 1671 1672 1673 1674 1675 1676 1677 1678 1679 1680 1681 1682 1683 1684 1685 1686 1687 1688 1689 1690 1691 1692 1693 1694 1695 1696 1697 1698 1699 1700 1701 1702 1703 1704 1705 1706 1707 1708 1709 1710 1711 1712 1713 1714 1715 1716 1717 1718 1719 1720 1721 1722 1723 1724 1725 1726 1727 1728 1729 1730 1731 1732 1733 1734 1735 1736 1737 1738 1739 1740 1741 1742 1743 1744 1745 1746 1747 1748 1749 1750 1751 1752 1753 1754 1755 1756 1757 1758 1759 1760 1761 1762 1763 1764 1765 1766 1767 1768 1769 1770 1771 1772 1773 1774 1775 1776 1777 1778 1779 1780 1781 1782 1783 1784 1785 1786 1787 1788 1789 1790 1791 1792 1793 1794 1795 1796 1797 1798 1799 1800 1801 1802 1803 1804 1805 1806 1807 1808 1809 1810 1811 1812 1813 1814 1815 1816 1817 1818 1819 1820 1821 1822 1823 1824 1825 1826 1827 1828 1829 1830 1831 1832 1833 1834 1835 1836 1837 1838 1839 1840 1841 1842 1843 1844 1845 1846 1847 1848 1849 1850 1851 1852 1853 1854 1855 1856 1857 1858 1859 1860 1861 1862 1863 1864 1865 1866 1867 1868 1869 1870 1871 1872 1873 1874 1875 1876 1877 1878 1879 1880 1881 1882 1883 1884 1885 1886 1887 1888 1889 1890 1891 1892 1893 1894 1895 1896 1897 1898 1899 1900 1901 1902 1903 1904 1905 1906 1907 1908 1909 1910 1911 1912 1913 1914 1915 1916 1917 1918 1919 1920 1921 1922 1923 1924 1925 1926 1927 1928 1929 1930 1931 1932 1933 1934 1935 1936 1937 1938 1939 1940 1941 1942 1943 1944 1945 1946 1947 1948 1949 1950 1951 1952 1953 1954 1955 1956 1957 1958 1959 1960 1961 1962 1963 1964 1965 1966 1967 1968 1969 1970 1971 1972 1973 1974 1975 1976 1977 1978 1979 1980 1981 1982 1983 1984 1985 1986 1987 1988 1989 1990 1991 1992 1993 1994 1995 1996 1997 1998 1999 2000 2001 2002 2003 2004 2005 2006 2007 2008 2009 2010 2011 2012 2013 2014 2015 2016 2017 2018 2019 2020 2021 2022 2023 2024 2025 2026 2027 2028 2029 2030 2031 2032 2033 2034 2035 2036 2037 2038 2039 2040 2041 2042 2043 2044 2045 2046 2047 2048 2049 2050 2051 2052 2053 2054 2055 2056 2057 2058 2059 2060 2061 2062 2063 2064 2065 2066 2067 2068 2069 2070 2071 2072 2073 2074 2075 2076 2077 2078 2079 2080 2081 2082 2083 2084 2085 2086 2087 2088 2089 2090 2091 2092 2093 2094 2095 2096 2097 2098 2099 2100 2101 2102 2103 2104 2105 2106 2107 2108 2109 2110 2111 2112 2113 2114 2115 2116 2117 2118 2119 2120 2121 2122 2123 2124 2125 2126 2127 2128 2129 2130 2131 2132 2133 2134 2135 2136 2137 2138 2139 2140 2141 2142 2143 2144 2145 2146 2147 2148 2149 2150 2151 2152 2153 2154 2155 2156 2157 2158 2159 2160 2161 2162 2163 2164 2165 2166 2167 2168 2169 2170 2171 2172 2173 2174 2175 2176 2177 2178 2179 2180 2181 2182 2183 2184 2185 2186 2187 2188 2189 2190 2191 2192 2193 2194 2195 2196 2197 2198 2199 2200 2201 2202 2203 2204 2205 2206 2207 2208 2209 2210 2211 2212 2213 2214 2215 2216 2217 2218 2219 2220 2221 2222 2223 2224 2225 2226 2227 2228 2229 2230 2231 2232 2233 2234 2235 2236 2237 2238 2239 2240 2241 2242 2243 2244 2245 2246 2247 2248 2249 2250 2251 2252 2253 2254 2255 2256 2257 2258 2259 2260 2261 2262 2263 2264 2265 2266 2267 2268 2269 2270 2271 2272 2273 2274 2275 2276 2277 2278 2279 2280 2281 2282 2283 2284 2285 2286 2287 2288 2289 2290 2291 2292 2293 2294 2295 2296 2297 2298 2299 2300 2301 2302 2303 2304 2305 2306 2307 2308 2309 2310 2311 2312 2313 2314 2315 2316 2317 2318 2319 2320 2321 2322 2323 2324 2325 2326 2327 2328 2329 2330 2331 2332 2333 2334 2335 2336 2337 2338 2339 2340 2341 2342 2343 2344 2345 2346 2347 2348 2349 2350 2351 2352 2353 2354 2355 2356 2357 2358 2359 2360 2361 2362 2363 2364 2365 2366 2367 2368 2369 2370 2371 2372 2373 2374 2375 2376 2377 2378 2379 2380 2381 2382 2383 2384 2385 2386 2387 2388 2389 2390 2391 2392 2393 2394 2395 2396 2397 2398 2399 2400 2401 2402 2403 2404 2405 2406 2407 2408 2409 2410 2411 2412 2413 2414 2415 2416 2417 2418 2419 2420 2421 2422 2423 2424 2425 2426 2427 2428 2429 2430 2431 2432 2433 2434 2435 2436 2437 2438 2439 2440 2441 2442 2443 2444 2445 2446 2447 2448 2449 2450 2451 2452 2453 2454 2455 2456 2457 2458 2459 2460 2461 2462 2463 2464 2465 2466 2467 2468 2469 2470 2471 2472 2473 2474 2475 2476 2477 2478 2479 2480 2481 2482 2483 2484 2485 2486 2487 2488 2489 2490 2491 2492 2493 2494 2495 2496 2497 2498 2499 2500 2501 2502 2503 2504 2505 2506 2507 2508 2509 2510 2511 2512 2513 2514 2515 2516 2517 2518 2519 2520 2521 2522 2523 2524 2525 2526 2527 2528 2529 2530 2531 2532 2533 2534 2535 2536 2537 2538 2539 2540 2541 2542 2543 2544 2545 2546 2547 2548 2549 2550 2551 2552 2553 2554 2555 2556 2557 2558 2559 2560 2561 2562 2563 2564 2565 2566 2567 2568 2569 2570 2571 2572 2573 2574 2575 2576 2577 2578 2579 2580 2581 2582 2583 2584 2585 2586 2587 2588 2589 2590 2591 2592 2593 2594 2595 2596 2597 2598 2599 2600 2601 2602 2603 2604 2605 2606 2607 2608 2609 2610 2611 2612 2613 2614 2615 2616 2617 2618 2619 2620 2621 2622 2623 2624 2625 2626 2627 2628 2629 2630 2631 2632 2633 2634 2635 2636 2637 2638 2639 2640 2641 2642 2643 2644 2645 2646 2647 2648 2649 2650 2651 2652 2653 2654 2655 2656 2657 2658 2659 2660 2661 2662 2663 2664 2665 2666 2667 2668 2669 2670 2671 2672 2673 2674 2675 2676 2677 2678 2679 2680 2681 2682 2683 2684 2685 2686 2687 2688 2689 2690 2691 2692 2693 2694 2695 2696 2697 2698 2699 2700 2701 2702 2703 2704 2705 2706 2707 2708 2709 2710 2711 2712 2713 2714 2715 2716 2717 2718 2719 2720 2721 2722 2723 2724 2725 2726 2727 2728 2729 2730 2731 2732 2733 |
1
00:00:05,080 --> 00:00:07,260
بسم الله والحمد لله والصلاة والسلام على رسول الله
2
00:00:07,260 --> 00:00:10,540
اليوم إن شاء الله تعالى هنكمل في موضوع الـ data
3
00:00:10,540 --> 00:00:13,800
cleaning كنا المحاضرة الماضية اللي اشتغلنا فيه
4
00:00:13,800 --> 00:00:19,820
موضوع الـ missing data واليوم إن شاء الله تعالى
5
00:00:19,820 --> 00:00:25,720
هنشتغل في موضوع الـ noisy data الآن في الـ noisy
6
00:00:25,720 --> 00:00:29,060
data قلنا إحنا الـ noise data مفهومها إن أنا في
7
00:00:29,060 --> 00:00:33,890
عندي خطأ لسبب error معين، الـ error ده ممكن يكون
8
00:00:33,890 --> 00:00:37,950
الناتج عنه من human entry أو فيه fault في الـ
9
00:00:37,950 --> 00:00:41,190
instrument اللي أنا جمعت من خلالها الـ data، وقلنا
10
00:00:41,190 --> 00:00:44,430
من أشهر الأمثلة اللي أنا بتكلم عليها على الـ noise
11
00:00:44,430 --> 00:00:50,130
data، الراتب يكون بالسالب بغض النظر عن كانت إيش
12
00:00:50,130 --> 00:00:53,890
الأخطاء، إيش الشغلات اللي أنا فعلياً محتاجها عشان
13
00:00:55,040 --> 00:00:59,320
أعرض أو أتعامل مع الـ data set اللي موجودة عندنا
14
00:00:59,320 --> 00:01:01,900
كيف بدي أعمل لها handling؟ من أشهر الطرق اللي
15
00:01:01,900 --> 00:01:05,680
موجودة عندنا موضوع الـ binning، وما المقصود في الـ
16
00:01:05,680 --> 00:01:10,520
binning؟ إنه أنا فعلياً بدي أروح أجسم الـ data set
17
00:01:10,520 --> 00:01:17,850
تبعي لمجموعات، وكل مجموعة هتمثل، سيبني يا عمر، كل
18
00:01:17,850 --> 00:01:21,870
مجموعة هتتمثل بقيمة معينة، القيمة دي ممكن تكون الـ
19
00:01:21,870 --> 00:01:25,050
mean، ممكن تكون الـ median، أو ممكن تكون بقيمتين عشان
20
00:01:25,050 --> 00:01:28,150
أمثل المجموعة لو اعتمدت على الـ boundaries، لكن في
21
00:01:28,150 --> 00:01:32,630
شغل مهم جداً مع الـ binning، اللي هي الموضوع إنه أنا
22
00:01:32,630 --> 00:01:35,810
فعلياً الـ partition تبع الـ bin، الـ partition تبعي
23
00:01:35,810 --> 00:01:39,770
هاي أو الـ bin، قديش حجمها بده يكون؟ هل هتكلم على
24
00:01:39,770 --> 00:01:44,980
equal frequency، يعني فعلياً كل الـ bins هيكونوا نفس
25
00:01:44,980 --> 00:01:50,480
العدد، ولا هتكلم على الـ equal depth؟ باجي الـ equal
26
00:01:50,480 --> 00:01:54,120
depth، أنا باجي فكرتها إنه أنا أجسم المجموعات تبع
27
00:01:54,120 --> 00:01:57,800
الـ intervals، أجي أقول من عشرة مثلاً، من واحد لعشرة
28
00:01:57,800 --> 00:02:02,860
الـ interval الأولى، من عشرة، عفواً من 11 لعشرين، الـ
29
00:02:02,860 --> 00:02:06,260
interval الثانية، من واحد وعشرين لثلاثين، الـ
30
00:02:06,260 --> 00:02:10,360
interval الثالثة، بغض النظر عن الأعداد اللي بدها
31
00:02:10,360 --> 00:02:14,160
تكون في كل interval، هذه بنسميها إيش؟ equal
32
00:02:14,160 --> 00:02:18,060
depth، بينها وبين الـ equal frequency، إن كل partition
33
00:02:18,060 --> 00:02:23,760
في نفس العدد من الـ elements، لكن عشان فعلياً أطبق
34
00:02:23,760 --> 00:02:29,740
أنا الـ binning، لازم في البداية أعمل sort للـ data
35
00:02:29,740 --> 00:02:36,350
لو ما عملتش sort، كل شغلك غلط على الفاضي، لكن في موضوع
36
00:02:36,350 --> 00:02:40,370
الـ equal depth، ممكن أنا اشتغل إذا أنا فاهم الـ
37
00:02:40,370 --> 00:02:44,830
minimum والـ maximum تبعي قديش، بقدر أعمل استخدام
38
00:02:44,830 --> 00:02:48,210
و عارف إيش الـ range اللي ممكن تخدمني الـ intervals
39
00:02:48,210 --> 00:02:50,430
ممكن اشتغل، لأنه في الآخر بدي أصبح الـ
40
00:02:50,430 --> 00:02:53,410
representation لكل رقم بالـ interval اللي موجودة
41
00:02:53,410 --> 00:02:57,890
عندها، تعالوا نشوف مع بعض الـ binning، الآن العملية
42
00:02:57,890 --> 00:02:59,370
الثانية اللي هتكلم عليها، الـ regression والـ
43
00:02:59,370 --> 00:03:02,030
clustering، بعدين كنا إحنا بدنا مع الـ binning والـ
44
00:03:02,030 --> 00:03:05,570
الرقم واحد، كنا بدنا نعمل sort، وبالمثال هذا هشتغل
45
00:03:05,570 --> 00:03:09,510
على equal frequency، equal frequency قال لي أنا الآن
46
00:03:09,510 --> 00:03:10,990
بدي اشتغل على three bins
47
00:03:19,150 --> 00:03:22,830
الآن يا جماعة الخير، لو كان في عندي plus أو minus
48
00:03:22,830 --> 00:03:26,890
one في الـ interval، يعني لو كانت الـ interval تبعي
49
00:03:26,890 --> 00:03:34,150
هذه 13، رقم 27، مش big deal أو مش مشكلة، إن الرقم
50
00:03:34,150 --> 00:03:38,300
الأخير هذا ينضاف على الـ bin الأخيرة، طيب لو كان في
51
00:03:38,300 --> 00:03:43,000
عندي ثلاث أرقام، مخصصة، بن مخصصة، رقم واحد ما عندي مشكلة
52
00:03:43,000 --> 00:03:47,360
تكون الـ bin الأخيرة بأقل من digit، خصوصاً لما إحنا
53
00:03:47,360 --> 00:03:50,720
بنتكلم، أنا بدي أعمل handling لـ attribute، الـ
54
00:03:50,720 --> 00:03:53,740
attribute مش اثنا عشر value، اللي فيه ثلاثة عشر، ممكن
55
00:03:53,740 --> 00:03:57,100
يكون فيه ثلاثة عشر ألف value، فلما فعلياً أجي أقول
56
00:03:57,100 --> 00:04:01,980
والله بدي خصّه عندي مئة قيمة من الألف، مش قضية، لسه ما
57
00:04:01,980 --> 00:04:06,200
زال عندي فيه ٩٠٠ قيمة موجودات، وبأثرهم بشكل كويس، فالخطوة رقم واحد بعد ما أنا أعمل
58
00:04:06,200 --> 00:04:10,160
sort، أجسم المجموعات، عملت sort، بدي equal frequency
59
00:04:10,160 --> 00:04:15,140
أربعة، هاي واحدة، اثنين، ثلاثة، الخطوة رقم واحد sort
60
00:04:15,140 --> 00:04:23,160
الخطوة رقم واحد sort، الخطوة رقم اثنين تجسيمهم أو الـ partitioning
61
00:04:23,160 --> 00:04:25,860
الخطوة رقم اثنين، تجسيمهم أو الـ partitioning
62
00:04:25,860 --> 00:04:32,120
تبعتهم لمجموعات، الآن بعد هيك، القيام هذه مين فيها
63
00:04:32,120 --> 00:04:36,700
الـ noise؟ أنا فعلياً مش عارف هل هي الأربعة هي الـ
64
00:04:36,700 --> 00:04:39,680
noise، ولا الأربعة والثلاثين هي الـ noise، أنا فعلياً
65
00:04:39,680 --> 00:04:43,580
مش عارفها، لكن هذه الأربعة أو الأربعة والثلاثين، أنا
66
00:04:43,580 --> 00:04:49,120
فعلياً هخلص منها من خلال استبدالها بإيش؟ مع كل bin
67
00:04:49,120 --> 00:04:53,360
الآن ممكن أستبدلها بالقيمة الـ mean أو الـ median
68
00:04:53,360 --> 00:04:58,920
أو الـ value .. الـ .. عفواً القيم الـ boundaries، لو
69
00:04:58,920 --> 00:05:03,160
أنا بدأت أعتمد على الـ mean، هضطر أجمع ثمانية زائد
70
00:05:03,160 --> 00:05:06,140
أربعة .. أربعة زائد ثمانية زائد تسعة زائد خمسة عشر
71
00:05:06,140 --> 00:05:10,640
على أربعة، وأروح أستبدلهم، طلعت تسعة، بالتالي المجموعة
72
00:05:10,640 --> 00:05:15,640
الأولى كل element فيها بده يصير تسعة، كل element
73
00:05:15,640 --> 00:05:18,900
فيها بده يصير تسعة، المجموعة الثانية، المتوسطة
74
00:05:18,900 --> 00:05:22,670
الحسابية تبعها كانت ثلاثة وعشرين، ومن ثم الـ .. و
75
00:05:22,670 --> 00:05:26,050
هتكون ثلاثة وعشرون، والاخيرة تسعة وعشرون وهكذا
76
00:05:26,050 --> 00:05:31,470
لو أنا بدي اشتغل على الـ boundaries، مفهوم الـ
77
00:05:31,470 --> 00:05:36,270
boundaries، هيهم الأربعة والخمسة عشر، هدول للـ bin
78
00:05:36,270 --> 00:05:41,130
الأولى أو للـ partition الأولى، الآن الأربعة والخمسة عشر
79
00:05:41,130 --> 00:05:44,550
هدول هيكونوا ثابتات، لاحظ في الـ mean والـ median أنا
80
00:05:44,550 --> 00:05:48,010
كل الـ partition، الـ values تبع الـ partition
81
00:05:48,010 --> 00:05:51,970
بستبدلها بقيمة واحدة، مظبوط؟ اللي كانت بالـ mean أو
82
00:05:51,970 --> 00:05:56,190
الـ median، التسعة استبدلت كل القيم، لكن مع الـ part
83
00:05:56,190 --> 00:05:59,570
.. مع الـ boundaries point، بصير .. بتكلم على الـ
84
00:05:59,570 --> 00:06:04,830
partition الواحد في قيمتين، الـ minimum والـ maximum
85
00:06:04,830 --> 00:06:10,090
الآن باجي بدور على القيم اللي في النص، ثمانية أقرب
86
00:06:10,090 --> 00:06:14,240
لأي boundary، وبعملها replacement للـ boundary الأقرب
87
00:06:14,240 --> 00:06:21,660
٨ أقرب للـ ٤ أكيد، ومن ثم replace ٩ للـ ٤، لأن الفرق
88
00:06:21,660 --> 00:06:26,380
بينها وبين ٤ و بين ١٥ و بين ٦، فهي أقرب للـ ٤ وبالتالي
89
00:06:26,380 --> 00:06:31,380
بعملها replacement بالـ ٤، الآن نفس الـ ٢١، و٢١ و٢٤
90
00:06:31,380 --> 00:06:36,120
يصير ٢٥، هنا أقرب وهكذا، تمام؟ هذا مفهوم الـ
91
00:06:36,120 --> 00:06:40,200
boundaries، لكن تعالوا نشوف مثال، نبدأ فيه من البداية
92
00:06:40,200 --> 00:06:44,240
خالص، هنشتغل فيه كالتالي، حاجة أقول أنا في عندي مثلاً
93
00:06:44,240 --> 00:06:58,400
القيم بسيطة: سبعة، ثلاثة، ثمانية، سالب واحد، اثنين، خمسة،
94
00:06:58,400 --> 00:07:09,880
عشرة، تسعة، ستة، أربعة، اثنا عشر، وهي كمان مرة ثلاثة، مش
95
00:07:09,880 --> 00:07:14,420
هتفرق معايا الآن
96
00:07:14,420 --> 00:07:19,160
أنا بدي اشتغل أو بدي أعمل partition أو بدي أستخدم
97
00:07:19,160 --> 00:07:23,460
two partitions، الخطوة
98
00:07:23,460 --> 00:07:26,200
رقم واحد، طبعاً كمان مرة بيتكلم عن الـ equal
99
00:07:26,200 --> 00:07:31,700
frequency، equal frequency، هشتغل الآن، أول خطوة رقم
100
00:07:31,700 --> 00:07:44,830
واحد sort، هي سالب واحد، اثنين، ثلاثة، كمان ثلاثة عندي
101
00:07:44,830 --> 00:07:57,970
أربعة، خمسة، ستة، سبعة، ثمانية، تسعة، عشرة، هيك الـ
102
00:07:57,970 --> 00:08:01,990
data صارت sorted، أنا بتكلم على equal frequency
103
00:08:01,990 --> 00:08:04,210
equal frequency على two partitions، يعني أنا بدي
104
00:08:04,210 --> 00:08:12,630
أعدّهم من النص، ١، ٢، ٣، ٤، ٥، ٦، ٧، ٨، ٩، ١٠، ١١، ١٢، ٦ ما في
105
00:08:12,630 --> 00:08:17,290
عندي مشكلة، ١، ٢، ٣، ٤، ٥، ٦ هي الـ partition أو الـ bin
106
00:08:17,290 --> 00:08:25,930
الأولى، وهي الـ bin الثانية، الآن بالـ mean، لو أنا بدي
107
00:08:25,930 --> 00:08:30,610
أشتغل بالـ mean، بدي .. ما في عندي مشكلة، بدي أجمع، بدي
108
00:08:30,610 --> 00:08:34,850
أجمع العناصر وأجسمهم على عددهم، على ٦، مظبوط؟ بقى
109
00:08:34,850 --> 00:08:38,930
بالـ median، القيمة اللي بتيجي في النص، بما أن
110
00:08:38,930 --> 00:08:42,570
الأعداد اللي عندي هنا، أعداد، عدد العناصر أو عدد
111
00:08:42,570 --> 00:08:46,770
الـ bin زوجي، ما في قيمة في النص، فهجيب الـ average
112
00:08:46,770 --> 00:08:51,410
تبع القيمتين اللي في النص، ثلاثة وثلاثة، بقى أنا
113
00:08:51,410 --> 00:08:55,490
هتكلم بالـ median، ثلاثة
114
00:08:55,490 --> 00:09:00,830
وثلاثة، ستة على اثنين، ثلاثة، معناته الآن كل الـ bin
115
00:09:00,830 --> 00:09:05,450
هذه، بدون يعملها replacement بمين؟ بثلاثة ..
116
00:09:05,450 --> 00:09:07,710
ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة
117
00:09:07,710 --> 00:09:07,950
.. ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة ..
118
00:09:07,950 --> 00:09:08,030
ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة ..
119
00:09:08,030 --> 00:09:08,990
ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة ..
120
00:09:08,990 --> 00:09:10,670
ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة ..
121
00:09:10,670 --> 00:09:11,390
ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة ..
122
00:09:11,390 --> 00:09:19,130
ثلاثة .. ثلاثة .. ثلاثة .. ثلاثة ..
123
00:09:19,130 --> 00:09:25,690
ثلاثة .. ثلاثة .. تل
124
00:09:26,510 --> 00:09:30,190
أقول لك شغلة، حتى لو كانت، لو كانت الـ value تبعي
125
00:09:30,190 --> 00:09:36,070
هذه مش اثنا عشر، بدي أخليها واحد وعشرين عشان يكون في
126
00:09:36,070 --> 00:09:42,950
عندي outlier حقيقي وأنا بدي إيش أخلص منه، الآن
127
00:09:42,950 --> 00:09:46,790
مين عند الـ error أو الـ error واضح وين يا شباب؟ واضح
128
00:09:46,790 --> 00:09:51,710
عندي في السالب، لأن القيم كلهم موجبة، كل القيم موجبة
129
00:09:51,710 --> 00:09:56,070
باستثناء السالب واحد، وكلها قريبة من العشرة
130
00:09:56,070 --> 00:10:01,770
باستثناء الـ ٢١، هاي ليش أنا جيبت المثال ده بالتحديد؟
131
00:10:01,770 --> 00:10:05,190
عشان أقول لك انتبه، مش كل الخيارات ممكن تكون مناسبة
132
00:10:05,190 --> 00:10:10,310
لك، الآن بالـ mean والـ median أنا خلصت وانحلت تمام
133
00:10:10,310 --> 00:10:14,070
و راحت الـ error زالت، لكن لو أنا بدأت أشتغل بالـ
134
00:10:14,070 --> 00:10:17,190
boundary point، بدأت أشتغل على الـ boundaries
135
00:10:26,090 --> 00:10:29,110
حيظلوا موجودات في وجهي، حيظلوا موجودات في الـ data
136
00:10:29,110 --> 00:10:33,450
set، على الرغم إن هما الـ outliers اللي أنا كنت عمال
137
00:10:33,450 --> 00:10:37,250
بحاول أخلص منه، أو بين جثتين الـ noise data اللي كنت
138
00:10:37,250 --> 00:10:42,510
بحاول أخلص منها، مظبوط؟ فأنت بدك تنتبه، تنتبه إنه
139
00:10:42,510 --> 00:10:47,130
أنا مش كل واحدة بتنفع معايا، الآن اللي حيصير كالتالي:
140
00:10:47,130 --> 00:10:52,230
سالب واحد، سالب اثنين، أقرب لسالب واحد ولا للخمسة؟ لأ
141
00:10:52,230 --> 00:10:56,470
سالب واحد، معناته هي سالب واحد، سالب واحد، الثلاثة
142
00:10:56,470 --> 00:11:03,870
لسالب واحد ولا خمسة؟ لأ، خمسة، خمسة، خمسة، خمسة، هنا ستة
143
00:11:03,870 --> 00:11:12,450
هنا ستة، ستة، ستة، ستة، ستة، ستة، واحد وعشرين، لاحظ الـ
144
00:11:12,450 --> 00:11:14,910
outlier، بدل ما أخلص منها أو الـ noise ده بدل ما
145
00:11:14,910 --> 00:11:19,960
أخلص منها، عززتها كمان واحدة، فأنت بقت تنتبه مش دائماً
146
00:11:19,960 --> 00:11:25,020
الخيارات هذه بتكونش perfect بالنسبة لي، فأنت بتشوف
147
00:11:25,020 --> 00:11:29,380
الخيار الأمثل في التعامل، تمام؟ وبالتالي خلصنا من
148
00:11:29,380 --> 00:11:32,480
موضوع الـ binning، طبعاً الـ binning زي ما أنت شايف
149
00:11:32,480 --> 00:11:36,360
موضوع بسيط، سهل، ممكن أنا أسيطر عليه بشوية انتباه
150
00:11:36,360 --> 00:11:41,480
وتركيز في التعامل، الطريقة الثانية إن أخلص من الـ
151
00:11:41,480 --> 00:11:45,040
noise data، إن أنا أعمل regression، شو يعني
152
00:11:45,040 --> 00:11:50,520
regression؟ هي عبارة عن الـ predictive task، مظبوط؟
153
00:11:50,520 --> 00:11:55,340
بحيث إن أصل على formula أو model يقدر يتنبأ بالقيم
154
00:11:55,340 --> 00:11:59,720
زي ما بقول محمد، by value، الآن لو أنا أجيت وقلت لك
155
00:11:59,720 --> 00:12:05,860
النقاط هذه المرسومة قدامي، هي بتمثل الـ data set
156
00:12:05,860 --> 00:12:11,260
تبعي، لاحظ النقاط كلها جاية تمام حوالين الخط هذا
157
00:12:11,260 --> 00:12:19,800
باستثناء النقطة اللي جاية هنا، بصراحة؟ ليش جاية هنا؟ لأن
158
00:12:19,800 --> 00:12:23,520
فيها noise، القيمة تبعها فيها outlier أو فيها
159
00:12:23,520 --> 00:12:28,520
noise معينة خلتها بعيدة، واحدة من الطرق تبع الـ
160
00:12:28,520 --> 00:12:32,140
noise handling أو noise data handling، إن أنا أعمل
161
00:12:32,140 --> 00:12:35,000
estimation أو أعمل prediction للـ regression
162
00:12:35,000 --> 00:12:41,300
function أو الـ line model تبعي، الـ line function
163
00:12:41,300 --> 00:12:45,200
تبعي، بحيث إن أنا أرسم الخط المستقيم اللي بيمثل كل
164
00:12:45,200 --> 00:12:51,010
الـ data، أرسم خط مستقيم يمثل كل الـ data، والخط
165
00:12:51,010 --> 00:12:56,230
المستقيم هذا له معادلة، الآن بناءً على قيمة X اللي
166
00:12:56,230 --> 00:13:01,190
عندي هنا اللي هي ثابتة، بقدر أعمل estimation لمين؟
167
00:13:01,190 --> 00:13:06,250
لقيمة Y الصحيحة، هل هذا أنا بدي أطبقه على كل الـ
168
00:13:06,250 --> 00:13:16,160
data؟ لأ، فقط على الـ noise data، noisy point، وبالتالي
169
00:13:16,160 --> 00:13:20,580
هذه القيمة هتطلع وين؟ معايا على الخط، وبالتالي
170
00:13:20,580 --> 00:13:27,120
هتاخد Y جديدة، الفكرة إن الوصول للـ regression model
171
00:13:27,120 --> 00:13:36,520
هذا
223
00:17:21,400 --> 00:17:26,250
الحامل للذكور هل هذا وارد؟ في عمر واحد عاجل بيفكر
224
00:17:26,250 --> 00:17:30,070
يبني rule زي هيك عشان يدور لأنه الأصل لأ، لكن في
225
00:17:30,070 --> 00:17:34,270
لحظة من اللحظات ممكن أنا أضطر أكتب rule عشان يحل
226
00:17:34,270 --> 00:17:37,750
أو يدور لي على الحالات اللي زي هذه، بس فعلياً مش
227
00:17:37,750 --> 00:17:42,370
هتلاقيه بسهولة، أنت بتعمل development الشغل ال
228
00:17:42,370 --> 00:17:47,490
manual أحسن لأن هذه الـ cases قليلة جداً، تمام؟
229
00:17:47,490 --> 00:17:52,880
وغالباً هتختلف من حالة لحالة، لكن احنا بنقول لو فرضا
230
00:17:52,880 --> 00:17:57,200
أن الحالة هذه ممكن تتكرر، إيش بروح بساوي؟ ممكن
231
00:17:57,200 --> 00:18:00,440
أبني لها system بسيط يعمل الـ check تماماً زي اللي
232
00:18:00,440 --> 00:18:05,240
بتكلم عن الـ spelling check programs، الآن الخطأ
233
00:18:05,240 --> 00:18:08,720
الإملائي أثناء الكتابة، إيش هو؟ مش هو عبارة عن برنامج
234
00:18:08,720 --> 00:18:13,780
عنده موجود الكلمات بين جثين الـ rules، وبروح بصير
235
00:18:13,780 --> 00:18:18,760
يقارنها، بعضهم راح يقول لك في عندك grammar check، بدي
236
00:18:18,760 --> 00:18:21,720
أعرف قوانين الكتابة وصياغة اللغة، وهنا نفس الكلام
237
00:18:21,720 --> 00:18:28,320
بدي أصير أنا أكون عارف وين الـ inconsistency بتصير
238
00:18:28,320 --> 00:18:30,600
بين الـ attributes، وأصير أحطها في rules عشان يعملها
239
00:18:30,600 --> 00:18:34,740
detection، لكن هذا الكلام صعب وصعب جداً، احنا بدنا
240
00:18:34,740 --> 00:18:38,460
نعمل focus على الشغل، لكن ممكن المعنى والهدا مهم
241
00:18:38,460 --> 00:18:43,440
جداً، عشان هيك، عشان هيك أول واحدة في معالج الـ
242
00:18:43,440 --> 00:18:49,580
inconsistent data، الـ common sense، تستخدم المنطق
243
00:18:49,580 --> 00:18:53,980
السليم تبعك في التفكير، مش بس الإحساس، أقول اه والله
244
00:18:53,980 --> 00:18:58,660
okay، male و pregnant، أنا حاسس أنه مش صحيح المعلومة
245
00:18:58,660 --> 00:19:02,720
لأ، الـ common sense، مقصودها أن البديهيات بالنسبة
246
00:19:02,720 --> 00:19:06,780
اليك، خلاص في مشكلة هنا، male مستحيل يكون pregnant
247
00:19:06,780 --> 00:19:11,440
أو يكون الـ gender عندي مدخل خطأ وهو female صحيح
248
00:19:11,440 --> 00:19:15,500
ولا لأ؟ وبالتالي هذه الحالتين موجودات، لكن لو
249
00:19:15,500 --> 00:19:23,560
طلعت في السجل كله، ياتهدخل مدرسة للذكور ومحطوط بعد
250
00:19:23,560 --> 00:19:30,920
فترة pregnant، لأ مستحيل، فكلمة pregnant هي الخطأ
251
00:19:30,920 --> 00:19:35,120
وبالتالي بدنا نشيلها من العناصر الموجودة، الفكرة
252
00:19:35,120 --> 00:19:38,020
كمان مرة يا جماعة الخير، الـ common sense لازم تكون
253
00:19:38,020 --> 00:19:41,880
حاضرة، احنا عندنا مشاكل كبيرة مع الأنظمة كعرب، لما
254
00:19:41,880 --> 00:19:42,840
أتكلم بالـ hands up
255
00:19:45,990 --> 00:19:51,190
حمزة مكسورة، حمزة مفتوحة، حمزة مضمومة، والإنجليز
256
00:19:51,190 --> 00:19:54,710
كذلك عندهم نفس المشاكل، الأجانب في عند الـ Dennis
257
00:19:54,710 --> 00:20:00,050
وDennis، وهاي قرأها عن هاي، واحد يقول الـ Man names
258
00:20:00,050 --> 00:20:02,690
أساساً ما بديش هي في الـ mining task، بقول لك كلامك صح
259
00:20:02,690 --> 00:20:06,390
بس هذا الكلام وارد عشان تقدر توافق، على سبيل المثال
260
00:20:06,390 --> 00:20:10,210
في الـ integration، لما نيجي كمان شوية بدي أجمع two
261
00:20:10,210 --> 00:20:13,470
datasets مع بعضهم، لجيت رقم واحد، اثنين، ثلاثة،
262
00:20:13,470 --> 00:20:18,130
أربعة، واسمه Dennis، الاسم الأول ورقمه في الـ Data 6
263
00:20:18,130 --> 00:20:22,550
اللي جاي من وزارة الصحة 1234، والاسم مكتوب Dennis
264
00:20:22,550 --> 00:20:25,250
بالـ Spelling، التاني هقول لأ لأ، هدول الـ Two
265
00:20:25,250 --> 00:20:30,110
Records مش نفسهم، لأ هما نفسهم ومافيش بينهم تعارض
266
00:20:30,110 --> 00:20:35,610
لأ، ما هو في شغلات بتأكد أن ممكن الـ Data تكون هذه
267
00:20:35,610 --> 00:20:42,110
غلط، صح؟ يعني الآن لجيت Two Records نفس الـ ID
268
00:20:42,110 --> 00:20:44,890
1234، وواحد خليل واثنين حسن
269
00:20:47,870 --> 00:20:52,910
لأ، في غلط، لكن لما ألاقي هذا Dennis وDennis ما فيه
270
00:20:52,910 --> 00:20:56,310
غلط، صح؟ فيه difference في الـ value تبع الـ name
271
00:20:56,310 --> 00:21:01,770
هنا، لكنه فعلاً ضمن الـ common sense، هذا نفس الاسم،
272
00:21:01,770 --> 00:21:08,430
إيش يا محمد؟ تمام؟ طبعاً،
273
00:21:08,430 --> 00:21:11,010
بكتب، أدور على الـ inappropriate values، القيم الغير
274
00:21:11,010 --> 00:21:16,010
منطقية أو الغير متاحة،
275
00:21:16,010 --> 00:21:16,290
طيب
276
00:21:20,090 --> 00:21:24,030
كيفك تصلحها؟ كيفك تصلح الـ inconsistent data؟
277
00:21:24,030 --> 00:21:30,910
Manual، بعد ما أحددها، بدي أحددها وأصلحها، إيش؟
278
00:21:30,910 --> 00:21:34,190
Manual، يعني لازم أرجع للـ documents وأقارن الـ
279
00:21:34,190 --> 00:21:38,090
data اللي موجودة عندها، تخيل، بقول لك أنت لو روحت على
280
00:21:38,090 --> 00:21:44,970
زبائن بنك معين، ولجيت 5% منهم كلهم مولودين في 11/2
281
00:21:48,490 --> 00:21:51,850
صدفة حلوة؟ لأ، أنا بقول لك في خطأ و..و..خطأ أكيد
282
00:21:51,850 --> 00:21:56,090
يعني عويجي يقول لي والله الطلاب المسجلين عشرين
283
00:21:56,090 --> 00:21:58,570
فالمئة من الطلاب الموجودين بيننا الآن في المحاضرة
284
00:21:58,570 --> 00:22:01,290
في الـ data mining، من مورد الف وتسعمائة وخمسة وعشرين
285
00:22:01,290 --> 00:22:04,790
مستحيل
286
00:22:06,190 --> 00:22:10,250
كيف أتجمع كلهم؟ هل هم..الآن تقول لك والله هذا
287
00:22:10,250 --> 00:22:13,290
التاريخ..هذا التاريخ..يعني لكل واحد فيه تاريخ
288
00:22:13,290 --> 00:22:18,590
ميلاد مستقل، ولا لأ؟ تيجي تقول لي عشان صدفة غريبة، بما
289
00:22:18,590 --> 00:22:22,030
أنها غريبة، بروح أتحقق منها، طب أتحقق منها كيف؟ بدوا
290
00:22:22,030 --> 00:22:27,870
تايم الشباب؟ هاتوا هوياتكم، مش هيك اللي حيصير؟ هرجع
291
00:22:27,870 --> 00:22:31,250
للـ document الحقيقي عشان أنا أعمل الـ check على الـ
292
00:22:31,250 --> 00:22:35,570
values اللي موجودة، من الشغلات اللي بتساعدني في فهم
293
00:22:36,920 --> 00:22:40,520
الـ Consistency تبع الـ Data، وتحديد الـ
294
00:22:40,520 --> 00:22:46,440
Inconsistent Values، الـ Metadata، ليش؟
295
00:22:46,440 --> 00:22:48,820
لأن في الـ Metadata، باجي أتكلم على الـ Domain و
296
00:22:48,820 --> 00:22:51,300
الـ Range، والـ Dependency، والـ Distribution تبع
297
00:22:51,300 --> 00:22:54,180
الـ Attributes، بيجي يقول لي والله عندي الـ salary
298
00:22:54,180 --> 00:22:59,320
عبارة عن number، تتراوح الأرقام أو الـ values، الـ
299
00:22:59,320 --> 00:23:03,180
minimum salary 1500، والـ maximum salary 2700
300
00:23:06,210 --> 00:23:14,850
لجيت فيه salary مدخل 3700، inconsistent، ليش؟ لأنها
301
00:23:14,850 --> 00:23:18,810
طلعت برا..برا الـ rule اللي حدد لي الـ range
302
00:23:18,810 --> 00:23:24,710
تمام؟ وبالتالي فهم الـ metadata بيساعدني في تحديد
303
00:23:24,710 --> 00:23:31,690
الـ inconsistent data، بدي أفحص الـ field overloading
304
00:23:31,690 --> 00:23:36,380
أو الـ field overloading، شو يعني overloading؟ بالـ
305
00:23:36,380 --> 00:23:40,020
object oriented، شو يعني overloading؟ overloading
306
00:23:40,020 --> 00:23:43,460
method، أنه
307
00:23:43,460 --> 00:23:47,120
في عندي method بتحمل نفس الاسم، لكن الـ signature
308
00:23:47,120 --> 00:23:50,840
تبعها مختلفة، شو يعني الـ signature؟ إما الـ return
309
00:23:50,840 --> 00:23:55,880
value أو الـ parameter، متفقين؟ طيب يعني شو يعني
310
00:23:55,880 --> 00:23:59,840
overloading attribute؟ أنه الـ attribute هذا ظهر
311
00:23:59,840 --> 00:24:04,950
بشكل مختلف، مع أنه الـ values تبعته إيش؟ متشابهة، يعني
312
00:24:04,950 --> 00:24:10,070
لجيت أنا عندي فعلياً الـ age، لجيت الـ age ولجيت
313
00:24:10,070 --> 00:24:16,310
تاريخ الميلاد، المفروض الاثنين بيدوني نفس المعلومة
314
00:24:16,310 --> 00:24:20,730
ولا شو رأيكم؟ اه، هو أنا هكتفي بواحد يا أهي أبو
315
00:24:20,730 --> 00:24:25,430
حينها، لكن الآن عشان أنا أفحص الـ consistency، ممكن
316
00:24:25,430 --> 00:24:31,090
هذا يخدمني في الموضوع، ولا شو رأيكم؟ الـ uniqueness
317
00:24:31,090 --> 00:24:36,480
rules، كذلك أنه لما أنا بكون فاهم الـ description صح
318
00:24:36,480 --> 00:24:40,840
وبيجي بقول لي الـ attribute الفلاني، كل الـ values اللي
319
00:24:40,840 --> 00:24:46,500
فيه unique، تمام؟ كل الـ values اللي فيه unique
320
00:24:46,500 --> 00:24:52,640
ما بتتكرر، وبلاقي فيه تكرار، وهذا مؤشر أنه صار في
321
00:24:52,640 --> 00:24:56,420
عندي شغل غلط في الـ dataset، هل الروهات دي duplicated
322
00:24:56,420 --> 00:25:00,680
ولا فعلياً في عندي عناصر عاملة بتظهر في الآخر
323
00:25:00,680 --> 00:25:03,460
ممكن يكون عند بعض الـ commercial tools اللي بتعمل
324
00:25:03,460 --> 00:25:06,060
analysis للـ data، وبتجيب لي العلاقة بين الـ values
325
00:25:06,060 --> 00:25:11,800
الـ different values، لكن مجالاتها قليلة جداً زي ما
326
00:25:11,800 --> 00:25:17,180
قلنا سابقاً، يعني بكل بساطة، بكل بساطة الـ
327
00:25:17,180 --> 00:25:22,540
inconsistent data بتحتاجك أنت as a human أكثر ما
328
00:25:22,540 --> 00:25:27,940
بتحتاج machine أو program عشان يحددها ويصلحها
329
00:25:27,940 --> 00:25:37,240
تمام؟ تمام يا شباب؟ تمام، تمام، ننتقل للنقطة اللي
330
00:25:37,240 --> 00:25:41,540
بعد هيك، احنا قلنا للوصول للـ knowledge presentation
331
00:25:41,540 --> 00:25:52,190
كم خطوة بدي امشي؟ ايوه؟ سبعه: data cleaning، data
332
00:25:52,190 --> 00:25:57,270
integration، data selection، data transformation،
333
00:25:57,270 --> 00:26:00,890
data mining، الـ transformation بالمناسبة قبل الـ
334
00:26:00,890 --> 00:26:04,330
selection، مش قضية كتير، data mining، knowledge
335
00:26:04,330 --> 00:26:09,570
knowledge evaluation، أو better evaluation، و
336
00:26:09,570 --> 00:26:14,210
knowledge presentation، تمام، الآن بدنا ننتقل للـ
337
00:26:14,210 --> 00:26:19,460
task الثانية مباشرة، اللي هي الـ data integration
338
00:26:19,460 --> 00:26:24,140
يعني احنا بفهم بناءً على الخطوة هاي، إذا كان في عندي
339
00:26:24,140 --> 00:26:29,380
two different data source، data set one، و data set
340
00:26:29,380 --> 00:26:36,020
two، من different resources، الأصل..الأصل أن أعمل
341
00:26:36,020 --> 00:26:42,720
cleaning للنتين، قبل ما أعمل integration، ليش؟
342
00:26:43,160 --> 00:26:47,100
لأنه فعلياً احنا مش بحاجة الـ null، حتصير في عندي
343
00:26:47,100 --> 00:26:50,240
مشكلة، فأنا لما بدي أعمل integration بدي أكون على
344
00:26:50,240 --> 00:26:53,760
السليم، يعني في مرحلة ما بعد الـ cleaning عشان أضمن
345
00:26:53,760 --> 00:26:58,000
يصير في عندي combination صح للـ data set، الآن
346
00:26:58,000 --> 00:27:00,440
وبالتالي الـ data integration هي عبارة عن
347
00:27:00,440 --> 00:27:03,080
combination أو combines الـ data from different
348
00:27:03,080 --> 00:27:07,480
sources، زي ما قلنا سابقاً بالمثال اللي قلناه، هنكرره
349
00:27:07,480 --> 00:27:13,210
كتير، كاسمتقدير تحصيل الطالب أو مستوى تحصيل الطالب
350
00:27:13,210 --> 00:27:15,950
في المرحلة الابتدائية، بناءً على الحالة الصحية،
351
00:27:15,950 --> 00:27:18,730
صحيح؟ وكل هذه المعلومات من two different
352
00:27:18,730 --> 00:27:23,810
resources، تربية والتعليم، والصحة، وبدي أعمل
353
00:27:23,810 --> 00:27:29,330
integration ما بين العناصر اللي موجودة عندها، ليش
354
00:27:29,330 --> 00:27:35,110
أنا فعلياً بدي أعمل data integration لواحد من سببين
355
00:27:35,110 --> 00:27:47,080
الأول، أنه أنا في عندي small data set، small
356
00:27:47,080 --> 00:27:52,260
data set، لما أتكلم small data set، معناته الـ
357
00:27:52,260 --> 00:27:58,220
integration هدفه زيادة عدد الـ rows، زيادة عدد الـ
358
00:27:58,220 --> 00:28:05,820
samples، صحيح؟ الشغل
359
00:28:05,820 --> 00:28:07,940
الثاني، سبب الـ integration
360
00:28:11,780 --> 00:28:17,120
more information for
361
00:28:17,120 --> 00:28:23,700
the samples، أنا بحاجة لمعلومات
362
00:28:23,700 --> 00:28:27,040
جديدة عن الـ samples، عامل في المثال اللي بنقول
363
00:28:27,040 --> 00:28:31,180
عليه، أنا عنده معلومات خاصة بالمدرسة والتعليم، سجل
364
00:28:31,180 --> 00:28:33,920
الطالب التعليمي موجودة في وزارة، وأنا شغال في
365
00:28:33,920 --> 00:28:38,520
الوزارة، فهي موجودة عند الـ dataset، الآن المعلومات
366
00:28:38,520 --> 00:28:41,640
اللي أنا بدي إياها إضافية عشان تخدم الـ task تبعي
367
00:28:41,640 --> 00:28:45,820
موجودة في وزارة الصحة، مش هبدأ أساوي، بدي أجيبها عشان
368
00:28:45,820 --> 00:28:49,880
أضيف information لكل sample، يعني أنا بدي أضيف بين
369
00:28:49,880 --> 00:28:57,380
جثين attributes، صحيح؟
370
00:28:57,380 --> 00:29:01,940
لأن هنا مش هعمل على الـ enlargement للـ dataset، مش
371
00:29:01,940 --> 00:29:05,460
هزيد عدد الـ rows، هزيد عدد الـ attributes
372
00:29:12,330 --> 00:29:21,810
الآن لو أنا بدي أعمل dataset بسيطة، هنا الـ
373
00:29:21,810 --> 00:29:31,090
ID،
374
00:29:31,090 --> 00:29:36,110
الـ name، الـ
375
00:29:36,110 --> 00:29:39,150
age، والـ level
376
00:29:42,930 --> 00:29:50,070
والـ GPA أو الـ Average GPA، متوسط
377
00:29:50,070 --> 00:29:56,130
تحصيله، هذه المعلومات من وين؟ من المدرسة أو من
378
00:29:56,130 --> 00:30:04,130
وزارة التربية والتعليم، في وزارة الصحة ما فيش
379
00:30:04,130 --> 00:30:08,110
شيء ما فيش
380
00:30:08,110 --> 00:30:13,070
average، ما فيش level، صحيح؟ كلامك، الـ ID والـ name
381
00:30:13,070 --> 00:30:18,850
بتكلم على الـ weight، العمر،
382
00:30:18,850 --> 00:30:29,210
مثلاً هاي الـ age، date of birth، ليكن الـ weight، الـ
383
00:30:29,210 --> 00:30:36,770
height، illness، هل في أمراض ولا لأ؟ هل بتناول أدوية
384
00:30:36,770 --> 00:30:40,350
ولا لأ؟ treatment إلى آخره، المهم أنا بدي أعمل
385
00:30:40,350 --> 00:30:45,640
combination أو بدي أجمع الـ two datasets هدول عشان
386
00:30:45,640 --> 00:30:49,500
الـ task تبعي، هدفها، كمان مرة، للمرة كده أشهد الألف
387
00:30:49,500 --> 00:30:54,580
تمام؟ كمان مرة بنتكلم أنه أنا بدي أحاول أعمل
388
00:30:54,580 --> 00:31:00,560
prediction لمستوى تحصيل الطالب بناءً على سجله الصحي
389
00:31:00,560 --> 00:31:06,360
الـ combination هذا حيصير هاني علي أبو الخير، صحيح؟
390
00:31:10,100 --> 00:31:15,820
تمام، هذا الـ raw أو الـ dataset بدها تكون هنا، وكأني
391
00:31:15,820 --> 00:31:24,320
بكل بساطة بدي أعمل inner join بين two tables، فهذه
392
00:31:24,320 --> 00:31:26,880
الـ combination، كان هدفها أو هذه الـ integration
393
00:31:26,880 --> 00:31:32,420
هدفها إضافة معلومات جديدة لكل entity، لكل sample، لأن
394
00:31:32,420 --> 00:31:36,600
عشان تتحقق الـ task الموجودة، لكن لو قلنا والله أن
395
00:31:36,600 --> 00:31:42,360
الطالب هذا كان فترة الابتدائي عايش أو بدرس في
396
00:31:42,360 --> 00:31:46,520
مدرسة خاصة، أو مدرسة خاصة، والمعلومات هذه ما كانتش
397
00:31:46,520 --> 00:31:50,560
موجودة
445
00:35:34,020 --> 00:35:38,850
recordو أخلّيه عندي بأكبر قدر ممكن، بأطلّع على باقي
446
00:35:38,850 --> 00:35:45,530
مثلاً، بأطلّع على الـ age 17، 17. إذا هل في common
447
00:35:45,530 --> 00:35:49,910
attributes بين الاثنين بيأكدولي إن هذا هو نفسه هذا
448
00:35:49,910 --> 00:35:53,810
ممكن أصيب، أتجوز عن من؟ عن الاسم، لأنه فعلاً الاسم مش
449
00:35:53,810 --> 00:35:57,690
هيخدمني، بس أنا حاليًا بدي أتأكد إن هذا real entity
450
00:35:57,690 --> 00:36:01,910
موجودة عندي في الـ data set. هذه بنسمّيها الـ entity
451
00:36:01,910 --> 00:36:03,550
identification
452
00:36:05,840 --> 00:36:08,740
الـ problem، الـ value of conflict أو الـ value
453
00:36:08,740 --> 00:36:17,860
conflict، التعارض ما بين القيم، لجيته عمره هان 17، و
454
00:36:17,860 --> 00:36:27,520
هان لجيته 15. أنا في الآخر هحتفظ بـ one edge، مظبوط؟
455
00:36:27,520 --> 00:36:32,840
يعني غالباً الـ edge هان مش هجيب ليه، طب آسف مين فيهم
456
00:36:32,840 --> 00:36:36,900
الصحيح؟ الخمسة عشر ولا السبعة عشر؟ الـ date of birth
457
00:36:36,900 --> 00:36:43,760
هنا موجود، قال لي والله إنه تاريخ ميلاده هذا 2005
458
00:36:43,760 --> 00:36:48,180
وخمسة، واحنا 2020، ميلاده خمسة عشر، ميلاده
459
00:36:48,180 --> 00:36:52,240
الخطأ عندي هنا، وهذا بيطلب برضه مني manual
460
00:36:52,240 --> 00:36:56,860
correctness، عشان أعدي الـ level. ممكن يكون عندي
461
00:36:56,860 --> 00:37:01,120
indicator، طبعاً، لكن بيظل فيه احتمال إن هو فعلياً ايش
462
00:37:01,120 --> 00:37:04,600
يكون مثلاً، تأخر سنة أو رسب سنة أو ما شابه، لكن الـ
463
00:37:04,600 --> 00:37:08,140
date of birth كان بيقول لأ، يا إما هو متأكد، لأنه هو
464
00:37:08,140 --> 00:37:12,420
بيشوف فيه تقارب ما بين الـ values، الـ redundant
465
00:37:12,420 --> 00:37:21,100
teachers. أنا ما فيش عندي الـ age هنا، لكن
466
00:37:21,100 --> 00:37:26,140
عندي date of birth، تاريخ الميلاد. لما أنا أعمل
467
00:37:26,140 --> 00:37:30,140
marriage، تاريخ الميلاد هيجينيها كـ attribute، لكن
468
00:37:30,140 --> 00:37:35,220
المعلومات اللي فيها موجودة عندي سابقاً، فبرضه أنا
469
00:37:35,220 --> 00:37:38,820
بدي أنتبه لها، يعني في عندي تلت شغلات أساسية بدي
470
00:37:38,820 --> 00:37:42,320
أنتبه لها، عندي عملية الـ integration، أتأكد من الـ
471
00:37:42,320 --> 00:37:46,020
identification لكل entity، اللي فعلياً الـ entity
472
00:37:46,020 --> 00:37:51,340
تقابل الـ entity المقابلة بتاعتها بشكل صحيح، الـ
473
00:37:51,340 --> 00:37:54,300
value conflict أو الـ inconsistent اللي ممكن تصير
474
00:37:54,300 --> 00:37:56,660
عندي، زي ما صار معايا في الاسم أو صار معايا في الـ
475
00:37:56,660 --> 00:38:02,380
age، وفي الآخر في الـ redundant features أو في تكرار
476
00:38:02,380 --> 00:38:08,060
الـ attributes اللي موجودة عندي، وبرضه الشغل هيكون
477
00:38:08,060 --> 00:38:13,740
manual. ممكن أكتب code عشان يعمل integration لو أنت
478
00:38:13,740 --> 00:38:17,820
طبّقت، عملت الـ inner join بين الـ two tables هدول، ايش
479
00:38:17,820 --> 00:38:24,280
اللي بيصير؟ بياخد الـ rows بناءً على الـ ID، الـ ID
480
00:38:24,280 --> 00:38:29,920
المختلف بين الاثنين، ما بيطلعش، يعني تخيّل إن هنا واحد
481
00:38:29,920 --> 00:38:36,660
اثنين، ثلاثة، تسعة، ما فيش هنا، وهنا عندي واحد، اثنين
482
00:38:36,660 --> 00:38:42,860
ثلاثة، ثمانية، مش موجود هنا، هذا الـ row مش هيظهر، وهذا
483
00:38:42,860 --> 00:38:47,200
الـ row مش هيظهر، ولا لأ؟ ليش؟ لأن فعلياً ما فيش
484
00:38:47,200 --> 00:38:51,220
integration ما بين الـ rows اللي موجودة، لكن لاحظوا
485
00:38:51,220 --> 00:38:55,760
المشكلة دي أنا ما عانيت منها مطلقاً لما روحت جيبت
486
00:38:55,760 --> 00:39:00,260
مصدر ثاني للبيانات، وصرت أجمعها عشان أزيد مين؟ عدد
487
00:39:00,260 --> 00:39:04,000
الـ rows، لأن في الآخر أنا جيبت من المدرسة الخاصة، جيبت
488
00:39:04,000 --> 00:39:08,180
الـ name، و الـ age، و الـ level، و الـ GPA لمجموع الطلاب
489
00:39:08,180 --> 00:39:13,120
عشان أزيد، أزيد محصلة الـ rows اللي موجودة عندها
490
00:39:19,090 --> 00:39:24,050
هننتقل الآن لموضوع الـ Data Transformation، اللي هي
491
00:39:24,050 --> 00:39:30,150
الخطوة الرابعة، العد، أيوة، أهب، تفضّل، اسأل، مثلاً زي
492
00:39:30,150 --> 00:39:33,850
الـ media اللي جيت العالم الأول بسيط، هجيته فعلاً فعلاً
493
00:39:33,850 --> 00:39:37,070
هذا مثلاً، الإنسان بدري يعمل بحث زي هيك، هل فعلاً مهتم
494
00:39:37,070 --> 00:39:41,430
في الـ record زي ما هذا، ولا بس إنه اتعلّم الصحيح؟
495
00:39:41,430 --> 00:39:45,210
شوفي، أهب، كل record بتضيفه على الـ data set الأصلي
496
00:39:45,210 --> 00:39:49,450
بتضيف لك knowledge جديدة، و بقوّي الـ rule أو الـ
497
00:39:49,450 --> 00:39:52,550
predictors اللي أنت بدك تنشئه، عشان هيك فعلياً أنت
498
00:39:52,550 --> 00:39:58,150
محتاجة، كل ما كانت عدد الـ data set قليلة أو
499
00:39:58,150 --> 00:40:05,170
المعلومات اللي عندك قليلة، أنت بحاجة لأي.. أي شغل
500
00:40:05,170 --> 00:40:08,730
بتعزّز البيانات اللي موجودة عندك، حتى لو one record
501
00:40:08,730 --> 00:40:13,270
بدك تضيفه، لكن الـ data set اللي عندي حجمها 100 ألف
502
00:40:13,270 --> 00:40:17,950
record، ولا جيت عشرة records أو مئة record أو ألف
503
00:40:17,950 --> 00:40:23,870
record، في مكان ما، مش ضروري أفكر فيهم كتير، إذا أنا
504
00:40:23,870 --> 00:40:26,450
واثق في البيانات اللي عندي، لكن لو كانوا الألف
505
00:40:26,450 --> 00:40:30,110
record هدول بمثل حالة خاصة، وأنا بدي أدرجها في
506
00:40:30,110 --> 00:40:33,090
النظام تبعي، لازم أعملها integration للمئة ألف
507
00:40:33,090 --> 00:40:37,890
اللي عندي، وصيروا مئة ألف وواحد، تمام؟ أو مئة وواحد
508
00:40:37,890 --> 00:40:42,570
ألف، في موضوع الـ transfer.. في أي شباب عنده..
509
00:40:42,570 --> 00:40:48,020
شباب، في حد عنده أي سؤال ثاني؟ ننتقل لموضوع أو نكمل
510
00:40:48,020 --> 00:40:51,100
في الـ steps، وبنحاول إن شاء الله الأسبوع هذا ننهي
511
00:40:51,100 --> 00:40:53,540
الـ chapter اللي إحنا بنشتغل فيه، لأنه صار لنا قد ايش
512
00:40:53,540 --> 00:40:55,320
هذا الأسبوع الثالث، وإحنا بناخد في الـ data
513
00:40:55,320 --> 00:40:58,620
understanding و الـ preparation، فبديش ياخد حسّه
514
00:40:58,620 --> 00:41:03,540
بالملل، فبنروح باتجاه الـ mining إن شاء الله. الآن في
515
00:41:03,540 --> 00:41:07,900
الـ data transformation، المقصود فيها تحويل أو تحوير
516
00:41:07,900 --> 00:41:14,330
البيانات من form، من صورتها الحالية، اللي تظهر بصورة
517
00:41:14,330 --> 00:41:19,910
تتناسب مع الـ mining task العام اللي إحنا بنقول، بقول
518
00:41:19,910 --> 00:41:22,430
أنا في عندي تاريخ الميلاد يا جماعة الخير، date of
519
00:41:22,430 --> 00:41:22,750
birth
520
00:41:27,040 --> 00:41:30,680
القيم اللي موجودة فيه.. القيم اللي موجودة فيه
521
00:41:30,680 --> 00:41:35,760
بتقول، إذا أنا بدي أبني decision rules، هيكون عندي
522
00:41:35,760 --> 00:41:39,580
الـ values كتيرة، لأنه انولد في شهر واحد، غير إن
523
00:41:39,580 --> 00:41:42,320
انولد في شهر اثنين، في عندي ثلاثين خيار في شهر واحد
524
00:41:43,080 --> 00:41:49,060
و28 في شهر 2، و 31 في شهر 3، مظبوط؟ معناته على مدار
525
00:41:49,060 --> 00:41:53,500
السنة، يعني أنا بتكلم هيك وكأنه وكأنه عندي 365
526
00:41:53,500 --> 00:41:59,420
variable أو value بدها تدخل في الـ decision rules
527
00:41:59,420 --> 00:42:04,480
تبعي، هذا.. هذا الكلام مش منطق، بينما كل الناس اللي في
528
00:42:04,480 --> 00:42:08,680
مستوى أول مثلاً، أو في فئة الجامعة، هدول فئة واحدة
529
00:42:08,680 --> 00:42:12,260
طلاب المدارس في الثانوية فئة ثانية، اللي من الإعدادية
530
00:42:12,260 --> 00:42:16,880
ينزلوا فئة ثالثة، الخريجين فئة رابعة، فهذه الفئات
531
00:42:16,880 --> 00:42:22,740
تاريخ الميلاد هذا ما بيكفّنيش، يا راني، تاريخ الميلاد
532
00:42:22,740 --> 00:42:27,460
هذا ما بنفعنيش، فأنا محتاج أن أغيّر صورة تاريخ
533
00:42:27,460 --> 00:42:28,120
الميلاد
534
00:42:34,920 --> 00:42:42,620
إلى age، بالـ age بكون أنا عملت ايش؟ قلّلت الـ value
535
00:42:42,620 --> 00:42:46,360
اللي موجودة، قلّلت الـ value اللي موجودة عندي
536
00:42:46,360 --> 00:42:53,260
وبالتالي قلّلت الـ decision rules تبعي، لكن لاحظ إن
537
00:42:53,260 --> 00:42:56,840
تاريخ الميلاد والـ age اللي كتب معاه نفسه من الـ
538
00:42:56,840 --> 00:43:04,190
2005 وكتبت الـ age 15، ما فقدتش المعلومة تبعي، مظبوط؟
539
00:43:04,190 --> 00:43:07,090
والأفضل من هيك لو جسمنا لفئات زي ما هنشوف كمان
540
00:43:07,090 --> 00:43:13,110
شوية، فمن الـ data transformation method لـ smoothing
541
00:43:13,110 --> 00:43:19,430
method، لما عملت binning، عبارة عن smoothing method
542
00:43:19,430 --> 00:43:24,190
الـ regression smoothing method، بس هدفها الأساسي
543
00:43:24,190 --> 00:43:30,110
تخلص من الـ noise. واحد يقول ليه الـ smoothing
544
00:43:30,110 --> 00:43:33,650
حطيناها من الـ transformation؟ الـ data أخدت صور
545
00:43:33,650 --> 00:43:38,150
مختلفة، البن الأولى أخدت قيمة بدل كل القيم اللي
546
00:43:38,150 --> 00:43:42,810
كانت في البن، ايش أخدت؟ أخدت الـ median أو أخدت الـ
547
00:43:42,810 --> 00:43:47,870
mean، أربعة، فبالتالي القيم تغيّرت، كانت شكل وصارت شكل
548
00:43:47,870 --> 00:43:54,190
آخر، الـ values اللي عندي كانت 17 مليون
549
00:43:57,970 --> 00:44:01,050
الأرقام هذه كبيرة، ما بتتناسبش مع الـ computation
550
00:44:01,050 --> 00:44:06,770
تبعي، فأنا بدي أخليها 1.7، كذلك الـ 18 والـ 20 مليون
551
00:44:06,770 --> 00:44:13,410
الـ 20 صارت 2، والـ 1.5 صارت .15 وهكذا، فهذا التحوير
552
00:44:13,410 --> 00:44:18,170
الـ data كانت في صورة وصارت في صورة مختلفة
553
00:44:22,870 --> 00:44:26,570
God، كان بهدف التخلص من الـ Noise، تمام؟ لكن
554
00:44:26,570 --> 00:44:30,010
فعلياً، فعلياً الـ Data اللي صارت موجودة في الـ
555
00:44:30,010 --> 00:44:35,310
Attribute هي عبارة عن New Transformation، تحوّر للـ
556
00:44:35,310 --> 00:44:38,830
Data، جديدة، لأ؟ ضالت الـ Original Data؟ لأ،
557
00:44:38,830 --> 00:44:41,750
فعلياً صار عليها تحوّر، عشان هيك ذكرناها أول واحدة،
558
00:44:41,750 --> 00:44:46,370
لأنها مرت علينا سابقاً. الـ Aggregation، أنا فعلياً
559
00:44:46,370 --> 00:44:50,810
ممكن أروح أضيف أو أعمل شغلات، يعني الآن بروح بقولي
560
00:44:50,810 --> 00:44:56,410
والله بدنا نحسب.. نحاول نتنبأ إن الموظف الحكومي
561
00:44:56,410 --> 00:45:05,490
بعد كم سنة ممكن يشتري بيت، يا
562
00:45:05,490 --> 00:45:09,940
عم الله يرزق الجميع من فضله إن شاء الله. أنا عندي
563
00:45:09,940 --> 00:45:14,120
الراتب الشهري، لكن عادة الراتب الشهري مبلغ قليل
564
00:45:14,120 --> 00:45:17,620
ما حدش بيدور عليه في التعاملات اللي زي هذه، بروح بده
565
00:45:17,620 --> 00:45:21,620
الراتب السنوي، طب أنا ما عنديش الراتب السنوي، عندي بس
566
00:45:21,620 --> 00:45:27,000
الراتب الشهري، بأضربه بـ 12، بأضربه بـ 12، مظبوط؟ ايش
567
00:45:27,000 --> 00:45:30,800
سويت.. كل السنوات، وأنا بعملية ضرب بس، فعلياً نقلت
568
00:45:30,800 --> 00:45:36,070
الـ data من Range وحطّت لي إياها في Range مختلف، وهذه برضه
569
00:45:36,070 --> 00:45:39,210
Transformation، فنسمّيها إحنا Aggregation
570
00:45:39,210 --> 00:45:42,450
Transformation أو Aggregate Transformation
571
00:45:42,450 --> 00:45:46,530
Generalization، لما أنا بأتكلم إن الـ data الـ set
572
00:45:46,530 --> 00:45:53,330
تبعته بتتبع Hierarchy معيّنة، زي ايش؟ أنا في عندي الـ
573
00:45:53,330 --> 00:46:00,930
country، وفي عندي الـ set الـ state، وعندي
574
00:46:02,180 --> 00:46:08,860
الـ city، وعندي الـ neighborhood، الحي
575
00:46:08,860 --> 00:46:18,100
وعندي الـ street مثلاً، شو
576
00:46:18,100 --> 00:46:24,100
علّقت هدول في بعض، الشارع، عنوان، تفصيل العنوان، الشارع
577
00:46:24,100 --> 00:46:27,040
موجود في حي، والحي موجود في مدينة، والمدينة موجودة
578
00:46:27,040 --> 00:46:32,290
في ولاية، والولاية بتتبع دولة. أنا الآن العنوان اللي
579
00:46:32,290 --> 00:46:39,890
موجود عندي مكتوب لحالة مستوى الشارع، غزة
580
00:46:39,890 --> 00:46:45,010
الرمال، شارع عمرو بن عبد العزيز، هذا بس عشان يُذكر
581
00:46:45,010 --> 00:46:52,070
خلال اليومين الماضيات في الأخبار طبعاً؟ الآن، طب هل
582
00:46:52,070 --> 00:46:55,150
التفاصيل هذه بهمّني أنا؟ طب ما هي الـ redundant
583
00:46:55,150 --> 00:47:00,180
value، أو عفواً، القيم الكتيرة المختلفة هذه؟ برضه
584
00:47:00,180 --> 00:47:03,060
بتصعّب موضوع الـ decision تبعي، طب ما هي الرمال كلها
585
00:47:03,060 --> 00:47:09,420
منطقة واحدة، فأنا بدي أستغني عن الـ street، وأصير
586
00:47:09,420 --> 00:47:13,760
أتكلم على الـ neighborhood، وحتى الـ neighborhood مش
587
00:47:13,760 --> 00:47:19,660
فارق كبير، رمال وشجاعية مش فارق كتير، تمام؟ فأنا هضطر
588
00:47:21,060 --> 00:47:24,080
لاحظ إنه لما أنا بأتكلم على transformation يا جماعة
589
00:47:24,080 --> 00:47:27,020
الخير، لاحظوا يا جماعة الخير إنه لما أنا بأعمل
590
00:47:27,020 --> 00:47:33,720
transformation، بحوّل الـ value من street لـ
591
00:47:33,720 --> 00:47:38,340
neighborhood أو لـ city، فقدت معلومات؟ لأ، هي
592
00:47:38,340 --> 00:47:41,220
نفس المعلومات، نفس الـ representation، بس أنا مش
593
00:47:41,220 --> 00:47:44,200
بحاجة لـ two details، هاي، هذا برضه بنسمّيه
594
00:47:44,200 --> 00:47:48,810
transformation، الـ Normalization، الـ Normalization
595
00:47:48,810 --> 00:47:56,310
فعلياً أنا بدي أروح أعمل Scaling للـ Data، Scaling
596
00:47:56,310 --> 00:47:59,710
زي ما قلنا، 17 مليون، أو الأرقام اللي عندي كبيرة
597
00:47:59,710 --> 00:48:03,130
فبدي أروح أقلّلها، أو بدي أحطّها ضمن Range معيّن، وهنا
598
00:48:03,130 --> 00:48:07,910
بدنا عمليات حسابية، وهذه هروح لها بتفاصيل الآن. الـ
599
00:48:07,910 --> 00:48:11,330
Attribute Construction، زي ما قلت، أنا عندي تاريخ
600
00:48:11,330 --> 00:48:14,810
الميلاد، و تاريخ الميلاد ما بديش ايه؟ ما بديش إياه، بدي
601
00:48:14,810 --> 00:48:20,030
أحط الـ age، أو بدي أبني الفئة العمرية، وكل التفاصيل
602
00:48:20,030 --> 00:48:25,450
هاي كلها عبارة عن different transformation للـ data
603
00:48:25,450 --> 00:48:31,030
كمان مرة، transformation لا يعني إن أنا القيمة
604
00:48:31,030 --> 00:48:35,150
تغيّرت، جوهر الـ value موجود، لكن الصورة اللي ظهرت
605
00:48:35,150 --> 00:48:37,950
عليها مختلفة
606
00:48:38,930 --> 00:48:44,390
طيب، الآن بدنا نروح على الـ Transformation اللي له
607
00:48:44,390 --> 00:48:47,190
علاقة بالـ Normalization، لأن هنا في عندي
608
00:48:47,190 --> 00:48:50,770
Mathematical Forms لازم أفهمها كويس، وأفهم النتيجة
609
00:48:50,770 --> 00:48:53,910
من كل واحدة فيهم. كل الكلام اللي إحنا قلناه سابقاً
610
00:48:53,910 --> 00:48:57,380
جربنا الـ smoothing والـ aggregation، بسيطة، هي عبارة
611
00:48:57,380 --> 00:49:00,480
عن computation بسيطة، ممكن تصير موجودة عندي، والـ
612
00:49:00,480 --> 00:49:03,420
generalization ما فيش عليها شغل كتير زي ما إحنا
613
00:49:03,420 --> 00:49:
667
00:53:44,680 --> 00:53:48,700
الان
668
00:53:48,700 --> 00:53:52,420
كمان مرة شو رايك هاي الـ .. هاي الـ two attributes و
669
00:53:52,420 --> 00:53:57,020
بدك ترسملي إياها على two-D plane مالهاش علاقة بالـ
670
00:53:57,020 --> 00:54:02,560
mining الآن، تمام؟ شو الـ scale اللي بدك تستخدمه؟
671
00:54:02,560 --> 00:54:07,180
بدك تستخدم واحد، اثنين، ثلاثة، أربعة، خمسة، ستة؟
672
00:54:07,180 --> 00:54:15,250
ولا واحد من عشرة؟ ولا مئة؟ ممتاز إذا أنت أخدت
673
00:54:15,250 --> 00:54:18,790
المئة، إذا أخدت المئة يعني الصحيحة، التهاني من صفر
674
00:54:18,790 --> 00:54:24,550
لمئة، كل الـ values تبع الـ attribute هذا هتيجيك في
675
00:54:24,550 --> 00:54:27,950
النقطة هاي، هتيجيك وكأنه معمول في النقطة هاي مش
676
00:54:27,950 --> 00:54:32,970
هيبينه، ليش؟ لأنه الـ range تبعك اللي أنت اعتمدتها
677
00:54:32,970 --> 00:54:38,250
يا تناسب، وإذا اعتمدت واحد من عشرة بالمئة هتيجي هنا
678
00:54:40,520 --> 00:54:43,140
مصبوط؟ وبالتالي ما فيش مجال الرسم inconsistent
679
00:54:43,140 --> 00:54:49,400
حيكون، أو مش هتقدر ترسمهم من الآخر، ما فيش حل إلا أن
680
00:54:49,400 --> 00:54:54,020
بدي أعمل معيار للرسم بين الاثنين، إما بدي أنزل هذا
681
00:54:54,020 --> 00:54:57,920
لنفس الـ scale، أو بدي أرفع هذا لنفس الـ scale اللي
682
00:54:57,920 --> 00:55:05,780
موجود، وعلى الحالتين صح، مين الأسهل؟ أنزل، قول بدي
683
00:55:05,780 --> 00:55:12,420
أُجسّمه عالميًا، بيصير هذا واحد وهذا عشرة، لاحظ الـ
684
00:55:12,420 --> 00:55:20,520
range الآن بقى يختلف، صفر لواحد وواحد لعشرة، نوعًا ما
685
00:55:20,520 --> 00:55:23,840
قريب، لكن برضه ممكن أنا إيش راح أساوي؟ أحط بنفس الـ
686
00:55:23,840 --> 00:55:26,580
range، ما بدي أجسّم عالميًا، أنا أجسّم على الـ
687
00:55:33,500 --> 00:55:37,500
صار عندي إيش؟ نفس الـ scale exactly، وأنا ما فقدتش من
688
00:55:37,500 --> 00:55:42,320
قيمة البيانات ولا حاجة، هذا الكلام نفسه .. نفسه
689
00:55:42,320 --> 00:55:45,440
بهمني لما يكون الـ algorithm تبعي، الـ machine
690
00:55:45,440 --> 00:55:47,920
learning algorithm اللي بيشتغل في الـ mining task
691
00:55:47,920 --> 00:55:51,900
تكون data set أو attribute، الـ values تبعته صغيرة
692
00:55:51,900 --> 00:55:56,480
جدا، والـ attribute الثاني، الـ value تبعته كبيرة جدا
693
00:55:57,410 --> 00:56:00,830
تبقى عندي mismatch في التعامل، فأفضل حاجة إيش أسوي؟
694
00:56:00,830 --> 00:56:04,510
أن أحاول أعمل normalization لكل الـ data تكون كلها
695
00:56:04,510 --> 00:56:10,090
على range واحد، فالـ scaling هذه أو الـ normalization
696
00:56:10,090 --> 00:56:14,810
هذه مهمة جدا بالنسبة لنا، الـ
697
00:56:14,810 --> 00:56:18,390
Z-score أو الـ normalization أو الـ zero score
698
00:56:18,390 --> 00:56:22,510
normalization، أو زي ما بتسميها في Python: standard
699
00:56:22,510 --> 00:56:25,550
scalar، standard scalar
700
00:56:28,890 --> 00:56:32,550
في عندنا الـ Min-Max Normalization أو Min-Max Scalar
701
00:56:32,550 --> 00:56:37,450
وفي عندنا الـ Decimal Scalar أو Decimal Scaling أو
702
00:56:37,450 --> 00:56:43,030
Decimal Normalization، نبدأ مع الـ Zero Score أو مع
703
00:56:43,030 --> 00:56:47,070
الـ Z-min أو الـ Z-Score، كلها نفس المصطلحات أو نفس
704
00:56:47,070 --> 00:56:51,590
العنصر، Standard Scalar، بتكلم على الـ Zero-Min
705
00:56:51,590 --> 00:56:57,270
Normalization، Zero-Min Normalization، مفهومها بكل
706
00:56:57,270 --> 00:57:03,450
بساطة يا جماعة الخير، إنها احنا فعليًا بحاجة، طبعًا عشان
707
00:57:03,450 --> 00:57:05,650
في مثال أنا كتبته عند الطالبات، المحاضرة الجاية
708
00:57:05,650 --> 00:57:08,470
اللي بدي إياه نفسه، ما فيش داعي أن أختار مثال جديد
709
00:57:08,470 --> 00:57:15,470
مفهومها إنه بدي أحول الـ attribute هذا لـ attribute
710
00:57:15,470 --> 00:57:19,110
أو لـ value، أحوّل الـ data اللي فيه لـ value مختلفة
711
00:57:19,110 --> 00:57:24,590
بحيث أن المتوسط الحسابي تبع الـ new form يكون صفر
712
00:57:24,590 --> 00:57:30,160
عشان هيك اسمه Z من الـ zero، أو Z-Mean، Zero-Mean،
713
00:57:30,160 --> 00:57:34,460
Zero-Score أو Zero-Mean، مفهومها إنه بعد ما أنا
714
00:57:34,460 --> 00:57:40,100
أحوّل الـAttribute، أحوّل الـAttribute، بده يكون
715
00:57:40,100 --> 00:57:44,460
الـMean تبعه صفر، ليش هذا الكلام مهم؟ لأنه كثير من
716
00:57:44,460 --> 00:57:47,420
العمليات الحسابية المرتبطة بالـ Machine Learning
717
00:57:47,420 --> 00:57:50,700
Algorithm لها علاقة بالـMean والـStandard
718
00:57:50,700 --> 00:57:56,610
Deviation، فإذا أنا قدرت أحول الـMean لـ0، فبتصير
719
00:57:56,610 --> 00:58:03,110
العمليات الحسابية تبعيتي أسهل ما يمكن، لو أنت بقيت
720
00:58:03,110 --> 00:58:06,810
تضرب بصفر، خلاص بس الـ term اللي أنا جيت فيه، term
721
00:58:06,810 --> 00:58:10,370
صفر، خلصنا، لو بدي أجمع صفر مع أن ما فيش عندي تغيير
722
00:58:10,370 --> 00:58:14,770
وهذا هو الهدف الأساسي من الـ normalization هنا، إنه
723
00:58:14,770 --> 00:58:17,970
أنا عامةً في الـ transformation عمالي بحاول أبدأ
724
00:58:17,970 --> 00:58:22,070
أقلل من الـ cost أو الـ computational cost اللي ممكن
725
00:58:22,070 --> 00:58:27,930
تصير عندي، فالـ Zero mean أو الـ Z-score هدفها أنه
726
00:58:27,930 --> 00:58:31,890
للـ feature هذا تكون قيمة الـ mean، المتوسط الحسابي
727
00:58:31,890 --> 00:58:38,670
صفر، والـ variance أو الانحراف المعياري تبعته جدًّا قريب من واحد
728
00:58:38,670 --> 00:58:46,410
عبر المعادلة اللي موجودة عندنا هنا، طبعًا ميزة
729
00:58:46,410 --> 00:58:50,370
الـ scaling هذا إنه ما فيش minimum وما فيش maximum
730
00:58:50,370 --> 00:58:54,480
لكن بتروح تتطبق حسب القانون، القيمة الجديدة اللي هي
731
00:58:54,480 --> 00:59:00,840
الـ Z تساوي القيمة السابقة X ناقص المتوسط الحسابي
732
00:59:00,840 --> 00:59:06,660
على الانحراف المعياري تبع الـ value اللي موجودة
733
00:59:06,660 --> 00:59:12,240
عندها، عشان تظهر الصورة، الأرقام اللي عندي أنا: عشرة،
734
00:59:12,240 --> 00:59:18,000
خمسة عشر، عشرة، خمسة عشر، عشرين
735
00:59:24,250 --> 00:59:27,910
هذه الـ A original، الـ attribute O، الـ attribute
736
00:59:27,910 --> 00:59:33,030
الأصلي، الـ values اللي فيه، الـ values اللي فيه، تمام
737
00:59:33,030 --> 00:59:38,590
هايهم خمس قيم، عشان أقدر أشتغل مع هذا أو أطبق عليه
738
00:59:38,590 --> 00:59:43,910
الـ Z-score، شو بدي أساوي؟ بدي أحسب المتوسط الحسابي
739
00:59:43,910 --> 00:59:50,250
هاي، المتوسط الحسابي يساوي المجموع على العدد، عشرة،
740
00:59:50,250 --> 00:59:57,500
عشرين، وبتهيأ لي فيه كمان واحدة، هم خمس قيم، خمسة عشر
741
00:59:57,500 --> 01:00:04,980
عشرين، تمام، سبعين على خمسة، كده الشباب، سبعين على
742
01:00:04,980 --> 01:00:12,020
خمسة، يا
743
01:00:12,020 --> 01:00:17,640
عيني عليكم، عشان هيك يا حبايبنا تعمل حسابك، تعمل
744
01:00:17,640 --> 01:00:21,700
حسابك، تجيب الـ calculator تبعك، أنا بالنسبة لي
745
01:00:25,870 --> 01:00:29,150
هيها أه، مش هسمح لك تستخدم الجوال ولا في الامتحان،
746
01:00:29,150 --> 01:00:32,830
هسمح لك تستخدم الجوال، فأنت ما شاء الله يعني لسة عن
747
01:00:32,830 --> 01:00:35,470
بارح طالع من الثانوية العامة، أو إذا في عندك حدا
748
01:00:35,470 --> 01:00:41,010
فهي .. هي، فهي لك، إذا في حد أخدها من وراك تلفها
749
01:00:41,010 --> 01:00:47,710
منه، ضروري من اليوم وطالع في عندنا حساب، لأ، حساب
750
01:00:47,710 --> 01:00:51,230
عشان ما أخوف cash، لأن هاي، وما شاء الله عليك أنت في
751
01:00:51,230 --> 01:00:56,110
القسمة، الـ 70 على 5، أثبتتي بالدليل القاطع إنك
752
01:00:56,110 --> 01:01:05,030
ناجح إن شاء الله، طيب، الآن خلاص حسبت الـ mean، الآن
753
01:01:05,030 --> 01:01:08,710
إيش بقول له؟ الانحراف المعياري أو الـ sigma تساوي
754
01:01:08,710 --> 01:01:14,110
الجذر التربيعي للفروقات ما بين الـ mean على العدد
755
01:01:26,700 --> 01:01:32,460
عشرة، أربعة عشر ناقص عشرة تربيع، أربعة عشر ناقص عشرة
756
01:01:32,460 --> 01:01:36,680
تربيع، أربعة عشر ناقص عشرين تربيع، أربعة عشر
757
01:01:36,680 --> 01:01:42,880
ناقص عشرين تربيع، أربعة عشر ناقص عشرين تربيع، أربعة
758
01:01:42,880 --> 01:01:43,720
عشر ناقص عشرين تربيع، أربعة عشر ناقص عشرين تربيع
759
01:01:43,720 --> 01:01:44,240
أربعة عشر ناقص عشرين تربيع، أربعة عشر ناقص عشرين
760
01:01:44,240 --> 01:01:49,650
تربيع، أربعة عشر ناقص عشرين تربيع، أربعة عشر ناقص 16، 1
761
01:01:49,650 --> 01:02:04,310
16، 1، 36، مصبوط، أنا حسبت المربعات، الآن 16 و16، 32، و
762
01:02:04,310 --> 01:02:16,360
32 و2، 34، و36، 70، الآن الـ sigma تساوي الجذر
763
01:02:16,360 --> 01:02:22,900
التربيعي لـ 70 على 5، اللي هي جذر الـ 14، اللي هي
764
01:02:22,900 --> 01:02:29,840
تقريبًا قد ايش؟ ثلاثة
765
01:02:29,840 --> 01:02:34,060
أو كسر، صح؟
766
01:02:34,060 --> 01:02:37,400
ما هو لما أنت تكتب ثلاثة فاصلة جذر، مش عارف قد ايش، مش هتحصل
767
01:02:37,400 --> 01:02:43,020
لنتيجة ثلاثة
768
01:02:43,020 --> 01:02:50,630
فاصلة أربعة وسبعين، جذر
769
01:02:50,630 --> 01:02:57,510
الـ 14 هذا بنسميه الانحراف المعياري للـ data set
770
01:02:57,510 --> 01:03:03,290
أو للـ attribute اللي عندي، sigma، لسة احنا ما خلصناش،
771
01:03:03,290 --> 01:03:08,370
أنا كل اللي سوّيته جبت المعاملات بتاعة المعادلة هاي،
772
01:03:08,370 --> 01:03:13,740
جبت الـ mu، جبت الـ sigma، هلاّ بدي أجيب Z، زد لمين يا
773
01:03:13,740 --> 01:03:18,260
جماعة الخير؟ لكل قيمة من هدول، لكل قيمة من هدول، احنا
774
01:03:18,260 --> 01:03:27,880
خلصنا هذا، الآن بقدر أمسحه، الـ
775
01:03:27,880 --> 01:03:32,420
attribute new، قيمة
776
01:03:32,420 --> 01:03:40,550
القيمة الجديدة تساوي X ناقص ميو على ثلاثة فاصلة أربعة وسبعين، يعني
777
01:03:40,550 --> 01:03:45,910
بتكون عشرة ناقص أربعة عشر على ثلاثة فاصلة أربعة وسبعين، ولا كيف؟ بده يكون في الآخر المتوسط
778
01:03:45,910 --> 01:03:52,530
الحسابي صفر، لازم تكون قيم موجبة وقيم سالبة، لأنه في
779
01:03:52,530 --> 01:03:57,970
الآخر صفر على أي شيء، العدد مستحيل يكون صفر، فلازم
780
01:04:02,390 --> 01:04:06,530
البسط يطلع معك صفر، مجموع القيم، فبتطلع هذه سالب
781
01:04:06,530 --> 01:04:14,240
بالنسبة للأولى، أربعة على ثلاثة فاصلة أربعة وسبعين،
782
01:04:14,240 --> 01:04:17,340
سالب
783
01:04:17,340 --> 01:04:22,440
واحد فاصلة صفر سبعة، هم الـ rounding للرقمين،
784
01:04:22,440 --> 01:04:25,700
هتكون
785
01:04:25,700 --> 01:04:31,300
عندي عشرة ناقص، أو عفواً، خمسة عشر ناقص أربعة عشر على
786
01:04:31,300 --> 01:04:37,040
ثلاثة فاصلة أربعة وسبعين، اعتمد
787
01:04:37,040 --> 01:04:38,900
يا أبو حاسم، ولا في شك في الكلام
788
01:04:43,490 --> 01:04:49,430
26% غلط، لأنه بدنا نعمل rounding، عندك 6 أو 7 يا
789
01:04:49,430 --> 01:04:56,250
باشا، عشان أضمن تصفّر معايا المسألة، الآن عشرة، نفس
790
01:04:56,250 --> 01:05:00,890
القيمة اللي فوق، 1
791
01:05:00,890 --> 01:05:07,610
فاصلة 0715
792
01:05:07,610 --> 01:05:11,990
فاصلة 27، الآن
793
01:05:14,240 --> 01:05:25,220
1 فاصلة 6، أنا بتذكرها هي صحيحة، 1 فاصلة 6، تمام؟ الآن متوسط
794
01:05:25,220 --> 01:05:32,460
الحساب الجديد يساوي، أجمع
795
01:05:32,460 --> 01:05:40,840
العناصر هدول على عددهم، عددهم خمسة، سالب
796
01:05:40,840 --> 01:05:41,240
واحد
797
01:05:44,090 --> 01:05:52,350
لأن أنت ما ترَهِلش، أنت بتجمع القيمتين هدول وبالتالي
798
01:05:52,350 --> 01:05:59,410
الـ mean تبعيتي قد ايش صارت؟ صفر، لازم يطلع صفر، اللي مش
799
01:05:59,410 --> 01:06:04,250
مصدق يجمعهم يا شباب، مش مشكلة عندي، تمام، فالـ mean
800
01:06:04,250 --> 01:06:10,950
صفر، الانحراف المعياري الجديد يساوي الجذر التربيعي
801
01:06:10,950 --> 01:06:18,430
للفروقات هدول، أو للقيم هدول تربيع، الفروق مع الـ
802
01:06:18,430 --> 01:06:27,890
mean، الـ mean صفر، فتربيع القيم هذه: 1 فاصلة 07 زائد 0 فاصلة 27
803
01:06:27,890 --> 01:06:40,490
زائد 1 فاصلة 7 تربيع، زائد 0 فاصلة 27 تربيع، زائد 1 فاصلة 6 تربيع، هدول
804
01:06:40,490 --> 01:06:43,330
مجموعهم خمسة، على خمسة
805
01:06:48,310 --> 01:06:51,770
واحد، أه، لازم يطلع واحد، لو ما طلع واحد ما أنتم في
806
01:06:51,770 --> 01:06:57,470
عندكم مشكلة، لو ما طلع واحد في عندكم مشكلة في الحساب،
807
01:06:57,470 --> 01:07:02,890
ممكن الأرقام مشكلة، لا يا باشا، الأرقام إيش ما كانت
808
01:07:02,890 --> 01:07:07,950
إذا تطبّق عليها الـ Z-score لازم إنها تجي يطلع الـ
809
01:07:07,950 --> 01:07:11,030
mean صفر، والـ standard deviation واحد
810
01:07:13,890 --> 01:07:18,810
تمام؟ تمام، إيش
811
01:07:18,810 --> 01:07:27,210
استفدت؟ الآن أنا عملت scaling .. scaling لمين؟ للـ
812
01:07:27,210 --> 01:07:32,090
A الأصلية اللي موجودة عندي، بقيم جديدة، عملت
813
01:07:32,090 --> 01:07:36,970
transformation، مظبوط؟ القيمة هذه تمثل العشرة، والـ
814
01:07:36,970 --> 01:07:41,630
27 تمثل .. الـ 27 من 100 تمثل 15، يعني حطيتها في
815
01:07:41,630 --> 01:07:45,130
Range جديد، الـ Range الجديد هذا ما فقدش قيمته
816
01:07:45,130 --> 01:07:52,390
مطلقًا، لكن كان فيه لميزة، قال لي إن المتوسط الحسابي
817
01:07:52,390 --> 01:07:57,610
تبع القيم هدول صفر، والانحراف المعياري واحد، كثير من
818
01:07:57,610 --> 01:08:00,370
الـ machine learning algorithm، جامعة الخير، بتنبني
819
01:08:00,370 --> 01:08:05,390
على حسبة الـ mean والانحراف المعياري، فلما أنا بأضمن
820
01:08:05,390 --> 01:08:09,320
الـ mean صفر، معناته كثير من العمليات أو من الـ terms
821
01:08:09,320 --> 01:08:12,800
هعملها neglect، هاختصرها في الـ computation، ولا لأ؟
822
01:08:12,800 --> 01:08:16,400
لما بتكون العمليات ضرب وبحصل على واحد في الـ
823
01:08:16,400 --> 01:08:21,140
standard deviation، هذا الكلام كله بِخدمني في تسريع
824
01:08:21,140 --> 01:08:23,980
عملية الـ learning اللي هتصير عند الـ data mining أو
825
01:08:23,980 --> 01:08:27,940
في مرحلة الـ mining أو الـ data mining tasks، هالكلام
826
01:08:27,940 --> 01:08:32,920
هذا مطلوب من ناحية عملية، من ناحية عملية، الـ standard
827
01:08:32,920 --> 01:08:37,340
scalar موجودة في Python as a function، تستدعيها و
828
01:08:37,340 --> 01:08:39,800
بتقول له تديها اسم الـ attribute وبتعمل generate لـ
829
01:08:39,800 --> 01:08:48,540
attribute مباشرة، بس لازم تحفظ وتفهم إيش اللي بيصير
830
01:08:48,540 --> 01:08:52,240
لأنه بكل بساطة لاحقًا ممكن أَديك sequence من خمس
831
01:08:52,240 --> 01:08:55,960
عناصر زي هيك وأقول لك روح أنا بدي نعمل
832
01:08:55,960 --> 01:08:58,900
transformation للـ data set هذه بحيث إنك تتناسب مع
833
01:08:58,900 --> 01:09:02,500
الـ task الفلانية، بتطبيق الـ algorithm الفلاني
835
01:09:06,680 --> 01:09:11,320
أيوة، سؤال مهم، أحمد فاروق بيقول: جديش الـ scale؟ ما فيش
836
01:09:11,320 --> |