1 00:00:01,140 --> 00:00:03,520 باسم الله و الحمد لله و الصلاة والسلام علي رسول 2 00:00:03,520 --> 00:00:08,140 الله هذا التسجيل الأخير ان شاء الله في chapter ال 3 00:00:08,140 --> 00:00:12,840 clustering عفوا قبل الأخير بيضللنا في تسجيل ان شاء 4 00:00:12,840 --> 00:00:16,540 الله هيكون عملي باعتماد ال python الصحيح فشوف في 5 00:00:16,540 --> 00:00:24,320 شغل ال python بعض الإبداعات منكم و بعضكم .. حلو 6 00:00:24,320 --> 00:00:25,480 حلو حلو طبعك ماستور 7 00:00:28,370 --> 00:00:31,030 البداية الشبتر ان ال cluster هي عبارة عن عملية 8 00:00:31,030 --> 00:00:34,230 تقسيم ال instances بناء على تشابه او similarities 9 00:00:34,230 --> 00:00:38,570 ما بينهم لمجموعات في عند partition ال cluster و ال 10 00:00:38,570 --> 00:00:41,070 partition ال cluster انه مايكونش في عنده overlap 11 00:00:41,070 --> 00:00:44,550 clusters و في عنده hierarchical cluster انه انا 12 00:00:44,550 --> 00:00:48,870 فعليا مقدر اشوف كل cluster بينتمي لأي cluster و 13 00:00:48,870 --> 00:00:51,330 طبعا هان بتحكم في عدد ال clusters اللي انا بدي 14 00:00:51,330 --> 00:00:55,310 اياها كل clusterبساطة، اليوم ان شاء الله نتكلم عن 15 00:00:55,310 --> 00:00:59,990 جزئية evaluation طبعاً لما نتكلم عن evaluation 16 00:00:59,990 --> 00:01:07,030 كتقييم ال .. 17 00:01:07,030 --> 00:01:11,390 نتكلم عن التقييم، هل التقييم وارد في ال 18 00:01:11,390 --> 00:01:16,990 clustering؟ التقييم كتقييم في ال clustering إذا ال 19 00:01:16,990 --> 00:01:21,650 data 6 بقى unlabeled ولا عمره بيكون صحلأن انا 20 00:01:21,650 --> 00:01:27,410 فعليا لازم اتدخل ل human عفوا المقصود ان التقييم 21 00:01:27,410 --> 00:01:35,220 مستحيل يكون صحيح او حاليا بدي اقول انه يكاد يكونمن 22 00:01:35,220 --> 00:01:40,060 المستحيل تطبيق التقييم إلا من خلال expert قادر 23 00:01:40,060 --> 00:01:45,460 فعليا على دراسة كل instance و فعليا أنها تنتمي ل 24 00:01:45,460 --> 00:01:49,620 cluster أو متشابه مع العناصر اللي موجودة عندها لكن 25 00:01:49,620 --> 00:01:54,920 إحنا هلأ لما نتكلم عن ال clusteringأنا لدي 26 00:01:54,920 --> 00:01:58,140 algorithm و data set و طبقت على ال data set هل في 27 00:01:58,140 --> 00:02:01,520 مجال أعمل evaluation لل algorithm أو للناتج اللي 28 00:02:01,520 --> 00:02:06,160 موجود؟ أه في مجال لكن في حالة واحدة فقط إذا انا 29 00:02:06,160 --> 00:02:10,720 اعتمدت ان في عندي labelled data set طب احنا قلنا 30 00:02:10,720 --> 00:02:15,020 من البداية ان 31 00:02:15,020 --> 00:02:17,800 ال cluster بتشتغل على ال test set يعني ال label مش 32 00:02:17,800 --> 00:02:22,580 موجود صحيح الفكرة وين ان انا بدي افصل ال data set 33 00:02:22,580 --> 00:02:31,250 تبعتيمجموعة الـ attributes لحال و ال target label 34 00:02:31,250 --> 00:02:40,670 لحالي وبعد هيك اعمل لهادي clustering بدي اعمل هنا 35 00:02:40,670 --> 00:02:44,590 clustering لل data set اللي موجودة عندي هنا وبناء 36 00:02:44,590 --> 00:02:48,270 على ال clusters انا عارف ان كل instance بتتبع اي 37 00:02:48,270 --> 00:02:54,960 label فبصير انا بقى اقارن ال labelاللي عندي مع ال 38 00:02:54,960 --> 00:02:57,100 clusters اللي هو اللي عندي هان وبناءً عن هيكت بحصل 39 00:02:57,100 --> 00:03:02,660 على تقييم وبالتالي لما احنا بنتكلم على ال ال ال ال 40 00:03:02,660 --> 00:03:03,400 ال ال ال ال ال ال ال ال ال ال ال ال ال ال ال ال ال 41 00:03:03,400 --> 00:03:04,060 ال ال ال ال ال ال ال ال ال ال ال ال ال ال ال ال ال 42 00:03:04,060 --> 00:03:05,500 ال ال ال ال ال ال ال ال ال ال ال ال ال ال ال ال ال 43 00:03:05,500 --> 00:03:06,460 ال ال ال ال ال ال ال ال ال ال ال ال ال ال ال ال ال 44 00:03:06,460 --> 00:03:07,520 ال ال ال ال ال ال ال ال ال ال ال ال ال ال ال ال ال 45 00:03:07,520 --> 00:03:07,620 ال ال ال ال 46 00:03:22,210 --> 00:03:28,550 لأن النتائج اللي موجودة عندي ماحدش بيقول عنها صح 47 00:03:28,550 --> 00:03:31,570 أو خطأ يعني انا استخدمت two different algorithms 48 00:03:31,570 --> 00:03:36,930 وقلتلهم والله جسمولي ال data set كpartitional ل 49 00:03:36,930 --> 00:03:46,770 three clusters طلعولي three clustersمش ضروري مش 50 00:03:46,770 --> 00:03:50,350 ضروري العناصر اللي في ال cluster الأول هي نفسها 51 00:03:50,350 --> 00:03:51,970 اللي في العناصر ال cluster التاني ناتج ال 52 00:03:51,970 --> 00:04:00,600 algorithm وبالتالي مقارنة ال output شبه مستحيلةإذا 53 00:04:00,600 --> 00:04:02,640 كنت أقول أن الـ Algorithm أعطاني نفس النتيجة أو 54 00:04:02,640 --> 00:04:05,880 نفس الـ الـ فايدة من التاني، فلا تتميز التاني عنه 55 00:04:05,880 --> 00:04:10,360 تمام، إلا فعليًا لو الـ Data كانت فعليًا الـ Data 56 00:04:10,360 --> 00:04:13,960 Discriminant الـ Instances ميالة لـ Different Tree 57 00:04:13,960 --> 00:04:18,180 Classes وكل واحدة، كل Instance تنتمي ل Class، يعني 58 00:04:18,180 --> 00:04:22,100 في عندي Discriminant Attribute وجادرياش توصفليهم 59 00:04:22,100 --> 00:04:25,100 أو توديليهم على الـ Certain Class أو الـ Target 60 00:04:25,100 --> 00:04:30,020 Cluster عفواً بشكل كويس، لكن لما أنا فعليًابطبق 61 00:04:30,020 --> 00:04:34,000 ممكن باعتمادي على ال training set ال training set 62 00:04:34,000 --> 00:04:39,000 إذا أنا طبقت ال cluster algorithm على ال training 63 00:04:39,000 --> 00:04:43,020 set تلاحظين معايا يا جماعة الخير؟ لما أنا بدي أعمل 64 00:04:43,020 --> 00:04:45,720 evaluation .. الآن فعليا .. فعليا ليه clustering 65 00:04:45,720 --> 00:04:49,580 unsupervised learning؟ يعني أنا بتجاهل ال label أو 66 00:04:49,580 --> 00:04:53,560 ال label مش موجود في ال data set هذه واحدة لما أنا 67 00:04:53,560 --> 00:04:59,370 بدي أعمله evaluation لل algorithm تمام؟بقدر اعمل 68 00:04:59,370 --> 00:05:03,170 evaluation في حالة واحدة فقط اذا انا قدرت اطبقه 69 00:05:03,170 --> 00:05:06,410 على training set شو training set يعني في عندي 70 00:05:06,410 --> 00:05:09,930 label طب هل الكلام هذا موجود؟ اه موجود بصير كل 71 00:05:09,930 --> 00:05:15,670 label كل class بمثابة cluster كل class بمثابة 72 00:05:15,670 --> 00:05:21,910 cluster و بروح باخف ال class و بجسم ال data set 73 00:05:21,910 --> 00:05:24,210 بدون ال cluster زي ما واجهتكوا في ال slide السابقة 74 00:05:24,210 --> 00:05:30,020 زي ما رسلناها يعني انا الآنهي ال data set تبعي 75 00:05:30,020 --> 00:05:37,920 كمان مرة فصلت ال cluster 76 00:05:37,920 --> 00:05:40,940 أو فصلت ال data set ال attribute وال label أو ال 77 00:05:40,940 --> 00:05:46,720 class جسم 78 00:05:46,720 --> 00:05:49,200 ال data set صار عندى الآن هي ال label وهي ال 79 00:05:49,200 --> 00:05:55,150 attribute الآن باجب اطبق ال clustering handطبق الـ 80 00:05:55,150 --> 00:05:57,170 Clustering على الـ Attributes اللي موجودة عندها 81 00:05:57,170 --> 00:06:02,830 على الـ Instances اللي موجودة تمام، الآن فعلياً كل 82 00:06:02,830 --> 00:06:07,870 Instance بتبقى Class وفي عندى مجموعة Instances في 83 00:06:07,870 --> 00:06:10,470 نفس ال class بين جسين أنه فعلياً ال data already 84 00:06:10,470 --> 00:06:15,590 منجسمة فإذا أنا قدرت أربط ما بين ال true cluster 85 00:06:15,590 --> 00:06:21,890 اللي هي ال label و ال predicted cluster اللي موجود 86 00:06:21,890 --> 00:06:26,610 عندهابقدر أنشئ شغل اسمها الـ Contingency Matrix 87 00:06:26,610 --> 00:06:29,930 ومن الـ Contingency Matrix ممكن أن اتكلم على شغل 88 00:06:29,930 --> 00:06:36,160 اول metric هسميها الـ Durityتعالى نتكلم عن الـ 89 00:06:36,160 --> 00:06:38,920 Contingency Matrix ايش الـ Contingency Matrix 90 00:06:38,920 --> 00:06:43,720 بتقول ان لدي ثلاثة .. طبعا لاحظوا يا جماعة الخير 91 00:06:43,720 --> 00:06:47,960 في موقزي انا بدي اختبر Clustering Algorithm في 92 00:06:47,960 --> 00:06:51,980 عندي label data set ال label data set فيها عدد 93 00:06:51,980 --> 00:06:55,800 classes معين N لما بدي استخدم ال Clustering 94 00:06:55,800 --> 00:06:59,020 Algorithm بدي اقول جسمليها لـ N من ال cluster لأن 95 00:06:59,020 --> 00:07:02,800 كل cluster بدي ميثل Classفأنا بفترض أنه عندي data 96 00:07:02,800 --> 00:07:07,680 set مكوّنة من three classes label data set مكوّنة 97 00:07:07,680 --> 00:07:13,080 من three classes بتسميهم T1 وT2 وT3 من true true 98 00:07:13,080 --> 00:07:18,520 cluster أو true segment أو true partition سميها زي 99 00:07:18,520 --> 00:07:24,380 ما بدك true label سميها زي ما بدكواوC1 وC2 وC3 هما 100 00:07:24,380 --> 00:07:28,060 الـ clusters اللي انشغلياهم من ال algorithm اللي 101 00:07:28,060 --> 00:07:31,580 موجود عندها ايش راح اجلب؟ ايش بفهم ال contingency 102 00:07:31,580 --> 00:07:41,000 matrix؟ انه في C1 C1 خمسة وعشرين element بينتمي ل 103 00:07:41,000 --> 00:07:45,020 T2 وخمسة 104 00:07:45,020 --> 00:07:50,410 element بينتمي ل T3 وخمس عناصر بينتمي ل T3يعني 105 00:07:50,410 --> 00:07:56,730 عندي 25 عنصر من T ناتج 106 00:07:56,730 --> 00:08:06,470 ال clustering C1 بيحتوي على 30 عنصر 25 منهم حقيقة 107 00:08:06,470 --> 00:08:12,550 من ال class التاني و 5 من ال class التالت و لا 108 00:08:12,550 --> 00:08:18,880 واحد من ال class الأولT2 أو cluster C2 بيحتوي على 109 00:08:18,880 --> 00:08:25,100 35 عنصر 15 من ال class الأول و 20 من ال class 110 00:08:25,100 --> 00:08:32,220 التالت cluster تلاتة بيحتوي على عشر عناصر فقط كلهم 111 00:08:32,220 --> 00:08:40,100 كلهم بيتبعوا T1 الآن هذا الكلام إذا انا افهمته 112 00:08:41,270 --> 00:08:45,670 معناته أنا مش ضروري الـ Clustering algorithm تبعي 113 00:08:45,670 --> 00:08:49,250 يكون صح مائة في المائة ممتاز طب متى بيكون صح مائة 114 00:08:49,250 --> 00:08:57,710 في المائة إذا والله أنا إجيت قولت هيك مثلًا 115 00:08:57,710 --> 00:09:00,830 حصرت على صورة واحدة من الصور التالية فانا هتكلم عن 116 00:09:00,830 --> 00:09:08,150 ال matrix لو أنا إجيت قولت هنا والله عندي 117 00:09:08,150 --> 00:09:08,990 هنا تلاتين 118 00:09:12,600 --> 00:09:24,500 وعندي هنا 20 وعندي هنا 50 وانا 119 00:09:24,500 --> 00:09:28,740 C1 C2 120 00:09:28,740 --> 00:09:39,400 وC3 والباقي أصفر طبعا هنا T1 T2 T3 وانا اتعمدت احط 121 00:09:39,400 --> 00:09:45,560 القيم نفس الكيفيةلحظوا معايا إنه فعليا كل cluster 122 00:09:45,560 --> 00:09:50,720 completely pure صافي مافيش فيه أي .. يعني كل 123 00:09:50,720 --> 00:09:53,800 cluster مثل واحدة من ال classes اللي موجودة عندى 124 00:09:53,800 --> 00:09:57,980 كل cluster مثل واحدة فقط من ال classes اللي موجودة 125 00:09:57,980 --> 00:10:01,920 عندى وهنا بتكلم إنه فعليا كل cluster نقي تماما 126 00:10:01,920 --> 00:10:06,740 بيحتوي عناصر من نفس ال class فقط عشان هي كان 127 00:10:06,740 --> 00:10:10,900 بنتكلم احنا على ال purity نقاوة أو نقاء درجة 128 00:10:10,900 --> 00:10:17,700 النقاءطيب، بما أن الحالة دي هي الـ optimal case أو 129 00:10:17,700 --> 00:10:21,640 الـ ideal case واللي أنا فعلا مش هحصل عليها، أنا 130 00:10:21,640 --> 00:10:24,400 هحصل على شغل مشابه زي هيك من خلال الـ contingency 131 00:10:24,400 --> 00:10:28,020 matrix كيف أحسب الـ purity؟ الـ purity هي تساوي 132 00:10:28,020 --> 00:10:35,180 عبارة عن مجموع ال maximum في كل صفر ال maximum عدد 133 00:10:35,180 --> 00:10:40,410 maximum للـ Ti تنتمي لCعلى الان ال maximum خمسة و 134 00:10:40,410 --> 00:10:44,750 عشرين ال maximum عشرين ال maximum عشرة يعني خمسة و 135 00:10:44,750 --> 00:10:49,430 عشرين زائد عشرين زائد عشرةعندما اتكلم عن خمسة و 136 00:10:49,430 --> 00:10:53,550 خمسين على كل الان خمسة و خمسين و في عندى اضيفهم 137 00:10:53,550 --> 00:10:58,670 هنا على خمسة و سبعين بتكلم على ال purity الان ان 138 00:10:58,670 --> 00:11:04,870 عندي هان تلاتين خمسة و تلاتين هي خمسة و ستين خمسة 139 00:11:04,870 --> 00:11:10,750 و سبعين معناته عندى انا هان خمسةاللي عندي هنا 140 00:11:10,750 --> 00:11:13,830 نتكلم .. احنا قولنا ال maximum خمسة و أربعين .. 141 00:11:13,830 --> 00:11:21,510 خمسة و خمسين .. خمسة و خمسين على خمسة و سبعين هذه 142 00:11:21,510 --> 00:11:23,970 ال purity تبع ال cluster أو تبع ال contingency 143 00:11:23,970 --> 00:11:29,990 matrix اللي موجودة عندي 144 00:11:29,990 --> 00:11:34,250 طيب .. تعالى نشوف المثال البسيط اللي عندي هاد 145 00:11:41,930 --> 00:11:45,370 أنا مش بقول، بقول إن أنا الـPurity بقدر أحسبها إذا 146 00:11:45,370 --> 00:11:50,690 كانت بتعامل مع test set بتحتوي على target class 147 00:11:50,690 --> 00:11:56,970 تخيل، عشان يدمج التعريف هذا الـdefinition هذا عشان 148 00:11:56,970 --> 00:12:00,610 يدمج ما بين الشغلتين بين إنه فعليا الـclustering 149 00:12:00,610 --> 00:12:05,230 تطبق على test set وأنا مقدرش أروح أقدر أعمل 150 00:12:05,230 --> 00:12:09,980 evaluation إلا غير لو كان ال label موجودفجالي ال 151 00:12:09,980 --> 00:12:12,960 test set بتحتوي على target التي بنجوزني training 152 00:12:12,960 --> 00:12:20,520 set و لا شو رأيكوا training 153 00:12:20,520 --> 00:12:25,220 set بيبقى الان بقول افترض ان انا في عندى test set 154 00:12:25,220 --> 00:12:29,900 مكونة من 24 element بتنتمي ل three different 155 00:12:29,900 --> 00:12:39,530 classes ال O او ال circleTriangle وSquare ومجسم 156 00:12:39,530 --> 00:12:45,490 العناصر بالتساوي 8888 بعد ما طبقت ال clustering 157 00:12:45,490 --> 00:12:50,510 تبعت ال cluster C1 فيها العناصر التالية ال cluster 158 00:12:50,510 --> 00:12:55,650 C2 و ال cluster C3 طبعا هنا في مصطلح جديد اضيفه 159 00:12:55,650 --> 00:13:01,630 نقاء كل cluster نقاء كل cluster بشكل مستقل اذا 160 00:13:01,630 --> 00:13:07,380 سألتك ال cluster الأول بمثل ايش؟معظمكم حيقولوا و 161 00:13:07,380 --> 00:13:12,880 الله هذا بيمثل المثلثات ال triangles و اللي تحت 162 00:13:12,880 --> 00:13:16,480 التاني هيمثل المربعات الحمراء و هذه هيمثل الدوائر 163 00:13:16,480 --> 00:13:19,340 الخضراء، مظبوط؟ فبالتالي أنا بقدر أحسب ال purity 164 00:13:19,340 --> 00:13:22,300 تبع كل cluster ال cluster الأول بيحتوي على 9 عناصر 165 00:13:22,300 --> 00:13:26,420 و ال maximum كانت لمين؟ للمثلثات، معناته 6 على 9 166 00:13:26,420 --> 00:13:29,880 لكن مش هي ال target تبعتي، أنا مابهمنيش ال purity 167 00:13:29,880 --> 00:13:34,820 تبع كل class أنا اللي بيهمني ال purity لكل output 168 00:13:34,820 --> 00:13:40,340 مرة واحدةللـ algorithm ال element 24 element هروح 169 00:13:40,340 --> 00:13:44,920 أدور هانالـ maximum هنا 6 الـ maximum هنا 5 الـ 170 00:13:44,920 --> 00:13:49,980 maximum هنا 5 6 زائد 5 زايد 5 على 24 16 على 24 171 00:13:49,980 --> 00:13:53,660 درجة النقاء اللي بيعطينا إياها ال cluster هذا بشكل 172 00:13:53,660 --> 00:14:00,460 عام 76.67% و هيك بتتم حسبة ال purity تبعتنا هنا 173 00:14:00,460 --> 00:14:04,220 طبعا كمان مرة برجع بقول أنا بقدر أتكلم بشكل مبدئي 174 00:14:04,220 --> 00:14:09,910 ال majority تبع كل cluster كذاغالبية تبعت كل 175 00:14:09,910 --> 00:14:13,370 cluster كده لكن ال purity تبعتها هتكون هذه مش 176 00:14:13,370 --> 00:14:17,330 واضحة فعليا لو قلع عندي cluster مادة نسوشي و 177 00:14:17,330 --> 00:14:22,150 بينتمي مثلا فقط ل two clusters ل two classes يعني 178 00:14:22,150 --> 00:14:25,770 من نوعين مختلفين هقول ال purity لمين فبتصير ال 179 00:14:25,770 --> 00:14:29,990 purity هذه غير واضحة أو بتصير مفهومها غير دقيق أنا 180 00:14:29,990 --> 00:14:34,770 اللي بهمني ال purity تبعت ال cluster بشكل عامطبعاً 181 00:14:34,770 --> 00:14:38,790 أنا فيه متريكز تانية ممكن تستخدم نفس المبدأ الـ 182 00:14:38,790 --> 00:14:41,230 Ground Truth إن أنا فعلياً لازم يكون فيه training 183 00:14:41,230 --> 00:14:44,710 data set وهذا مفهوم Ground Truth يعني الحقيقة 184 00:14:44,710 --> 00:14:47,690 الأمر الواقع، إيش الأمر الواقع؟ الأمر الواقع ال 185 00:14:47,690 --> 00:14:51,510 class اللي موجود عندها، اللي هي الأساس، تمام؟ وهذا 186 00:14:51,510 --> 00:14:57,250 فعلياً أنا لما بطبق ال data setأو Clustering على 187 00:14:57,250 --> 00:14:59,690 الـ Training Set اللي موجودة هنا في عندي الـ 188 00:14:59,690 --> 00:15:04,710 Adjusted Random Index وفي عندي Normalized Mutual 189 00:15:04,710 --> 00:15:09,450 Information وهذه بتديني قيم من صفر لواحد وكل ما 190 00:15:09,450 --> 00:15:15,390 كانت القيمةأقرب للواحد معينته الـ purity تبعتي أو 191 00:15:15,390 --> 00:15:19,830 الـ scale تبعي ال algorithm تبعتي أفضل الصحيح أنا 192 00:15:19,830 --> 00:15:25,010 مش هاطلب منكوا العمليات الحسابية اللي موجودة عند 193 00:15:25,010 --> 00:15:28,810 هان نفس الكلام هي في عند contingency matrix عند ال 194 00:15:28,810 --> 00:15:30,890 actual class 195 00:15:32,410 --> 00:15:38,490 عن طريق الـ Predicted Cluster في نفس الحسبة لكن 196 00:15:38,490 --> 00:15:43,770 هنا بتكلم عن جداش الـ elements من كل عنصر تماما 197 00:15:43,770 --> 00:15:47,710 الحسبة مش مطلوبة يا جماعة الخير لكن هوريكم إياها 198 00:15:47,710 --> 00:15:51,830 إن شاء الله في العمل وبهيك نهينا شبترنا يعني أنا 199 00:15:51,830 --> 00:15:55,630 الآن لما أتكلم على ال evaluation ممكن أتكلم على 200 00:15:55,630 --> 00:15:59,590 three different metrics3 مترات مختلفة لـ Purity 201 00:15:59,590 --> 00:16:03,710 وهي مطموعة منكوا حسابيتها لأنها سهلة ال maximum ال 202 00:16:03,710 --> 00:16:06,390 summation للماكسيممم في كل cluster على عدد ال 203 00:16:06,390 --> 00:16:09,130 elements كلها في ال data set وهي بتمثل ال purity 204 00:16:09,130 --> 00:16:14,890 في عندي مجرد مصطلحين أخرين أخرين بدي أسمعهم بدي 205 00:16:14,890 --> 00:16:19,810 أحرفهم اللي هو adjusted rank index وnormalize 206 00:16:19,810 --> 00:16:25,010 mutual information هي عبارة عن rank بحسب ال 207 00:16:25,010 --> 00:16:30,060 similarity between any two clustersحسبة مش مطلوبة 208 00:16:30,060 --> 00:16:33,520 لكن فعلياً هي عبارة عن evaluation metric انا ممكن 209 00:16:33,520 --> 00:16:36,580 او جد استخدمها مع ال clustering اللي يعطيكوا 210 00:16:36,580 --> 00:16:39,320 العافية و بتمنالكوا التوفيق السلام عليكم ورحمة 211 00:16:39,320 --> 00:16:39,440 الله