Datasets:
Nice effort
Hey there nice effort gathering this. We Hebrew speakers have a challenge filtering noisy Hebrew datasets. For example, tailing this one results in a lot of HTML data that was copied over from a ynet news article and contains English markdown text such as "Undo" like in the below examples.
I wonder what might be a better dataset to develop for generic "folk" Hebrew speak. Perhaps whatsapp/Skype/etc discussions somehow.
כתבות נוספות עבורךהמומחית שהצביעה נגד אישור החיסון לקורונה מ…גלובלי ושוקי עולםUndoהיהודי-ברזילאי ג'וזף ספרא, הבנקאי הכי עשיר…גלובלי ושוקי עולםUndoביטוח ישירביטוח לפי ק""מ - למי זה מתאים ומה האפשרויות ה…ביטוח ישיר|ממומןממומןUndoמלך השוק האפור, מעצב האופנה והקרב על ניהול ת…דין וחשבוןUndoChannel22""מהפכת המשרדי היוקרה"": משרדים בקומה ה-46 ב…Channel22|ממומןממומןUndoUltraZoomהדור הבא של הטלסקופ האישי הגיע: ננו טכנולוגי…UltraZoom|ממומןממומןUndoחשמלאי מוסמך | מודעות חיפושכמה אמור לעלות חשמלאי מוסמך ב-2020? העלויות …חשמלאי מוסמך | מודעות חיפוש|ממומןממומןUndoהמשמעויות הדרמטיות של פרישת מזוז מהעליון, ולמה…דין וחשבוןUndomYnetהמסכה הזו כל כך איכותית ונוחה עד שלא רוצים להוריד אותהmYnet|ממומןממומןUndo9.000.000באחריות מי ביטוח הדירה השכורה שלכם? היכנסו »9.000.000|ממומןממומןUndoGX Smartwatchהסוף למכשירי א.ק.ג. שעון חכם עם טכנולוגית א.ק.ג …GX Smartwatch|ממומןממומןUndoנשיאות ביידן עדיין לא התחילה, אבל נראה שהיא כבר נמצאת במשברגלובלי ושוקי עולםUndo
Hi, Thank you!
yeah, this dataset is very noisy and not prepared yet, frankly speaking, I just published it for myself because still working on it
I am thinking about how to clean it, the dataset itself has a lot of rows, so I assume, to delete garbage rows using some heuristics, and I'm working on it
(also, even ld+json lined data in the HTML in the site contains garbage, with something that you mentioned, with quotes on different languages (because the original article has a Twitter link or maybe advertisements, etc.) )