Datasets:

papluca
/

language-identification

labels stringclasses 20 values	text stringlengths 2 2.42k
pt	os chefes de defesa da estónia, letónia, lituânia, alemanha, itália, espanha e eslováquia assinarão o acordo para fornecer pessoal e financiamento para o centro.
bg	размерът на хоризонталната мрежа може да бъде по реда на няколко километра ( km ) за на симулация до около 100 km за на симулация .
zh	很好，以前从不去评价，不知道浪费了多少积分，现在知道积分可以换钱，就要好好评价了，后来我就把这段话复制走了，既能赚积分，还省事，走到哪复制到哪，最重要的是，不用认真的评论了，不用想还差多少字，直接发出就可以了，推荐给大家！！
th	สำหรับ ของเก่า ที่ จริงจัง ลอง honeychurch ของเก่า ที่ ไม่ 29 สำหรับ เฟอร์นิเจอร์ และ เงิน ไท ร้อง บริษัท ที่ 122 สำหรับ ลาย คราม
ru	Он увеличил давление .
pl	S Jak sobie życzysz: Widzisz, jak Hitler zabija Żydów?
ur	اس کے بارے میں ، سفید شادی کی شرح کے بعد سفید اورنمایاں طور پر سفید اورنمایاں طور پر .
sw	Zabuni ya ushindani pia imekuwa rahisi kwa sifa ya kurudi kwenye mapendekezo yake ya grant , na dudovitz hivi karibuni ilikuwa kulea kwa ajili ya kuendeleza nyenzo za matangazo ya slick na kushiriki fedha kwa mipango nyingine ya mapendeleo ya umma kwa juhudi za shirikishi za afya , utetezi wa sera , homelessness , nyumbani msaada wa vurugu , msaada wa kibinafsi na maendeleo ya teknolojia .
tr	Devasa 12 yüzyıl abbatiale saint-Pierre-Et-Saint-Paul , Aziz Peter ' ın 17 yüzyılda Roma ' da tamamlama kadar Hıristiyan ' en büyük kilisesi idi .
ur	موجودہ اثاثوں میں سے ایک کا اضافہ ہو سکتا ہے ۔
pt	Duas raças diferentes de cães castanhos e brancos brincam na praia.
es	Un producto de una calidad y capacidad increíbles que será el placer de todo amante de la tecnología
ar	نعم , هذا صحيح نعم اعتقد ان هناك خطوات كبيرة يتم صنعها في الوقت الحاضر في رعاية المسنين الذين تعرفهم في العديد من المناطق
it	Una donna sta affettando della carne.
hi	सर ् वसम ् मत शासन ने यह निर ् णय लिया कि राज ् य को एक ही लिंग से अधिक लाभ और protections के लिए एक सामान ् य लाभ और protections की आवश ् यकता है .
de	Alles in allem ein super schönes Teil, deshalb die 2 Sterne! Denn: Voice Control?! Nein, ein absoluter Witz. Die reagiert nämlich nur bedingt und wenn sie gerade meint. Sprachbefehle sind, egal wie man sie ausspricht, ein Glückstreffer. Meine Freundin sagte z.B. zu mir- naja ist eben ein Weib. Daraufhin schaltete sich der Akkuträger aus bzw fragte ob ich mir sicher bin ob ich ihn ausmachen möchte.... Zusätzlich kam das Teil bei mir mit kaputtem Glastank an. Da Amazon nicht selbst der Verkäufer ist, gibt es nur die Option der Rücksendung. Schade, denn das Gerät sieht super aus und liegt schön in der Hand. Allerdings ist eben die Sprachsteuerung eine Katastrophe. Bin echt enttäuscht...
pl	tył znaku stopu z wieloma naklejkami na nim.
de	Einer Freundin Geschenk da sie Flugbegleiterin ist und es gepasst hat. Allerdings hat der Anhänger nach 4-5 Wochen angefangen an den Ecken und Kanten braun zu wirken
el	Παρά τον εαυτό μου , η γνώμη μου για τη σύνεση του ήταν απείρως αυξημένη .
ru	Эти инструменты приведены вместе в mantinada songs с рифм тахикардия текстов .
pt	não usa muito o botão de pesquisa, pois não?
pt	Jactos do exército matam 38 militantes em ataques aéreos no Noroeste do Paquistão
sw	Mapinda not extradited kwa spain
zh	只能闲来翻翻不是太系统更像是一些传说故事你杀我我杀你
nl	Iemand houdt een egel vast.
es	El tacto es horrible, el dedo se engancha cuando deslizas
es	Casco para decoración. No homologado y poco más que un casco de juguete, si tienes un accidente es mejor no llevar nada en la cabeza antes que llevar un casco como este. Al igual que las gafas que son de plástico inyectado y de pésima calidad. Solo hay una cosa que lo justifique, el precio.
bg	така че аз винаги се боря срещу идеята да изглеждам съобразени или мъжествен и хората никога няма да разберат , че съм треньор по физическо и това ме радва .
th	Hida minzoku-mura เป็น พิพิธภัณฑ์ เปิด อากาศ ที่ น่าหลงใหล ของ นา เก่า จาก ภูมิภาค ส่วนใหญ่ ได้รับ การ ช่วยเหลือ จาก พื้นที่ ที่ น้ำท่วม โดย เขื่อน mihoro ใกล้เคียง
ru	Здесь нет центральной телефонной книги для всех адресов электронной почты .
fr	Le produit m'avait été recommandé par mon pharmacien pour ralentir le développement de mon arthrose. 30% moins cher qu'en pharmacie. Je viens de terminer la 1ère boîte, il est donc trop tôt pour réponde à la question. Je note cependant des insomnies récurrentes à partir de, environ, 4h du matin et de nouvelles formes & lieu de douleurs articulaires. Donc : 2 étoiles en attendant, mieux ???
pt	Poderia ter sido um clister?
de	Leider funktioniert der gelieferte Lichtstreifen nicht ohne Fehler. Nach 15 Minuten Betrieb fielen zwei LED Segmente aus. Die angesteuerte Farbe Rot, bleibt in diesen Segmenten aus. Auch bei hellem Blau/Weiss, sind diese Segmente eher gelb/grün.
pt	Ucrânia: Nove pessoas morrem em confrontos de Kyiv
fr	J'ai beaucoup ce livre cependant je n'ai pas mis 5 étoiles car au début j'ai eu du mal à m'associer à Alicia mais ce n'est qu'un point de vue personnel sinon j'ai trouvé l'histoire bien ficelée avec une bonne intrigue Mais j'ai quand même passé un très bon moment grace à l'auteure 😉 Très bon livre
fr	Sur les dix premières clés essayées, quatre inutilisables en l'état, à reformater ou à mettre à la poubelle... Mais aucun problème avec les trente suivantes. Allez comprendre...
th	พลัง ของ การทำงาน ของ เขา มี การ กำหนด ถึง ระดับ ของ มัน และ วิธีการ ที่ พิถีพิถัน ของ เขา
vi	Chúng tôi đóng thuế đang sử dụng một đội quân luật sư và nhà kinh tế , người dành thời gian thức tỉnh của họ -- và có thể là một vài người trong dreamland -- Suy nghĩ về cách để có được microsoft .
es	Es un COMEDERO. Sólo para comida, no para agua. Aunque en la foto aparecen ambos como si pudiese utilizarse indistintamente
en	Didnt really seem to work much.
el	Ακόμα και το να ξέρεις ότι ήταν ένα άγαλμα που χάραξε ο άνθρωπος έκανε λίγα για να μειώσει το θαύμα του .
es	La foto refleja lo que es
ar	تمارس من قبل بضعة , ربما اكثر حساسية , الاعضاء .
ja	とてもスタイリッシュで良いと思います。機能性も◎ですね！煩わしくないので皆さんもお使いになられては。
ru	Больно ходить . "
pl	Amerykański strajk dronów zabija 5 osób w Pakistanie.
th	คุณ ยัง สามารถ พัก ค้างคืน ที่ โรงแรม ein gedi ของ ein gedi ตั้ง ใน สวนพฤกษศาสตร์ ของ ต้นไม้ ที่ แปลก และ ปลูก ได้
nl	Barack Obama geeft toe dat de VS 'meer kernwapens heeft dan we nodig hebben'...
de	Die Armbänder sind preislich natürlich echt super aber leider sind sie sehr schnell abgenutzt. Weiß war nach 2 Tagen so dreckig das ich versucht habe es zu putzen, jegliche versuche sind gescheitert. Man kann das nicht putzen. Die Anschlüsse passen wirklich Top und die Bänder sind super leicht beim tragen daher 2 Sterne.
en	Highly recommend for those who don't like being spoon fed CGI garbage. Found myself getting chills throughout when the characters started solving the problems. This was one of the first 'first encounter' movies I've thoroughly enjoyed, let alone writing a review for one.
de	Ganz schlechte Qualität. Das Holz ist rauh, verzogen und die Löcher schlecht gebohrt.
vi	Có lẽ chúng ta sẽ nhìn thấy nhiều hơn trong ánh sáng ban ngày. trên the morrow , họ đã tìm kiếm một lần nữa , và được miễn cưỡng buộc phải kết luận rằng ngôi nhà đã không bị xâm lược trong một thời gian đáng kể .
zh	这双鞋居然一点都不防水，今天下雨，就在马路上走了十几分钟，鞋尖里面就漏了，这算是质量问题吗？唉，以后还是专柜去买吧。
it	L'India e il Pakistan rimangono fuori dal trattato.
hi	उम हम बस हर समय पानी में पानी दे रहे थे आखिरकार हमने कहा कि हम वापस यार ् ड को मरने के लिए जा रहे हैं , यह करने के लिए जा रहा है कि यह क ् या करने जा रहा है क ् योंकि हम वास ् तव में सामने के यार ् ड को बर ् दाश ् त नहीं कर सकते हैं
nl	Een man hakt een houtblok met een bijl.
de	Die Lichterkette macht qualitativ einen guten Eindruck und hat einen schönen Lichtton. Habe die Lichterkette benutzt um diese um das Balkon Geländer zu wickeln. Bin sehr zufrieden.
ar	حتى اجد اخر رابط في يا , يجب ان ابقى خلف الكواليس .
ur	انہوں نے ہمیں لگتا ہے کہ وہ آپ کو ڈھونڈ رہے ہیں ، وہ آپ کو تلاش کر رہے ہیں . '
th	คุณ เพ น นี พูด ถูก บอ กว่า เซอร์ เจมส์ เงียบๆ
it	L'Egitto impone lo stato di emergenza dopo 95 persone uccise
zh	有句话说，懂得很多道理，但是仍然过不好这一生。那可能是因为道理还没有说到点子上，或者阐释不够透彻，或者不具备可操作性。但是这本书很多地方都很有启发性，是“老俞道理”的一个集合，也就是如何在对的时间做对的事，这也是所有成功人士的共同具备的素质。俞敏洪从30岁创业，到现在新东方在全国遍地开花，50多岁他又开始二次创业，不仅总是能在对的时间做对的事，还一直在关心支持年轻人。这本书里，从提升幸福感，到制定人生目标；从读书旅行，到合伙创业，其实老俞始终讲的都是“如何过好这一生”的问题，解答每个年轻人在成长阶段中必经的困惑。大学生、职场新鲜人和有过若干社会经验的年轻人，都应该读读这本书，会有不一样的收获
pt	O homem anda de bicicleta por uma colina de terra.
vi	Tại giza các kim tự tháp có một buổi biểu diễn hàng đêm bằng tiếng anh .
es	No sirve para nada, mala adherencia, material muy debil
bg	на демократична конвенция обаче остави макгавърн а след това досие 23 точки в дупката .
fr	Conforme à la description, produit pratique.
vi	Sau một thời kỳ từ chối , các monaster y đã được giải tán ngay cả trước khi cuộc cách mạng .
sw	Na kwa kweli kwani kwamba haikuwa uzingatiaji wetu wakati sisi ilikuwa ni jambo tupu sana wao hata nyumba na tulikuwa mpya kwa mchakato huu mzima na wote sisi ni kwamba ni nyumba rahisi ambayo hii kavu maendeleo uh hivyo ni kuwa nzuri sana na
tr	Geçmiş Tun H. S. Lee ve jalan cheng lock junction ' ı geçince , kl ' nin erken günlerinde bir şehir lideri olan yap ay köy tarafından kurulan görmek buluyorum tapınağı ' dır .
pl	Rząd libijski odzyskuje lotnisko w Trypolisie
ru	Визит в замок должен занять не менее двух часов , но многие люди проводят там много времени .
th	คุณ ไม่ต้อง แกล้ง ว่า คุณ ไม่ใช่
sw	Kwa wingi wa beachfront , mgahawa wa kifaransa wa juu ( la mer ) , na nyumba ya maeneo bila lounge ya nje ya vinywaji ya machweo , halekulani ni resort kamili .
sw	Kwa paka anyway unajua vizuri usikie it ' s been a pleasure talking to you
el	Έχω κάνει τέσσερις ή πέντε .
nl	De artsen hadden gepland om hem twee weken eerder te leveren, op of rond 14 november.
bg	о , аз съм пред теб. имам три и едно по пътя .
ja	娘が１歳になったので新しい知育玩具を探していたところリーズナブルで見た目も可愛いこちらの商品に辿りつきました。思った通り、娘も気に入ってくれた様子で積み木を中に入れたりビーズを動かしたり忙しそうに遊んでくれています。大きさも小さすぎず大きすぎず丁度良いと感じています。キャラクターものは個人的に敬遠してしまっており、見た目も北欧調でとても色合い、デザインともに私もお気に入りです。
fr	Très belle qualité très pratique conforme à la description
zh	减震很不错。外观没有色差，但是比我想像的白，经常穿户外的话，恐怕很容易脏。鞋底很软，但是也有点滑，下雨天可能不适合穿出去。鞋带有点短。其他都还不错。
ur	ممکنہ طور پر صارفین کی جانب سے ویب سائٹ پر ارسال کردہ کلکس کی تعداد
en	Fascinating premise and characters. The only criticism I have is that it seemed to drag a bit in the middle of the book. The family involved are wealthy but amoral and any one could be the guilty party in the murders that occurred decades ago and recur in the timeline of this book.
th	' อีกครั้ง นี้ คือ การ อาศัย อยู่ บน อดีต ' สี ขาว โบกมือ
nl	Kleine witte hond met een riem die na een rode bal springt.
it	Un animale marrone peloso sta dietro ad alcune piante.
zh	裤子收到了，穿着很合适，款大不错，颜色也好看，很喜欢
hi	यह अलग हो जाएगा .
zh	纸张和装订都还好，正版，一本很赞的书，越读越有味道，纸质很好字体大小刚刚好，看起来也很舒服
zh	感觉不是正品，很大的油漆味，笔还要掉渣，也不上色。
tr	Evet , bizim bölgede biraz biri vardı .
fr	J'avais une bouilloire bruyante avant. Celle ci est beaucoup mieux. Ce ne sera jamais le silence complet mais c'est parfait. Tres bonnes finitions.
hi	हाँ मैं थैंक ् सगिविंग पर तुर ् की की तुलना में ज ् यादा पसंद करता हूँ
bg	важен град в роман гале , който заменя лион като столица към края на империята , арл се гордее с много добре запазен amphi ? театър ( arynes ) , места над 20,000 в дните на гладиаторите .
th	โอ้ ใช่ คุณ คิด ว่า
vi	Họ cho tôi ăn thịt chim và một cái rêu lớn lên trong hang .
ru	У меня есть кое-что , что я не знаю , я даже не знаю , настоящие ли они , но они , кажется , очень старые греческие или римские монеты , которые кто-то подарил мне , когда я был ребенком . Никогда не делал ничего с ними , у меня все еще есть их в коробке .
de	Ränder liegen frei wodurch leicht Risse entstehen und der Rand abbröckelt. Und das schon nach 3 Tagen. Absolut nicht zu empfehlen.
ur	لیکن میرے والدین کو یہ پسند نہیں ہے .
de	Das Anbringen der Glasfolie beim Samsung S9 ist sehr einfach. Das Panzerglas passt perfekt, jedoch nicht in Verbindung , mit einer Silikonhülle. Die Hülle hebt das Panzerglas an und beeinträchtigt enorm den Touchscreen. Demzufolge muss man entscheiden, was wichtiger ist. Hätte ich nicht bereits eine Folie verwendet würde ich das Produkt zurücksenden.

End of preview. Expand in Dataset Viewer.

Dataset Card for Language Identification dataset

Dataset Summary

The Language Identification dataset is a collection of 90k samples consisting of text passages and corresponding language label. This dataset was created by collecting data from 3 sources: Multilingual Amazon Reviews Corpus, XNLI, and STSb Multi MT.

Supported Tasks and Leaderboards

The dataset can be used to train a model for language identification, which is a multi-class text classification task. The model papluca/xlm-roberta-base-language-detection, which is a fine-tuned version of xlm-roberta-base, was trained on this dataset and currently achieves 99.6% accuracy on the test set.

Languages

The Language Identification dataset contains text in 20 languages, which are:

arabic (ar), bulgarian (bg), german (de), modern greek (el), english (en), spanish (es), french (fr), hindi (hi), italian (it), japanese (ja), dutch (nl), polish (pl), portuguese (pt), russian (ru), swahili (sw), thai (th), turkish (tr), urdu (ur), vietnamese (vi), and chinese (zh)

Dataset Structure

Data Instances

For each instance, there is a string for the text and a string for the label (the language tag). Here is an example:

{'labels': 'fr', 'text': 'Conforme à la description, produit pratique.'}

Data Fields

labels: a string indicating the language label.
text: a string consisting of one or more sentences in one of the 20 languages listed above.

Data Splits

The Language Identification dataset has 3 splits: train, valid, and test. The train set contains 70k samples, while the validation and test sets 10k each. All splits are perfectly balanced: the train set contains 3500 samples per language, while the validation and test sets 500.

Dataset Creation

Curation Rationale

This dataset was built during The Hugging Face Course Community Event, which took place in November 2021, with the goal of collecting a dataset with enough samples for each language to train a robust language detection model.