Remove special characters

filter_scat.py

@@ -80,16 +80,16 @@ def drop_malformed_tags(
             else:
                 drop = True
         if not drop:
-            ctx_en.append(txt_list[0])
-            ctx_fr.append(txt_list[2])
-            tgt_en.append(txt_list[1])
-            tgt_fr.append(txt_list[3])
+            ctx_en.append(txt_list[0].replace("\n", "").strip() + "\n")
+            ctx_fr.append(txt_list[2].replace("\n", "").strip() + "\n")
+            tgt_en.append(txt_list[1].replace("\n", "").strip() + "\n")
+            tgt_fr.append(txt_list[3].replace("\n", "").strip() + "\n")
             
         else:
-            drop_ctx_en.append(txt_list[0])
-            drop_ctx_fr.append(txt_list[2])
-            drop_tgt_en.append(txt_list[1])
-            drop_tgt_fr.append(txt_list[3])
+            drop_ctx_en.append(txt_list[0].replace("\n", "").strip() + "\n")
+            drop_ctx_fr.append(txt_list[2].replace("\n", "").strip() + "\n")
+            drop_tgt_en.append(txt_list[1].replace("\n", "").strip() + "\n")
+            drop_tgt_fr.append(txt_list[3].replace("\n", "").strip() + "\n")
             #print("Dropped example:", txt)
 
     print("# of dropped examples:", len(orig_ctx_en) - len(ctx_en))

filtered_scat/filtered.test.context.fr

@@ -62,7 +62,7 @@ Les enfants ont peut de tirer. Ils pensent que c'est leur frère. Pouvons-nous n
 En plus de la boussole, bien sur. Qui est-ce ? Ça... c'est Jack. Comme  <hon>Jack<hoff> ... le tueur géant. Avec ce cure-dents ?
 La peinture était mieux. Pas d'impacts de balle. Ce truc était horrible. Archaïque, oui. Quand j'arrivais à un feu rouge, je priais pour qu' <hon>il<hoff>  me lâche pas.
 Je ne descends d'aucun dieu. Ni d'une haute lignée. Je suis toléré au sein du Sénat uniquement pour la richesse que j'ai amassée par le travail et les relations avec ceux qui ont une lignée "appropriée" et me jugent en dessous d'eux. Et tu crois que c'est l'unique raison de leur aversion ? Votre campagne contre Mithridate et beaucoup d'autres  <hon>aventures<hoff> .
-Comment aller jusqu'à eux ‎? Comment pouvons‎-nous les atteindre ‎? Nous pourrions essayer la tige de maintenance‎. Elle est scellée des deux côtés de sorte que vous ayez une pressurisation‎. Et elle est pressée à droite contre les gousses de carburant‎.
+Comment aller jusqu'à eux ? Comment pouvons-nous les atteindre ? Nous pourrions essayer la tige de maintenance. Elle est scellée des deux côtés de sorte que vous ayez une pressurisation. Et elle est pressée à droite contre les gousses de carburant.
 C'est déjà assez salé sans y ajouter tes larmes. Veux-tu faire une pause ? Ven. Qu'est-ce qui a l'air bon aujourd'hui, Bennett ? J'ai faim.
 Cette femme a été attaquée par une autruche! Ah, Tobias a une nouvelle petite amie. Tobias avait agi en vrai superhéros - et sauvé Lucille 2 - Mon héros.
 Il y a eu une bagarre, et il est mort, et tu étais juste... juste là. Nous ne voulions pas le tuer. Tu as volé ma vie et ensuite tu as volé mon rôle. Armitage voulait mettre Ripper ! sur pieds. J'ai trouvé ta première  <hon>version<hoff> .
@@ -498,7 +498,7 @@ Le gouverneur et moi-même avons organisé cet événement mais c'est nous, les
 Je veux un nouveau lit. On a besoin d'un nouveau lit. Je veux transformer notre lit en sanctuaire. Ohh! C'est parti.
 Nous devons lui faire sentir qu'il est de son devoir de sauver Downton. Mais comment? Que pouvons nous faire? Lui montrer sa valeur, son rôle essentiel dans la région. Vous êtes sa petite fille.
 Mais, évidemment, tout le monde ne pense pas comme moi. C'est pourquoi, vous deviez payer Pradeep jusqu'à ce que ses demandes vous obligent à le contrer. Donc vous avez trouvé un moyen de le tuer. Vous avez déjà reçu des lettres de menaces de ELM Donc vous avez construit une  <hon>bombe<hoff>  artisanale, en espérant les accuser,
-Nous devons partir d'ici tant qu'il en est encore temps‎. Je t'aime‎. Pas comme je le voudrais‎, pas comme tu aimes Clarke‎. C'est fini‎, Finn‎. La  <hon>navette<hoff>  est toujours liée à tous nos systèmes principaux‎.
+Nous devons partir d'ici tant qu'il en est encore temps. Je t'aime. Pas comme je le voudrais, pas comme tu aimes Clarke. C'est fini, Finn. La  <hon>navette<hoff>  est toujours liée à tous nos systèmes principaux.
 Comme Tatyana. Oui. Je dis aux filles que je rencontre, "Si tu l'as vois, tu m'appelles," "et si tu m'appelles, je te fais sortir d'ici aussi."
 16  <hon>femmes<hoff>  Peter. Tu les as tuées parce que... Tu n'étais pas digne d'elles. Tu les as tuées. Tu les as tuées !
 On est enfermées hors du Verrouillage. Tu as décidé de rester ? Pourquoi ? Tu sais quand tu décides que tu n'aimes plus un  <hon>vêtement<hoff>  et que tu le donnes à ta bonne ? Et puis tu la vois le porter et tu te dis, "Pourquoi est-ce que je l'ai donné ?

filtered_scat/filtered.test.fr

@@ -62,7 +62,7 @@ Quand une  <hon>affaire<hoff>  ne marche plus, <p>elle</p> meurt, et se fait rem
 Eh bien, <p>il</p> n'a pas l'air méchant comme ça mais tu aurais été etonnée.
 Et puis, d'un seul coup, <p>il</p> se mettait à faire... un bruit strident inexplicable.
 N'étaient-<p>elles</p> pas onéreuses ?
-Sans énergie pour le système de refroidissement‎, <p>il</p> va  <hon>faire chaud<hoff>  comme en enfer ici‎.
+Sans énergie pour le système de refroidissement, <p>il</p> va  <hon>faire chaud<hoff>  comme en enfer ici.
 Il y a du  <hon>poulet<hoff>  rôti, mais <p>il</p> est un peu gris.
 Tu sais, le docteur a dit que si cet  <hon>oiseau<hoff>  avait atteint ma deuxième couche de maquillage, <p>il</p> aurait pu faire des dommages permanents à ma peau.
 Je n'avais pas réalisé à quel point <p>elle</p> était brillante.
@@ -498,7 +498,7 @@ Les  <hon>femmes<hoff>  ont été informées des sujets dont <p>elles</p> peuven
 Écoute, j'ai trouvé un super  <hon>lit<hoff> . au "Roi du Matelas", et <p>il</p> a des tiroirs en dessous, et la tête de lit est équipée d'étagères lumineuses pour ranger nos affaires.
 Ce sera votre  <hon>maison<hoff>  si <p>elle</p> survit.
 Mais quand <p>elle</p> n'a pas explosée, vous avez simplement tuer Pradeep puis emmuré.
-Si <p>elle</p> est lancée‎, l'Arche sera affaiblie‎, et tout le monde à bord mourra‎.
+Si <p>elle</p> est lancée, l'Arche sera affaiblie, et tout le monde à bord mourra.
 Et finalement, deux  <hon>filles<hoff> ... <p>elles</p> ont appelé.
 Si je les avais tuées, ça aurait été parce que... <p>Elles</p> étaient dignes de moi.
 Car <p>il</p> m'allait beaucoup mieux ?"