Update megawika.py

megawika.py

@@ -216,7 +216,14 @@ class MegaWika(datasets.GeneratorBasedBuilder):
                                             "passage": {
                                                 "text": entry['passage'].get("text", []),
                                                 "parse": json.dumps(entry['passage'].get("parse", [{}])),
-                                                "en_tokens": list(entry['passage'].get("en_tokens", entry['passage'].get("tokens", {})).values()),
+                                                "en_tokens": list(entry['passage'].get(
+                                                    "en_tokens",
+                                                    {
+                                                        token: token
+                                                        for tokens in entry['passage'].get("tokens", {})
+                                                        for token in tokens
+                                                    }
+                                                ).values()),
                                                 "lang_tokens": list(entry['passage'].get("lang_tokens", {}).values()),
                                                 "en_lang_token_map": [
                                                     (int(item[0]), int(item[1]))