tiendung's picture
refine
580a59f
  • Lọc theo từng domain ưu tiên từ lớn tới bé (size)

  • Dedup giữa các domain cùng thể loại (truyen)

  • Nối các chương còn lại (ở trong từng domain) thành một doc lớn.

  • Gom các hàm hay dùng vào utils.py + viết unit tests

  • Lọc content theo loại truyện dịch vs convert, build classifier để phân loại

  • Lọc hết tên truyện / chapter + urls để dedup trên toàn bộ tập dataset truyện


Note: domain nào được chọn có + ở trước, domain nào bị loại -, còn lại là đang xử lý và cân nhắc.