Hugging Face
Models
Datasets
Spaces
Posts
Docs
Enterprise
Pricing
Log In
Sign Up
Spaces:
xu-song
/
tokenizer-arena
like
58
Running
App
Files
Files
Community
1
7a8d6d6
tokenizer-arena
/
vocab
/
entity
/
vocab.entity.txt
xu-song
update
751936e
over 1 year ago
raw
Copy download link
history
blame
Safe
250 Bytes
## knowledge: 包含品牌词、产品词、卖点词等, 人名、地名、机构名
# 这个词典可能很大,但是属于模型外,只在解码时起作用。所以不影响模型量级
# TODO:这样的配置可以让词典减小更多。