---
task_categories:
- text2text-generation
language:
- ja
tags:
- ime
- japanese input
- kana-kanji conversion
pretty_name: zenz-v2.5-dataset
size_categories:
- 100M<n<1B

---

# zenz-v2.5-dataset

zenz-v2.5-datasetはかな漢字変換タスクに特化した条件付き言語モデル「zenz-v2.5」シリーズの学習を目的として構築したデータセットです。

約190Mペアの「左文脈-入力-変換結果」を含み、かな漢字変換モデルの学習において十分な性能を実現できる規模になっています。

本データセットで学習したzenz-v2.5は公開しています。

* **[zenz-v2.5-medium](https://huggingface.co/Miwa-Keita/zenz-v2.5-medium)**: 310Mの大規模モデル
* **[zenz-v2.5-small](https://huggingface.co/Miwa-Keita/zenz-v2.5-small)**: 91Mの中規模モデル
* **[zenz-v2.5-xsmall](https://huggingface.co/Miwa-Keita/zenz-v2.5-xsmall)**: 26Mの小規模モデル

また、かな漢字変換の評価ベンチマークとして[AJIMEE-Bench（味見ベンチ）](https://github.com/ensan-hcl/AJIMEE-Bench)も公開しています。

## 形式

本データセットは改行区切りになっており、以下の形式のいずれかのデータを含みます。

1. `<BOC>左文脈<BOI>入力（カタカナ列）<BOO>出力（漢字交じり文）`
2. `<BOI>入力（カタカナ列）<BOO>出力（漢字交じり文）`

実際のデータでは、区切り文字にUnicode私用領域の文字を利用しています。`<BOC>`は`U+EE02`、`<BOI>`は`U+EE00`、`<BOO>`は`U+EE01`で置き換えています。

## ライセンス

以下に断りのないファイルは[CC BY-SA 4.0](https://creativecommons.org/licenses/by-sa/4.0/deed.ja)ライセンスで利用できます。

### Wikipedia Subset

本データセットのうち、`train_wikipedia.txt`のデータは2024年2月に取得したWikipedia日本語版アーカイブをベースに構築したものであり、[CC BY-SA 4.0](https://creativecommons.org/licenses/by-sa/4.0/deed.ja)ライセンスで利用できます。

### llm-jp-corpus-v3 Subset

本データセットのうち、`train_llm-jp-corpus-v3.txt`のデータは[llm-jp-corpus-v3](https://gitlab.llm-jp.nii.ac.jp/datasets/llm-jp-corpus-v3)のうちCommon Crawlに由来する`ja/ja_cc/level0/CC-MAIN-2023-40.jsonl.gz`をベースに構築したものです。
Common Crawlのライセンスに基づき、[ODC-BY](https://opendatacommons.org/licenses/by/1-0/) および[Common Crawl terms of use](https://commoncrawl.org/terms-of-use) のもとで利用できます。

## 注意点

本データセットはかな漢字変換のためのデータセットとして構築したものであり、これ以外の用途ではそぐわない可能性があります。

* かな漢字変換では読み推定の誤りが大きく性能を損なうことが少ないため、その正確性を重視していません。このため、読み推定の教師データセットとして取り扱おうとする場合、モデルの性能に寄与しない可能性が高いです。
* 「入力」の多様性に対応するため、「日本」を「ニホン」「ニッポン」と揺らすような読み揺らし処理を構築時に適用しています。
* 「入力」として数値や記号類を含めることを想定しているため、一部の「入力」ではそのような記号が含まれています。

## 謝辞

本データセットの構築にあたり、独立行政法人情報処理推進機構 (IPA) 2024 年度未踏 IT 人材発掘・育成事業の支援を受けました。深く感謝します。

また、以下のライブラリやツール、言語資源を活用して本データセットを構築しました。

* llm-jp-corpus-v3 (https://gitlab.llm-jp.nii.ac.jp/datasets/llm-jp-corpus-v3)
* MeCab (https://taku910.github.io/mecab/)
* ipadic-NEologd (https://github.com/neologd/mecab-ipadic-neologd)
* jaconv (https://pypi.org/project/jaconv/)
* Wikipedia日本語版アーカイブデータ (https://dumps.wikimedia.org/jawiki/latest/)