Featured image of post mpalignerの仕組み
AI > 音声

mpalignerの仕組み

目次

背景

アライメントとは

  • アライメント（Alignment）とは、2つの系列（例えば、文字の並びと音素の並び）のどの部分同士が対応しているかを明らかにすること
  • G2P（Grapheme-to-Phoneme）の文脈では、ある単語の表記（文字列）と読み（音素列）を、文字単位・音素単位でどう対応させるかという問題にあたる
  • 単純には、文字列と音素列の文字数が同じなら、先頭から1文字ずつ対応させる1対1アライメントが考えられるが、実際には文字数と音素数が一致しないことが多く、これだけでは不十分

mpaligner

mpalignerとは

  • Keigo Kubo（久保圭吾）が開発した、多対多アライメントツール
  • MPは「Many-to-many（多対多）」の略で、生成モデルに基づいて、文字列（表記）と音素列（発音）のアライメントを学習する
  • 日本語の未知語（辞書に登録されていない単語）に対する発音の自動付与を主な用途としている
  • 一部だけ手動でアライメントを指定した半教師あり学習や、怪しい（Doubtful）対応の検出・結合といった機能も持つ

m2m-alignerとの関係

  • アルゴリズムの系譜としては、Jiampojamarn, Kondrak, Sherif (2007, NAACL)が英語のL2P（Letter-to-Phoneme）変換のために開発したm2m-aligner（こちらもMany-to-Many Alignerの略）と同じ、多対多アライメントという枠組みに属する
  • どちらも、Ristad & Yianilos (1998)のStochastic Transducerに基づくEM（Expectation-Maximization）アルゴリズムで、文字列と音素列の対応を教師データなしで学習する、という考え方を共有している
  • mpalignerは、この枠組みを日本語の未知語の読み推定というタスクに向けて実装したツールにあたる

多対多アライメントの仕組み

1対1アライメントの限界

  • 単純なアライメントでは、1つの文字が1つの音素に対応すると仮定するが、実際の言語ではこの仮定が成り立たないことが多い
  • 英語の例: 「x」は2つの音素（/k/と/s/）に対応し、「ch」という2文字は1つの音素（/tʃ/）に対応する
  • このように、文字数と音素数が一致しない場合、1対1のアライメントでは正しく表現できない

多対多アライメント（Many-to-Many Alignment）

  • 多対多アライメントは、Stochastic Transducerに基づくEMアルゴリズムで、複数文字と複数音素の対応を教師なしで学習する

アルゴリズムの流れ

  • 候補アライメントの生成: --maxX・--maxYというパラメータ（m2m-alignerではデフォルトはどちらも2）で、文字側・音素側それぞれ最大いくつの文字・音素をまとめた「チャンク」まで対応を許すかを決め、1つの単語の中で考えられる全てのチャンク同士の対応パターンを、格子（ラティス）として表現する
  • E-step: 現在のモデル（チャンク対ごとの対応確率）のもとで、ラティス上の各チャンク対がどの程度の確率で使われているかという期待カウントを計算する
  • M-step: 計算した期待カウントを、チャンク対ごとに正規化し直すことで、次のイテレーションのモデルパラメータ（チャンク対の対応確率）を再推定する
  • E-step・M-stepをパラメータが収束するまで繰り返すことで、「x→k,s」「ch→tʃ」のような、複数文字と複数音素の対応を、人手でラベル付けしなくても自動的に発見できる
  • 学習が終わったら、各単語ごとに、学習済みのモデルを使って最も確率の高い1つのアライメントを、ビタビアルゴリズムで選び出す
  • --delX・--delYというオプションで、文字側・音素側どちらかに対応するものがない（削除・挿入にあたる）ケースも扱える

応用と実例

Slearpとの連携

  • Slearp（Kubo他）は、mpalignerが出力したアライメント済みのデータを学習データとして受け取り、G2Pモデルを学習・推定する識別学習（Discriminative Learning）のツールキット
  • CRF・Structured AROW・Structured NAROW・Structured SMCWなど、複数の構造学習手法をサポートしている
  • つまり、mpalignerが「文字列と音素列の対応（アライメント）を見つける」役割、Slearpが「そのアライメント済みデータから、新しい単語の読みを予測するモデルを学習する」役割という、分業関係になっている

未知語の読み推定の実例

  • mpaligner・Slearpを組み合わせることで、辞書に登録されていない外国語の単語（カタカナ語の元になる単語）の読みを推定できる
  • 例えば、“caligari"という未知の英単語を1文字ずつに分割して入力すると、「カ｜リ｜ガ｜リ｜」という読みが出力される、という実例がある
  • MeCabの辞書に外国語の単語を全て登録すると辞書サイズが膨大になってしまうため、このように学習済みモデルで未知語の読みをその場で推定する方式が使われる

実際に動かしてみた

  • keigo-k/mpalignerをクローンしてビルドした。最近のGCCはデフォルトで-fno-commonが有効なため、そのままでは古いCのグローバル変数の書き方（HASH_func.c・mpAlign.c・mpaligner.cで同じ変数名を共有）がリンクエラーになる。make CFLAGS="-O2 -fcommon"でビルドし直すことで解決した
  • 「蕎麦・煙草・今日・大和・明日・一人・人気・日本・東京・大阪・夜桜・花見・空気・元気・天気」など、20組の表記・読みペアを用意し、EM学習を実行した
  • デフォルト設定では、2文字の単語全体が1つのチャンクとして扱われてしまい、漢字単位の対応が見えなかった。-rx 1（表記側のチャンク長を1文字に制限）を指定すると、漢字ごとの対応が見えるようになった

実行結果の一部は以下の通り（:は同じチャンク内でまとめられた文字、|はチャンクの境切り）。

表記読み対応
蕎麦そば蕎→そ、麦→ば
煙草たばこ煙→た、草→ばこ
大和やまと大→や、和→まと
明日あす明→あ、日→す
明日あした明→あ、日→した
東京とうきょう東→と、京→うきょう
大阪おおさか大→お、阪→おさか
空気くうき空→くう、気→き
元気げんき元→げ、気→んき
  • 興味深いのは「明日」の結果。「あす」と読む場合は日→す、「あした」と読む場合は日→したと、同じ漢字の組でも、読みに応じて異なる対応が学習されている
  • 「気」も、「元気（げんき）」「天気（てんき）」「人気（にんき）」では気→んきと対応するが、「空気（くうき）」では気→きと対応しており、前の文字（空）が「くう」という2モーラを引き受けているため、「気」が受け持つ部分が変わっている
  • 「東京（とうきょう）」では、京が「うきょう」という3モーラ分を一気に引き受けており、1つの漢字が複数の音に対応する多対多アライメントが、まさにこういう形で現れることを実際のデータで確認できた

日本語での応用例: 単漢字の読み補完

  • UniDicの仕組みで触れたような辞書では、複合語の読みは登録されているが、個々の漢字単独の読みが登録されていない場合がある
  • mpalignerを使うと、複合語（表記列）とその読み（発音列）のペアを多対多でアライメントすることで、個々の漢字がどの読みに対応するかを、教師データなしで推定できる
  • 例えば、「桜」という漢字単体の読みが辞書に登録されていなくても、「夜桜（よざくら）」のような既知の複合語の表記・読みペアをアライメントすることで、「夜」に「よ」、「桜」に「さくら」という対応を推定できる
  • この手法は、辞書に直接登録されていない単漢字の読みを、既存の複合語データから補完するために使える

まとめ

  • アライメントとは、文字列と音素列のような2つの系列同士の対応関係を明らかにすること
  • mpalignerは、日本語の未知語の発音推定を主な用途とした多対多アライメントツールで、英語L2P用のm2m-alignerと同じEMアルゴリズムの枠組みに属する
  • チャンク対の候補をラティスとして表現し、E-stepで期待カウントを計算、M-stepで確率を再推定するEMの繰り返しで学習し、最終的なアライメントはビタビアルゴリズムで抽出する
  • Slearpと組み合わせることで、mpalignerが見つけたアライメントから、新しい未知語の読みを予測するモデルを学習できる
  • 日本語では、複合語の表記・読みペアをアライメントすることで、辞書に登録されていない単漢字の読みを補完するといった応用もできる
  • 実際に動かしてみると、同じ漢字の組でも読みによって異なる対応が学習されたり（明日→あす／あした）、1つの漢字が複数モーラ分の読みを引き受けたり（東京の京→うきょう）する様子を確認できた

参考文献

© 2020 - 2026 mike
Built with Hugo
テーマ Stack は Jimmy によって設計されています。