文脈の多様性に基づく
名詞換言の評価
長岡技術科学大学
梶原智之 山本和英

背景と目的
国語辞典を用いた換言 [梶原 13]
【語彙平易化】見出し語 → 語釈文中の語
課題１：語釈文の一部では見出し語と非等価
課題２：数語の語釈文では換言候補が少ない
→ 既存の換言知識に頼らず
大規模コーパスを用いて換言を生成
2

提案手法
コーパスを用いた名詞換言
分布仮説[Harris 54]
似た意味の語は似た文脈で用いられる
1. 入力文と同じ文脈で用いられる名詞を抽出
→ 自然な文を出力するための制約
2. 抽出した各換言候補語と文脈の類似度を計算
→ 意味を保持するための制約
3

提案手法による名詞換言の流れ
4

1. 換言候補の収集
「空港へのアクセスを調べる」
「空港への○○」 「○○を調べる」
コーパスを検索して○○を収集
前文脈と後文脈に共通する○○に
換言することで自然な文を出力できる
5

2. 換言先の選択（類似度計算）
換言対象の語と換言候補の語が多くの種類
の文脈を共有するほど換言可能性は高い
換言候補の語が多くの種類の
文脈を持つほど換言可能性は低い
sim(nt, nc) = com(nt, nc) * log(N/DF(nc))
nt：換言対象の名詞、 nc：換言候補の名詞
com(nt, nc)：ntとncが共通して用いられる文脈の種類数
N：文脈の総数、 DF(nc)：名詞ncが用いられる文脈の種類数
6
１
２
１ ２

提案手法の特徴
• 入力文脈に応じた換言が可能
• 単語の出現頻度を使わない
• 換言可能な語とは多くの種類の文脈を共有する
• 高頻度の単語に影響を受けない
• 頻度の偏りにも影響を受けない
→ 文脈の多様性に基づく名詞換言の提案
7

関連研究
• [Marton et al. 09]
• [Bhagat and Ravichandran 08]
1. コーパス中で換言対象語の
文脈の語から特徴ベクトルを生成する
2. 特徴ベクトル同士のコサイン類似度を
計算し類似度最大の換言候補語へ換言する
8

関連研究
• [Marton et al. 09]
• 未知語の換言により機械翻訳の精度を向上
• 文脈の語との共起頻度で特徴ベクトルを作成
• [Bhagat and Ravichandran 08]
• 大規模コーパスから換言対を獲得
• 文脈の語とのPMIで特徴ベクトルを作成
9

関連研究
• [Marton et al. 09]：共起頻度
• 重要な文脈：多く共起する文脈
→ 単体での出現頻度が高い単語の影響が強い
• [Bhagat and Ravichandran 08]：PMI
• 重要な文脈：偏って共起する文脈
→ 単体での出現頻度が低い単語の影響が強い
10

実験
• Web日本語Nグラム：1,365,705件を抽出
• 名詞 + … + 名詞 + … + 動詞原形
• このうち頻出の200件について実験
• 文頭ではない名詞が換言対象の名詞
• 京都大学格フレーム：文脈の類似度計算
• 述語：34,059語
• 名詞：824,639語
• 【荷物を積む】と【経験を積む】を区別できる
11

換言可能な名詞数（類似度１位）
12
0
10
20
30
40
50
60
評価者A 評価者B 評価者C
提案手法
[Marton 09]
[Bhagat 08]
文脈の出現頻度に依存しない提案手法が最も優れている

13
0
20
40
60
80
100
評価者A 評価者B 評価者C
提案手法
[Marton 09]
[Bhagat 08]
換言可能な名詞数（類似度上位10位）
10位まで見ると[Bhagat 08]が提案手法に近づいている

類似度と換言可能な名詞数
14
0
10
20
30
40
1位 2位 3位 4位 5位 6位 7位 8位 9位 10位
評価者A 提案手法
[Marton 09]
[Bhagat 08]
0
10
20
30
40
50
60
1位 2位 3位 4位 5位 6位 7位 8位 9位 10位
評価者C 提案手法
[Marton 09]
[Bhagat 08]
0
10
20
30
40
1位 2位 3位 4位 5位 6位 7位 8位 9位 10位
評価者B 提案手法
[Marton 09]
[Bhagat 08]
提案手法 １位と２位の差が大きい
Bhagat 08 １位と２位の差が小さい
→ 提案手法の制約
「入力と同じ文脈で用い
られる名詞に換言する」

文脈を考慮した換言事例
• ∼万円以下の【罰金】に処する
• 比較手法：懲役、科料、過料、・・・
• 提案手法：罰金刑、過料、・・・
• 腰への【負担】を軽減する
• 比較手法：費用、経費、実費、・・・
• 提案手法：負荷、ストレス、ダメージ、・・・
15

換言できた例
入力文 出力文
オーナーの【承認】が必要になる オーナーの【許可】が必要になる
重要な【課題】として取り組んでいる 重要な【問題】として取り組んでいる
良心的な【料金】を提供する 良心的な【価格】を提供する
国内農業の【発展】を阻害する 国内農業の【成長】を阻害する
教育の【拡充】などがあげられる 教育の【強化】などがあげられる
16

適切な換言ができない例
入力文 換言候補
① 浴衣にも【洋服】にも合う
ドレス、着物、ジーンズ、
水着、普段着、カジュアル
② 以上の【評価】を受けている
活動、教育、事業、
サービス、調査、管理
17
①類義語を換言候補に集めることはできるが、
上位下位関係の中で適切な階層の語を選択できない
②句単位の換言が必要
【評価を受ける】→【認められる】

まとめ
• 提案手法
• 文脈の多様性に基づく名詞の換言
• 提案手法の特徴
• 入力文脈に応じた換言
• 頻度を使用しない文脈の種類数に基づく換言
• 今後の課題
• 上位下位関係の中での語の選択
• 句単位の換言
18