SlideShare uma empresa Scribd logo
1 de 13
Baixar para ler offline
2021/3/18
1
会話文の常識推論の実現に向けた一考察
-関連性理論やポライトネスによるローカル化
をつうじて-
言語処理学会第27回年次大会
#セッション9-D9-含意_言い換え-2
2021年3月18日(木)14-15:30
D9-4 太田博三(放送大)
本研究の背景となる会話文①
2
ちょっと暑い
ね...
窓を開けよ
うか?
部屋が暑いか
ら
1. (上司と部下の会話なら)敬語があった方がより自然.
2. 会話文の話し言葉には,主語などの省略が必要.
3. 含意や推意を理解しないと成立しない.
2021/3/18
2
本研究の背景となる会話文②
3
1. 主語など省略された語句の補完しないといけない…
2. コーヒーを飲むと眠りずらくなる知識や常識が必要.
3. 明日,仕事があるという「話者の属性」(言外の情報)が必要.
コーヒー飲
む?
明日,早い
から…
コーヒーを飲
みと眠れなく
なる
本研究の目的
1. 言葉と外の世界を関係づけられること
2. 文と文との論理的な関係がわかること
3. 単語の意味についての知識を持っていること
4. 話し手の意図を推測すること
4
本報告は
ここ
2021/3/18
3
本研究の方法論
• 言葉と外の世界を関係づけられること
→ダニエル・カーネマンのシステム1・システム2の2階建て
→ →記号推論と深層学習の融合.
• 文と文との論理的な関係がわかること
→記号論理学で表現した時に! ※1
• 単語の意味についての知識を持っていること
→知識構造を有している状態(意味ネットワークなど)
• 話し手の意図を推測すること
→推論を走らせ(意図理解),新しい知識が得られる時(推論)に!
5
※1 複雑な含意関係認識では注意が必要!
本研究の背景となる会話文④
6
いっけん,1)話者の属性と2)一般常識・知識とで,会話生成が出
来そうに思えるが,言語処理上で,どうすべきかは,案外,難しい.
コーヒー飲
む?
明日,早いから
…
[一般常識]
コーヒーは,
カフェインの効果
で眠れなくなる.
[言外の情報: 属性]
明日,仕事がある.
ここで,一度,論理的に愚直に,考えてみると…
2021/3/18
4
本研究の背景となる会話文⑤
• 明日,仕事が早い
• コーヒーを飲むと眠れなくなる
• だから,飲まない.
7
①一般常識などの知識や属性と②推論
1. 1) 明日,仕事が早い. 2) コーヒーで眠れなくなる、
2. 常識を論理的に推論することで、語句に意味を持たせられ,
3. 推論が働く時に,意味理解がなされると考えられる.
コーヒーは,カフェインの効果で眠れなくなる.
明日,仕事がある.
記号論理的に記してみると…
本研究の背景となる会話文⑤
8
1. Commonsense Reasoning(常識推論)BERT派生による
言語資源ベースのタスクが急増している!
2. ATOMICやCommonGenなどで高い精度が出ている場合
は,コーパスが,IF-THENの形になっている事があるかもしれな
い.
※ 複雑なIF-THENの文は含意が必ずしも真ではない事に注意!!
コーヒーを飲めば眠れなくなる.
IF-THENで書くと推論が走り
やすくなる!
2021/3/18
5
これまでの取り組み①
• 2017 文生成
• 2018 敬語を使用しない敬意表現やポライトネス
• 2019 マッチングでの対話生成
• 2020 一世代前の人工知能の記号推論/
• 常識的推論(閉鎖的世界)
2021 Commonsense Reasoning(常識推論)
BERT派生による言語資源ベース
•
• 2021 常識推論の記号推論と深層学習の融合による解決を目指す.
9
パターン認識 記号推論
VS
◎ 一昔前の人工知能の記号推論も必要になってきたと言える.
これまでの取り組み②(本論文との対応)
• 2017 文生成
• 2018
• 会話の発話の
• 意図や推意・含意.
• 2019
• マッチングでの対話生成
• 2020 一世代前の
• 人工知能の意味ネットワーク
• 記号処理
• 常識的推論(閉鎖的世界)
Commonsense Reasoning(常識推論)
BERT派生による言語資源ベース
• 2021 記号推論と深層学習の融合で解決できそうか!?
10
2.1 記号論理学による推論
2.2 フレーム問題・スクリプト推論
2.3 言語資源による常識推論
3. 今後の常識推論に向けて
交互にブームを繰り返した「パターン認識」と「知識・記号推論」
パターン認識 記号推論
VS
2021/3/18
6
(参考)パターン認識と記号推論の対応
※1 ここでは記号論理学での推論に限らないで用いています。
1. 演繹推論
2. 帰納推論
3. アブダクション
4. 常識推論
5. 類推
6. 因果推論
記号推論
7. 含意関係認識
11
1. 探索的記述統計
2. 推測統計
4. ベイジアンネットワーク
3. データマイニング
パターン認識(予測・分類)
5. ニューラルネットワーク
目次
1. 研究の背景
2. 研究の目的
2.1 これまでの取り組み①
2.2これまでの取り組み②(本論文との対応)
3. 推論について
3.1 記号論理学による推論
3.2 フレーム・スクリプトによる推論
3.3 従来の常識的推論と昨今の常識推論
3.4 A→Bの(→: 含意)の罠,含意関係認識の例
4. 今後の常識推論に向けて
4.1敬意表現を用いた推論の例
4.2関連性理論と推論の例
5. 考察
6. まとめ 12
2021/3/18
7
3.1 記号論理学による推論①
3. 推論: 「知識をつなぎ合わせて、新しい知識を作り出
すこと」と仮定すると,
主に次の3つとその他の推論に大分されるとする.
13
1) 演繹推論
2) 帰納推論
3) アブダクション・仮説推論
その他の推論
4) 非単調推論
5) デフォルト推論
6) 常識的推論
3.1 記号論理学による推論②
14
1)演繹推論、2)帰納推論、3)アブダクション
1)演繹推論: [大前提] + [小前提] ⇒ [結論]
2)帰納推論: [小前提] + [結論] ⇒ [大前提]
3)アブダクション: [大前提] + [結論] ⇒ [小前提]
• 大前提: エージェントは知識を持っている。
• 小前提: 007はエージェントである。
• 結論: 007は 知識 を持っている。
2021/3/18
8
3.1 記号論理学による推論②
1) 演繹推論
2) 帰納推論
3) アブダクション・仮説推論
15
ハ
ト
は
ト
リ
ト
リ
は
と
ぶ
ハ
ト
は
と
ぶ
ハトはトリ
トリはとぶ
ハトは とぶ
・推論は新しい知識を生成する.
AならばB
BならばC
AならばC
3.2 フレーム・スクリプトによる推論
16
• 場面にもとづく背景や常識をどこまで書き表わせばよいか問題がある.
従来の常識的推論の流れ
Frame
Undestading
Commonsense
reasoning
Scripts
イニング:7イ二ング目
回の表裏:上
塁上の走者:2位と3位
アウトカウント:2つ
打者:プラド
平均:.287
右/ 左打者:右利き
点数:3-2
目標:イニングを無失点で逃げきること
# (a1)
If I perceive I am at the mound
then suggest a goal to get the batter out
# (a2)
If there is a goal in WM to get the batter out
then suggest achieving it using the Pitch pro
blem space with
an initial state having balls 0 and strikes 0
2021/3/18
9
3.3 従来の常識的推論と昨今の常識推論
17
中島のcommonsense
の定義
・常識推論とは,情報が欠
落していても通常は正しい
結果を導くことをいう.
Yejin Choiのcommonsense
reasoningの定義※2
・常識の定義
・実践的な知識と推論の基本レベル
・日常の状況やイベントについて
・それはほとんどの人の間で一般的
に共有されています。 たとえば、ク
ローゼットのドアを開いたままにし
ておくことはできますが、冷蔵庫の
ドアを開いたままにしておくことは
できません。中の食べ物が悪くなる
可能性があるからです。
※1 「AIがコモンセンスをもつ日」中島 2018 人工知能学会誌 P345
※2 https://homes.cs.washington.edu/~msap/acl2020-commonsense/slides/01%20-%20Intro.pdf
・従来は不完全な情報を前提としていたが,最近では不完全な情
報を前提と必ずしもしていない.やや明示的にもなっている.
3.4 A→Bの(→: 含意)の罠,
含意関係認識の例①
18
※1 前提となる文(Text; T)
※2 仮定となる文(Hypothesis; H)
例1
T: 私は昨日、京都で晩御飯を食べた。
H: 私は昨日、京都にいた。
→判定: Yes(含意である).
例2
T: 川端康成は「雪国」などの作品でノーベル文学賞を
受賞した.
H: 川端康成は「雪国」の著者である.
→判定: Yes(含意である).
2021/3/18
10
3.4 A→Bの(→: 含意)の罠,
含意関係認識の例②
19
※1 仮定となる文(Hypothesis; H)
※2 前提となる文(Text; T)
例1
T: 私は昨日、京都で晩御飯を食べた。
H: 私は昨日、京都にいた。
→判定: Yes(含意である).
上記の含意は,古典論理では,間接的に証明可能となり,危うい
と言える.
「(あなたは,)昨日,京都で晩ごはんを食べたなら,京都にいた.」
対偶では,「京都にいなかったから,あなたは,昨日,京都で晩ご
はんを食べていない.」
これらから,必ずしも判定は,「Yes(含意である)」ではない.
目次
1. 研究の背景
2. 研究の目的
2.1 これまでの取り組み①
2.2これまでの取り組み②(本論文との対応)
3. 推論について
3.1 記号論理学による推論
3.2 フレーム・スクリプトによる推論
3.3 従来の常識的推論と昨今の常識推論
3.4 A→Bの(→: 含意)の罠,含意関係認識の例
4. 今後の常識推論に向けて
4.1敬意表現を用いた推論の例
4.2関連性理論と推論の例
5. 考察
6. まとめ 20
2021/3/18
11
4. 今後の常識推論に向けて
21
システム1: 深層学習(動画/ 画像)
システム2(|システム1): ((常識)推論・論理 | (動画/ 画像))
・システム1での処理が動画や画像を対象とする(95%)と,フレーム問
題は軽減されるが,その一方で,システム2の自然言語の割合は小さす
ぎる(5%).→これらのバランスを取るべく,国際的な言語資源のタスク
が急増している(Choi, 2020).
・出典: 左図 Maps of bounded rationality: Psychology for behavioral economics
D Kahneman - American economic review, 2003
5%
95%
4.1敬意表現を用いた推論の例
状況はⅰとⅱが考えられる.
(ⅰ)「Bのペンが何本か目の前の机の上に置いてある」
(ⅱ)「相手Bが,既にペンを筆入れ,さらに鞄にしまって
おり,席を立とうとしている」
22
会話断片
A1:急いている?
B2:別に.
A3:悪いけど,ペン貸してくれる?
B4:いいよ
生田(1997)の例文(ポライトネス):
上記の会話では,敬語や丁寧な表現は一切使われていない事に
注目すべきである.
2021/3/18
12
4.2関連性理論と推論の例
• 以下のように,母と娘との会話であり,たった1対の対話でしかない
が,これを推論するのには,単なる文の省略を補完するだけでは不
十分である.この会話を把握するはめには,母と娘との共通認識や
背景の理解が必要になる. 23
• 母と娘との間の共通認識の推論に関しては,関連性理論に基づ
く推論の捉え方が挙げられる.松井(2001)の例文(上記)
背景は(カ)から(コ)にかけて記す.
(カ) 美佐の母親が今日自宅のベランダに
ふとんを干していた.
(キ) 美佐は美佐の母親が今日自宅のベラ
ンダにふとんを干していたと言った.
(ク) ふとんを干すのは,宿泊する客が来
る前の準備である.
(ケ) 美佐の母親は真理のためにふとんを
干していた.
(コ) 美佐の母親は真理が明日泊まりに来
るのを知っている.
真理「お母さん、私が明日
泊まりにゆくの知って
るの?」
美 佐「 ふ と んを干 して た
わ」
ほとんど,重なる単語が見当
たらない…
4.3 ローカル化
24
• 日本独自の言語の表れとして,敬語やポライト
ネス,配慮表現などを取り上げることも,より自
然な会話文につながると思われる.
• 国際的な言語タスクへの積極的な参加
• 敬語のコーパス化
2021/3/18
13
5. まとめ
• IF-THENの文の形であれば,推論しやすくなる.しかし,
「A→B」の含意(→)は,直観的論理主義の排中律の除外をし
ないと,間違いが起きることがあり,注意する必要がある.
• 2階建て方式での融合に際し,システム1での処理が動画や画
像を対象とする(95%)一方で,システム2の自然言語の割合
は小さすぎる(5%).
→バランスを取るべく,国際的な言語資源のタスクが急
増している.
→日本の私もコミットメントしたい.
• 自然言語では,上司と部下の会話のように,日本特有の敬語
コーパスが不足または公開されていない.
→あれば,より自然になると思われる.(ローカル化)
25
ご清聴,ありがとうございました。
26

Mais conteúdo relacionado

Mais de 博三 太田

EC_attribute_exstraction_20221122.pdf
EC_attribute_exstraction_20221122.pdfEC_attribute_exstraction_20221122.pdf
EC_attribute_exstraction_20221122.pdf博三 太田
 
Python nlp handson_20220225_v5
Python nlp handson_20220225_v5Python nlp handson_20220225_v5
Python nlp handson_20220225_v5博三 太田
 
LT_hannari python45th_20220121_2355
LT_hannari python45th_20220121_2355LT_hannari python45th_20220121_2355
LT_hannari python45th_20220121_2355博三 太田
 
Logics 18th ota_20211201
Logics 18th ota_20211201Logics 18th ota_20211201
Logics 18th ota_20211201博三 太田
 
Jsai2021 winter ppt_ota_20211127
Jsai2021 winter ppt_ota_20211127Jsai2021 winter ppt_ota_20211127
Jsai2021 winter ppt_ota_20211127博三 太田
 
2021年度 人工知能学会全国大会 第35回
2021年度 人工知能学会全国大会 第35回2021年度 人工知能学会全国大会 第35回
2021年度 人工知能学会全国大会 第35回博三 太田
 
Lt conehito 20210225_ota
Lt conehito 20210225_otaLt conehito 20210225_ota
Lt conehito 20210225_ota博三 太田
 
Seattle consultion 20200822
Seattle consultion 20200822Seattle consultion 20200822
Seattle consultion 20200822博三 太田
 
Syumai lt_mokumoku__20200807_ota
Syumai  lt_mokumoku__20200807_otaSyumai  lt_mokumoku__20200807_ota
Syumai lt_mokumoku__20200807_ota博三 太田
 
Lt syumai moku_mokukai_20200613
Lt syumai moku_mokukai_20200613Lt syumai moku_mokukai_20200613
Lt syumai moku_mokukai_20200613博三 太田
 
Online python data_analysis19th_20200516
Online python data_analysis19th_20200516Online python data_analysis19th_20200516
Online python data_analysis19th_20200516博三 太田
 
本当に言いたい事をくみ取って応答する対話システムの構築に向けて - 昨年(2019年度)の取り組み -
本当に言いたい事をくみ取って応答する対話システムの構築に向けて- 昨年(2019年度)の取り組み -本当に言いたい事をくみ取って応答する対話システムの構築に向けて- 昨年(2019年度)の取り組み -
本当に言いたい事をくみ取って応答する対話システムの構築に向けて - 昨年(2019年度)の取り組み -博三 太田
 
Thesis sigconf2019 1123_hiromitsu.ota
Thesis sigconf2019 1123_hiromitsu.otaThesis sigconf2019 1123_hiromitsu.ota
Thesis sigconf2019 1123_hiromitsu.ota博三 太田
 
Sigconf 2019 slide_ota_20191123
Sigconf 2019 slide_ota_20191123Sigconf 2019 slide_ota_20191123
Sigconf 2019 slide_ota_20191123博三 太田
 
Japan.r ver0.1 2018 slide_ota_20181201
Japan.r ver0.1 2018 slide_ota_20181201Japan.r ver0.1 2018 slide_ota_20181201
Japan.r ver0.1 2018 slide_ota_20181201博三 太田
 
Japan.r 2018 slide ota_20181201
Japan.r 2018 slide ota_20181201Japan.r 2018 slide ota_20181201
Japan.r 2018 slide ota_20181201博三 太田
 
Sig kbs slide-20181123_ota
Sig kbs slide-20181123_otaSig kbs slide-20181123_ota
Sig kbs slide-20181123_ota博三 太田
 
日本語学習者属性別の言語行為の対話自動生成への適用に関する 一考察 太田博三
日本語学習者属性別の言語行為の対話自動生成への適用に関する 一考察 太田博三日本語学習者属性別の言語行為の対話自動生成への適用に関する 一考察 太田博三
日本語学習者属性別の言語行為の対話自動生成への適用に関する 一考察 太田博三博三 太田
 
言語資源活用ワークショップ2018 ポスター発表 P-4-03-E 日本語学習者属性別の言語行為の対話自動生成への適用に関する 一考察
言語資源活用ワークショップ2018 ポスター発表 P-4-03-E 日本語学習者属性別の言語行為の対話自動生成への適用に関する 一考察言語資源活用ワークショップ2018 ポスター発表 P-4-03-E 日本語学習者属性別の言語行為の対話自動生成への適用に関する 一考察
言語資源活用ワークショップ2018 ポスター発表 P-4-03-E 日本語学習者属性別の言語行為の対話自動生成への適用に関する 一考察博三 太田
 
Thesis 34th sig-kst_ver0.2_ota
Thesis 34th sig-kst_ver0.2_otaThesis 34th sig-kst_ver0.2_ota
Thesis 34th sig-kst_ver0.2_ota博三 太田
 

Mais de 博三 太田 (20)

EC_attribute_exstraction_20221122.pdf
EC_attribute_exstraction_20221122.pdfEC_attribute_exstraction_20221122.pdf
EC_attribute_exstraction_20221122.pdf
 
Python nlp handson_20220225_v5
Python nlp handson_20220225_v5Python nlp handson_20220225_v5
Python nlp handson_20220225_v5
 
LT_hannari python45th_20220121_2355
LT_hannari python45th_20220121_2355LT_hannari python45th_20220121_2355
LT_hannari python45th_20220121_2355
 
Logics 18th ota_20211201
Logics 18th ota_20211201Logics 18th ota_20211201
Logics 18th ota_20211201
 
Jsai2021 winter ppt_ota_20211127
Jsai2021 winter ppt_ota_20211127Jsai2021 winter ppt_ota_20211127
Jsai2021 winter ppt_ota_20211127
 
2021年度 人工知能学会全国大会 第35回
2021年度 人工知能学会全国大会 第35回2021年度 人工知能学会全国大会 第35回
2021年度 人工知能学会全国大会 第35回
 
Lt conehito 20210225_ota
Lt conehito 20210225_otaLt conehito 20210225_ota
Lt conehito 20210225_ota
 
Seattle consultion 20200822
Seattle consultion 20200822Seattle consultion 20200822
Seattle consultion 20200822
 
Syumai lt_mokumoku__20200807_ota
Syumai  lt_mokumoku__20200807_otaSyumai  lt_mokumoku__20200807_ota
Syumai lt_mokumoku__20200807_ota
 
Lt syumai moku_mokukai_20200613
Lt syumai moku_mokukai_20200613Lt syumai moku_mokukai_20200613
Lt syumai moku_mokukai_20200613
 
Online python data_analysis19th_20200516
Online python data_analysis19th_20200516Online python data_analysis19th_20200516
Online python data_analysis19th_20200516
 
本当に言いたい事をくみ取って応答する対話システムの構築に向けて - 昨年(2019年度)の取り組み -
本当に言いたい事をくみ取って応答する対話システムの構築に向けて- 昨年(2019年度)の取り組み -本当に言いたい事をくみ取って応答する対話システムの構築に向けて- 昨年(2019年度)の取り組み -
本当に言いたい事をくみ取って応答する対話システムの構築に向けて - 昨年(2019年度)の取り組み -
 
Thesis sigconf2019 1123_hiromitsu.ota
Thesis sigconf2019 1123_hiromitsu.otaThesis sigconf2019 1123_hiromitsu.ota
Thesis sigconf2019 1123_hiromitsu.ota
 
Sigconf 2019 slide_ota_20191123
Sigconf 2019 slide_ota_20191123Sigconf 2019 slide_ota_20191123
Sigconf 2019 slide_ota_20191123
 
Japan.r ver0.1 2018 slide_ota_20181201
Japan.r ver0.1 2018 slide_ota_20181201Japan.r ver0.1 2018 slide_ota_20181201
Japan.r ver0.1 2018 slide_ota_20181201
 
Japan.r 2018 slide ota_20181201
Japan.r 2018 slide ota_20181201Japan.r 2018 slide ota_20181201
Japan.r 2018 slide ota_20181201
 
Sig kbs slide-20181123_ota
Sig kbs slide-20181123_otaSig kbs slide-20181123_ota
Sig kbs slide-20181123_ota
 
日本語学習者属性別の言語行為の対話自動生成への適用に関する 一考察 太田博三
日本語学習者属性別の言語行為の対話自動生成への適用に関する 一考察 太田博三日本語学習者属性別の言語行為の対話自動生成への適用に関する 一考察 太田博三
日本語学習者属性別の言語行為の対話自動生成への適用に関する 一考察 太田博三
 
言語資源活用ワークショップ2018 ポスター発表 P-4-03-E 日本語学習者属性別の言語行為の対話自動生成への適用に関する 一考察
言語資源活用ワークショップ2018 ポスター発表 P-4-03-E 日本語学習者属性別の言語行為の対話自動生成への適用に関する 一考察言語資源活用ワークショップ2018 ポスター発表 P-4-03-E 日本語学習者属性別の言語行為の対話自動生成への適用に関する 一考察
言語資源活用ワークショップ2018 ポスター発表 P-4-03-E 日本語学習者属性別の言語行為の対話自動生成への適用に関する 一考察
 
Thesis 34th sig-kst_ver0.2_ota
Thesis 34th sig-kst_ver0.2_otaThesis 34th sig-kst_ver0.2_ota
Thesis 34th sig-kst_ver0.2_ota
 

会話文の常識推論の 実現に向けた一考察[プレゼンテーション資料]

  • 2. 2021/3/18 2 本研究の背景となる会話文② 3 1. 主語など省略された語句の補完しないといけない… 2. コーヒーを飲むと眠りずらくなる知識や常識が必要. 3. 明日,仕事があるという「話者の属性」(言外の情報)が必要. コーヒー飲 む? 明日,早い から… コーヒーを飲 みと眠れなく なる 本研究の目的 1. 言葉と外の世界を関係づけられること 2. 文と文との論理的な関係がわかること 3. 単語の意味についての知識を持っていること 4. 話し手の意図を推測すること 4 本報告は ここ
  • 3. 2021/3/18 3 本研究の方法論 • 言葉と外の世界を関係づけられること →ダニエル・カーネマンのシステム1・システム2の2階建て → →記号推論と深層学習の融合. • 文と文との論理的な関係がわかること →記号論理学で表現した時に! ※1 • 単語の意味についての知識を持っていること →知識構造を有している状態(意味ネットワークなど) • 話し手の意図を推測すること →推論を走らせ(意図理解),新しい知識が得られる時(推論)に! 5 ※1 複雑な含意関係認識では注意が必要! 本研究の背景となる会話文④ 6 いっけん,1)話者の属性と2)一般常識・知識とで,会話生成が出 来そうに思えるが,言語処理上で,どうすべきかは,案外,難しい. コーヒー飲 む? 明日,早いから … [一般常識] コーヒーは, カフェインの効果 で眠れなくなる. [言外の情報: 属性] 明日,仕事がある. ここで,一度,論理的に愚直に,考えてみると…
  • 4. 2021/3/18 4 本研究の背景となる会話文⑤ • 明日,仕事が早い • コーヒーを飲むと眠れなくなる • だから,飲まない. 7 ①一般常識などの知識や属性と②推論 1. 1) 明日,仕事が早い. 2) コーヒーで眠れなくなる、 2. 常識を論理的に推論することで、語句に意味を持たせられ, 3. 推論が働く時に,意味理解がなされると考えられる. コーヒーは,カフェインの効果で眠れなくなる. 明日,仕事がある. 記号論理的に記してみると… 本研究の背景となる会話文⑤ 8 1. Commonsense Reasoning(常識推論)BERT派生による 言語資源ベースのタスクが急増している! 2. ATOMICやCommonGenなどで高い精度が出ている場合 は,コーパスが,IF-THENの形になっている事があるかもしれな い. ※ 複雑なIF-THENの文は含意が必ずしも真ではない事に注意!! コーヒーを飲めば眠れなくなる. IF-THENで書くと推論が走り やすくなる!
  • 5. 2021/3/18 5 これまでの取り組み① • 2017 文生成 • 2018 敬語を使用しない敬意表現やポライトネス • 2019 マッチングでの対話生成 • 2020 一世代前の人工知能の記号推論/ • 常識的推論(閉鎖的世界) 2021 Commonsense Reasoning(常識推論) BERT派生による言語資源ベース • • 2021 常識推論の記号推論と深層学習の融合による解決を目指す. 9 パターン認識 記号推論 VS ◎ 一昔前の人工知能の記号推論も必要になってきたと言える. これまでの取り組み②(本論文との対応) • 2017 文生成 • 2018 • 会話の発話の • 意図や推意・含意. • 2019 • マッチングでの対話生成 • 2020 一世代前の • 人工知能の意味ネットワーク • 記号処理 • 常識的推論(閉鎖的世界) Commonsense Reasoning(常識推論) BERT派生による言語資源ベース • 2021 記号推論と深層学習の融合で解決できそうか!? 10 2.1 記号論理学による推論 2.2 フレーム問題・スクリプト推論 2.3 言語資源による常識推論 3. 今後の常識推論に向けて 交互にブームを繰り返した「パターン認識」と「知識・記号推論」 パターン認識 記号推論 VS
  • 6. 2021/3/18 6 (参考)パターン認識と記号推論の対応 ※1 ここでは記号論理学での推論に限らないで用いています。 1. 演繹推論 2. 帰納推論 3. アブダクション 4. 常識推論 5. 類推 6. 因果推論 記号推論 7. 含意関係認識 11 1. 探索的記述統計 2. 推測統計 4. ベイジアンネットワーク 3. データマイニング パターン認識(予測・分類) 5. ニューラルネットワーク 目次 1. 研究の背景 2. 研究の目的 2.1 これまでの取り組み① 2.2これまでの取り組み②(本論文との対応) 3. 推論について 3.1 記号論理学による推論 3.2 フレーム・スクリプトによる推論 3.3 従来の常識的推論と昨今の常識推論 3.4 A→Bの(→: 含意)の罠,含意関係認識の例 4. 今後の常識推論に向けて 4.1敬意表現を用いた推論の例 4.2関連性理論と推論の例 5. 考察 6. まとめ 12
  • 7. 2021/3/18 7 3.1 記号論理学による推論① 3. 推論: 「知識をつなぎ合わせて、新しい知識を作り出 すこと」と仮定すると, 主に次の3つとその他の推論に大分されるとする. 13 1) 演繹推論 2) 帰納推論 3) アブダクション・仮説推論 その他の推論 4) 非単調推論 5) デフォルト推論 6) 常識的推論 3.1 記号論理学による推論② 14 1)演繹推論、2)帰納推論、3)アブダクション 1)演繹推論: [大前提] + [小前提] ⇒ [結論] 2)帰納推論: [小前提] + [結論] ⇒ [大前提] 3)アブダクション: [大前提] + [結論] ⇒ [小前提] • 大前提: エージェントは知識を持っている。 • 小前提: 007はエージェントである。 • 結論: 007は 知識 を持っている。
  • 8. 2021/3/18 8 3.1 記号論理学による推論② 1) 演繹推論 2) 帰納推論 3) アブダクション・仮説推論 15 ハ ト は ト リ ト リ は と ぶ ハ ト は と ぶ ハトはトリ トリはとぶ ハトは とぶ ・推論は新しい知識を生成する. AならばB BならばC AならばC 3.2 フレーム・スクリプトによる推論 16 • 場面にもとづく背景や常識をどこまで書き表わせばよいか問題がある. 従来の常識的推論の流れ Frame Undestading Commonsense reasoning Scripts イニング:7イ二ング目 回の表裏:上 塁上の走者:2位と3位 アウトカウント:2つ 打者:プラド 平均:.287 右/ 左打者:右利き 点数:3-2 目標:イニングを無失点で逃げきること # (a1) If I perceive I am at the mound then suggest a goal to get the batter out # (a2) If there is a goal in WM to get the batter out then suggest achieving it using the Pitch pro blem space with an initial state having balls 0 and strikes 0
  • 9. 2021/3/18 9 3.3 従来の常識的推論と昨今の常識推論 17 中島のcommonsense の定義 ・常識推論とは,情報が欠 落していても通常は正しい 結果を導くことをいう. Yejin Choiのcommonsense reasoningの定義※2 ・常識の定義 ・実践的な知識と推論の基本レベル ・日常の状況やイベントについて ・それはほとんどの人の間で一般的 に共有されています。 たとえば、ク ローゼットのドアを開いたままにし ておくことはできますが、冷蔵庫の ドアを開いたままにしておくことは できません。中の食べ物が悪くなる 可能性があるからです。 ※1 「AIがコモンセンスをもつ日」中島 2018 人工知能学会誌 P345 ※2 https://homes.cs.washington.edu/~msap/acl2020-commonsense/slides/01%20-%20Intro.pdf ・従来は不完全な情報を前提としていたが,最近では不完全な情 報を前提と必ずしもしていない.やや明示的にもなっている. 3.4 A→Bの(→: 含意)の罠, 含意関係認識の例① 18 ※1 前提となる文(Text; T) ※2 仮定となる文(Hypothesis; H) 例1 T: 私は昨日、京都で晩御飯を食べた。 H: 私は昨日、京都にいた。 →判定: Yes(含意である). 例2 T: 川端康成は「雪国」などの作品でノーベル文学賞を 受賞した. H: 川端康成は「雪国」の著者である. →判定: Yes(含意である).
  • 10. 2021/3/18 10 3.4 A→Bの(→: 含意)の罠, 含意関係認識の例② 19 ※1 仮定となる文(Hypothesis; H) ※2 前提となる文(Text; T) 例1 T: 私は昨日、京都で晩御飯を食べた。 H: 私は昨日、京都にいた。 →判定: Yes(含意である). 上記の含意は,古典論理では,間接的に証明可能となり,危うい と言える. 「(あなたは,)昨日,京都で晩ごはんを食べたなら,京都にいた.」 対偶では,「京都にいなかったから,あなたは,昨日,京都で晩ご はんを食べていない.」 これらから,必ずしも判定は,「Yes(含意である)」ではない. 目次 1. 研究の背景 2. 研究の目的 2.1 これまでの取り組み① 2.2これまでの取り組み②(本論文との対応) 3. 推論について 3.1 記号論理学による推論 3.2 フレーム・スクリプトによる推論 3.3 従来の常識的推論と昨今の常識推論 3.4 A→Bの(→: 含意)の罠,含意関係認識の例 4. 今後の常識推論に向けて 4.1敬意表現を用いた推論の例 4.2関連性理論と推論の例 5. 考察 6. まとめ 20
  • 11. 2021/3/18 11 4. 今後の常識推論に向けて 21 システム1: 深層学習(動画/ 画像) システム2(|システム1): ((常識)推論・論理 | (動画/ 画像)) ・システム1での処理が動画や画像を対象とする(95%)と,フレーム問 題は軽減されるが,その一方で,システム2の自然言語の割合は小さす ぎる(5%).→これらのバランスを取るべく,国際的な言語資源のタスク が急増している(Choi, 2020). ・出典: 左図 Maps of bounded rationality: Psychology for behavioral economics D Kahneman - American economic review, 2003 5% 95% 4.1敬意表現を用いた推論の例 状況はⅰとⅱが考えられる. (ⅰ)「Bのペンが何本か目の前の机の上に置いてある」 (ⅱ)「相手Bが,既にペンを筆入れ,さらに鞄にしまって おり,席を立とうとしている」 22 会話断片 A1:急いている? B2:別に. A3:悪いけど,ペン貸してくれる? B4:いいよ 生田(1997)の例文(ポライトネス): 上記の会話では,敬語や丁寧な表現は一切使われていない事に 注目すべきである.
  • 12. 2021/3/18 12 4.2関連性理論と推論の例 • 以下のように,母と娘との会話であり,たった1対の対話でしかない が,これを推論するのには,単なる文の省略を補完するだけでは不 十分である.この会話を把握するはめには,母と娘との共通認識や 背景の理解が必要になる. 23 • 母と娘との間の共通認識の推論に関しては,関連性理論に基づ く推論の捉え方が挙げられる.松井(2001)の例文(上記) 背景は(カ)から(コ)にかけて記す. (カ) 美佐の母親が今日自宅のベランダに ふとんを干していた. (キ) 美佐は美佐の母親が今日自宅のベラ ンダにふとんを干していたと言った. (ク) ふとんを干すのは,宿泊する客が来 る前の準備である. (ケ) 美佐の母親は真理のためにふとんを 干していた. (コ) 美佐の母親は真理が明日泊まりに来 るのを知っている. 真理「お母さん、私が明日 泊まりにゆくの知って るの?」 美 佐「 ふ と んを干 して た わ」 ほとんど,重なる単語が見当 たらない… 4.3 ローカル化 24 • 日本独自の言語の表れとして,敬語やポライト ネス,配慮表現などを取り上げることも,より自 然な会話文につながると思われる. • 国際的な言語タスクへの積極的な参加 • 敬語のコーパス化
  • 13. 2021/3/18 13 5. まとめ • IF-THENの文の形であれば,推論しやすくなる.しかし, 「A→B」の含意(→)は,直観的論理主義の排中律の除外をし ないと,間違いが起きることがあり,注意する必要がある. • 2階建て方式での融合に際し,システム1での処理が動画や画 像を対象とする(95%)一方で,システム2の自然言語の割合 は小さすぎる(5%). →バランスを取るべく,国際的な言語資源のタスクが急 増している. →日本の私もコミットメントしたい. • 自然言語では,上司と部下の会話のように,日本特有の敬語 コーパスが不足または公開されていない. →あれば,より自然になると思われる.(ローカル化) 25 ご清聴,ありがとうございました。 26