（拡大表示で文字が読める）2020年度日本技術士会九州本部北九州地区継続研鑽（CPD)プログラム

AI の倫理と人の倫理
我妻広明*1, *2, *3
*1 国立大学法人九州工業大学
大学院生命体工学研究科
*2 理化学研究所 *3 産業技術総合研究所
脳神経科学研究センター人工知能研究センター
Hiroaki WAGATSUMA
2020年度日本技術士会九州本部北九州地区継続研鑽（CPD)プログラム
2020年2月15日(土)13:00~17:00 北九州イノベーションギャラリー(通称:KIGS)
北九州市八幡東区東田2-2-11

1. 倫理と道徳の問題
なぜみなさんは研鑽会
（CPD）に参加されるのか？

これからの「正義」の話をしよう
https://www2.nhk.or.jp/archives/tv60bin/detail/
index.cgi?das_id=D0009010816_00000
マイケル・サンデル
http://justiceharvard.org
道徳の時間岡田斗司夫
https://cakes.mu/posts/2778
3

ミニョネット号事件 (19世紀）
https://ja.wikipedia.org/wiki/ミニョネット号事件
1884年7月5日、イギリスからオーストラリアに向けて航行してい
たイギリス船籍のヨットミニョネット号 (Mignonette) は、喜望峰
から1600マイル（約1800キロメートル）離れた公海上で難破。
船長、船員2人、給仕の少年の合計4人の乗組員は救命艇で脱出に
成功したが、艇内にはカブの缶詰2個以外食料や水が搭載されてお
らず、雨水を採取したり漂流5日目に捕まえたウミガメなどを食い
繋ぐも漂流18日目には完全に底をついた。
緊急避難を適用した違法性の阻却が考えられたが、イギリス当局は起訴。最初の裁判の陪審員は違法性
があるか否かを判断できないと評決したため、イギリス高等法院が緊急避難か否かを自ら判断すること
になった。この事案に対して、イギリス高等法院はこれを緊急避難と認めることは法律と道徳から完全
に乖離していて肯定できないとし、謀殺罪として死刑が宣告された。
しかし、世論は無罪が妥当との意見が多数であったため、当時の国家元首であったヴィクトリア女王か
ら特赦され禁固6ヶ月に減刑された。
19日目、船長は、くじ引きで仲間のためにその身を捧げるものを決めようとしたが、船員の1
人が反対した為中止された。しかし20日目、船員の中で家族もなく年少者であった給仕のリ
チャード・パーカー（17歳）が渇きのあまり海水を飲んで虚脱状態に陥った。船長は彼を殺
害、血で渇きを癒し、死体を残った3人の食料にしたのである。
マイケル・サンデルによる『ハーバード白熱教室』
これからの「正義」の話をしよう
1953年生まれ。ハーバード大学教授。専門は
政治哲学。ブランダイス大学を卒業後、オック
スフォード大学にて博士号取得。2002年から
2005年にかけて大統領生命倫理評議会委員。
早川書房 (2011/11/25)
NHK
4

岡田斗司夫さんのまとめ
第1章「正しいことをする」
ハリケーンの災害時に、便乗値上げをして大もうけを
たくらんだ商人たち
市場自由主義者→この商人達は正しい
功利主義者（「最大多数の最大幸福を」）→正しい
便乗値上げを肯定する人は「いくらでも商人に儲けさせればいい。そう
すれば商品は被災地に集中し、やがてリーズナブルな価格に落ち着く」
それならば、便乗値上げは法で規制すべきか？
いや、法は市場に介入すべきではない―
―便乗値上げを巡っては、さまざまな意見が噴出
5

サンデル教授：
報道が巻き起こしたアメリカ国民の「怒り」。事件のどこかに「不正義」が
ある。
なぜか？ハリケーンで困ってる仲間がいる。子供や病人に薬や食料を与
えられなくて悲しんでいる家族がいる。その足下を見て儲けようと思うよう
な人たちを、僕らは「許せない」から。
注目点
①「幸福の最大化」→ 「功利主義」
②「自由の尊重」
③「美徳の促進」
「正義」についての問題を3つの方向から分析
6

①「幸福の最大化」または「功利主義」
一般を合理的とかロジカルシンキングと呼ばれることもあり、
社会では妥当なものとして、高く評価される傾向もある。
基本的には「誰もが幸福を追求し、それが最大になる社会」を
目指すというもの。それが「良い社会」と考えるから。
一方では、落とし穴があり、「少数の抑圧」「弱者への支配」
となり得る。
7

②「自由の尊重」
「最大多数の最大幸福」を目指しつつ、社会への不満、自分を活かせ
ないと感じるときには、場所を変える。その意味での自由の尊重。
たとえば、親が子供を良い学校に入れたいのは「選択肢を増やしたい
から」。将来、我が子がなにになりたいかわからないから、選択肢を
できるだけ多く、そのためには良い学校に。
お金を欲しがる人の理屈も同じ。
「なんでも出来るから。買えるから」→「選択の自由」を最大化した
い。
「お金」というのは、モノと交換する前は「可能性そのもの」だから。

8

被災地で儲けを企む人たちを非難するには、
①「功利主義」と②「自由主義」を相手にする必要がある。
でもそれは、いつも成功するとは限りません。マスコミに糾弾された
一部の商人だけがバッシングされて終わり、がよくある終着点。
日本人は、功利主義やロジカルシンキングに弱い
功利主義に対するサンデル教授の批判
by 岡田斗司夫さん
1974年、米国の連邦政府が石油ショックを理由に高速道路の速度制限を55マイ
ルと決めたところ、交通事故の死者は目に見えて減少。しかし、経済は減速。
80年代、石油ショックの時代が過ぎて速度規制は撤廃。ほとんどの州は規制速
度を65マイルに。ドライバーは時間を節約でき、経済も復調。その代わりに死者
が増加。
時速を10マイル増やすと、その分死者は増える。しかし経済効果が大きい。
（第2章）
9

「私は私のものか？――リバタリアニズム（自由至上主義）」
アメリカの金持ち上位1％が国中の富の1/3以上を持っている。その
額は下位90％の資産合計より多い。
自由の尊重は、あらゆる欲望を正当化する
（第3章）
妥当な論理を持つ功利主義者なら、富裕層に課税すべきだと考えるの
ではないか。最大多数の最大幸福という原理からも当然だし、富裕者
から富の1％を奪ってもさほど痛みは感じない。それで助かる・チャン
スを得られる貧者は100万人はいる。
しかし、「自由至上主義（リバタリアニズム）」を信じる人たちは、
こういった福祉政策にNO！という。
10

自由の尊重は、あらゆる欲望を正当化する
（第3章）
「自由至上主義（リバタリアニズム）」の（極端な）考え方
？？？と思うが、我々も自由主義者の思想的影響を強く受けている。
例えば、表現の自由や市場の自由、規制撤廃などは基本的にリバタリアンの
主張と同じ。
リバタリアン的な見地に立てば、「課税：私の稼ぎを取り上げること」＝
「強制労働：私の労働を取り上げること」＝「奴隷制：私を他者に所有させ
ること」までは一直線に繋がっているんです。
１）保護の否定
シートベルト着用義務などの否定。国民は好きなように怪我したりする
権利がある！
２）道徳的法律の否定
売春など、そんなのは国民の勝手だ！
３）富の再配分の拒否
法律で税金として稼いだ金を巻き上げて弱者にばらまくのは拒否。
11

市場原理こそが正義なのか？
（第4章）
誰もが合意に達しやすく、納得できる結論は、「正義」と言えるのか？
それならば、「市場」は正義なのか？
人を無理矢理兵隊にする徴兵制は非人間的で、志願兵制は人間的か？
実際には「貧しいから兵隊に行くしかない」という人が大部分で、
ハーバード大を出て兵役についた学生なんかほとんどいません。前線
のアメリカ兵士も有色人種ばかり。
徴兵制の時はこんな人種バランスはなかった。金持ちは兵隊に志願
せず、貧乏人は自分の命を担保にして大学資金を貯めようとする。そ
れが「市場原理」の世界。
（アメリカでは）
例：
12

現在のアメリカは「自由至上主義」の影響力が強すぎる
（第5章）
13
意外に東洋的なアリストテレスの考え方を勧める：
人は都市国家に住む。
美徳や正義は「（自分だけで）考えても身につかない」から。
年中他者と論じて、身体を動かして、習慣になるまで行動しないと身
につかないから。技能と同じく「使わないと体得できない」。
「政治を考えること＝国家の教師」ということ。
ゆえに誰もが正義、政治を考えるべきで、国民は政治家の指し示す
「理想の人間像」を見て、妥当かどうか、考え、判断し、同意できる
かどうか検証すること。その代表者（代理者が）たまたま政治家とし
て役割を担う、となる。
何も考えないで、「政治家に任せよう」「政府に任せよう」は間違い

意外に東洋的なアリストテレスの考え方
（第8章）
14
無時間モデルの政治的議論では、
「最も正解を生み出す思想＝良い思想」
「今の私＋最善の思想＝素晴らしい私」という時差ゼロで起動する

→最も「効率のいい」思想だから。
現象A
B C
原因A 結果C
西洋合理思想は、基本的に「無時間モデル」を基盤とする。
原因と結果が直線的・直接的に繋がっているモデル。
なぜ政治家に丸投げでは解決しないのか？

意外に東洋的なアリストテレスの考え方
（第8章）
15
今の世界は多元社会、多数の価値観が並列してる社会
→多様な「善」がある社会多様な文化、多様な価値観を持っていて
も、心のどこかで「共通の善＝正義」を求めている。
「どんな思想も、学んですぐにわかったりはしない。
使いこなせたりもしない」。
学び続け、考え続けなければならない
現象A
とアリストテレスは言う
それが社会倫理や道徳

(a) 線路を走っていたトロッコの制御が不能になった。
このままでは、前方で作業中だった5人が猛スピードの
トロッコに避ける間もなく轢かれてしまう。
トロッコ問題
トロッコ
倫理観を要求する「究極の選択」問題
トロッコ問題 - Wikipedia
https://ja.wikipedia.org/wiki/トロッコ問題 16

Moral Machine - Human Perspectives on Machine Ethics
http://moralmachine.mit.edu/hl/ja
MITの世界的調査
17

18https://wired.jp/2019/01/02/moral-machine/
2019.01.02 WED 17:00
MITメディアラボのエドモンド・アワッドらは、人工知能（AI）自律走行車が特定の状
況でどのような判断を下すべきか、世界中の人々に意見を求めた。

調査は、英語版、アラビア語、中国語、フランス語、ドイツ語、日本語、韓国語、ポルトガル
語、ロシア語、スペイン語の計10言語で、233の国と地域に住む4,000万人近くが回答。
優先的に助けるべきは？
9つの指標を基に、人々が何を優先して生存者と犠牲者を決めるのか分析。
具体的には以下の項目だ。

1. 生存者と犠牲者の数

2. 性別

3. 年齢（乳幼児／子供／大人／高齢者）

4. 種（人間／犬／猫）

5. 健康状態（アスリート体型／肥満体型）

6. 社会的地位（会社経営者／医師／ホームレス／犯罪者）

7. 搭乗者と歩行者どちらを優先するか

8. 交通規則の順守を重視するか

9. 介入する傾向の強弱（クルマの進路を変えるか、何もしないか）

質問の例
19http://moralmachine.mit.edu/hl/ja

結果の例

結果の例
21
http://moralmachine.mit.edu/hl/ja

結果の例

結果を分析した論文
23

NEWS 24 OCTOBER 2018
Self-driving car dilemmas reveal that
moral choices are not universal
24

25
「西」「東」「南」
Eastern
Western
Southern
南
東
西
女性優先
痩
身
優
先
不介入優先
歩
行
者
優
先
人数優先
人
優
先
金持ち優先
若
者
優
先
法遵守優先 Nature (2018-10-25) ¦ doi: 10.1038/
d41586-018-07135-0 ¦ Self-driving
car dilemmas reveal that moral
choices are not universal

26https://wired.jp/2019/01/02/moral-machine/
2019.01.02 WED 17:00
MITメディアラボのエドモンド・アワッドらは、人工知能（AI）自律走行車が特定の状
況でどのような判断を下すべきか、世界中の人々に意見を求めた。

調査は、英語版、アラビア語、中国語、フランス語、ドイツ語、日本語、韓国語、ポルトガル
語、ロシア語、スペイン語の計10言語で、13シナリオを230万人近くが回答。
優先的に助けるべきは？
9つの指標を基に、人々が何を優先して生存者と犠牲者を決めるのか分析。
具体的には以下の項目だ。

1. 生存者と犠牲者の数

2. 性別

3. 年齢（乳幼児／子供／大人／高齢者）

4. 種（人間／犬／猫）

5. 健康状態（アスリート体型／肥満体型）

6. 社会的地位（会社経営者／医師／ホームレス／犯罪者）

7. 搭乗者と歩行者どちらを優先するか

8. 交通規則の順守を重視するか

9. 介入する傾向の強弱（クルマの進路を変えるか、何もしないか）

27
地域と文化によって回答に差
地域的・文化的に見て大まかに「西」「東」「南」に分かれる。

「東」はアジアと中東、「西」は欧米諸国とロシア、「南」は中南米諸国だと考
えて良い（ただし、ブラジルは「西」、フランスは「南」に含まれるなど、例外もある）。

地域別の違いの一例：
「南」の回答者は、高齢者よりも若者を助ける傾向がわずかに強い。これは
「東」と比較した場合に特に顕著。

国別に見ると、日本やフィンランドのように治安のよい豊かな国では、信号無視
をしている歩行者は「死んでも仕方がない」という意見が多くあった。

一方で、所得格差の小さいフィンランドでは、歩行者や搭乗者の社会的地位は、
助けるべきかという倫理判断にほとんど影響を及ぼさないようだ。

これに対し、コロンビアのように貧富の差が激しい国では、ホームレスや犯罪者
は見殺しにされることが多かった。

中南米におけるマフィアや麻薬がらみの犯罪の苛烈さから影響を受けいる可能性がある。
EasternWestern Southern
https://wired.jp/2019/01/02/moral-machine/
2019.01.02 WED 17:00

28
日本は「世界で最も功利主義的でない国」
また、日本は助かる命の数を重視しない（つまり、数よりも誰を助けるかとい
う「質」を重視する）ほか、歩行者を助ける傾向が世界で最も強い（2位はノ
ルウェー、3位はシンガポールだ）。

逆に、生存者の数を重視するのはフランスで、歩行者よりクルマに乗っている
人を守ろうとするのは中国とエストニアだった。

フランスは高齢者に比べて若年層を助ける傾向も強い。これに対し、高齢者を
助けるという意見が多かったのは台湾で、ほかに中国や韓国といった儒教文化
の影響の強い東アジアの国々でも同様の偏向が見られた。

MITのアワッドは『WIRED』日本版の取材に対し、日本で特徴的なのは生存者
の数を判断材料にする傾向が非常に低いことだとしたうえで、「その意味で
は、世界で最も功利主義的でない国だと言えます」と話している。また、日本
は介入を避ける傾向も平均よりかなり高いという。

29https://www3.nhk.or.jp/news/html/20200204/k10012272581000.html
中国外務省新型肺炎で日本の支援に感謝を表明
2020年2月4日 20時36分
中国で新型コロナウイルスの感染拡大が続く中、中国外務省の報道官は、日本各地から中国
に対し幅広い支援が行われているとして感謝の意向を表明しました。
これは中国外務省の華春瑩報道官が４日、インターネットを通じて行った記者会見の中で表
明したものです。
この中で華報道官は「新型のコロナウイルスの感染が発生すると、日本政府はすぐに中国に
対して全面的な協力を表明してくれた。また日本政府と日本の多くの自治体や企業は、自発
的にマスクや防護服などの医療物資を贈ってくれた」と述べ、日本各地から中国に対し幅広
い支援が行われていると指摘しました。
そのうえで日本のドラッグストアで、商品に「中国がんばれ、武漢がんばれ」と書かれた紙
が貼られている写真を見たことや、日本と中国の交流が長い間続いていることを表す漢詩の
一部が書き込まれた支援物資もあったことなどを紹介したうえで、「多くの中国人は私と同
じように、日本の人たちの温かい行動に注目している。困難な時期にあたって、同情や理
解、支持をしてくれたことに心からの感謝を表し心に銘記しておきたい」と述べ感謝の意向
を示しました。

30https://www.newsweekjapan.jp/stories/world/2020/02/ny-26.php
マスク姿のアジア人女性がニューヨークで暴行受ける
Asian Woman Allegedly Attacked in New York for Wearing Protective Mask
2020年2月6日（木）13時40分
イワン・パーマー
＜地下鉄の駅で女性が「病気持ち」「俺に触るな」と罵倒され殴る蹴るの暴行を受けた。
アジア人のマスク姿が恐ろしいものに見え始めているのか＞
ニューヨークの地下鉄の駅で、男がマスク姿の女性に暴行を加える事件が発生した。ニュー
ヨーク市警（NYPD）は、新型コロナウイルスに関連したヘイトクライム（憎悪犯罪）の可
能性があるとして、女性に被害を届け出るよう呼びかけている。
NYPDは、事件の様子を捉えた動画をソーシャルメディアで共有。マンハッタンのグランド
ストリート駅のなかを走る女性の前に突然男が立ちはだかり、手や脚や傘で殴る蹴るの暴
行をするのが映っている。「俺に触るな」と、怒鳴る声も入っていた。

31https://courrier.jp/news/archives/189645/?ate_cookie=1581418023
6min 2020.1.30
「#私はウイルスじゃない」
新型コロナウイルス感染確認で、フランスに広がるアジア系差別
SOCIETY
「ハフィントンポスト」フランス版は1月28日、「中国のコロナウイルスが
アジア系に対する人種差別的なステレオタイプをよみがえらせる」という記
事を掲載した。
同メディアによれば、1月27日に「J」というアジア系の女性がSNS上で匿名
で被害を訴え、「#私はウイルスじゃない」（#JeNeSuisPasUnVirus）とい
うハッシュタグを作り出した。
彼女の訴えは、フランスにおける人種差別の問題に取り組んでいる映画監督
のアマンディーヌ・ゲイによりツイッターに投稿され、広く拡散された。

2. 産学における「学」の役割

我妻広明 Hiroaki WAGATSUMA
photo in Neuroscience Institute (San Diego, USA)
Wagatsuma & Yamaguchi (2004; Cover photo)
九州工業大学大学院生命体工学研究科人間
知能システム工学専攻
VLSI開発 Engineering
Neuroscience
Integration
NEC（パソコン開発）
九工大（脳型ロボット）
理化学研究所（計算論的神経科学）
PC-9801nノートパソコン
（1989年発売）
PC-9801シリーズパソコン
（1980年代）
エピソード記憶の神経基盤
（海馬認知地図生成）
脳型ロボット開発
（Neuro-robotics）
33

ピレネー山脈「ブレッシュ・ド・ロラン」
我妻研は、「隙間産業」＝職人気質
ココ！この隙間（今までに答えがなかった問題）を解決
有名な理論
有名な理論
B
A
34

研究手法
他の研究者と比べてどんな点に独自性があるか？
35

理学ー工学融合研究の方法論の違い
典型的な工学的手法
• 対象を絞り、解決策を提案し、その後適用
範囲を広げていく
私の数理学ー工学融合手法
• 対象となる問題が発生する背景を洗い出し、
問題を構造化し、根本的な解決策を提案する
• 問題の定式化が未知
• 周辺から類似問題が頻出
問題
解決策
同じ解決策が
有効な他の問
題を探す
観測された問題
解決策
有効な問題：
「知能」とは何か？
ex.
「倫理」は機械に組込めるか？
「エネルギーvs環境」問題
「ロボットvs安全」問題
+
今後起こり
得る問題
構造化
36

強みと弱み
実用の見通し
データ量または複雑度
人工ポテンシャル法
（軌道生成・障害物回避）
ヒト由来情報処理，
脳型コンピュータ
（LSI化）
(基礎研究)(実用研究)
(甚大)(中程度)
Deep Learning,
統計的学習器
（ベイズ則等）
データ量が多い程
信頼性が高い
即時応答性は低い
(オフライン学習)
人と同等の
処理能力
を期待
移動ロボットとの
共通基盤化可能
データ量が多い程
信頼性が高い
情報の複雑化
→ 演算負荷大
オントロジー
（状況分析・知識表現）
未知の状況
注
意
変
化
・
動
作
な
ど

生
体
計
測
は
あ
る
程
度
可
能

状況の想定を
フレームワーク化
即時性・オンライン
センシングとの整合性
は課題
共通課題
相補
データ駆動型AI
論理知識型AI
研究背景
37

発明・発見的
創造・生成的
構造・律法的
調和・習律的
倫理・普遍的
近年のAI技術
（評価関数最大化原理／
統計則等）
単純作業の
自動化
（自明な機械処理）
アルゴリズム
（非自明な機械処理）
人の熟練知能
タイプI タイプII タイプIII タイプIV
組合せ単純な形式化複雑な形式化非形式→仮説的形式化
特定の作業を
効率的に行う
自明な形式化非自明でも立証さ
れた方法論
解を得るためには、不足し
た条件や、規則を補完して
解が得られるようにする
ソフトコンピューティ
ング・アプローチが主
流（遺伝的アルゴリズ
ム、機械学習、深層学
習等）
（場合によっては、人の直
感には反しても）
大量のデータから得られた
統計的構造等で与えられた
分析結果から解を得る方法
論
⃝
△
?
×
×
ボトムアップ
トップダウン
ロボット・自
動機械等も含
まれる
コンピュータ
処理等
壁をると迷路は
解けるなど（但
し、例外状況には
弱い）
（外れ値などの例外には対応；但し、フレーム
問題、状況認知、構造的欠陥の発見には課題多し）
データ駆動型AI
論理知識型AI
『哲学的人工知能批判―
コンピュータには何ができないか』
ヒューバート・ドレイファス
（産業図書, 1979;翻訳版1992）
38

発明・発見的
創造・生成的
構造・律法的
調和・習律的
倫理・普遍的
人の熟練知能
車輪、階段の発明など。エイズの抗HIV多剤治療法（ウィルス
完全除去→死なない処置へのパラダイムシフト）
なぜ、人間の知能には機械が及ばないか？
コンピュータハードウェア、プログラミング言語の開発など。
iPS細胞の生成と生命原理への介入。
報酬・利益最大化原理
社会的永続性、生命原理的
問題を解決するための、条件と解法、法則性の抽出。法と例外
の間のグレーゾーンの分析と解決策の模索。問題発生を未然に
防ぐ法規制の問題等。
命は限られた時間のもので、資源は限られており、個の尊厳と自
律性は尊重した上で、社会を形成しなくてならない
構築された社会が永続性を持ち、価値ある形で未来に存続する
ために何を許して、何を許さないことが妥当か？
機械に実装可能
機械での実現は困難（機械に生命や存在の権利を与える？）
価値の多様性とその受容
それは、限りある命と資源の制約がある「生命」でないから
39
ミニョネット号事件 (19世紀）→参考資料

40
路上でのヒヤリ・ハット事例
https://www.youtube.com/watch?v=xuOwclpiiZkEye-contact Estimation of others
intentions
どんなルール逸脱が発生するか？

Engström, J. 2011.
頻度
追い越し
致命的な事故
深刻さ
種
類
41
深刻な事故ほど、確率事象としての頻度が低い

Engström, J. 2011. 42
衝突に至るまでの過程の解析
したがって、その事故がどのようにして起こった
かの「過程」の解析が再発防止に重要
「なぜ」起こったかの原因（動機）がわからないと再発する

Engström, J. 2011.
43
衝突が起こるケース

Engström, J. 2011.
44
（なんとか）衝突が回避できるケース

戦略的イノベーション創造プログラム(SIP) PD: 渡邉浩之氏（トヨタ自動車株式会社顧問）
シンポジウム2014 ~日本初の科学技術イノベーションが未来を拓く~
h9p://sip-cao.jp/subject/pdf/sip06.pdf
SIP自動運転プロジェクト資料より
45
だから、リスクが評価できるAIが必要

【動画】
九州工業大学の研究チームによるAI設計
の例
46

記号論理学
さまざまな論理体系
古典論理
命題論理
述語論理
ブール代数
非古典論理
直観主義論理様相論理
「排中律」を排除（排中律とは，Ａ
とその否定¬Ａのいずれかが必ず成
立すること）
「事実」を記述する古典論理に「可
能性」や「必然性」などの要素を加
えたもの
多値論理
ファジー論理
原子命題や述語に対して
「真」と「偽」以外の真理
値を許す論理
線形論理
1980年代後半
「資源」の概念を扱える
Ａ:「100円をもっている」，B:「缶コーヒーが買える」 ⇒「Ａ→Ｂ」および「Ａ→Ｃ」．古典論理では「Ａ
→Ｂ∧Ｃ」で「100円あれば缶コーヒーと缶ジュースが両方買える」で，本当は「100円あれば缶コーヒーと
缶ジュースのどちらか一方のみが買える」
（位相空間論・カテゴリー論）（因果関係や時間の要素を表現→計算
機科学や言語学・認知科学での応用）
Ｌ．ブラウワー
チューリングマシン（アラン・チューリング）ハード
ウェア
ラムダλ計算（アロンゾ・チャーチ）ソフ
トウェア
ゲーデルの
不完全性定理
(1931)
ハイティング代数ＰＱ
(¬a)→(b∨c)
箱Ａに入っていなければ，箱Ｂ
か箱Ｃのいずれかに入っている
（充足問題）
∀x P(x, ...)
すべての x に対して P(x,...) である
∀x (Human(x) → Mortal(x))
Human(ソクラテス)
Mortal(ソクラテス)
「人間は皆死ぬ，そしてソクラテスは人間で
ある，したがってソクラテスは死ぬ」
（ゴットフリート・ライプニッツ;１７世紀∼）
数学基礎論
解析学（極限）
「∼は必然的に真」や
「∼は可能である」
「∼は真(1)」や「∼は偽(0)」
一階述語論理
高階論理
時相論理（時制論理）
「私はいつも腹ペコだ」、「私はそのうち
腹ペコになる」、「私は何かを食べるまで
腹ペコだろう」
アーサー・プライアー
（1950）
半順序集合（束論
lattice theory）
相対擬補元:x ⇒ yは，L の部分集合
{z ∈ L : z ∧ x ≤ y} の最大元
圏論 ( category
theory）
Lisp
Prolog
OWL
関数型言語
Haskell
Semantic Web
SWRL
f(x) = x2+2y+1のλ記法
λx.(x2+2y+1) 関数(x2+2y+1)の引数はxであり、yは固定値と扱う
ここで λx とはxが(x2+2y+1)の引数であることを示す
λ計算
型理論自然言語の意味論
Fuzzy logic
Boolean algebra
19世紀後半
47

全ての人間の言語は、完全な数体系がない場合でも、量化を利用している
（Wiese 2004）。例えば、日本語での例は次の通りである。
• 「全ての方針に目を通す必要がある」
• 「川を渡っている人のうち何人かが白い腕章をしている」
• 「私が話した人々のほとんどが、誰に投票するか決めていなかった」
• 「待合室の誰もが、A氏に対する少なくとも1つの不満を持っていた」
• 「クラスの誰かが、私の出した全ての問題に答えられるはずだ」
• 「多くの人々は賢明である」
これらを量化を使わずに、複数の文の論理和や論理積で表す単純な方法は存在
しない。
量化
https://ja.wikipedia.org/wiki/量化
概念記法
『概念記法』（独: Begriﬀsschrift）はゴットロープ・フレーゲによっ
て1879年に出版された論理学に関する短い本の題名であり,またその
本で創始された形式体系の名称である。
48
自然言語における量化

50
オントロジー
root stem
Plant (plant body)
leaf flower
(bloom)
fruit
central
stem
stem
bud flower cluster
(inflorescence)
stem
branch
young ripeunmature
©WagatsumaLab@Kyutech
植物オントロジー（Plant Ontology)例:
根茎葉花実
https://
www.takamiya.com/
plantstudio/
plant_word.html

51
• IBM Watson みずほ銀行コールセンター業務
https://www.youtube.com/watch?v=gEejZEhHLpA

52
図2. RDF表現の例（https://camo.qiitausercontent.com/）
対象（Subject）：リソース（例：薬のID:DB0198）
述語（Predicate）：プロパティ（例：名前）
目的語（Object）：プロパティの値
（例：タクロリムス）
知識の管理関係性による表現

53
展望
u事故予防・熟練技術を伝える支援AI
u早期発見・早期措置（治療）・安全管理AI
u原因追求・対処措置AI

2-1 標準的な知的パズルとは？
54
“Where is a dog ?”
Mental rotation
Story telling
Douglas R. Hofstadter (1999)
introduced Bongard Problems
(BPs), a set of 100 puzzles by a
M.M.Bongard (mid-1960)
知的パズル（またはIQテスト）
"Gödel,
Escher, Bach"
(1999)
ベンチマークテスト
BP #47

2-2 標準化問題としてのボンガード問題
55
人の知能
入力
(不良設定
質問)
出力
(唯一解として
の正答)
質問：左と右
の絵を論理的に
区別する法則を
見つけること
（パターン）
左側右側
左側: 三角は丸の中にある
右側: 丸は三角の中にある

2-3 ボンガード問題 BPs:1-16
#1 #2 #3 #4
#5 #6 #7 #8
#9 #10 #11 #12
#13 #14 #15 #16
56

2-4 数理論理学的定義
ある共通の規則・論理
構造で問題が解けるの
ではないか
作業仮説
30/31* 0/31*
* H. Foundalis (2006)
Left-side Right-side Left-side Right-side
簡単難しい
実験に参加した人ほぼ全員解ける誰も解けない
#73#23
これをパターンマッチングや
画像識別の問題にしてしまう
と大量なデータでの学習や
画像によって異なる処理にな
る 57
Jisha Maniamma

2-4 数理論理学的定義
30/31* 0/31*
* H. Foundalis (2006)
Left-side Right-side Left-side Right-side
簡単難しい #73#23
⋂ ⋂ ⋂ ( ⋂ (PA ⋂ PB= ɸ)
SA ⋂ SB= ɸ
𝐿𝑖 ∈ 𝑃 𝐴
, 𝑅𝑖 ∈ 𝑃 𝐵
, 𝑖 = {1,2, 3,4, 5,6}
(𝐿 𝑖 ∈ 𝑃
𝐴
)
( 𝑅𝑖 ∈ 𝑃 𝐵) (𝐿𝑖∉ 𝑃
𝐵
) 𝑅𝑖∉ 𝑃 𝐴
)
論理学における記法
以下を満たす解を求めよ
実験に参加した人ほぼ全員解ける誰も解けない
58

2-5 問題の定式化
独立な特徴 (IP)
Circle1: { 大きさ, 模様, 色, 形, 絶
対的位置（箱に対して）};
Triangle1:..
従属な特徴 (DP)
Circle1: { ⃝よりも小さい, △の
下にある};
Triangle1:..
特徴 Properties (xL1)
= ({IP}objects ,{ DP}within objects )
59
左側右側

2-6 情報の流れ
Concept
Network
(LTM)
Instance to
knowledge
Conversion
Dynamic
Memory
Sameness and
Difference
detector
Inference
SWRL
Ontology
Independent Properties
Circle1: { Size, Texture, Color, Shape,
Position with respect to the box...};
Triangle1:..
Dependent Properties
Circle1: { Smaller than Triangle1, To the bottom of...};
Triangle1:..
#39
60
Jisha Maniamma

Subject
Predicate
Predicate
Line1 Green
hasStyle
61
Jisha Maniamma

Line1
Line2
Line3
Line16
Line17
Line18
Line19 Line20
62
Jisha Maniamma

2-7 述語論理によるABox + Tboxの設計
63
Jisha Maniamma

BP4
<http://.../proprties/left>
<http://.../includes/infered/
alsoconsists_of_texture>
<http://.../proprties/notempty> ;
<http://.../includes/infered/consists_of_character>
<http://.../proprties/convex_shape> ;
<http://.../includes/infered/consists_of_count>
<http://.../proprties/1> ;
<http://.../includes/infered/consists_of_shape>
<http://.../includes/infered/consists_of_texture>
<http://.../proprties/closed_shaped> ;
has_infered_characteristics>
<http://.../proprties/right>
<http://.../proprties/concave_shape> ;
<http://.../proprties/concave_shape> ;
Convex (Shape) Concave (Shape)
has_infered_characteristics
→ concave_shape
has_infered_characteris
tics
→ convex_shape
Right answer: Right answer:
Machine answer: Machine answer:
<left, has_infered_characteristics,
convex_shape >
<right,has_infered_characteristics,
concave_shape> ; 64
Jisha Maniamma
2-8 論理知識型AIの計算結果

65
BP18
bulged in two parts
(ballooned / two balloons)
(combination of parts,
or neck)
not narrower (simple balloon)
(combination of parts,
or neck)
has_infered_shape
→ not_squeezed_shape
has_infered_shape
→ squeezed_shape
<http://.../proprties/notempty> ,
<http://.../proprties/continious_outlined> ;
consists_of_position>
<http://.../proprties/middle> ;
<http://.../proprties/squeezed_shape> ,
<http://.../includes/infered/has_infered_shape>
<http://.../proprties/squeezed_shape> ;
<http://.../proprties/
continious_outlined> , <http://.../proprties/
notempty> ;
<http://.../includes/infered/consists_of_size>
<http://.../proprties/large_figure> ;
<http://.../includes/infered/has_infered_shape>
<http://.../proprties/not_squeezed_shape>
;
Jisha Maniamma

BP21
different (Size) similar (Size)
has_infered_size
→ large_figure
has_infered_size
→ large_and_small_figure
<http://.../includes/infered/alsoconsists_of_texture>
<http://.../proprties/no_filling> , <http://.../
proprties/notempty> ;
<http://.../includes/infered/consists_of_position>
<http://.../proprties/curvilinear> , <http://.../
proprties/notempty> , <http://.../proprties/circle> ;
<http://.../proprties/large_and_small_figure> ;
<http://.../includes/infered/has_infered_size>
<http://.../proprties/large_and_small_figure> ;
66
Jisha Maniamma

BP22
equivalent (Size)
different (Size)
has_infered_ size
→ large_and_small_figurehas_infered_size
→ uneven_shapes
Right answer:
Right answer:
Machine answer:
Machine answer:
<http://.../proprties/large_and_small_figure>
;
<http://.../proprties/large_and_small_figure>
;
<http://.../proprties/uneven_shapes> ;
<http://.../proprties/uneven_shapes> ;
67
Jisha Maniamma

BP39
Parallel (lines)
Non-parallel
(lines)
→ null
→ parallel
Right answer:
Right answer:
Machine answer:
Machine answer:
<http://.../proprties/notempty> ,
<http://.../proprties/continious_outlined> ;
consists_of_character>
<http://.../proprties/parallel> ;
consists_of_count>
consists_of_shape>
<http://.../proprties/line> , <http://.../
<http://.../proprties/continious_outlined> ,
<http://.../proprties/null> ;
<http://.../proprties/line> , <http://.../
<http://.../proprties/open_shaped> ;
<http://.../proprties/null> ;
has_infered_doesnothasshapefeature>
68
Jisha Maniamma

2006 1995
2020
2006
69
Jisha Maniamma

BP#38
circle < triangle
(size)
triangle < circle
(size)
Right answer:
Right answer:
2-9 従属な特徴を持つBPをどうやって解くか？
Towards understanding the relational
properties among each objects in a given BP
Properties={IP,DP}
70
Jisha Maniamma

2-10 クラス構造の拡張
Class(set)
Instance (element)
Concept
Actual object
元々は個別要素名だったものを、
「概念」（クラス、集合）に格上げする
「概念」（クラス、集合）
71
Jisha Maniamma

BPs using Independent properties BPs using dependent properties
72

has(leftside_1, ?a) ^ has(leftside_2, ?b) ^ has(leftside_3, ?c) ^ has(leftside_4, ?d) ^ has(leftside_5, ?e) ^
has(leftside_6, ?f) ^ circle(?a) ^ circle(?b) ^ circle(?c) ^ circle(?d) ^ circle(?e) ^ circle(?f) ->
has_infered_shape(left, circleLeft)
has(rightside_1, ?a) ^ has(rightside_2, ?b) ^ has(rightside_3, ?c) ^ has(rightside_4, ?d) ^
has(rightside_5, ?e) ^ has(rightside_6, ?f) ^ circle(?a) ^ circle(?b) ^ circle(?c) ^ circle(?d) ^ circle(?e) ^
circle(?f) ->
has_infered_shape(right, circleRight)
has(leftside_1, ?aa) ^ has(leftside_2, ?ab) ^ has(leftside_3, ?ac) ^ has(leftside_4, ?ad) ^ has(leftside_5, ?
ae) ^ has(leftside_6, ?af) ^ triangle(?aa) ^ triangle(?ab) ^ triangle(?ac) ^ triangle(?ad) ^ triangle(?ae) ^
triangle(?af) ->
has_infered_shape(left, triangleLeft)
has(rightside_1, ?aa) ^ has(rightside_2, ?ab) ^ has(rightside_3, ?ac) ^ has(rightside_4, ?ad) ^
has(rightside_5, ?ae) ^ has(rightside_6, ?af) ^ triangle(?aa) ^ triangle(?ab) ^ triangle(?ac) ^ triangle(?ad)
^ triangle(?ae) ^ triangle(?af) ->
has_infered_shape(right, triangleRight)
has(leftside_1, ?a) ^ has(leftside_2, ?b) ^ has(leftside_3, ?c) ^ has(leftside_4, ?d) ^ has(leftside_5, ?e) ^
has(leftside_6, ?f) ^ has(leftside_1, ?aa) ^ has(leftside_2, ?ab) ^ has(leftside_3, ?ac) ^ has(leftside_4, ?
ad) ^ has(leftside_5, ?ae) ^ has(leftside_6, ?af) ^ is_smaller_than(?a, ?aa) ^ is_smaller_than(?b, ?ab) ^
is_smaller_than(?c, ?ac) ^ is_smaller_than(?d, ?ad) ^ is_smaller_than(?e, ?ae) ^ is_smaller_than(?f, ?af)
^ circle(?a) ^ circle(?b) ^ circle(?c) ^ circle(?d) ^ circle(?e) ^ circle(?f) ^ triangle(?aa) ^ triangle(?ab) ^
triangle(?ac) ^ triangle(?ad) ^ triangle(?ae) ^ triangle(?af) ->
is_infered_smaller_than(circleLeft, triangleLeft)
74

2-11 従属特徴問題 BP#38 の計算結果
circle < triangle
(size)
triangle < circle
(size)
75

2-12 まとめ
• 提案した論理アーキテクチャでボンガード問題100問中65問が
機械によって論理的な正解を導出することができることがわかっ
た。
• 提案したシステムでは、 RDFデータモデルを基盤に５５個の共
通論理則を用いるだけでボンガード問題を解ける。つまり
を満たす解を見つけることができる
• したがって、このシステムは標準知的パズルであるボンガード問
題を解くという意味で、不良設定問題を解決し、今後様々な応用
が期待できる。
76
⋂ ⋂ ⋂ ( ⋂ (PA ⋂ PB= ɸ)(𝐿𝑖 ∈ 𝑃
𝐴
) ( 𝑅𝑖 ∈ 𝑃 𝐵) (𝐿𝑖∉ 𝑃
𝐵
)
^( ||
→ ||( ) ^ ( )||
||(𝐿𝑖 ∈ 𝑃
𝐴
)^( 𝑅𝑖 ∈ 𝑃 𝐵)^ (𝐿𝑖∉ 𝑃
𝐵
)
𝐿𝑖, h𝑎𝑠, 𝑃 𝐴
𝑅𝑖, h𝑎𝑠, 𝑃 𝐵

本講演のメッセージ
77
今の世界は多元社会、多数の価値観が並列してる社会
→多様な「善」がある社会多様な文化、多様な価値観をどのような科学
技術や情報科学、そして数学理論で問題解決の糸口を見つけられるか
「どんな理論も実装技術も、学んですぐにわかったり
はしない。使いこなせたりもしない」。
学び続け、考え続けなければならない
現象A
それがAI倫理や数学理論による支援方法
最後に

事例：IBMの場合
79
• IBM Watson みずほ銀行コールセンター業務の革新
https://www.youtube.com/watch?v=gEejZEhHLpA
• 三井住友海上＋ IBM Watson Explorerでコンタクトセンター
改革を実現
https://www.youtube.com/watch?v=hK60cDkAAZg

80
IBM Watson とは？
• Watsonが学習する方法【日本語字幕付】
https://www.youtube.com/watch?v=2K3rjIMasRc
• IBM Watson Explorer ビジネスへの活用
https://www.youtube.com/watch?v=4W_vc-RT_LE
• IBM Watson Healthcare【字幕付】
https://www.youtube.com/watch?v=D63Au6db8Pc
データ駆動型AIと論理知識型AIの融合AI設計の一例

（拡大表示で文字が読める）2020年度日本技術士会九州本部北九州地区継続研鑽（CPD)プログラム

Recomendados

Recomendados

Mais conteúdo relacionado

Semelhante a （拡大表示で文字が読める）2020年度日本技術士会九州本部北九州地区継続研鑽（CPD)プログラム

Semelhante a （拡大表示で文字が読める）2020年度日本技術士会九州本部北九州地区継続研鑽（CPD)プログラム (20)

Mais de Hiroaki Wagatsuma

Mais de Hiroaki Wagatsuma (13)