Integral Operation on Safety and Security Analysis using Hazop with other Analysis method including FTA, FMEA, STAMP/STPA, FRAM, RCA, What if, SHELL, nazenaze, incident/accident database, TRIZ, 4M5E, UML, GSN, USDM and ETA

1. 安全・安心分析の
HAZOP による統合的運用
Integral Operation on Safety and Security Analysis with HAZOP
電気関係学会東海支部
Tokai-Section Joint Conference on Electrical,
Electronics, Information, and Related Engineering
at Nagoya-U, Aug 8, 2017. ver 4.0a
○ 小川明秀（大同大学）
小川 清 技術士（情報工学）・工学博士、
名古屋市工業研究所
2017年 9月 8日 (c)@kaizen_nagoya
1
は ぞ っ ぷ
安全・安心分析のHAZOPによる統合的運用

2. 目次
1. 背景・到達点・課題
2. 分析手法群
3. 組み合わせ
4. まとめと今後の課題
A. 付録
2017年 9月 8日
(c)@kaizen_nagoya
2
HAZOPの汎用性
安全・安心分析のHAZOPによる統合的運用

3. 1. 背景
・到達点
・課題
2017年 9月 8日
(c)@kaizen_nagoya 3
各手法
安全・安心分析のHAZOPによる統合的運用

4. 1. 背景・到達点・課
題
1.1背景・分析手法と段階
1.1.1出発点・素朴な疑問
1.2 到達点
1.2.1 三手法（FMEA, FTA, HAZOP）の組合せ
1.2.1.1 FTA, FMEA, HAZOPの関係
1.2.2 図表
1.2.2.1 UML
1.2.3 HAZOPと設計指針の組み合わせ
1.2.3.1 設計指針
1.2.3.2 対策を立てる際の手法としてのTRIZ
2017年 9月 8日
(c)@kaizen_nagoya
4安全・安心分析のHAZOPによる統合的運用

5. 背景
• 小川明秀：月に１回程度分析作業
– １回実施ごとに新たな組み合わせ、方法を採用すると新た
な発見があり、整理する前に次に突入
• 小川清:名古屋市工業研究所は公設試験研究機関
– 2006年から自動車の機能安全プラットフォームに対応し、
FTA, FMEA, HAZOPに取り組む
• 原子力発電の安全分析担当された方々から指導を受ける
• JAXAのシミュレーションと分析の実績について指導を受ける
– ISO/IEC 15504 process imprivement part2,6,9 co-editor
– JAXA/IPAクリティカルソフトウェアワーウショッププログラム
委員長 2009-
2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用 5

6. 1.1 背景・表1. 分析手法(13/23)と段階(JAXA)
2017年 9月 8日
(c)@kaizen_nagoya
6
橙色に着目 （参考文献[17] プロセス改善ナビゲーション
ガイドベストプラクティス編 ）
ID Analysis Method | Process
require
ments
basic
design
detailed
design
coding
integrat
ion test
system
test
field
test
operatio
n
1 Mode TransitionAnalysis ○ ○ ○ ○
2 CompletenessAnalysis ○ ○ ○ ○
3 nominal simulation ○ ○ ○
4 software deviation analysis ○ ○ ○ ○
5 single fault simulation ○ ○ ○ ○
6 FMEA,FTA ○ ○ ○ ○ ○ ○ ○ ○
7 double faults simulation ○ ○ ○
8 HAZOP(Hazard and Operability) ○ ○ ○
9 Code clone analysis ○ ○
10 TracabilityAnalysis ○ ○ ○ ○ ○
11 ReachabilityAnalysis ○ ○ ○ ○
12 InterfaceAnalysis ○ ○ ○ ○
13 TimingAnalysis ○ ○ ○
安全・安心分析のHAZOPによる統合的運用

7. 1.1.1 出発点・素朴な疑問
2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用 7
• なぜHAZOPを後段階で利用してい
るのか？
• FTA, FMEAとHAZOPは関連づけて展
開できないか？
• その他の手法の関係は？

8. 1.2 到達点
2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用 8
• FMEA, FTA, HAZOPの組み合わせを検討
(1.2.1)
• 実物、設計図、写真等を利用するとよいことを
確認
• 設計図がない場合には、概念図でもよい
• 各種設計手法を合わせて用いることにを確認
• 参加者の技能(skill)と分析との関連性を確認

9. 1.2.1 三手法（FMEA, FTA,
HAZOP）の組合せ
1. FMEA(Failure Mode and Effect Analysis)故障状
態と効果分析[10]
– IEC 60812:2006(第二版) 初版 1985年
– JIS C 5750-4-4:2011
2. FTA(Fault Tree Analysis) 故障木解析[11]
– IEC 61025:2006 (第二版) 初版 1990年
– JIS C 5750-4-3:2011
3. HAZOP(Hazard and Operability studies) 危険分
析と運用研究[12]
– IEC 61882:2016(第二版）初版2001年, JIS 未発行
2017年 9月 8日
(c)@kaizen_nagoya 9
安全・安心分析のHAZOPによる統合的運用

10. 1.2.1.1 FTA
• 事故を頂点としてその原因の論理関係を記述
– 論理関係はAnd, OR
• 事故が再発しないように
– X線天文衛星ASTRO-H
「ひとみ」異常事象
調査報告書
2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用 10
© wiki

11. 1.2.1.2 FMEA
• 部品の故障モードが出発点
• 原因分析、頻度予測、致命度予測、対策案な
ど多くの手法を統括する
• 故障モードの洗い出しにHAZOP等の手法が
有効
2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用 11

12. 1.2.1.3 HAZOP魔法の言葉(guide word)
ID 魔法の言葉 外れの表現分類 対称
D1 無(no) 質又は量が無い存在(existence)D0
D2 逆(reverse) 質又は量が反対方向方向(direction)D0
D3 他(other than)その他の方向,物質存在・方向 -
D4 大(more) 量的な増大量 D5
D5 小(less) 量的な減少(quantity) D4
D6 類(as well as)質的な増大質 D7
D7 部(part of) 質的な減少(quality) D6
D8 早(early) 時間が早い時間 D9
D9 遅(late) 時間が遅い(time) D8
DA前(before) 順番が前（事前）順番 DB
DB後(after) 順番が後（事後）(order) DA
表1. 意味（D0：設計意図，利用意図：外れのない状態）
12
2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用

13. HAZOP(Hazard Analysis) study
• 対象・現象の空間・時間の質・量の上限・下限を
検討する
– 類(as well as)で特異値、振動、同時入力による不定
を検討
• 汎用的な誘導語であるため、任意の問題に対応
できる
• 知見のある参加者が十分でないと具体的な問
題で効率が悪い
– 設計指針、他の手法と組み合わせることにより効率
化を可能に
– 対策に関する指針がないためTRIZの併用を検討
2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用 13

14. 1.2.1.4 FTA, FMEA, HAZOPの関係
FTA
FMEA
HAZOP
HAZOP
HAZOP
FTA：最上位事象を
起こさないような論
理を検討。
HAZOP：上から，下
から，真ん中から
のいずれでも可。
FMEA：部品（下）か
ら故障モードを洗
出[18][19][20][21]
2017年 9月 8日
(c)@kaizen_nagoya
14
図2.FTA, FMEA, HAZOPの関係
安全・安心分析のHAZOPによる統合的運用

15. 1.2.2 図・表
• 分析は現地・現物がよい
– 製造前だと現物がないー＞設計図を使う
– 設計前だと設計図がないー＞概念図を使う
• 例：UML
– 汎用的な表記可能
– 具体的な事象も記述可能
– 時間の質（順番：状態遷移）と量（時系列上の量）
を記述可能
2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用 15

16. 1.2.2.1 図表/UML
• 状態遷移図(state chart)
• 時系列図(sequence chart)
• 刻時図(timing chart)
• 利用事例図(use case chart)
2017年 9月 8日
(c)@kaizen_nagoya
16
[29]TOPP
ERS仕様書
[30]
安全・安心分析のHAZOPによる統合的運
用

17. 1.2.3 対応設計指針
1.2.3.1 万能設計 ・共用品設計(universal design)[35]
1.2.3.2 高齢者・障害者設計指針[36]
1.2.3.3 子供の安全[37]
1.2.3.3 かたちの設計指針[37]
1.2.3.4 国際単位系[38]
1.2.3.5 より詳細な指針（論理回路・ソフトウェア）
2017年 9月 8日
(c)@kaizen_nagoya
17安全・安心分析のHAZOPによる統合的運用

18. 1.2.3.1万能設計・共用品設計(Universal design)
18
万能設計の7原則 Hazopで検討する評価軸
1.どんな人でも公平に使える 光，音，大きさ，力
2.使う上で自由度が高い
選択可能（時間，左右，精
度）
3.使い方が簡単で、すぐに分かる
理解性（光，音がない場合
でも）
4.必要な情報がすぐに分かる
情報提供（光，音以外の方
法も）
5.うっかりミスが危険につながらな
い
操作の外れを網羅、熱、圧
力、高電圧
6.身体への負担がかかりづらい（弱
い力でも使える） 力，電磁力
7.接近や利用のための十分な大き
さと空間を確保する 距離、大きさ
2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用

19. 1.2.3.2 高齢者・障害者設計指針（例）
• ISO/IECガイド71 Guide for addressing accessibility in standards[68]
• JISX8341-1 高齢者・障害者等配慮設計指針―情報通信における機器，
ソフトウェア及びサービス―第１部：共通指針[69]
• JISX8341-2 高齢者・障害者等配慮設計指針－情報通信における機器，
ソフトウェア及びサービス－第２部：パーソナルコンピュータ[70]
• JISX8341-3 高齢者・障害者等配慮設計指針－情報通信における機器，
ソフトウェア及びサービス－第３部：ウェブコンテンツ[71]
• JISX8341-4 高齢者・障害者等配慮設計指針－情報通信における機器，
ソフトウェア及びサービス－第４部：電気通信機器[72]
• JISX8341-5 高齢者・障害者等配慮設計指針－情報通信における機器，
ソフトウェア及びサービス－第５部：事務機器[73]
• JISX8341-6 高齢者・障害者等配慮設計指針－情報通信における機器，
ソフトウェア及びサービス－第６部：対話ソフトウェア[74]
• JISX8341-7 高齢者・障害者等配慮設計指針－情報通信における機器，
ソフトウェア及びサービス－第７部：アクセシビリティ設定[75]
2017年 9月 8日
(c)@kaizen_nagoya
19安全・安心分析のHAZOPによる統合的運用

20. 1.2.3.3 子供の安全
• ISO/IEC Guide 50:2014 Safety
aspects Guidelines for child
safety in standards and other
specifications
– Child: person aged under 14
years
<- World report on child injury
prevention, UNICEF, [77]
2017年 9月 8日
(c)@kaizen_nagoya
20
交通事故 22.3
水死 16.8
火事 9.1
転落 4.2
毒 3.9
殺人 5.8
自殺 4.4
戦争 2.3
その他 31.1
安全・安心分析のHAZOPによる統合的運用

21. 1.2.3.4 形の設計指針
212017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用

22. 1.2.3.5
国
際
単
位
系[38]
222017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用

23. 1.2.3.6 論理回路・
• 論理回路
– STARC RTL 設計スタイルガイド[41]
• Verilog HDL編
• VHDL編
– SystemC動作合成スタイルガイド[80]
2017年 9月 8日
(c)@kaizen_nagoya
23安全・安心分析のHAZOPによる統合的運用

24. 1.2.3.7 ソフトウェア(コード)
– ISO/IEC TS 17961[81]
– MISRA C, MISRA C++[39]
– CERT C, CERT C++[40]
2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用 24

25. 1.2.3.8 TRIZ
• 1946 年にロシア人の G．アルトシューラが研究
• 発明を促進するための誘導語類（発明の原理）
• 複数の概念体系を提供し設計・分析が容易
• 知財部門など分析に協力してもらえる資源[43]
• 中川 徹 (大阪学院大学 名誉教授) の資料利用[44]
– http://www.osaka-gu.ac.jp/php/nakagawa/TRIZ/
– 子供むけ資料あり
• 対策を考える際に有効
• 原因分析の網羅性にも有効
• HAZOPとの組み合わせを提唱中
2017年 9月 8日
(c)@kaizen_nagoya 25
安全・安心分析のHAZOPによる統合的運用

26. TRIZの40の視点（発明の原理）
1 分割原理
２ 分離原理
３ 局所性質原理
４ 非対称性原理
５ 組合せ原理
６ 汎用性定理
７ 入れ子原理
８ つりあい原理
９ 先取り反作用原理
10 先取り作用定理
11 事前保護定理
12 等位性原理
12 逆発想原理
2017年 9月 8日
(c)@kaizen_nagoya
26
14 曲面原理
15 可変性原理
16 アバウト原理
17 多次元移行原理
18 機械的振動原理
19 周期的作用原理
20 連続性原理
21 高速実行原理
22 禍転じて福となす原理
23 フィードバック原理
24 仲介原理
25 セルフサービス原理
26 代替原理
27 使い捨て原理
28 メカニズムの代替原理
29 流体作用原理
30 薄膜利用原理
31 多孔質利用原理
32 変色原理
33 均質性原理
34 排除・再生原理
35 パラメータの変更原理
36 相変化原理
37 熱膨張原理
38 高濃度酸素原理
39 不活性雰囲気原理
40 複合材料原理
安全・安心分析のHAZOPによる統合的運用

27. TRIZ と HAZOP
• 原因，対策を考える際に便利
– 特許・設計時に考慮するとよいことを網羅
– パラメータへのHAZOP対応関係の検討
• すべての対応は設計者・特許検討者以外は困難かもしれない
– 矛盾行列によって対策時の検討項目の洗い出し済
• TRIZの40の発明原理とHAZOPの11の誘導語の対
応関係作成
– 網羅性の確認
– 類(AS well As), 他(Other than)の候補として有望
2017年 9月 8日
(c)@kaizen_nagoya 27安全・安心分析のHAZOPによる統合的運用

28. HAZOP TRIZ発明原理対応表（案）1/3
無 逆 他 大 小 類 部 早 遅 前 後
分割 1 1 1 1 2 1 1 1 1
分離 1 1 1 1 2 1 1 1 1
局所性質 1 1 1 2 1 1 1 1
非対称 1 2 1 1 1 1 1 1
組み合わせ 1 1 1 2 1 1 1 1
汎用性 1 1 1 2 1 1 1 1
入れ子 1 1 1 2 1 1 1 1
つりあい 1 1 1 2 1 1 1 1
先取り反作用 1 2 1 1 1 1 2 1
先取り作用 1 1 1 1 1 2 1
事前保護 1 1 1 1 1 2 1
等ポテンシャル 1 1 1 2 1 1 1 1
逆発想 1 2 1 1 1 1 1 1
曲面 1 1 1 2 1 1 1 T
2017年 9月 8日
(c)@kaizen_nagoya
28１：対応項目，2：関係性の深い項目 安全・安心分析のHAZOPによる統合的運用

29. HAZOP TRIZ発明原理対応表（案）2/3
無 逆 他 大 小 類 部 早 遅 前 後
ダイナミック性 1 1 1 2 1 1 1 1
アバウト 1 1 1 2 1 1 1 1
他次元移行 1 2 1 1 1 1 1 1
機械的振動 1 1 1 2 1 1 1 1
周期的作用 1 1 1 2 1 1 1 1
連続性 1 1 1 2 1 1 1 1
高速実行 1 1 1 2 1 1 1
災い転じて福となす 1 2 1 1 1 1 1 1
フィードバック 1 2 1 1 2 1 1 1 1
仲介 1 2 1 1 1 1 1 1
セルフサービス 1 1 1 2 1 1 1 1
代替 1 2 1 1 1 1 1 1
高価な長寿命より安
価な短寿命 1 1 1 2 1 1 1
2017年 9月 8日
(c)@kaizen_nagoya
29
１：対応項目，2：関係性の深い項目安全・安心分析のHAZOPによる統合的運用

30. HAZOP TRIZ発明原理対応表（案）3/3
無 逆 他 大 小 類 部 早 遅 前 後
機械的システム代替 1 2 1 1 1 1 1 1
流体利用 1 1 1 2 1 1 1 1
薄膜利用 1 1 1 2 1 1 1 1
多孔質利用 1 1 1 2 1 1 1 1
変色利用 1 2 1 1 1 1 1 1
均質性 1 1 1 2 1 1 1 1
排除／再生 1 2 1 1 1 1 1 1
パラメータ 1 1 1 2 1 1 1 1
相変化 1 1 1 2 1 1 1 1
熱膨張 1 2 1 1 1 1 1
高濃度酸素利用 1 2 1 1 1 1 1
不活性雰囲気利用 1 1 1 2 1 1 1 1
複合材料 1 1 1 2 1 1 1 1
2017年 9月 8日
(c)@kaizen_nagoya
30１：対応項目，2：関係性の深い項目安全・安心分析のHAZOPによる統合的運用

31. HAZOP-TRIZ連携と課題
• 設計者・特許関係者
– 設計者が用いる場合の連携の度合い
– すべての対応は設計者・特許検討者以外は困難かもしれない
• 発明原理について段階的に取り組む
– 40 X 11=440から30点を目指すときの取り組み案検
– 討設計者以外が用いる場合により簡単な段階
• 子供の場合で検討
• HAZOPとTRIZの関係の深いと想定した項目は表5-8で「2」
– 実作業では表を作成する場合としない場合がある
– パラメータでほとんど対応を取ることも検討2.4.1 表8
2017年 9月 8日
(c)@kaizen_nagoya
31安全・安心分析のHAZOPによる統合的運用

32. 2. 分析手法群
2017年 9月 8日
(c)@kaizen_nagoya 32安全・安心分析のHAZOPによる統合的運用

33. 2. 分析手法群
2.1 特性
2.1.1 枠組み・記法
2.1.2 抽象度・単位（具体性）
2.1.3 他手法との関係
2.2 手法一覧(FTA, FMEA, HAZOP,
UML, TRIZ以外）
2.2.1 なぜなぜ
2.2.2 what if
2.2.3 RCA(根本原因分析)
2.2.4 4M5E
2.2.5 SHELL
2.2.6 GSN
2.2.7 USDM
2017年 9月 8日
(c)@kaizen_nagoya
33
分析課題
安全・安心分析のHAZOPによる統合的運用
2.2.8 過去トラ
2.2.9 ETA
2.2.10 VTA
2.2.11 STAMP
2.2.12 FRAM

34. 枠組み・記法
• 枠組み
– 分析対象
– 範囲
– 事象の種類
– 原因
– 対策
– 頻度
– 致命度
– 実施判定
2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用 34
• 記法
– 空間表記（静的）
• 次元
– 二次元
– 多次元
• 方向（動的）
– 時間表記
• 状態遷移
• 時系列
• 刻時
– 対象・事象
• 論理的(離散)
• 物理的(連続)

35. 抽象度・単位
• 抽象度
– 概念（目標・目的）
– 物
– 事（状態）
• 事故
2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用 35
• 単位
– 時間(s)
– 空間(m^3)
– 物質量

36. 他手法との関連
• 結果利用
– FTAの頂上現象をHAZOPで
– FMEAの故障状態(mode)をHAZOPで
• 部分利用
– なぜなぜでHAZOPの誘導語を部分利用
– 過去トラにHAZOPの誘導語欄を
• 並用
2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用 36

37. 分析関連手法群
2017/08/25
HAZOP3.0 safety & security © @kaizen_nagoya
37種別：分：分析、対：対策、両：分析・対策
名称 手法 用語具体性 枠組み 網羅性 種
なぜなぜ 記法/枠組 抽象的 論理模型記述 *他手法併用 分
what if 枠組 抽象的 論理模型記述 *他手法併用 分
RCA 枠組 抽象的 手順 *他手法併用 分
FMEA 枠組 抽象的 詳細な枠組み 汎用・下から上 分
HAZOP 誘導語 抽象的 他の枠組利用 空間・時間* 分
TRIZ 対象 具体的解決 枠組み多数 技術・仕様 対
GSN 記法 抽象的 論理模型記述 汎用・目標* 対
SHELL 対象 体系的 多次元 人・物・環境・ 両
4M5E 対象 体系的 二次元 人•物•媒体•管理 両
過去トラ 対象 具体的 分類次第 経験範囲のみ 両
USDM 記法 やや抽象的 模型記述 作業・成果物 両
UML 記法 やや抽象的 模型記述 時間・順番* 両
FTA 記法•枠組 抽象的 論理模型記述 事故・上から下 両
ETA 記法•枠組 抽象的 論理模型記述 事故・下から上 両
STAMP/STPA 記法•誘導語 具体的(制御） 模型記述 制御(時間・順番) 両
FRAM 記法•誘導語 やや具体的 模型記述 前提•資源•時間•制御 両
国際規格

38. なぜなぜ
• 真因を探す方法
– 根本原因分析の一種
– なぜを繰り返すという単純なやり方
• 主催者による誘導可能なため、他の指針と合
わせて用いるとよい
– SWESTでは、4M5Eが推奨された(9方向）
– HAZOPとの組み合わせを実施した（11方向）
2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用 38

39. what if
• 仮説をたてて検証
– 結果から出発するなぜなぜと逆方向
– HAZOPの一部として取り込み可能
– セーフティー・はーと,第27号, HaZOpとWhat-if,高木伸夫,システム安全研究所,
http://www.jsse.or.jp/jook1pxuj-149/#_149
2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用 39

40. RCA(根本原因分析)
• 出来事流れ図を使う
– http://www.safemaster.jp/teaching/rca-cd/
• 他の手法を併用
– なぜなぜ分析
– SHELモデル(soft, hard, 環境, 人）
– 4M-4Eマトリクス法
– RCA
– VTA
– FMEA（事前介入型の方法）
2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用 40

41. 4M5E
• 4M4E, 4M1Eなど類似の手法多数
• SHELLはハード・ソフトのコンピュータに注目し
ている
• HAZOPとも組み合わせ可能
2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用 41

42. SHELL
• SHELL
– ソフトウェア
– ハードウェア
– 環境
– 人
• http://www.mlit.go.jp/singikai/koutusin/koku/
hoan/2/images/sankou2_2.pdf
2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用 42

43. GSN
• 抽象的事象の記述に有効
• 目標指向であるため方向性を絞り込みに有
効
• 他の具体的な手法と併用可能
2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用 43

44. USDM
• 仕様（要求）の階層化
• 理由の記述
• 振る舞いの記述
• Before & after
2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用 44

45. 過去トラ(trouble list)
• 事故等の記録
• なぜなぜ分析など原因分析の記録、対策の
記録があると有効
– 複数手法での分析記録があると類推しやすい
2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用 45

46. ETA(event tree analysis)
• 原因事象から出発
• 対策等の成功・失敗を記述
• 時系列的表記・台本(senario)
– http://www.pwrc.or.jp/yougo_g/pdf_g/y1308-P054-054.pdf
2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用 46

47. VTA(variation tree analysis)
• ETA, FTAとHAZOPの組み合わせに相似
• UMLでUse Caseを書いてHAZOPするのと同等
– 階層型VTAと仮説演繹的事故分析手法の提案,
重森 雅嘉, 深澤 伸幸, 財団法人鉄道総合技術
研究所, 人間工学Vol. 36 (2000) No. Supplement
P 354-355
2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用 47

48. STAMP
• 具体的な制御模型記述
• 誘導語
– 制御の有無、早遅・順序、長
– HAZOPの無逆・早遅・前後・大相当
2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用 48
はじめての STAMP/STPA, IPA, p.2

49. FRAM(Functional Resonance Analysis Method)
機能共鳴分析手法
• 成功する理由
• 階層型状態遷移
• HAZOPの前後・類に集中
2017年 9月 8日
(c)@kaizen_nagoya 安全・安心分析のHAZOPによる統合的運用 49
STAMPとFRAM, 1stSTAMP
Workshop Japan2016.12.7
©有人宇宙システム株式会社
野本秀樹
https://www.ipa.go.jp/files/000057123.pdf

50. ここまでの知見
• 「過去トラ」と「なぜなぜ」だけでも、事故を防ぐこ
とはできるかもしれない。
• 「過去トラ」に「なぜなぜ」が結びついていれば、
再発防止ができるかもしれない
• 新しい手法は、新しい発見があれば有用
• 国際規格になっている手法(FAT,FMEA,HAZOP,
UML)だけでも網羅的な整理が可能
• 設計者・専門家の参加は必須
• 利用者が
2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用 50

51. STAMP FRAMの共通点
• 稀な現象をピンポイントで指摘しよう
• 複雑系のあるある
• 他の分野へはHAZOPに変換してから伝達す
るとよい
2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用 51

52. これまでの経験則
• 設計の全体が見渡せる
• 細部の構成要素を網羅できる
• 見落としがないようにするための手法の利用
– 網羅性
• 整理をして他の関係者に分かりやすくする手法
– 図示
2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用 52

53. 4.まとめと
今後の課題
2017年 9月 8日
(c)@kaizen_nagoya 53
毎回新たな発見がある
のがHAZOP。そのため
に毎回新たな工夫を。
安全・安心分析のHAZOPによる統合的運用

54. まとめ・手法間の関係と併用
• 当初の課題の解
– 現実には手法を重複して利用しているかもしれない
（次頁）
• 現在の取り組み（次々頁）
• 提案
– HAZOPが汎用的な手法であるため、併用できる
– 手法を同時に使わずに、事前に手法のぬけもれを
HAZOPで確認する
– 誘導語のある手法は、結果をHAZOPに対応付けすると
結果の抜けもれを確認することができるかもしれない
2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用 54

55. HAZOPの誘導語を使う
2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用 55
ID Analysis Method | Process
require
ments
basic
design
detailed
design
coding
integrat
ion test
system
test
field
test
operatio
n
1 Mode Transition Analysis ○ ○ ○ ○
2 Completeness Analysis ○ ○ ○ ○
3 nominal simulation ○ ○ ○
4 software deviation analysis ○ ○ ○ ○
5 single fault simulation ○ ○ ○ ○
6 FMEA,FTA ○ ○ ○ ○ ○ ○ ○ ○
7 double faults simulation ○ ○ ○
8 HAZOP(Hazard and Operability) ○ ○ ○
9 Code clone analysis ○ ○
10 Tracability Analysis ○ ○ ○ ○ ○
11 Reachability Analysis ○ ○ ○ ○
12 Interface Analysis ○ ○ ○ ○
13 Timing Analysis ○ ○ ○
1:状態遷移分析、2.完全性分析、4.ソフトウェア逸脱分析、12界面分析、13刻時分析
は、HAZOPの誘導語を使うとよい。前段階から実施していることになる。

56. 現在の取り組み
2017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用 56

57. 今後の課題
HAZOP以外の手法同士の組み合わせ
汎用的な手法は具体的な手法と
個別の手法は網羅的な手法と
経験者の知見の重要性
知見の漏れをHAZOPで確認
伝達の表現方法としてHAZOPを利用
2017年 9月 8日 (c)@kaizen_nagoya 57安全・安心分析のHAZOPによる統合的運用

58. 課題(継続)
• 機密事項などに触れる情報。
– 非公開の機能，非公開の仕様など
– 事前に関係者の間で機密保持契約
• 成果を対外的に公表できない場合
– 明確な機密事項以外に，機密かどうかの判定がす
ぐにできない。
– どうやって成果の公開可能性を高めるか
• 事故調査でFTA, FMEA, HAZOPの結果の報告義務化
2017年 9月 8日
(c)@kaizen_nagoya 58安全・安心分析のHAZOPによる統合的運用

59. A. 付録
2017年 9月 8日
(c)@kaizen_nagoya 59
図表一覧はウェブに。参
考文献等も順次掲載。
安全・安心分析のHAZOPによる統合的運用

60. A. 付録
A.1 HAZOPの資料を対象にHAZOP
A.1.1 HAZOP参加者の期待が:<事前：参加者>
A.1.2 HAZOPの資料が（を）：＜事前：発表者，参加者＞
A.1.3 HAZOPの発表が：＜最中：発表者＞
A.1.4 HAZOP参加後の成果が：＜事後：参加者＞
A.2 ちょけねこ(HAZOP絵本）
A.3 略号一覧(1)-(4)
A.4 参考文献(1)-(10)
A.4.10 作業表置き場
A.5 関連取り組み
A.6 安全分析以外への応用
A.7 文書履歴
謝辞
2017年 9月 8日
(c)@kaizen_nagoya
60
わかったこと
よかったこと
わかってないこと
あらためたいこと
HAZOPのHAZOP
安全・安心分析のHAZOPによる統合的運用

61. k
2017年 9月 8日
(c)@kaizen_nagoya
61
付録A.1 HAZOPのHAZOP
・HAZOPの資料を対象にHAZOPしました。
・JAXA/IPAのクリティカルソフトウェアワー
クショップの発表の時に作ったものです。
図表写真の割合をどのくらいにするとよい
かを検討しました。原則一頁に一つを家庭
しました。
・文書の遂行もHAZOPの対象によいことが
分かりました。 安全・安心分析のHAZOPによる統合的運用

62. 2017年 9月 8日
(c)@kaizen_nagoya 62
HAZOP参加者の期待が:<事前：参加者>
誘
guide
word
外れ：逸脱(deviation) なぜ：原因(cause) どうする：対策(action)案
無 no HAZOPに興味がない。hazop
の話を聞く気がない
資料，説明が分かりにくい。略号
(HAZOP[はぞっぷ]など)の読みが入っ
ていない。
掴みのネタを入れる。（この資料）分かり易い用語（言い
換え）を使う。具体的な例を図で示す。他の発表の関係
を述べる。略号一覧を入れる。
逆
rever
se HAZOPが嫌い。hazopの話へ
の攻撃する点を探そう
分かっている人がやっているから分か
るだけで，手法の善し悪しではないとい
う点がありそう
一人HAZOPをやってみればすぐに分かることを強調
他
other
than
HAZOPの話の時間に別のも
のが聞きたい
興味深い発表が多い 資料だけ見ても役に立つ内容にする
大 more
HAZOPへの期待が大きすぎ
る。
FTA, FMEAをやっていない場合にHA
ZOPがすばらしく見えるかもしれない
設計指針を3つ以上用いないと偏る可能性があることを
述べる。
小 less
HAZOPへの期待が小さい。
どうせ国際規格になるものは役に立た
ない
共通部分を纏めたものが規格。必要に応じた仕立て
(tailoring)または現地合わせ(fitting)が必要であり，仕立
て方の例として一人HAZOPを，現地合わせの方法として
参加者のお題を示す。
類
as
well
as
他事に興味がある。その時間
は他事をやろう
仕事の締め切り。突然の案件の発生。 聞くと得することが匂うような雰囲気を醸し出す。
部
part
of
HAZOPの話の対称性のところ
だけ聞きたい
対称性を考えるだけでもいろいろなこと
が解決する。
誘導語，図(写真・動画・現物)，設計指針の3点で一人
HAZOPをしてみると分かる
早 early 資料を見たら分かったので話
は聞かない
１つのやり方で見れば分かる達人 資料に，失敗しないための指針を示しておく
遅 late
HAZOPの資料を見ても何を
言っているのか分からないの
で聞く気がしない
事例，図に思い当たるものがない 自分で体験してもらう。他の方法でもできるのなら，誘導
語は検査項目として利用するだけでもよい
前
befor
e
話を聞く前に理解しているつ
もりになった
自分でやるつもりがない 作業表を配って体験してもらう
後 after 聞いていないのに役に立たな
いと判断した。
他のやり方でもできることばかりと感じ
る
誘導語をFMEA, FTA, なぜなぜ分析，ブレインストーミン
グ等の他のやり方とと組み合わせてやってみてもらう
安全・安心分析のHAZOPによる統合的運用

63. 2017年 9月 8日
(c)@kaizen_nagoya
63
HAZOPの資料が（を）：＜事前：発表者，参加者＞
誘
guide
word
外れ：逸脱(deviation) なぜ：原因(cause) どうする：対策(action)案
無 no 事前にあがっていない。
予稿集を買っていない。
資料，説明が分かりにくい。興
味がない。前日まで作成して
いてあげられず。 過去の資料があることを関係者に知らせる
逆 reverse
過去のものはあったが
見ていない。
過去の資料を見たり，ダウンロードしやすくす
る。
他
other
than
質がひどいので見る気
がしない
過去のセミナの焼き直し。機
密事項で明確に言えないこと
が多い。
HAZOPをしたことがない人に，毎回見てもらう。
大 more
1枚づつ印刷して大きす
ぎ。資料の量が多すぎ
る。複数の版がある。
いろいろな人を想定しすぎ。い
ろいろなことを入れたくなりす
ぎた。 誘導語，図，設計指針の3点に絞る
小 less
文字が小さい。資料の
量が少なすぎる。
制御情報について分かってい
る人を想定して資料を作った
後日詳細資料を公開する
類
as well
as 資料が難し過ぎる。
専門家として仕事をしている
人を前提にしている。
人，物（製品），作業について区分して伝えるこ
とにより，１つの視点だけでも分かってもらう
部 part of
資料がhazopの一部だ
けしか説明していない
HAZOPの応用例が増えてき
た。
実際に作業してみると対象によってやることが
違うことを体験してもらう
早 early
話題の展開が飛び飛び
演習を想定した資料。間は作
業で埋めて欲しい。
作業表を配って体験してもらう(今回未実施)
遅 late
同じ事を諄く説明しすぎ
参加者が何がわかっていない
かをよく理解していない 習うより慣れろを標題に入れる
前 before 結論が前の方すぎる 結論を早く伝えたい。 実際にやってみなると納得できることを伝える
後 after
結論が後の方すぎる
論理展開が明確になったもの
だけを結論にしたい。 大切なことは3回繰り返す
安全・安心分析のHAZOPによる統合的運用

64. 2017年 9月 8日
(c)@kaizen_nagoya
64
HAZOPの発表が：＜最中：発表者＞
誘
guide
word
外れ：逸脱(deviation) なぜ：原因(cause) どうする：対策(action)案
無 no
分からない
用語構造の違う分野の人が聞い
ている。略号の読みを知らない。
用語構造の類語辞書を作る。略号一覧に読み
を入れる。
逆 reverse 当たり前のことしか言っ
ていない 過去のセミナの焼き直し
今回新たに付け加えたことを色・字形(font)を
変えて明確にする。
他
other
than
面白くない
何を一番伝えたいかで悩んでい
る
いいたいことを3つに絞る
大 more
説明の量が多すぎる
hazopを知らないさまざまな人を想
定しすぎ
設計指針を3つ以上用いないと偏る可能性が
あることを述べる。
小 less
説明が少なすぎる
制御，情報について分かっている
人を想定している
図だけでもピンと来てもらえるようなものを入れ
る
類 as well as
説明が難し過ぎる
専門家として仕事をしている人を
前提にしている
人，物（製品），作業について区分して伝えるこ
とにより，１つの視点だけでも分かってもらう
部 part of
説明が一部だけ
一番詳しく説明したい部分に絞っ
た 誘導語，図，設計指針の3点は省かない
早 early 説明が速過ぎる いろいろなことを言いた過ぎる。 いいたいことを3つに絞る
遅 late
説明が遅過ぎる
用意した資料では分からないこと
に発表しながら気が付いた
作業表を配って体験してもらう
前 before
定義していない用語を
使った。
定義すべき用語が多過ぎる
カタカナ語は漢字の言葉に直してみる。漢字の
言葉は大和言葉に直してみる。
後 after 用語定義が後から出て
きた
用語定義が前にあるとうざい 用語定義が最後にあることを最初に言う
安全・安心分析のHAZOPによる統合的運用

65. 2017年 9月 8日
(c)@kaizen_nagoya
65
HAZOP参加後の成果が：＜事後：参加者＞
誘
guide
word
外れ：逸脱(deviation) なぜ：原因(cause) どうする：対策(action)案
無 no
何も分からなかった
資料，説明が分かりにくい。興味
がない。
事前に参考資料（プロセス改善ナビゲーショ
ンガイド，セーフウェア）を読む
逆 reverse
HAZOPの結果と事前に分
かっていることの関係を逆に
捉えられた
わかっている人がやっているか
ら分かるだけで，手法の善し悪し
ではないという印象を与えた
発表者の過去の論文，発表を見てもらい変
化を知らせる
他
other
than
説明のまずさだけが印象に
残った
発表者と興味の方向が違う 一人HAZOPした結果を経験者に見てもらう
大 more たくさんのことを分かりすぎ
て何が要点だったか見失う
FTA, FMEAをやっているので
HAZOPで補うところがわかった FTA, FMEA, HAZOPの比較表を作ってみる
小 less
役に立つ道具の１つである
ことは分かった。だからどう
すればいいかが分からない
参加者の課題と手法の間のつな
ぎ方がピントこない
一人HAZOPした結果を経験者に見てもらう
類
as well
as
HAZOPでできないことまでで
きると誤解を与えた
利点を強調しすぎた 異なる設計指針，単位に適用してみる
部 part of
HAZOPの理解が一面的に
なった
説明の一部だけが当てはまる 3段階の利用（初期，設計，運用）を示す。
早 early ちょっと聞いただけで分かっ
たので別の部屋に行った
１つのやり方だけで分かったつも
りになる
資料に，失敗しないための指針を示しておく
遅 late いつまでも分からないので
怒れてきた
参加者の課題とどう噛み合うの
かが明確でない
一人HAZOPした結果を見せて，どうやったら
いいかわからないところを示す。
前 before
作業せずにわかったつもり
になった
自分でやるつもりがない 一度やってみる。
後 after
作業してもわからなかった
他のやり方でもできると感じる 自分より経験が少ない人と作業してみて，経
験がうまく伝わるか確かめてみる
安全・安心分析のHAZOPによる統合的運用

66. 付録A.2 子供向け
HAZOP教材
2016年 7月 8日
(c)@kaizen_nagoya 66
• 魔法の言葉(11)
• 無逆他大小類部早遅前後
（漢字1文字）
• たんじょうびの贈物を考え
る時に使う絵本
– 楽しいことから手法を学ぶ
（倫理2.0に既対応）
– 子供は楽しいことから覚え
るとよい[66] 安全分析におけるHAZOP-TRIZ連携の試み

67. A.3 略号一覧(1)• @: at mark, twitter account
• ©: copyright(著作権)
• A: Answer, JIS土木及び建築部門記号, ampere(単位)
• ATK2: Automotive Kernel Version 2
• Ave: average(平均)
• C: C language, JIS電気部門記号, coulomb（単位）
• C++: C plus plus
• CAD: Computer Aided Design
• CAM: Computer Aided Manufacturing
• CB: Certification Bodies(認証機関)
• CASCO: Committee on Conformity Assessment(適合性評価委員会)
• CERT （さーと）Computer Emergency Readiness Teams
• CEST(せすと) Consortium for Embedded System Technology
• D: Design(設計), JIS自動車部門記号
• Dev: Deviation(偏差)
• DNS: Domain Name Service(領域名奉仕)
• DNV GL: Det Norske Veritas, Germanischer Lloyd
• EOB: Extensible Optical Bench(伸展式光学台)
• FMEA(えふえむいーえー) failure mode and effective analysis
• FPGA: Field Programmable Gate Array
• FTA（えふてぃーえー） fault tree analysis
2017年 9月 8日
(c)@kaizen_nagoya
67
安全・安心分析のHAZOPによる統合的運用

68. A.3.1 略号一覧（2）
• GCC: Gnu Compiler Collection, (牛氈鹿編纂集合)
• GSN: Goal Structuring Notation(目標構造化記法）
• GxP: Good x Practice(適正 x 基準)
• HAZOP(はぞっぷ) hazard and operability study
• HCD: Human Centered Design
• HDL: Hardware Description Language
• HRP: High Reliable system Profile
• Html:hyper text markup language
• http: Hyper Text Transfer Protocol
• IEC(あいいいし）International Electrotechnical Commission
• IECEE: IEC System of Conformity Assessment Schemes for
Electrotechnical Equipment and Components
• IPA(あいぴーえ）Information-technology Promotion Agency, Japan
• IS(あいえす)International Standard(国際規格)
• ISBN: International Standard Book Number
• ISO(あいえすお) International Organization for Standardization
• ISSN: International Standard Serial Number
• IT: Information Technology（情報技術）
• IV&V: independent verification and validation
• JARI(じゃり): Japan Automobile Research Institute（日本自動車研究所）
• JAXA(じゃくさ）Japan Aerospace Exploration Agenc
• JFA: Japan Football Association
2017年 9月 8日
(c)@kaizen_nagoya
68安全・安心分析のHAZOPによる統合的運用

69. A.3.2 略号一覧(3)
• jp(じぇーぴー): Japan
• JPAA: Japan Patent Attorneys Association(日本弁理士会)
• JPEG: Joint Photographic Experts Group
• JSA: Japan Standard Association（日本規格協会）
• Kg: kilogram(単位)
• LLVM: 由来：Low Level Virtual Machine, (低層仮装機機)
• MISRA(みすら) Motor Industry Softwre Reliability Association
• mm: millimetor(みりめーとる)
• MPEG: Moving Picture Experts Group
• NML（えぬえむえる）No, More, Less
• NSSLC: 由来：Nippon Steal, Sumitomo Kinzoku, System Life Cycle
• NTP:Network Time Protocol(網時間規約)
• OS: Operating System
• OSC(おーえすし)Open Source Conference
• Promela: Process Meta Language
• Q & A: question and answer
• Q: question, JIS管理システム部門記号
• RTL: Register Transfer Level（記憶転送水準）
• SAP: Solar Array Paddle（太陽電池櫂)
• SD: Sequential Design(逐次設計)
2017年 9月 8日
(c)@kaizen_nagoya
69安全・安心分析のHAZOPによる統合的運用

70. A.3.2 略号一覧(4)
• SPIN: Simple Promela Interpreter
• SSP: Smallest Set Profile（最小集合側面)
• STAMP: Systems Theoretic Accident. Model and Processes
• STARC: Semiconductor Technology Academic Research Center(半導体理工学研究
センター)
• STT: Start Tracker(星姿勢計)
• Sum: summary(合計)
• SWEST(えすうぇすと)Summer Workshop on Embedded System Technologies
• TBT: The Technical Barriers to Trade(貿易の技術的障害)
• TOPPERS: Toyohashi Open Platform for Embedded Real-time System
• TQM: Total Quality Management(総合的品質管理)
• TRIZ（とりーず）Teoriya Resheniya Izobretatelskikh Zadatch (露), Theory of inventive
problems solving(英)
• TS: Technical Specification（技術仕様）
• UML: Unified Modeling Language
• Unicef: United Nations Children's Fund
• url: Uniform Resource Locator
• USIT: Unified Structured Inventive Thinking(統合的構造化発明思考法)
• WCSQ: World congress for software quality (世界算譜品質会議)
• WOCS(うぉっくす): Workshop on critical software systems
• WTO: World Trade Organization(世界貿易機構)
• www: world wide web
• X: 論理回路不定値, JIS情報処理部門記号
• Z:論理回路ハイインピーダンス, JIS その他部門記号(適合確認を含む)
• フリマ: free market
• 知財：知識財産(知的所有権)
2017年 9月 8日
(c)@kaizen_nagoya
70安全・安心分析のHAZOPによる統合的運用

71. A.4 参考文献(1/10)
[1] 始める前に, 小川清,岐阜大学, 2016, https://www.slideshare.net/
kaizenjapan/before-study-gifu-university-2016
[2] HAZOP, FTA and FMEA for risk assessment, 安全工学シンポジウム,
小川明秀, 小川清, 2015, https://www.slideshare.net/kaizenjapan/hazopogawa2015
[3] An application on Hazard and operability Study for digital system,
Ogawa Kiyoshi, 5th World Congress for Software Quality, 上海, 2011
[4] 自動車制御用プラットフォームの機能安全対応,竹内舞, 水野智仁,
森川聡久, 小川清, 斉藤直希, 渡部謹二, 安全工学シンポジウム, 2010
[5] 自動車安全, https://researchmap.jp/jorwtr60m-51292/#_51292
[6] 安全に貢献するソフトウェア関連国際規格,水野智仁, 森川聡久, 小
川清, 斉藤直希, 渡部謹二, 堀武司, 安全工学シンポジウム, 2009
[7] ISO/IEC Guide 50:2014 Safety aspects - Guidelines for child safety in
standards and other specifications子供むけ安全ガイド(JIS未発行)
[8]ISO/IEC Guide 51:2014 Safety aspects - Guidelines for their inclusion
in standards安全ガイド(JIS Z 8051：2015)
2016年 7月 8日
(c)@kaizen_nagoya
71安全分析におけるHAZOP-TRIZ連携の試み

72. A.4.1 参考文献(2/10)
[9] IEC 61160:2005 Design review, 設計審査, IEC 2005
[10] IEC61025 FTA: Fault tree analysis 故障木解析, IEC, 2006
[11] IEC60812 FMEA: failure mode and effectiveness analysis システム
信頼性の分析技法失敗状態と効果解析 (FMEA), IEC, 2006
[12] IEC 61882 Hazop: hazard analysis and operability study, IEC , 2016
[13] 機械安全 ISO 12100:2010 Safety of machinery General principles
for design - Risk assessment and risk reduction (JIS B 9700：2013)等
[14] 電気安全 EC 60065:2014 Audio, video and similar electronic
apparatus - Safety requirements (JIS C 6065:2016)等
[15] 機能安全 EC 61508-1:2010 Functional safety of
electrical/electronic/programmable electronic safety-related systems -
Part 1: General requirements (JIS C 0508:2012)等
[16] JIS Q 31010：2012 (IEC/ISO 31010：2009)リスクマネジメント−リスク
アセスメント技法
[17] プロセス改善ナビゲーションガイド〜ベストプラクティス編, １０事
例のうちの一つがJAXAのIV&V(独立検証)IPA, http://www.ipa. go.jpか
らダウンロード可。
2016年 7月 8日
(c)@kaizen_nagoya
72安全分析におけるHAZOP-TRIZ連携の試み

73. A.4.2 参考文献(3/10)
[18] HAZOP手法の応用と展開, 小川清, 渡部謹二, 斉藤直希, 電気関係
学会東海支部連合大会,2010
[19] HAZOP手法の展開, 小川清, 斉藤直希, 渡部謹二, 安全工学シンポ
ジウム, 2010
[20]実践HAZOP演習,小川清, SWEST2010(組込みシステム技術に関す
るサマーワークショップ, 2010
[21] 安全関連系の設計のためのHAZOPの展開,小川清, 斉藤直希, 渡
部謹二, 安全工学シンポジウム, 2011
[22] 科学分類, 小川清,SWEST, 2016, https://www.slideshare.net/
kaizenjapan/ss-65852140
[23]実践HAZOP演習(2),小川清, SWEST2011(組込みシステム技術に関
するサマーワークショップ, 2011
[24] HAZOPの誘導語の体系化と実習,小川清, 斉藤直希, 渡部謹二, 電
気関係学会東海支部連合大会, 2011年
[25] HAZOPによるTOPPERS/sspの分析,小川清,クリティカルソフトウェア
ワークショップ, 2011
[26] 1人HAZOPを組み合わせた効率的な分析作業, 小川清, クリティカ
ルソフトウェアワークショップ, 20112016年 7月 8日
(c)@kaizen_nagoya
73
安全分析におけるHAZOP-TRIZ連携の試み
安全分析におけるHAZOP-TRIZ連携の試み

74. A.4.3 参考文献(4/10)
[27] 状態遷移図に着目した安全要求分析手法, 金 周慧, 第8回WOCS, JAXA/IPA, 2011
[28] 安全分析,状態記述と形式手法に着目した安全教育とスキル,堀武司, 小川清, 斉藤
直希, 渡部謹二, 森川聡久, 服部博行,安全工学シンポジウム, 2009
[29] HAZOPと関連手法の展開,小川清, 名古屋市工業研究所,安全工学シンポジウム,
2013
[30] ISO 26262における ソフトウェア安全解析の検討, 山本輝俊, WOCS 2012, 2012
[31] TOPPERS第三世代カーネル統合仕様書, http://
www.toppers.jp/docs/tech/tgki_spec-300.pdf,.2016
[32] 端末間経路選択のための片方向遅延測定方,小川清, 静岡大学博士論文, 2005
[33] UML tools, Model Checkingを適用した実践的非同期制御検証, Go with the Early
Bird,富士ゼロックス株式会社オフィスプロダクト事業本部コントローラソフトウェア開発
村石理恵/服部彰宏/野村秀樹/山本訓稔,2007, http://jasst.jp/archives/jasst07e/pdf/D
3.pdf
[34] spin, ModelChecking技術の専門性の排除とその効用,富士ゼロックス株式会社オ
フィスプロダクト事業本部コントローラソフトウェア開発部,野村 秀樹/服部 彰宏/村石 理
恵/山本 訓稔, 2008, http://www.jasst.jp/archives/jasst08e/pdf/B4-2.pdf
2016年 7月 8日
(c)@kaizen_nagoya
74安全分析におけるHAZOP-TRIZ連携の試み

75. A.4.4 参考文献(5/10)
[35] 名古屋新設ガスホルダーの運転開始について, 新日鉄,2004
[36]システムが安全とは何か考える, トヨタ急加速問題のNASA分析を題材にして,間瀬 順一,
SWEST13, http://swest.toppers.jp/SWEST13/slide/swest13-S3-b.pdf, 2011
[37] 福島原子力発電所事故調査報告書一覧, https://researchmap.jp/johyczndy-48418/ ,2015
[38] X線天文衛星ASTRO-H「ひとみ」 異常事象調査報告書一覧, http://researchmap.jp/jocqvl9km-
50024/, 2016
[39] ENGINEERING A SAFER WORLD Systems, Thinking Applied to Safety, Nancy G. Leveson, 2012
https://mitpress.mit.edu/books/engineering-safer-world
[40] 金融情報システムへのHAZOP手法の適用, 益田美貴, 高野 研一, 安全工学/安全工学会,49(2)
(通号 275) 2010,ページ104～114, ISSN 0570-4480
[41] 術合併症に対する危険源分析 Hazard and Operability Study (HAZOP Study)の経験:人工股関節
置換術における神経合併症を対象として, 大川淳, 野村徹, 高橋誠,医療の質・安全学会誌,医療の
質・安全学会, 7(3):2012, 235-238, ISSN 1881-3658
[42]万能設計, 機能安全とHCD(human centered design) , http://
www.slideshare.net/kaizenjapan/hcdhuman-centered-design, 2013
[43]高齢者・障害者設計指針, https://researchmap.jp/jorv9lpca-2024324/, 2015
[44] かたちの設計指針,機能安全とHCD(human centered design) , 小川清, 2013
[45] 国際単位系, ISO 80000-1:2009 Quantities and units Part1: General
2016年 7月 8日
(c)@kaizen_nagoya
75安全分析におけるHAZOP-TRIZ連携の試み

76. A.4.5 参考文献(6/10)[46]トリーズ(TRIZ)の発明原理40 あらゆる問題解決に使える[科学的]思考支
援ツール,高木芳徳,ディスカヴァー・トゥエンティワン, 2014
[47] ISO/IEC Guide 71, Guide for addressing accessibility in standards, 2014
[48] JISX8341-1 高齢者・障害者等配慮設計指針―情報通信における機器，
ソフトウェア及びサービス―第１部：共通指針
[49] JISX8341-2 高齢者・障害者等配慮設計指針－情報通信における機器，
ソフトウェア及びサービス－第２部：パーソナルコンピュータ
[50] JISX8341-3 高齢者・障害者等配慮設計指針－情報通信における機器，
ソフトウェア及びサービス－第３部：ウェブコンテンツ
[51] JISX8341-4 高齢者・障害者等配慮設計指針－情報通信における機器，
ソフトウェア及びサービス－第４部：電気通信機器
[52] JISX8341-5 高齢者・障害者等配慮設計指針－情報通信における機器，
ソフトウェア及びサービス－第５部：事務機器
[53] JISX8341-6 高齢者・障害者等配慮設計指針－情報通信における機器，
ソフトウェア及びサービス－第６部：対話ソフトウェア
[54] JISX8341-7 高齢者・障害者等配慮設計指針－情報通信における機器，
ソフトウェア及びサービス－第７部：アクセシビリティ設定
2016年 7月 8日
(c)@kaizen_nagoya
76

77. A.4.6 参考文献(7/10)[55] World report on child injury prevention, UNICEF,2008 ISBN 978 92
4 156357 4
[56] 中小企業大学校デザイナ指導者養成講座, 1995
[57] 応用昆虫学の基礎,中筋 房夫,朝倉書店, 2000
[58] STARC RTL設計スタイルガイド を「こう使おう」 Verilog-HDL版
VER4.0 2011年版改定に対応, 小川清,
http://www.slideshare.net/kaizenjapan/how-to-use-starc-rtl-design-
style-guide-veriloghdl-2011-version, 2015
[59] System C 動作合成スタイルガイド, エッチ・ディー・ラボ, 2007
[60] ISO/IEC TS 17961, Information technology -- Programming
languages, their environments and system software interfaces -- C
secure coding rules, 2013
[61] ]ソフトウェアFMEA を体系的に実施する出発点としてのMISRA-C,
森川聡久, 小川清,WOCS 2014, 2014
[62] CERT C bibliography, Ogawa kiyoshi,
https://www.securecoding.cert.org/
confluence/display/c/AA.+Bibliography, 2017
[63] より効率的なHAZOP TRIZ を利用した設計変更への対応, 小川清,
安全工学シンポ, 20122016年 7月 8日
(c)@kaizen_nagoya
77安全分析におけるHAZOP-TRIZ連携の試み

78. A.4.7 参考文献(8/10)2016年 7月 8日
(c)@kaizen_nagoya
78
[64] TRIZ ホームページ,中川徹, http://www.osaka-
gu.ac.jp/php/nakagawa/TRIZ/
[65] USIT,連載: USIT入門: 創造的な問題解決のやさしい方法,中川
徹,2007
[66] ちょけねこたんじょうびのおくりもの,ちょけむさ,pritemps, 2015
[67] 大切におもうこと,日本サッカー協会Respectプロジェクト教材
http://www.jfa.or.jp/respect/, 2015
[68] 秘密保持契約書サンプル版の紹介, 大島厚,不正競争防止法委
員会副委員長, p.53, Vol.59 No.3パテント, 2006,
http://www.jpaa.or.jp/activity/publication/patent/patent-
library/patent-lib/200603/jpaapatent200603_053-056.pdf
[69] 安全なシステム構築のためのソフトウェア技術者に必要なスキ
ル,小川清,技術融合化シンポジウム技術講演会,2007
[70] ETSSを利用した機能安全対応スキル判定と教育訓練,小川清, 渡部謹二, 斉
藤直希, 堀武司, 奥田篤, 水口大知, 吉岡律夫, 渡辺登,安全工学シンポジウ
ム,2008
安全分析におけるHAZOP-TRIZ連携の試み

79. A.4.8 参考文献(9/10)
2016年 7月 8日
(c)@kaizen_nagoya
79安全分析におけるHAZOP-TRIZ連携の試み
[71] パネルディスカッション：安全なソフトウェアをつくるためにやるべきこと, Nancy
Leveson,小川清,白坂成功,西康晴,片平真史,第6回クリティカルソフトウェアワークショッ
プ,2006
[72] 製品設計におけるFTAとその支援システムの開発 Fault Tree Analysis支援システム
の実用性評価及び今後の発展性, 平岡洋二, WOCS 2012
[73] CARDION: 概念段階におけるハザード・脅威の抽出手法, (株)ニルソフトウェア, 伊
藤昌夫, JAXA/IPA 12th WOCS, 2014
[74] システムアプローチによる機能安全への対応,dSPACE Japan(株),藤倉俊幸,自動車
機能安全カンファレンス,JARI, 2015
[75] 安全関連システムのためのOSの検討,斉藤直希, 堀武司, 小川清,安全工学シンポ
ジウム,2009
[76] ISO/IEC Directives part1, Procedures for the technical work, 2016
[77] ISO/IEC directives part2, Rules for the structure and drafting of International.
Standards, 2016
[78] WTO/TBT協定,1995, https://www.jisc.go.jp/cooperation/wto-tbt-guide.html
[79] 参考文献一覧
[80] Space Wire, https://galaxy.astro.isas.jaxa.jp/SpaceWire/open-products
[81] TOPPERS ダウンロードTOPPERS/HRP2/ATK2/SSPカーネル,
https://www.toppers.jp/download.html
[82] GCC: Gnu Compiler Collection, https://gcc.gnu.org/
[83] LLVM, The LLVM Compiler Infrastructure, http://llvm.org/
[84] Linux, ISO/IEC 23360-1:2006 Linux Standard Base (LSB) core specification 3.1 -- Part
1: Generic specification

80. A.4.9 参考文献(10/10) 2016年 7月 8日
(c)@kaizen_nagoya
80
[85] Android, https://source.android.com/
[86] MISRA-C++とCERT C++ による安全・安心システムへの貢献 STARC RTL設計スタイルガイドとHAZOPを
使って, 小川清, 安全工学シンポジウム, 日本学術会議, http://www.slideshare.net/kaizenjapan/misra-
cpp-cert-cpp-2016-with-rtl-design-style-guide,2016
[87] 組み込み中核人材エレベータ分析
[88] 津波を含んだプレゼン
[89] 故意を含むプレゼン
[90] JIS 部門記号, http://www.jisc.go.jp/jis-act/index.html
[91] GxP, http://www.fxis.co.jp/lifesciencesquare/law/
[92] 英語複文の構文解析と編集，その論理と方法,加藤 輝政，小川 清, 佐良木 昌, 電子情報通信学会・
言語理解とコミュニケーション研究会, 1997
[93] サーチャー試験 傾向と対策―データベース検索技術者認定試験1級・2級,小川清,安藤彰敏,日外ア
ソシエーツ ・紀伊国屋書店,1993
[94] うずく，まる (新鋭短歌シリーズ)中家菜津子,書肆侃侃, 2015
[95] HAZOPによる 歌集「うずく，まる」中家菜津子の鑑賞・分析 http://researchmap.jp/joxuvn2vg-
2033461/#_2033461, 2015
[96]歌集 「うずく，まる」中家菜津子 手帖7弾, TRIZによる短歌鑑賞, http://researchmap.jp/joquzbdx5-
2033461/#_2033461, 2015
[97] 歌集 計画者の一日 言譜篇・算譜篇, @kaizen_nagoya, pritemps, 2015
[98] MISRA C 2012解説書、MISRA C研究会, 2017
[99] 歌集 味噌が好き・題詠百, @kaizen,nagoya, pritemps, 2016
[100] ふれふれぼうず<降誕祭版>, ©小川萌, 2009 安全分析におけるHAZOP-TRIZ連携の試み

81. A.4.10 作業表置き場
• Hazop作業表は
http://researchmap.jp/kaizen/HAZOP(
はぞっぷ)/
に置いています。
• この資料で提示したものは
https://researchmap.jp/jolcozn8h-
51292/
2017年 9月 8日
(c)@kaizen_nagoya 81安全・安心分析のHAZOPによる統合的運用

82. 付録A.5 関連取組み
• JAXA/IPAクリティカルソフトウェアワークショップ
– パネルディスカッション：安全なソフトウェアをつくるためにやるべ
きこと[57]
– 製品設計におけるFTAとその支援システムの開発 Fault Tree
Analysis支援システムの実用性評価及び今後の発展性[58]
– STAMP: ENGINEERING A SAFER WORLD Systems[59]
– CARDION: 概念段階におけるハザード・脅威の抽出手法 [60]
• STAMPがGSN+HAZOPであると言及
• JARI自動車機能安全シンポジウム
– システムアプローチによる機能安全への対応[61]
• STAMPがGSN+HAZOPであると言及
• SWEST
– HAZOP演習4回
2017年 9月 8日
(c)@kaizen_nagoya 82安全・安心分析のHAZOPによる統合的運用

83. A.6 安全分析以外への応用
• 子供向けに楽しいことを企画[45](既出)
• プログラムのソースコード（安心：seurity）[49]
• 知財
– TRIZだけを使っている場合にはHAZOPを組合せる
• 文書見直し，批評に用いる
A.6.1用語構造
A.6.1.1 視点の違いによる誤解
A.6.1.2 辞書作成
A.6.1.3 JIS 部門記号
A.6.1.4 GxP, Good x Practice(適正x基準)
A.6.2HAZOP, TRIZによる短歌鑑賞
A.6.3 短歌の題材としてのHAZOP・TRIZ
2017年 9月 8日
(c)@kaizen_nagoya
83安全・安心分析のHAZOPによる統合的運用

84. A.6.1 用語構造
• 視点によって見えるものが違う[55]
• 分野・立場によって用語定義が違う[56]
– 場合によっては言葉の包含関係が逆転する
– 例：システム＞ソフト，ソフト＞システム
• システムごとに用語の構造辞書を作ると良い
• 略号はフルスペル一覧
• 参考文献一覧は入手可能かどうか，最新版
への履歴
2017年 9月 8日
(c)@kaizen_nagoya
84安全・安心分析のHAZOPによる統合的運用

85. A.6.2 視点の違いによる誤解[97]
 視点１ではBはAの部分集合
 視点２ではAはBの部分集合
 誤解：自分は正しく相手が間違い
2212017年 9月 8日
(c)@kaizen_nagoya
安全・安心分析のHAZOPによる統合的運用

86. A.6.3 辞書 (thesaurus)
安全規格
・ISO/IEC Guide 50(JIS無)
・ISO/IEC Guide 51(JIS )
分析手法
・なぜなぜ分析
・CARDION
・STAMP
・FMEA, IEC 60812
・FTA, IEC 61025
・HAZOP, IEC 61882
・・分析対象
・・・部品
・・・・ソフトウェア
・・・自然・社会現象
・・・教育
・・設計指針
・・・共用品設計（万能設計）
・・・形の設計指針
・・・言語規約
・・・・MISRA C/C++, CERT C/ C++
・・・・ RTL設計スタイルガイド
・・・TIRZ
2017年 9月 8日
(c)@kaizen_nagoya
86
・誘導語(guide word)
・・存在(exist)
・・・無(no)
・・方向(direction)
・・・逆(reverse)
・・・他(other than)
・・量(quantity)
・・・大(more)
・・・小(less)
・・質(quality)
・・・類(as well as)
・・・部(part of)
・・時刻(time)
・・・早(early)
・・・遅(late)
・・順番(sequence)
・・・前(before)
・・・後(after)
作業
・一人作業
・班作業
・・班報告
・全体報告
作業分類
・構想(concept)
・設計(design)
・製造(produce)
・出荷(release)
・運用(operation)
国際規格(IS)
・ISO
・・ISO 26262
・IEC
・・60812 FMEA
・・61025 FTA
・・61882 HAZO
・ISO/IEC
・・ISO/IEC 15504
・・・ISO/IEC 33001
国内規格(JIS)
・JIS部門記号*1
GxP*2
組織
・JAXA
・IPA
・・IPA/SEC
・JARI
・学術団体
・・日本学術会議
・・・電気関係学会
・・SWEST実行委
・・WOCS
・内部組織
・・設計部門
・・利用・運用部門
・・間接部門
・取引先
・・仕入先
・・納入先
・・外部委託
教育
・６歳
・１２歳
・１８歳
制約
・初期条件(initial
condition)
・境界条件
・終了条件
・不変条件
安全・安心分析のHAZOPによる統合的運用

87. 付録6.4 GxP: Good x Practice（適正x基準） [89]
名称 対象 法令
GMP(Good
Manufacturing
Practice)
医薬品・医薬部外品
医薬品及び医薬部外品の製造管
理及び品質管理の基準に関する
省令
QMS(Quality
Management System)
医療機器・体外診断用医薬品
医療機器及び体外診断用医薬品
の製造管理及び品質管理の基準
に関する省令
GCP(Good Clinical
Practice )
医薬品の臨床試験
医薬品の臨床試験の実施の基準
に関する省令
医療機器の臨床試験
医療機器の臨床試験の実施の基
準に関する省令
GLP(Good Laboratory
Practice)
医薬品の非臨床試験
医薬品の安全性に関する非臨床
試験の実施の基準に関する省令
医療機器の非臨床試験
医薬品、医薬部外品、化粧品及び
医療機器の品質管理の基準に関
する省令
GQP(Good Quality
Practice)
医薬品、医薬部外品、化粧品及び
医療機器
医薬品、医薬部外品、化粧品及び
医療機器の品質管理の基準に関
する省令
GVP(Good Vigilance
Practice)
医薬品、医薬部外品、化粧品及び
医療機器
医薬品、医薬部外品、化粧品及び
医療機器の製造販売後安全管理
の基準に関する省令
2017年 9月 8日
(c)@kaizen_nagoya
87
安全・安心分析のHAZOPによる統合的運用

88. A.7 文書履歴
• 2006, ver 0.1 Hazop First Presentation
• 2010, ver 1.0 Safety Engineering Symposium,Japan
• 2011, ver 2.0 World Software Quality Congress
• 2015, ver 3.0 Safety Engineering Symposium, Japan,
2015.7.2
– Ver3.1g 2015.7.14 rearranged slides.
http://www.slideshare.net/kaizenjapan/hazopogawa2015
• 2016, ver3.2 for child , Safety Engineering Symposium Japan,
2016.7.8
– ver3.2Q, 2017.2.19, add references.
http://www.slideshare.net/kaizenjapan/safety-analysis-with-
hazop-and-triz-by-children
• 2017, ver4.0 for integration of safety and security analysis
2017年 9月 8日
(c)@kaizen_nagoya
88安全・安心分析のHAZOPによる統合的運用

89. 謝辞 2017年 9月 8日
(c)@kaizen_nagoya
89
経済産業省,宇宙航空研究開発機構(JAXA), (株）日本機能安
全,名古屋大学,名古屋工業大学,岐阜大学,(株)ヴィッツ,東海
ソフト(株),サニー技研(株),アイシン精機(株),トヨタ自動車,(株)
ルネサスエレクトロニクス(株),(株)東海理化,(株)アドヴィック
ス,新日鉄住金ソリューションズ(株),(株)デンソークリエイ
ト,(株)デンソー, みずほ情報総研(株),産業総合研究所,北海
道立工業試験場,CEST,日本技術士会,日本テクノセンター，
MISRA C研究会, SWEST実行委員会, TOPPERSプロジェクト,
OSC事務局, 大垣mini maker fair事務局, 文学フリマ事務局
安全・安心分析のHAZOPによる統合的運用

90. 謝辞(個人)
• DNV GL 川原 卓也 様
• 大阪学院大学 中川 徹 様
• ものづくり.com 熊坂 治 様
• 日本技術士会中部航空部会 田島 暎久 様
• 日本技術士会情報工学部会 加納 幸博 様
• NSSLCサービス株式会社 北野 敏明 様
• 株式会社豊田自動織機 福田 仁志 様
• 三菱電機株式会社 近藤 聖久 様
• 株式会社NSD 村上 孝 様
• 株式会社アトリエ 水口 大知 様
• みずほ情報総研株式会社 尾形 俊彦 様
• 株式会社デンソークリエイト 竹村 恵里 様
• 〃 柏原 一雄 様
• 株式会社アドヴィックス 河野 文昭 様
• 名古屋市工業研究所 斉藤 直希 様
2017年 9月 8日
(c)@kaizen_nagoya
90安全・安心分析のHAZOPによる統合的運用