Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
FRAM - 複雑な社会技術システムの理解と分析
Search
ymgc
October 03, 2024
Science
1
63
FRAM - 複雑な社会技術システムの理解と分析
ymgc
October 03, 2024
Tweet
Share
More Decks by ymgc
See All by ymgc
LLMのテスト時計算最適化に関する研究
__ymgc__
0
8
テスト駆動開発(TDD)入門
__ymgc__
0
33
AI に特化した品質特性のテスト
__ymgc__
1
30
AIを活用したソフトウェアテスト技術 - ISTQB Foundation Level - AI Testing (CT-AI)
__ymgc__
1
23
Machines of Loving Grace - AIはどのように世界をより良く変えるか -
__ymgc__
1
48
ファシリテーションの技術
__ymgc__
2
49
(論文読み)BigCodeBench: 多様な関数呼び出しと複雑な指示を用いたコード生成のベンチマーキング
__ymgc__
1
42
(論文読み)Very Large-Scale Multi-Agent Simulation in AgentScope
__ymgc__
1
43
7 POWERS
__ymgc__
1
32
Other Decks in Science
See All in Science
Science of Scienceおよび科学計量学に関する研究論文の俯瞰可視化_LT版
hayataka88
0
1k
ACL読み会2024@名大 REANO: Optimising Retrieval-Augmented Reader Models through Knowledge Graph Generation
takuma_matsubara
0
110
事業会社における 機械学習・推薦システム技術の活用事例と必要な能力 / ml-recsys-in-layerx-wantedly-2024
yuya4
3
270
山形とさくらんぼに関するレクチャー(YG-900)
07jp27
1
240
3次元点群を利用した植物の葉の自動セグメンテーションについて
kentaitakura
2
740
機械学習による確率推定とカリブレーション/probabilistic-calibration-on-classification-model
ktgrstsh
2
320
20240420 Global Azure 2024 | Azure Migrate でデータセンターのサーバーを評価&移行してみる
olivia_0707
2
950
Causal discovery based on non-Gaussianity and nonlinearity
sshimizu2006
0
210
Spectral Sparsification of Hypergraphs
tasusu
0
210
理論計算機科学における 数学の応用: 擬似ランダムネス
nobushimi
1
390
非同期コミュニケーションの構造 -チャットツールを用いた組織における情報の流れの設計について-
koisono
0
180
私たちのプロダクトにとってのよいテスト/good test for our products
camel_404
0
210
Featured
See All Featured
Designing Experiences People Love
moore
139
23k
Learning to Love Humans: Emotional Interface Design
aarron
274
40k
Building a Modern Day E-commerce SEO Strategy
aleyda
38
7k
Producing Creativity
orderedlist
PRO
343
39k
The Art of Delivering Value - GDevCon NA Keynote
reverentgeek
8
1.2k
A designer walks into a library…
pauljervisheath
205
24k
Navigating Team Friction
lara
183
15k
Optimising Largest Contentful Paint
csswizardry
33
3k
Embracing the Ebb and Flow
colly
84
4.5k
How To Stay Up To Date on Web Technology
chriscoyier
790
250k
Designing for humans not robots
tammielis
250
25k
What’s in a name? Adding method to the madness
productmarketing
PRO
22
3.2k
Transcript
Functional Resonance Analysis Method (FRAM) 複雑な社会技術システムの理解と分析 1
目次 1. 何かが起こる仕組みを理解する 2. FRAMの4つの基本原則 3. FRAMの最初のステップ 4. FRAMモデルの完成と使用方法 5.
まとめ 2
想定読者 安全工学の専門家 ▶ リスク管理者 ▶ システム設計者 ▶ 組織管理者 ▶ 人間工学研究者
▶ 3
用語 FRAM: Functional Resonance Analysis Method ▶ FMV: FRAM Model
Visualiser ▶ ETTO: Efficiency-Thoroughness Trade-Off ▶ HRO: High Reliability Organization ▶ 機能共鳴: 複数の機能の変動が組み合わさって生じる予期せぬ結果 ▶ レジリエンス: システムが外乱や変動に適応し、機能を維持する能力 ▶ 社会技術システム: 技術的要素と社会的要素が相互作用する複雑なシステム ▶ 創発性: システム全体が個々の要素の単純な和以上の性質を示すこと ▶ 4
まとめ FRAMは複雑な社会技術システムの分析に適した手法 ▶ 4つの基本原則:成功と失敗の等価性、おおよその調整、創発性、機能共鳴 ▶ システムの機能と潜在的カップリングを特定し、パフォーマンス変動を理解 ▶ 日常的な作業調整から事故が創発する可能性を考慮 ▶ 監視と制御を通じて、システムのレジリエンスを向上させる
▶ 5
1. 何かが起こる仕組みを理解する 6
単純なシステムと複雑なシステムの違い 単純なシステム ▶ 因果関係で説明可能(例:アンティキティラ装置) - リスクは部品の故障から特定可能 - 線形的な原因-結果の関係 - 複雑な社会技術システム
▶ 創発的で非線形(例:金融システム、医療システム) - 部品の相互作用が予測困難 - 結果が不均衡に大きくなる可能性(バタフライ効果) - 7
安全分析の変遷 1. 単純線形モデル (ドミノモデル) 事故は一連の出来事の連鎖(ハインリッヒの法則) - 原因を特定し、連鎖を断ち切ることで防止可能 - 限界:複雑なシステムでは単純すぎる -
8
安全分析の変遷(続き) 2. 複合線形モデル (スイスチーズモデル) 事故は活性化エラーと潜在条件の組み合 わせ - 多層防護の概念を導入(深層防護) - 限界:静的モデルで動的な相互作用を捉
えきれない - 9
安全分析の変遷(続き) 3. 機能非線形モデル (FRAM) 事故は日常的なパフォーマンス調整から創発 - システムの機能と潜在的カップリングを特定 - パフォーマンス変動の理解が重要 -
特徴:動的な相互作用を考慮し、成功と失敗を同等に扱う - 10
11
社会技術システムの特性 創発的で予測困難 ▶ システムが複雑すぎて詳細な理解が困難(例:航空管制システム) - 変化が速く、完全な記述が不可能(例:IT システムの進化) - ブラックスワン現象:予測不可能な重大事象の発生 -
管理可能性と結合度で分類可能 ▶ 管理可能性: システムの振る舞いの予測しやすさ - 結合度: システム要素間の相互依存性の強さ - 例:原子力発電所(管理困難・強結合)vs 郵便システム(管理可能・緩結合) - 12
2. FRAMの4つの基本原則 13
1. 成功と失敗の等価性 成功と失敗は同じ根源から生じる ▶ 日常的な作業調整が両方の源 - 例:航空管制官の略語使用(効率向上と誤解のリスク) - レジリエンスは調整能力の強化 ▶
失敗回避よりも、適応能力の向上が重要 - 例:高信頼性組織(HRO)の実践 - 14
2. おおよその調整 パフォーマンスの変動は避けられない ▶ リソースの制約により完璧な実行は不可能 - 例:医療現場での時間制約下の意思決定 - 効率性と徹底性のトレードオフ(ETTOの原則) ▶
効率を追求すると徹底性が犠牲に - 徹底性を追求すると時間が不足 - 例:航空機整備における時間圧力と安全チェック - 15
3. 創発性 結果は個々の要素ではなく、相互作用から生じる ▶ システムの振る舞いは要素の単純な和ではない - 例:金融市場のクラッシュ - 小さな世界問題、栄養カスケードなどの例 ▶
予期せぬ結果が生じる複雑なシステムの実例 - 小さな世界問題:社会ネットワークの意外な連結性 - 栄養カスケード:生態系での予期せぬ連鎖反応 - 16
4. 機能共鳴 パフォーマンスの変動が組み合わさり、検出可能な信号として現れる ▶ 個々の変動は小さくても、組み合わさると大きな影響 - 例:タコマナローズ橋の崩壊(風と橋の振動の共鳴) - 予測可能だが、ランダムではない ▶
人間の行動パターンや社会的影響から予測可能 - 例:交通渋滞の発生メカニズム - 17
3. FRAMの最初のステップ 18
FRAM分析の手順 1. モデリングの目的を定義し、分析対象を記述 例:航空機の離陸手順、医療事故の分析、新技術導入の影響評価 - 2. FMVを使用して本質的な機能を特定・記述 例: 「離陸許可を得る」機能の入力、出力、前提条件などを記述 -
3. 典型的/潜在的な変動を特徴付け 例:管制官の負荷変動、気象条件の変化、機器の性能変動 - 19
FRAM分析の手順(続き) 4. モデルの具体化を通じて機能共鳴を探索 例:複数の遅延が重なった場合のシステム全体への影響 - 5. パフォーマンス変動の監視・管理方法を提案 例:リアルタイムモニタリングシステムの導入、トレーニングプログラムの改善 - 20
機能の特定と記述 目標と手段の関係 ▶ 目標:達成すべき状態 - 手段:目標達成のための活動や機能 - 例:目標「安全な離陸」 、手段「滑走路の確認」 「エンジン出力の調整」
- 機能の6つの側面 ▶ i. 入力:機能を活性化する信号や情報 - ii. 出力:機能の結果や生成物 - iii. 前提条件:機能実行前に満たすべき条件 - iv. 資源:機能実行に必要な要素 - v. 制御:機能を監督または規制するもの - vi. 時間:機能の時間的側面 - 21
22
前景機能と背景機能 前景機能 ▶ 直接的に活動に関連し、大きく変動する可能性 - 例:パイロットの操縦、管制官の指示 - 背景機能 ▶ 一般的な条件を指し、変動が緩やか
- 例:航空規制、組織の安全文化 - 23
データ収集方法 文書分析 (作業想定) ▶ 方針、戦略、ガイドライン、指示、チェックリストの確認 - 例:航空会社の運航マニュアル、病院の安全プロトコル - インタビュー (実際の作業)
▶ オープンで肯定的な質問を用いた現場でのインタビュー - 日常的な実践や暗黙知の収集 - 例: 「通常とは異なる状況にどう対応しますか?」 「作業をより効率的に行うためのコツは?」 - 24
4. FRAMモデルの完成と使用方法 25
機能の変動性 内因性変動 (技術、人間、組織の特性) ▶ 技術: 内部構造の複雑さ、劣化 - 例:ソフトウェアのバグ、機械部品の摩耗 - 人間:
生理的・心理的要因 - 例:疲労、ストレス、認知バイアス - 組織: コミュニケーション効率、組織文化 - 例:部門間の情報共有の不足、安全文化の欠如 - 26
機能の変動性(続き) 外因性変動 (環境、社会、組織の影響) ▶ 技術: メンテナンス、使用条件 - 例:極端な気象条件下での機器操作 - 人間:
社会的圧力、組織の期待 - 例:生産性向上の要求、同僚からのプレッシャー - 組織: 運用環境、規制、ビジネス環境 - 例:新規制の導入、市場競争の激化 - 27
28
29
30
31
出力変動性の記述 タイミング (早すぎる、適時、遅すぎる、なし) ▶ 各機能タイプ(技術、人間、組織)ごとの発生可能性 - 例:技術機能の「遅すぎる」出力はソフトウェア遅延が原因の可能性 - 精度 (不正確、正確、許容可能)
▶ 各機能タイプごとの特徴的な出力精度 - 例:人間機能の出力は「許容可能」が最も一般的 - 32
上流-下流カップリング 上流機能の出力変動が下流機能に与える影響を分析 ▶ 入力、前提条件、資源、制御、時間の各側面への影響 - 例:遅延した入力が下流機能の開始時間に与える影響 - カップリングマトリックスを用いた系統的分析 ▶ 各機能間の相互依存関係を可視化
- 潜在的な問題領域の特定に有効 - 33
監視と制御 バリアシステムの種類と効果 ▶ i. 物理的バリア:直接的に行動を防止(例:フェンス、ロック) - ii. 象徴的バリア:解釈を必要とする(例:警告標識、アラーム) - iii.
無形バリア:物理的に存在しない(例:規則、法律) - iv. 機能的バリア:前提条件やインターロックを通じて作用 - パフォーマンス変動の管理方法 ▶ 監視すべき機能の特定 - 例:クリティカルパス上の機能、高変動性の機能 - 変動性の影響を軽減する方策の検討 - 例:冗長性の導入、トレーニングの強化、コミュニケーション改善 - 34
まとめ FRAMは複雑な社会技術システムの分析に適した手法 ▶ 4つの基本原則:成功と失敗の等価性、おおよその調整、創発性、機能共鳴 ▶ システムの機能と潜在的カップリングを特定し、パフォーマンス変動を理解 ▶ 日常的な作業調整から事故が創発する可能性を考慮 ▶ 監視と制御を通じて、システムのレジリエンスを向上させる
▶ 35