機械学習と数理最適化の融合 (MOAI) による革新

応用物理学会

KS 3 半導体グリーンファブ研究会 / Green Transition of Fabrication Group
T3 Lab to Fab:研究開発と量産を最速でつなぐ半導体 DX / Lab to Fab: Accelerating R&D to Mass Production via Semiconductor DX

機械学習と数理最適化の融合 (MOAI) による革新

Revolutionizing through the Synergy of Machine Learning and Mathematical Optimization (MOAI)

Transcript

1. 機械学習と数理最適化の融合(MOAI) による革新 Revolutionizing through the Synergy of Machine Learning and Mathematical Optimization (MOAI) Mikio Kubo
2. 自己紹介 久保 幹雄 東京海洋大学 教授 サプライ・チェイン最適化工学 株式会社 モアイ・ラボ 取締役 CTO 株式会社 エー・スター・クォンタム 取締役 株式会社 オプティマインド アドバイザー 株式会社 Ridge-i 技術顧問 https://www.youtube.com/@kubomikio https://x.com/MickeyKubo https://www.logopt.com/kubomikio/
3. 数理最適化と機械学習の融合 機械（深層）学習 LLM/Agentic AI 実際問題 数理最適化 (MO) 最適化 人工知能 (AI) メタヒューリスティクス
4. MOAI = Fusion of Three Fields Mathematical Optimization Metaheuristics Machine Learning Deep Learning LLMs, Gen. AI, Agentic AI MOAI Hierarchical building block AutoOpt Math-heuristics Distributionally robust optimization Encode-decode method MO hybrid for dynamic stochastic models End-to-end learning Supply chain modeling language Modeling and app generation with agentic AI (AGI4OPT) Automatic decomposition Instance similarity
5. History of Mathematical Optimization 1947 Dantzig Simplex method 1984 Karmarker Interior point method 1971 Cook’s Theorem NP-completeness 1957 Bellman Dynamic programming 1958 Gomory Cutting plane 1945 Stigler’s Diet Problem First linear program 1989 Kojima Primal-dual interior point method 1954 Dantzig-Fulkerson-Johnson Traveling salesman problem 1979 Khachiyan Ellipsoid method 2008- Gurobi 1988- CPLEX
6. History of Metaheutristics 1983 Kirkpatrick et al. Simulated annealing 1975 Holland Genetic algorithm 1953 Metropolis et al. Markov chain Monte Carlo 1986 Glover Tabu search 1989-1990s Johnson et al. Experimental analsis 1977 Glover Scatter search 1970 & 73 Keinighan-Lin Variable depth local search 1995 Wolpert-Macready No free lunch theorem 2001 Kubo-Miyamoto Hierarchical building block method 2002 Nonobe-Ibaraki RCPSP solver
7. 2012 AlexNet History of Deep Learning and Neural Net (NN) 1943 McCulloch-Pitts Perceptron 1987 LeCun Convolutional NN 1979 Fukushima Neocognitoron 2015 ResNet 2017 Transformer 2018 GPT 1958 Resenblatt Perceptron machine 1997 Hochreiter–Schmidhuber LSTM 1985 Hinton et al. Backpropagation 2006- Fei-Fei Li ImageNet 2014 Goodfellow GAN 1982 Hopfield Hopfield machine 1972 Amari Recurrent NN 1969 Fukushima ReLU 1967 Amari Multilayer perceptoron 2021 Stable Diffusion 2022 ChatGPT 2015 Tensorflow
8. 最適化 Solutions - Metrics 大規模インスタンスでの求解可能性 (size) 計算速度 (speed) 解の誤差 (error) ロバスト性 (robustness) 拡張可能性 (extendability) 適応範囲 (range) 導入速度/費用 (implementation time/cost)
9. Size 大規模インスタンス（問題に数値を入れたもの）での求解可能性 大規模でも解ける 小規模でないと 解けない Greedy Local search Exact solution methods metaheuristics 実際のほとんどの問題は NP-hard Sizeの大きいインスタンスに対して 高速に誤差の小さい解を生成する ことは（おそらく）できない
10. Speed 計算速度 終了判定基準をユーザー が指定し，その中で最良解を探索する インスタンスのサイズに 対して指数オーダーで 計算量が増大 Greedy Local search Exact solution methods metaheuristics インスタンスのサイズに 対する多項式オーダーで 計算が終わる
11. Error 解の誤差（精度 accuracy / 質 quality） 大きな相対誤差 Greedy Local search Exact solution methods metaheuristics 厳密解もしくは 相対誤差の保証を もった解 途中で打ち切ることによって 近似解法としても使える 近似解法
12. Robustness ロバスト性 インスタンスが 変わると悪い解 を算出する Greedy Local search Exact solution methods metaheuristics 様々なインスタンス が解ける（ただし 計算時間は変化） 少数のインスタンス に対して上手く動く 近似解法は，インスタンス パラメータの変化に弱い すべてのインスタンス テストしたインスタンス 新しいインスタンス
13. Spped と Error のトレードオフ 低速 高速 Speed （近似解）誤差大 厳密解（誤差小） Error Exact solution methods Greedy Local Search Metaheuristics Sizeの大きいインスタンスに対して 高速に誤差の小さい解を生成する ことは（おそらく）できない NP-困難性
14. パラダイムシフト すべてのインスタンスの集合 実際のインスタンスの集合 すべてのインスタンスに対して 高速に誤差の小さい解を生成する ことは（おそらく）できない たくさんの過去の 実際のインスタンス 過去のたくさんの実際問題の インスタンスと対応する解がある 対応する解 NP-困難性 すべてのインスタンスの集合 機械（深層）学習の利用 ?
15. MOAIによるNP-困難性の克服 低速 高速 Speed 厳密解（誤差小） Error Exact solution methods Greedy Local Search Metaheuristics MOAI (機械学習+数理最適化） 大規模インスタンスに対する 誤差の小さい解を高速計算 + （近似解）誤差大
16. Extendability 拡張可能性 問題の拡張が容易 単純でモジュール化 されたアルゴリズム 複雑でモジュール化されていない アルゴリズム 問題の拡張が難しい （もしくは多大な 追加費用/時間がかかる） 数理最適化モデリング言語で 記述可能な付加条件 数理最適化モデリング言語で 記述が難しい付加条件 買収によって様々な問題に対応 開発者の退職によってメンテが悪化 新しい機能の追加が不可能
17. Range 適応範囲 例としてIBP (Integrated Business Planning) 狭い： 特化した問題に 対するソリューション Optimind Lyna Logics Asprova Flexche Forecast Pro SAP IBP Panasonic (Blue Yonder; JDA; i2) c3.ai o9.solutions Coupa (Llamasoft) Optilogic 広い： 幅広い範囲 をカバー Anaplan Streamline • 配送 • スケジューリング • 予測 に対する個別ソリューション • ネットワーク設計 • 配送 • 多段階在庫 • 予測 • 多段階在庫 • + ERP 各々得意分野はあるが ほとんどすべての機能 + ERP
18. Implementation time/cost 導入速度/費用 比較的安価で短時間 Coupa (Llamasoft) 高価で時間がかかる 企業規模大 買収で機能を追加 プログラム設計者がすでに退職 Optilogic 数理最適化モデル をユーザーに公開 DB Schema GUI 企業規模小 プログラム設計者が現職 SAP IBP Panasonic (BY) c3.ai o9solutions Optimind Lyna Logics Asprova Flexche
19. Extendability, Range, Impl. Timeのトレードオフ 拡張が容易 拡張が難しい Extendability 狭い 広い Range 安価で短時間 Implementation time/ cost 高価で時間がかかる SAP IBP Panasonic (BY) c3.ai o9solutions Optimind Lyna Logics Asprova Flexche Forecast Pro Coupa Optilogic Anaplan Streamline
20. MOAIソリューション 拡張が容易 拡張が難しい Extendability 狭い 広い Range 安価で短時間 Implementation time/ cost 高価で時間がかかる SAP IBP Panasonic (BY) c3.ai o9solutions Optimind Lyna Logics Asprova Flexche Forecast Pro Coupa Optilogic Anaplan Streamline + Agentic AI + 最適化ツール
21. Agentic AI による解決 (AGI4OPT) テキストとデータを入れるだけのカスタム化可能なUI Client Text Data (Excel, DB, …) 問題別のライブラリ（関数API) ソルバー群 問題の分類 SC Network Design Vehicle Routing Prod Scheduling Inventory Policy SC Risk Optimization … その他 モデリング MIP Solvers METRO OptSeq SCOP Inventory Optimizer Risk Optimizer ... +問題に応じたRAG 問題群 定式化 コード (API) モデルデータの JSON Schema データ抽出 入力パラメータ 解 分析・可視化 Text シナリオ生成 What If 分析 カスタム UI = LLM + API テスト問題 モデルデータの Pydantic Class
22. 調達 ロジスティクス・ネットワーク最適化 ストラテジック タクティカル オペレーショナル サプライ・チェイン・リスク管理 ロットサイズ最適化 スケジューリング最適化 需要予測 配送最適化 安全在庫配置 在庫最適化 シフト最適化 収益管理 基本分析 毎日からリアルタイム 月から週次 年から月次 Agentic AIによるSCの全体最適化 (Agentic IBP)
23. Production Scheduling Lot Sizing Logistics/Service Network Design Vehicle Routing Supply Chain Risk Optimization Stage BOM Dynamic Pricing Safety Stock Allocation Inventory Policy Optimization Shift Scheduling resource upper bound flow volume resource requirement ifeasibility info. lot flow cost network configuration risk allert safety stock lead time service level infeasibility info. assignment of products to plants perishable inventory demand データの受け渡しとメモリ管理 過去のデータ（ログ）をメモリに保管 => 経験をもとに学習
24. まとめ • 機械（深層）学習と最適化の融合技術 (MOAI)の紹介 • MOAIによる実際のNP-困難な最適化問題の解決 • ヒヤリングから最適化ツールを生成するサービス（AGI4OPT) • 最適化関数をツールとして登録したAgentによるサプライ チェーン最適化オーケストレーション（Agentic IBP)