510 likes | 702 Views
並列分散遺伝的アルゴリズムの有効性. 学績番号 36980705 畠中 一幸 知的システムデザイン研究室 Intelligent Systems Design Laboratory. 講演内容. 最適化と遺伝的アルゴリズム 並列分散遺伝的アルゴリズム 計算時間の短縮 解探索過程の比較 環境分散遺伝的アルゴリズム 結論. Ex. 携帯電話の料金プラン,最短経路探索. 最適化とは. 問題解決のために,選択肢の中から 最も良いと思われる方法を選ぶこと. 目的関数の 傾きを利用. 頂点が増える. 最適化困難. 従来の手法による最適化. 生物の進化.
E N D
並列分散遺伝的アルゴリズムの有効性 学績番号 36980705 畠中 一幸 知的システムデザイン研究室 Intelligent Systems Design Laboratory
講演内容 • 最適化と遺伝的アルゴリズム • 並列分散遺伝的アルゴリズム • 計算時間の短縮 • 解探索過程の比較 • 環境分散遺伝的アルゴリズム • 結論
Ex.携帯電話の料金プラン,最短経路探索 最適化とは 問題解決のために,選択肢の中から 最も良いと思われる方法を選ぶこと
目的関数の 傾きを利用 頂点が増える 最適化困難 従来の手法による最適化
生物の進化 生物は長い年月を経るうちに, 環境に適合するように進化してきた. 有性生殖により 生まれた子供は 両親の特徴を 併せ持つ 遺伝子の コピーミスが 起こる 突然変異 交叉 自然淘汰 優れた個体ほど 子孫を残しやすい
評価 選択 1 1 2 2 遺伝的操作 GAによる最適化
GAの特徴 • 傾きを利用しない • 確率的多点探索 問題点 • 計算時間が膨大 • 局所解への収束 • パラメータ設定 解決策 並列分散化
従来のGA 並列分散GA 速い 遅い
分割母集団間での個体の交換操作 n 世代 2n 世代 1世代 • 移住間隔 • 移住率 並列分散GAにおける移住
目 的 5kN 総体積の最小化 節点4と6に10kNの水平荷重 5kN 制 約 条 件 • 6番節点の変位が臨界値以内 • 各部材が座屈破壊を起こさない • 引張応力が臨界値以内 対象問題 節点1と2は単純支持
計算条件 比較項目 分割数が2n個のGAに対し, 10試行の試行平均で比較. パラメータ 個体数 320個体 終了条件 500世代 選択 ルーレット選択+エリート保存 交叉方法 一点交叉 交叉率 60% 突然変異率 遺伝子長の1
上位8個体の断面積分布(0世代) • 同じ初期母集団に対し, • 以下のGAを適用 • SGA • 移住なしPGA • 隔移住ありPGA • 移住間隔50世代 • 移住率30% • 解探索過程の比較を行う 初期母集団の個体は ランダムに生成されている 解探索過程の比較
PGA 各母集団毎に固有の 個体が生成されている SGA 単一母集団のため 個体の性質が似ている 上位8個体の断面積分布(中間世代)
=大域的最適解 最終結果(SGA) 1.875×10-3(m3) 最適解の1.25倍 変数の分布が最適解と異なり,個体同士の形状が類似 →最適解を得るには,多くの世代が必要
=大域的最適解 最終結果(PGA:移住なし) 1.624×10-3(m3) 最適解の1.08倍 分割母集団1の解が最適解と類似 → しかし初期値依存性の問題は残る
=大域的最適解 最終結果(PGA:移住あり) 1.548×10-3(m3) 最適解の1.02倍 どの分割母集団においても 最適解に非常に類似した解が得られている
適切なパラメータ設定に関する問題 DGA,SGA,との比較により,有効性を検証 • GAの探索パフォーマンスは, • パラメータ設定に大きく影響される. • 最適なパラメータ設定は問題によって異なる 環境分散遺伝的アルゴリズム 環境分散アルゴリズム を提案
MutationRate 0.1/L 10/L 1/L 0.3 0.3 0.3 0.3 CrossoverRate 10/L 0.1/L 1/L 0.6 0.6 0.6 0.6 0.1/L 1/L 10/L 1.0 1.0 1.0 1.0 0.1/L 1/L 10/L 注) L は個体長 パラメータ設定に関する予備実験 9つのパラメータ設定 をSGAとDGAに適用 パラメータ設定が, 解探索に与える影響 をしらべる
分散GAの効果 パラメータ設定が等しければ,DGAが良い しかしながら, パラメータ設定の 問題は残る
環境分散遺伝的アルゴリズム 従来のDGA 環境分散GA
1.75 Best = 1.78 Best = 1.74 Avg. 1.70 Avg. 1.58 Worst = 1.58 Worst = 1.38 環境分散GAの効果
結 論 制約条件付き最適化問題に SGAと並列分散GAを適用することにより, 以下のことがらが判明した. • 並列処理を行うことにより,計算時間が短縮した. • 母集団を分割し移住を行うことで 解の品質と信頼性が向上した. • 環境分散GAは最適な交叉率, 突然変異率が不明な場合に有効
今後の課題 • 総個体数と分割数. • 効率的に探索を行うにはどうすれば良いのか. • 適切な移住スキームの提案. • 「いつ」,「どこで」,「どのような個体」と行うのか. • 分割母集団での役割分担 • 選択方法や,交叉方法を各母集団で変化させる.
論文リスト 1.三木光範, 畠中一幸: 分散並列GAによる計算時間の短縮と最適解の高品質化, 第10回超並列計算研究会, (1998). 2.三木光範, 畠中一幸: 並列分散GAによる計算時間の短縮と解の高品質化, 日本機械学会[No.98-14], 第3回最適化シンポジウム講演論文集, pp..59-64, (1998). 3.Mitsunori MIKI, Tomoyuki HIROYASU and Kazuyuki HATANAKA:Parallel Genetic Algorithms with Distributed-Environment Multiple Population Scheme,Proc. 3rd World Congress of Structural and Multidisciplinary Optimization (WCSMO), Vol. 1, pp.186-191,(1999). 4.三木光範, 廣安知之, 金子美華,畠中一幸: 環境分散型並列遺伝的アルゴリズム, 電子情報通信学会電子情報通信学会技術研究報告 AI99011~21, pp.87-94,(1999). 5.畠中一幸, 三木光範, 廣安知之: 分割母集団GAにおける移住間隔の最適化, 日本機械学会, (1999). 6.畠中一幸:並列分散遺伝的アルゴリズム,第1回 同志社大学工学部並列研究会,(1999). 7.三木光範,廣安知之,金子美華,畠中一幸:環境分散遺伝的アルゴリズムにおける探索メカニズム, 情報処理学会 99年度秋期全国大会, (1999). 8.Mitsunori MIKI, Tomoyuki HIROYASU, Mika KANEKO and Kazuyuki HATANAKA: A Parallel Genetic Algorithm with Distributed Environment Scheme,IEEE Proceedings of Systems, Man and Cybernetics Conference SMC'99, (1999) , pp.695-700 (1999).
Appendix 補 足 資 料
最適化問題の定式化 目的関数 設計変数 制約条件
従来の最適化手法 非線形計画法 線形計画法 長所: 高速 短所: 勾配の評価,初期値依存性
確率的戦略 長所: 初期値依存性が無い,勾配の評価が不要 短所: 計算コストが高い 遺伝的アルゴリズム シミュレーテッドアニーリング モンテカルロ法 重点的 ランダム
進化的戦略 生物の営みの一部を工学的にモデル化した手法 遺伝的アルゴリズム(Genetic Algorithms:GA) 遺伝的プログラミング(Genetic Programming:GP), 進化戦略(Evolutionary Strategy:ES) 進化的プログラミング(Evolutionary Programming:EP), クラシファイアシステム(Classify System) ニューラルネットワーク(Neural Network:NN), セルラーオートマトン(Cellar Automata:CA), シミュレーテッドアニーリング(Simulated Annealing:SA)も, 進化戦略との類似性が高い. これらの方法を用いた最適化手法の特徴は, 目的関数の感度を用いない点である.
遺伝的アルゴリズム 生物の進化を工学的にモデル化した手法 J.H.Holland: Adaptation In Natural and Artificial Systems, University of Michigan Press,(1975). D.E.Goldberg: Genetic Algorithms in Search Optimization and Machine Leraning. Addison-Wesley,Reading,Mass. (1989). 海外 1985ICGA: International Conference on Genetic Algorithms 1990PPSN: International Conference on Parallel Problem Solving from Nature 1994ICEC: International Conference on Evolutionary Computation 1999GECCO: 国内 人工知能学会,情報処理学会,日本ファジィ学会等
大規模並列化モデル 単一母集団を使用 個体の評価を並列に行う 共有メモリ型の 並列計算機向き
粗粒度並列化モデル 母集団を 複数のサブ母集団に分割 「移住」と言う解交換を行う.
細粒度並列化モデル プロセッサ1つに 1つまたは比較的少数の個体 解交換は近傍のみ 計算効率は優れているが, 距離の離れたプロセッサ間での 情報交換が行えない
パラメータ設定の影響(SGA) Mutation Rate 0.1/L 1/L 10/L
パラメータ設定の影響(DGA) Mutation Rate 0.1/L 1/L 10/L
環境分散遺伝的アルゴリズム 分割母集団毎に, 異なる突然変異率と, 交叉率を設定
最適解の形状 5kN 5kN
Rastrigin関数 • 特徴 • 多峰性関数 • 設計変数間に依存関係が無い • で最小値0となる
Rosenbrock関数 • 特徴 • 単峰性関数 • 設計変数間に強い依存関係がある • で最小値0となる
移住間隔の最適化 初期段階 分離された母集団の 独立性を高めることが重要 移住間隔 大 収束段階 分割母集団全体で 良好な解の交換が必要 移住間隔 小 移住間隔を解探索の進行と共に減少させる方法を提案
提案手法の効果(Rastrigin) 100 50 10 5 1
提案手法の効果(Rosenbrock) 100 50 10 5 1
提案手法の効果(トラス構造物) 100 50 10 5 1