270 likes | 478 Views
遺伝的アルゴリズムを用いた 適応的近傍並列シミュレーテッドアニーリング. 同志社大学大学院 知的システムデザイン研究室. 三木 光範. 廣安 知之. ○ 伏見 俊彦. はじめに. 最適化:. ある制約条件のもとで,目的となる関数の 最小値(最大値)を求めること. 最適化問題. 連続最適化問題. タンパク質の構造予測. タンパク質の立体構造予測. エネルギーが最も安定する状態. 組合せ最適化問題. LSI 配置問題. 低コスト,高性能化. LSI 配置問題. 探索空間の拡大により実用的な計算コストで解くことが困難. 研究背景.
E N D
遺伝的アルゴリズムを用いた適応的近傍並列シミュレーテッドアニーリング遺伝的アルゴリズムを用いた適応的近傍並列シミュレーテッドアニーリング 同志社大学大学院 知的システムデザイン研究室 三木 光範 廣安 知之 ○伏見 俊彦
はじめに 最適化: ある制約条件のもとで,目的となる関数の 最小値(最大値)を求めること 最適化問題 • 連続最適化問題 タンパク質の構造予測 • タンパク質の立体構造予測 エネルギーが最も安定する状態 • 組合せ最適化問題 • LSI配置問題 低コスト,高性能化 LSI配置問題 探索空間の拡大により実用的な計算コストで解くことが困難
研究背景 最適化問題の大規模,複雑化に伴い効率的な探索が必要 ヒューリスティック手法 • ニューラルネットワーク ボルツマンマシン • 遺伝的アルゴリズム(GA) 生物の進化を模倣 • シミュレーテッドアニーリング(SA) 金属の焼き鈍しを模倣
シミュレーテッドアニーリング high 改悪方向 アルゴリズム Energy 1.生成処理 改良方向 2.受理判定 low 最適解 3.推移 設計空間 Metropolis基準 4.クーリング 改良方向 1 -⊿E Temperature 改悪方向 Exp( ) (⊿E = Enext - Enow)
シミュレーテッドアニーリング high 高温状態 アルゴリズム Energy 1.生成処理 2.受理判定 low 最適解 3.推移 設計空間 Metropolis基準 4.クーリング 改良方向 1 -⊿E Temperature 改悪方向 Exp( ) (⊿E = Enext - Enow)
シミュレーテッドアニーリング high 低温状態 アルゴリズム Energy 1.生成処理 2.受理判定 low 最適解 3.推移 設計空間 Metropolis基準 4.クーリング 改良方向 1 -⊿E Temperature 改悪方向 Exp( ) (⊿E = Enext - Enow)
シミュレーテッドアニーリング high 低温状態 アルゴリズム Energy 1.生成処理 2.受理判定 low 最適解 3.推移 設計空間 4.クーリング 長所 : アルゴリズムが極めて汎用 ⇒ 様々な問題に適用可能 短所 : 計算コストが大きい ⇒ 並列化により計算負荷を分散
シミュレーテッドアニーリング 2-Change近傍 近傍 重要なパラメータ 温度 解の動きを制御 解の探索効率,精度に大きな影響を及ぼす 近傍 次状態の生成を制御 組合せ最適化問題 連続最適化問題 摂動動作 ユークリッド空間内での距離
連続空間での近傍 近傍 連続最適化問題では次状態へ推移する範囲を近傍と呼ぶ • 近傍幅が大き過ぎる • 探索効率が悪い • 解精度が悪い • 近傍幅が小さ過ぎる • 局所解に陥る可能性 • 探索に時間がかかる 最適解
近傍幅と解精度 近傍幅が解に与える影響を調べるため,複数の近傍幅に 対して,SAを適用する 近傍幅 探索空間 大 一定の近傍幅で探索を 行い解精度を比較 近傍幅 各々の近傍幅の解探索 能力が得られる 小
対象問題 数学的最小化問題 Rastrigin Griewank Rosenbrock
最適な近傍幅 最適な近傍幅 Rastrigin関数 Energy 一部の近傍幅で良好 な結果が得られた Neighborhood range
最適な近傍幅 各々の問題にも最適な近傍幅が存在する Griewank関数 Rosenbrock関数 Energy Energy Neighborhood range Neighborhood range
研究目的 連続問題では近傍の種類は無限に存在する • 適切な近傍幅を一意に決定することは困難 • 適応的に決定することが重要・有効 近傍幅の決定に遺伝的アルゴリズムを適用 並列化による計算コストの削減 遺伝的アルゴリズムを用いた 適応的近傍並列シミュレーテッドアニーリング Parallel SA with Adaptive Neighborhood determined by GA(PSA/ANGA)
コンセプト 複数のプロセスに異なる近傍幅を与え,情報を協調して 最適な近傍幅を求める プロセスを最適な近傍幅 へ収束させる Energy 最適な近傍幅 Neighborhood range
提案手法(Parallel SA with Adaptive Neighborhood determined by GA) • 並列モデル • 近傍幅を並列化 • SAとGAのハイブリッドモデル 特徴 large Neighborhood range small
GAオペレータ 近傍幅をビットで表現 Fitness=1/Energy
実験概要 従来より提案されている並列モデルSAと比較実験を行う 比較手法 最適な近傍幅に固定 • 独立型並列SA(PSA/FN) • 温度並列SA(TPSA/FN) 適応的に近傍を調節 • 最適な受理確率を目標とするTPSA(TPSA/AN)
実験結果(近傍幅の推移) 拡大図 • PSA/FN, TPSA/FNでは探索初期から終盤まで一定の • 近傍幅 で探索を行う • TPSA/ANでは近傍調節を自動的に行っているが, • 探索序盤から近傍幅が小さくなっている PSA/FN,TPSA/FN TPSA/AN
実験結果(近傍幅の推移) • 各プロセスの近傍幅が探索過程に応じて適応的に変化してる • 探索序盤は大域探索を,終盤は局所探索を行っている Rastrigin関数
実験結果(近傍幅の推移) • 各プロセスの近傍幅が探索過程に応じて適応的に変化してる Griewank関数 Rosenbrock関数
実験結果(解探索性能) 全ての問題において提案手法が良好な結果を示した
まとめ 連続最適化問題において近傍幅は重要である 対象問題に応じて最適な近傍幅が存在する GAを用いて近傍幅を適応的に調節する手法を提案 Parallel SA with Adaptive Neighborhood determined by GA(PSA/ANGA) テスト関数に適用し,従来の手法と比較した結果 良好な結果を得ることができた 提案手法の有効性を検証することができた