1 / 44

Ant Algorithm

螞 蟻 演 算 法. Ant Algorithm. 原著：開南管理學院 林佑政 2005/11/19 修改：元智大學 黃仁襄 指導老師：郭文興. 大　綱. 前言 螞蟻演算法的緣起 螞蟻演算法的概念 各類螞蟻演算法的介紹. 前 言. 仿生物演算法近年漸受重視，特別是對於非決定性問題的求解（如旅行商推銷問題）， 解決了傳統數值無法經由演繹推導快速求解最佳解問題、節省了記憶體和時間，其中利用螞蟻覓食行為所做的數值模擬，可廣泛應用於非決定性、求解最佳解問題。. 螞蟻演算法的緣起.

elewa
Download Presentation

Ant Algorithm

An Image/Link below is provided (as is) to download presentation Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author. Content is provided to you AS IS for your information and personal use only. Download presentation by click this link. While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server. During download, if you can't get a presentation, the file might be deleted by the publisher.

E N D

Presentation Transcript

  1. 螞 蟻 演 算 法 Ant Algorithm 原著：開南管理學院 林佑政 2005/11/19 修改：元智大學 黃仁襄 指導老師：郭文興

  2. 大　綱 • 前言 • 螞蟻演算法的緣起 • 螞蟻演算法的概念 • 各類螞蟻演算法的介紹

  3. 前 言 仿生物演算法近年漸受重視，特別是對於非決定性問題的求解（如旅行商推銷問題），解決了傳統數值無法經由演繹推導快速求解最佳解問題、節省了記憶體和時間，其中利用螞蟻覓食行為所做的數值模擬，可廣泛應用於非決定性、求解最佳解問題。

  4. 螞蟻演算法的緣起 • 螞蟻一開始是漫無目的的搜尋食物，且每一隻螞蟻在移動的同時會在路上留下費洛蒙的痕跡，螞蟻們就會透過費洛蒙的濃度去尋求食物的路徑。

  5. 在1992年Dorigo等人利用了螞蟻群體合作尋找食物的行為，設計出一個用於處理最佳化問題的螞蟻演算法。在1992年Dorigo等人利用了螞蟻群體合作尋找食物的行為，設計出一個用於處理最佳化問題的螞蟻演算法。 • 1996年Dorigo 將ACS演算法與GA、SA等啟發式演算法以TSPLIB國際列題進行比較，其結果皆優於其他的演算法，其結果與最佳解誤差皆小於3.5%。

  6. 1997年StÜtzle and Hoos提出不同於Dorigo費洛蒙機率函數模型，測試國際題的結果，其最佳解的誤差皆小於2% (在城市小於200的情況下)。 • 2000年Dorigo針對TSP問題提出最新模型: • 螞蟻群聚最佳化（Ant Colony Optimization;ACO）

  7. 螞蟻演算法為一個同時、多工、異步、且具有訊息回饋、協力合作、互競擇優的系統。螞蟻演算法為一個同時、多工、異步、且具有訊息回饋、協力合作、互競擇優的系統。 • 應用：旅行推銷員問題 (TSP) 工作排程問題 (JSP) VLSI CAD ?

  8. 螞蟻演算法的概念 A為蟻窩 F為食物端

  9. 圖一(a)(b)顯示，當路線出現障礙物時，螞蟻選擇Ｃ、Ｄ兩條路線的機率是相同的。圖一(a)(b)顯示，當路線出現障礙物時，螞蟻選擇Ｃ、Ｄ兩條路線的機率是相同的。 • 費洛蒙會隨著時間而漸消失，圖ｂ中Ｄ路徑因為路徑較長，費洛蒙的味道相對會較淡，選擇這條路徑的螞蟻漸漸變少。 • 由於路徑Ｃ較短，費洛蒙味道強烈，越多螞蟻往這條路走，加強費洛蒙的味道，最後形成一條最佳解（最小路徑）。

  10. 旅行推銷員問題 (TSP) 一地區有若干的城市，城市之間都有道路相 連，但卻有長短之分，有一位推銷員從某一 城市出發，途中須經過所有城市，最後回到 原點，問這位推銷員要怎麼走，才能讓這條 路徑最短？

  11. Ant Algorithm for TSP Loop randomly position num_ants on nun_city cities for step=1 to run city for k=1 to run ant Choose the next city to move to applying a probabilistic state transition rule end for end for Up date pheromone trails Until End_condition

  12. 螞蟻演算法原理(圖1) 30隻螞蟻 A d=0.5 B d=1 d=0.5 30隻螞蟻 C d=1 D

  13. 螞蟻演算法原理(圖2) t = 0 設螞蟻 v = 1 走過路徑會留下費洛 蒙數量1(τ=1) A 15 ants B 15 ants 15 ants C 15 ants D

  14. 螞蟻演算法原理(圖3) t = 1 A 30 30+15 2 3 = 20 ants (30*2/3) τ=30 B τ=15 10 ants (30*1/3) 20 ants τ=30 τ=15 C 10 ants D

  15. 基本螞蟻演算法 • 初始化費洛蒙濃度 Ｃ 為常數 　 為點ｉ到點ｊ路徑上的費洛蒙濃度

  16. 狀態轉換規則ｉ、ｊ分別為起點和終點　　　　　 為能見度，是兩點ｉ、ｊ路徑距離的倒數 為時間 t 時由 i 到 j 的費洛蒙強度(Q為費洛蒙留下的數量、Lk為螞蟻 k行走的路徑總長)allowedk 為尚未拜訪過的節點集合 兩常數分別為費洛蒙和能見度的加權值

  17. 費洛蒙更新規則運算 　為了模擬螞蟻會在較短路徑上會留下更多的費洛蒙，當螞蟻到終點時，必須要將各路徑的費洛蒙濃度重新更新一次 　　 為費洛蒙殘留率 ｍ為螞蟻個數 為第k隻螞蟻在路徑i到j所留下來的費洛蒙

  18. 的定義 其中Ｑ為一常數，Ｌk是第k隻螞蟻走完整條路徑後 所得到的總路徑長度

  19. ACS蟻族群系統(Ant Colony System) ACS 使用pseudo-random-proportional rule選擇路徑以縮短計算時間，而且只在最好的解增加費洛蒙的痕跡，經實驗證明，只在最好的解上增加費洛蒙的設計，確實有助於螞蟻能最快搜尋到最佳解 Dorigo,M.and Gambardella,L.M.,”Ant colony system:A copperative learning approach to the traveling salesman problem”IEEE Transactions on Evoluationary Computation,Vo1.1-1,pp.53-66(1997)

  20. pseudo-random-proportional rule 　有q0(0< q0<1)的機率，直接選擇往　　最大的路徑前進。

  21. 費洛蒙更新(pheromone) ACS的pheromone update 可分為global update 和local update • Global pheromone trail update 每個循環結束後只在Global-base solution 增加pheromone

  22. 　其中 　　　為global-base solution的目標函數值，也就是在ｔ次循環裡所尋找到的最短路徑的路徑長度

  23. Local pheromone trail update 和solution construction同時進行，每當螞 蟻經過一段路徑，即減少該pheromone量。 這樣的設計在於，避免同一循環內的螞蟻在 相同的路徑上重複搜尋。

  24. 不定樹狀搜尋法(ANTS) • 雖然名稱上看起來和螞蟻無關，但也是ACO設計的一種。 • 特色：沒有費洛蒙蒸發的機制，而是以螞蟻搜尋出的解決定是否增加或減少費洛蒙。 • 螞蟻搜尋出的解好的話就增加費洛蒙，反之減少 Maniezzo,V.”Exact and Approximate Nondeterministic Tree-Search Procedures for the Quadratic Assignment Problem,”Technical Report CSR 98-1,C.L. in Scienze dell Informazione,Universita di Bologna,Sede di Cesena,Ttaly(1998)

  25. Solution construction 當螞蟻於節點i時選擇往節點ｉ的機率，與 路徑ｉ,ｊ上的費洛蒙量和能見度 　　　　　 有關，　　　　　 愈大，則往ｊ點前進的機率愈大　　　　　　　

  26. ANTS沒有費洛蒙蒸發的機制 其中 ，是由最近ｈ隻螞蟻得到的解所求出 的算術平均數，ｈ為此演算法所需設的參數 LB為此問題的lower bound，當　　比favg小時 位增加費洛蒙，反之減少。

  27. 極大-極小螞蟻系統 MMAS 　這系統和ACS很像，不同的地方在於它在控 　制了費洛蒙上範圍，不小於　　不大於 (其中 、 　為一開始就設定好的參數) 　這樣的設計可以讓螞蟻不會過早收斂於某 　個範圍內 Stutzle,T.,”MAX-MIN Ant System for Quadratic Assignment Problems” Technical Report AIDA-97-04 Intellectics Group,Department of Computer Science,Darmstadt University of Technology,Germany,July(1997)

  28. Solution construction 與ACS相同 • Pheromone update 只在global-bestsolution 的路徑上增加 　 費洛蒙，且令所有arc上pheromone濃度 限制在 範圍內。

  29. Rank-based螞蟻系統ASrank 在ASrank設計裡，每個循環結束後，先將 m 　隻螞蟻依　　大小排列， 　只有排在前面的w-1(w為該演算法須設定的參數)隻螞蟻可增加費洛蒙量,排在愈前面費洛蒙量愈多。 Bullnheimer,B.,Hartl,R.F.and Strauss,C.,”A new rank-based version of the ant system:a computational study,”Technical Report POM-03/97,Institute of Management Science,University of Vienna.Accepted for publication in the central European journal for Operations Research and Economics(1997)

  30. Solution construction 和ACO相同 • Pheromone update 將m隻螞蟻依 大小排序， 排在愈前面費洛蒙量愈多。

  31. 其中

  32. 快速螞蟻系統 FANT 沒有population的觀念。 每次循環只使用一隻螞蟻，再以螞蟻搜尋出的解作為local search。 為了避免收斂於次佳解，有reset pheromone (diversification)的機制。 Taillard,E.D.,and Gambardella,L.M.,”Adaptive Memories for the Quadratic Assignment Problem,”Technical Report IDSIA-87-97, IDSIA, Lugano, Switzerland,(1997)

  33. Solution construction 螞蟻走完所有路徑後，再經過first step of a first improving neighbor procedure改善，即為這次循環所得到的最佳解

  34. Pheromone update FANT 沒有蒸發機制，每個循環結束 update pheromone 其中ｒ會隨著演算過程而變動，而　是一開 始固定好的值。

  35. 在每個循環結束後如過遇到以下的情形ｒ會改變：在每個循環結束後如過遇到以下的情形ｒ會改變： • 當找出來的解比global-best solution好時。 • 如果找出的解和原來的global-best solution相同。

  36. 改變方式： 有最佳解時:將得到的解設為新的 global- best solution並將ｒ設為1，清除所有arc 上的pheromone資料，將所有所有arc上的 pheromone資料設為1。 相同解時: 令r=r+1，清除所有arc上的 pheromone資料，將所有arc上pheromone 資料設為ｒ。

  37. Thank You

  38. Reference • Dorigo,M,maniezzo,v.,and colornj,A.,“the ant system:Optimization by a colony of cooperating agent”IEE Transactions on Systems,Man,ad cybernetics-Part B,Vol26-1,PP.29-41. • T.ibaraki,N.katoh,Resource Allocation Problems-Algorithmic Approaches.The MIT Press,1988 • Dorigo,M.and Gambardella,L.M.,”Ant colony system:A copperative learning approach to the traveling salesman problem”IEEE Transactions on Evoluationary Computation,Vo1.1-1,pp.53-66(1997) • Dorigo,M.andGambardella,L.M.,”Ant colonies for the traveling salesman problem” Biosystems, Vo1.43.pp73-81(1997)

  39. Maniezzo,V.”Exact and Approximate Nondeterministic Tree-Search Procedures for the Quadratic Assignment Problem,”Technical Report CSR 98-1,C.L. in Scienze dell Informazione,Universita di Bologna,Sede di Cesena,Ttaly(1998) • Stutzle,T.,”MAX-MIN Ant System for Quadratic Assignment Problems” Technical Report AIDA-97-04 Intellectics Group,Department of Computer Science,Darmstadt University of Technology,Germany,July(1997) • Stutzle,T.,and Hoos,H.H.,” MAX-MIN Ant System and Local Search for the Traveling Salesman Problem,”In T.Baeck,ZMichalewics,and X.Yao,editors,Proceedings of the IEEE International Conference on Evolutionary Computation(ICEC97),pp309-314(1997)

  40. Stutzle,T.,and Hoos,H.H.,”Improvements on the Ant System:Introducing the MAX-MIN Ant system,”In R.F AlbrechtQ.D.Smith,N.C.Steele,editor,Artificial Neural Network and Genetic Algorithms,pp.245-249,Springer Verlag,Wien New York(1998) • Stelian Alupoaei, Srinivas Katkoori, “Ant Colony Optimization Technique for Macrocell Overlap Removal”17th International Conference on VLSI Design,p.963~p.969 ,Mumbai, India, January 05 - 09, 2004 • Taillard,E.D.,and Gambardella,L.M.,”Adaptive Memories for the Quadratic Assignment Problem,”Technical Report IDSIA-87-97,IDSIA,Lugano,Switzerland,(1997)

  41. Bullnheimer,B.,Hartl,R.F.and Strauss,C.,”A new rank-based version of the ant system:a computational study,”Technical Report POM-03/97,Institute of Management Science,University of Vienna.Accepted for publication in the central European journal for Operations Research and Economics(1997) • Bullnheimer,B.,Hartl,R.F.and Strauss,C.,”An improved Ant System algorithm for the Vehicle Routing Problem,”Annals of Operations Resarch,Vol.89,pp.319-328 • 專題報告:螞蟻類神經演算法之研究 • 碩士論文:訂單控制系統之建構-降低長鞭效應.翁瑞聰 • 博士論文:螞蟻演算法最佳化倒傳第類神經網路於土層剪力波速評估之研究.陳毓山

  42. 碩士論文:螞蟻演算法與禁忌搜尋法混合模式與配水管網設計最佳化應用碩士論文:螞蟻演算法與禁忌搜尋法混合模式與配水管網設計最佳化應用 碩士論文:螞蟻演算法求解壹零多限制背包問題.徐誠佑

More Related