1 / 67

Improving Resource Utilization by Over-admission 以超額允入法提升資源使用率

Improving Resource Utilization by Over-admission 以超額允入法提升資源使用率. 政治大學資訊科學所 指導教授：連耀南 學 生：黃國展. Outline. Introduction Related Work Analysis Model Solution of Analysis Model Verification and Performance Evaluation Conclusion. Outline. Introduction Related Work

kineta
Download Presentation

Improving Resource Utilization by Over-admission 以超額允入法提升資源使用率

An Image/Link below is provided (as is) to download presentation Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author. Content is provided to you AS IS for your information and personal use only. Download presentation by click this link. While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server. During download, if you can't get a presentation, the file might be deleted by the publisher.

E N D

Presentation Transcript

  1. Improving Resource Utilization by Over-admission以超額允入法提升資源使用率 政治大學資訊科學所 指導教授：連耀南 學 生：黃國展

  2. Outline • Introduction • Related Work • Analysis Model • Solution of Analysis Model • Verification and Performance Evaluation • Conclusion

  3. Outline • Introduction • Related Work • Analysis Model • Solution of Analysis Model • Verification and Performance Evaluation • Conclusion

  4. All-IP Network • All-IP Network (AIPN) • AIPN是單一的IP網路，提供封包、迴路交換網路的服務 • 優點 • 開放的服務平台 • 減少建制成本與營運管理成本 • 缺點 • 受限於原有封包交換網路的特性，不容易保證服務品質

  5. 簡化的AIPN實際環境

  6. AIPN需要提供QoS保證 • AIPN是以封包交換網路承載各類服務 • 不易提供端對端服務品質保證（End-to-End QoS Guarantee） • AIPN內各獨立運作的核心網路可能使用不同的管理架構以提供QoS保證 • 不易管理端對端服務品質

  7. 提供QoS保證的管理架構 • 提供單一核心網路的QoS管理架構 • 有名的QoS管理架構有IntServ（保留資源）與DiffServ（不保留資源，分類訊務） • 提供多核心網路的QoS管理架構 • 有名的QoS管理架構有BBQ （Budget-based QoS）與TEQUILA（The Traffic Engineering for Quality of Service in the Internet at Large Scale ）及 AQUILA（ Adaptive Resource Control for QoS Using an IP based Layered Architecture ）

  8. 提供單一核心網路內的QoS管理架構 • IntServ (Integrated Service) • 藉由控制線路分享（Controlled Link-Sharing）與明確訊號控制（Explicit Signaling）整合即時保證（Guaranteed）與事先保證（Predictive）的即時服務. • 允入控制機制可以監督與控管資源以控制即時服務所需的端對端封包延遲 。 • DiffServ (Differentiated Service) • 訊務分類來控制與指定各類別訊務的優先權，以達成各類服務品質保證。

  9. 提供多核心網路的QoS管理架構 • AIPN可能有好幾個核心網路，服務會經過好幾個不同operator的核心網路 • TEQUILA（The Traffic Engineering for Quality of Service in the Internet at Large Scale ） • IST (Information Society Technologies)專案與歐洲的電信業者所共同贊助的一個計畫 • 定義網路服務與提出Traffic Engineering的工具 • 量化的服務品質 • AQUILA（ Adaptive Resource Control for QoS Using an IP based Layered Architecture ） • IST (Information Society Technologies)專案，與TEQUILA一樣是另一個歐洲專案 • 為了達成動態提供QoS保證作準備 • BBQ管理架構 [Lien 2005] （Budget-based QoS） • 根據各網路元件的能力事先規劃QoS責任 • 各個網路元件負責保證達到所指定的QoS責任 • 以達成端對端服務品質保證

  10. 端對端承載服務品質

  11. 核心網路管理架構與資源分配 • BB (Bandwidth Broker)負責管理核心網路內部所有鏈結的頻寬 • ACA (Admission Controller Agent) 負責允入訊務與管理資源分配

  12. BBQ的前端允入控制機制

  13. 資源保留機制的缺點 • 訊務可能因失約或未依約充分運用所保留之資源而導致資源閒置 • 訊務因失約運用保留之資源而導致資源閒置，例如ACA預測資源需求量誤差。 • 訊務因未依約充分運用保留之資源而導致資源閒置，例如語音訊務（Voice Traffic） • 雙方正在交談中，同時間只有一個人會講話 • 沒有連續講話 • 保留的資源會閒置，資源未完全充分利用

  14. 解決資源閒置之方法 • 解決預測誤差而失約的問題 • 中央保留資源法（Central Pool） • 資源重新分配法（Resource Reallocation） • 超額分配法（Overbooking） • 解決訊務未依約充分使用資源的問題 • 超額允入法（Over-Admission）

  15. 研究目的 • 本研究的目的在研究超額允入法 • 超額允入法可能允入過多訊務，這時系統效能會下降 • 本研究的重點在計算最佳的超額允入量，以提升整體資源使用的效能

  16. 研究方法 • 目前假設只有語音訊務 • 預測語音訊務將會是AIPN最重要的應用之一 • 各類訊務組合的困難 • 假設語音訊務的模型是exponential on/off traffic • 建立分析模型 • 求得最高淨收益時的允入量 • 使用模擬的方式以驗證模型

  17. Outline • Introduction • Related Work • Analysis Model • Solution of Analysis Model • Verification and Performance Evaluation • Conclusion

  18. 文獻集 • 文獻一：Dong Lin, “Constant-Time Dynamic ATM Bandwidth Scheduling for Guaranteed and Best Effort Services with Overbooking,“ In Proceedings of INFOCOM‘97, 1997. • 文獻二：C. M. D. Pazos and M. Gerla, “ Improving Internet Traffic Transport over ABR Backbones Through Bandwidth Overbooking,” In Proceedings of Globecom‘98, 1998. • 文獻三：Yao-Nan Lien and Yi-Min Chen, “Forecasting Error Tolerable Resource Allocation for All-IP Networks,‘’ in the 3rd International Conference on Information Technology: Research and Education, 2005. • 文獻四：Coskun Cetinkaya, Vikram Kanodia, and Edward W. Knightly, "Scalable Services via Egress Admission Control," IEEE Transactions on Multimedia, vol. 3, no. 1, March 2001.

  19. 文獻內容 • Dong Lin, 1997. • ABR（Available Bit Rate）訊務在Up-streaming scheduler已經給定資源，因為資源會閒置，所以Scheduler會進行重新分配資源以超額分配資源，作者以rate-based round robin scheduling algorithm以超額分配資源。 • C. M. D. Pazos and M. Gerla, 1998. • 當aggregate ABR 訊務與VBR（Variable Bit Rate）背景訊務類型，因為round trip time太長與難以使用ABR追蹤資源使用率，這時可以超額分配資源，作者以rate-based flow control來超額分配資源。 • Yao-Nan Lien and Yi-Min Chen, 2005. • BB在BBQ管理架構中的核心網路，BB事先規劃與預測ingress router的資源需求量，預測資源需求量可能有誤差，在BB可以超額分配資源，作者以最佳化機率模型求出超額分配程度。 • Coskun Cetinkaya, Vikram Kanodia and Edward W. Knightly, 2001. • 在分散式的允入控制中資源可彼此分享、借用與stealing。Stealing resource後若允入控制傾向於greedy ，訊務可能會有服務品質低落的risk，這時需要有一個方法去預防這種情況發生。文獻中根據guaranteed rate提出一個upper bound。

  20. 文獻討論 • 超額分配與允入可以用在保留資源為基礎的系統，提高資源使用率 • 超額分配與允入的差別 • 超額允入適用在於資源配置中的允入階段 • 超額分配適用在於資源配置中的規劃階段 • 超額允入適用在於允入即時性訊務

  21. Outline • Introduction • Related Work • Analysis Model • Solution of Analysis Model • Verification and Performance Evaluation • Conclusion

  22. 研究的系統環境與假設條件 • 以BBQ作為研究環境 • 研究的訊務是語音訊務 • BB 提供C單位資源給ACA • ACA允入Z個語音訊務 • 每單位時間使用資源之收益為C1 • 允入過多訊務時，每單位時間之溢用資源之損失為C2 • 訊務的active與inactive time 各是T、T’ (random variables) • 假設其機率分配是指數分佈而其平均值為 、

  23. Objective and Model • Objective • 在任何時間點上，給予ACA做允入時的策略依據。 • 找出最佳允入量Z，使淨收益最高。 • 分析模型 Max NET_PROFIT（Z）= PROFIT（Z） – PENALTY（Z） s.t. Z＞C 其中 NET_PROFIT（Z）是淨收益 PROFIT（Z）是收益 PENALTY（Z）是損失

  24. Outline • Introduction • Related Work • Analysis Model • Solution of Analysis Model • Verification and Performance Evaluation • Conclusion

  25. Profit • 收益由允入量Z與每單位時間使用資源之收益C1所構成 PROFIT(Z) = C1*Z

  26. 假設允入過多訊務時，每單位時間之溢用資源之損失與溢流呈線性關係，在△t時溢流數目越高損失越高。假設允入過多訊務時，每單位時間之溢用資源之損失與溢流呈線性關係，在△t時溢流數目越高損失越高。 允入量 (3) Capacity (2) △t △t △t △t Penalty 溢流的部分

  27. Penalty (1) • 損失由允入量（Z）、溢流機率( P( Z , y ) )與每單位時間之溢用資源之損失 ( C2 ) 所構成

  28. T T’ 時間 由語音訊務的特徵求溢流機率 • 語音訊務 • 訊務的狀態有active與inactive。 • 假設訊務active與inactive機率在各時間點都一樣。 • 假設所進入的訊務會一直在網路中，所以溢流機率與holding time無關 T ：Active Time，mean=1/ 。 T’：Inactive Time，mean=1/ 。

  29. D: inactive -> active P(t + △t≧T’ | T’ > t ) = A: active -> active P( T > t + △t | T > t )= t t t t C: active -> inactive P(t + △t≧T | T > t )= B: inactive -> inactive P( T ‘> t + △t | T’ > t )= △t △t △t △t D A C B 訊務的狀態轉換機率 • 以訊務的狀態轉換機率找出訊務會active的機率。 t ：已active或inactive的時間長度 △t：瞬間時間

  30. 訊務Active機率 • 將△t趨近0可以知道t時瞬間的變化。 • Active與inactive發生機率和為1，以此算出任一時間點訊務active的機率(p)。

  31. Overflow Probability • P(Z,y): Z個訊務中有y個訊務會 active並且y的數目介於C與Z之間的 機率。

  32. 發生溢流 溢流數目是1 Flow A Flow B One Unit Resource and Two Flows Admitted的情況 溢流機率： p 2(1-p ) 0 溢流數目：1

  33. 發生溢流 溢流數目是1 Flow A Flow B Flow C Two Units Resource and Three Flows Admitted的情況 溢流機率： p 3(1-p ) 0 溢流數目：1

  34. 發生溢流 溢流數目是2 發生溢流 溢流數目是1 Flow A Flow B Flow C Flow D Two Units Resource and Four Flows Admitted的情況 4 溢流機率：C p 3(1-p ) 1 ，溢流數目：3-2=1 3 4 溢流機率：C p 4(1-p ) 0 ，溢流數目：4-2=2 4

  35. Flow A 發生溢流 溢流數目 是3 發生溢流 溢流數目 是2 發生溢流 溢流數目 是1 Flow B Flow C Flow D One Unit Resource and Four Flows Admitted的情況 4 溢流機率：C p 2(1-p ) 2 ，溢流數目：2-1=1 2 4 溢流機率：C p 3(1-p ) 1 ，溢流數目：3-1=2 3 4 溢流機率：C p 4(1-p ) 0 ，溢流數目：4-1=3 4

  36. Z：允入量 C：Capacity y：active 訊務量 允入訊務會溢流的機率 Z 溢流機率：C pC+1(1-p ) Z-C-1 溢流數目：C+1-C C+1 ……….. Z 溢流機率： C py(1-p ) Z-y 溢流數目：y-C y ……….. Z 溢流機率：C pZ(1-p ) Z-Z溢流數目：Z-C Z

  37. 溢流機率

  38. Summary • 分析模型

  39. Outline • Introduction • Related Work • Analysis Model • Solution of Analysis Model • Verification and Performance Evaluation • Conclusion

  40. Verification and Performance Evaluation • 驗證模型的準確度 • 目的： • 使用模擬的方法以驗證模型的準確度。 • 指標： • 淨收益增量與允入量、超額允入比例((Z-C)/C)、封包遺失比率(packet drop/total packet)與損失 • 超額允入法的效能評估 • 目的： • 使用模擬的方法觀察超額允入法的好處。 • 評估指標： • 淨收益增量比率與允入量、超額允入比例((Z-C)/C)、封包遺失比率(packet drop/total packet)與損失 • 超額允入法的robustness • 目的： • 探討ACA無法精確掌握資源量時，ACA使用超額允入法後，系統效能所受到的影響。

  41. 收益與損失的定義 • 假設所有語音訊務都有相同的pps (packets per second)與封包大小。 • 數學模型 • 收益：C1*總通話時間*pps = C1* 允入量*平均通話時間*pps • 損失：C2*封包遺失數目 = C2*溢流的訊務量*平均通話時間*pps • 模擬系統 • 收益：C1*總通話時間*pps = C1* 允入量*(per call)通話時間*pps • 損失：C2*封包遺失數目

  42. Capacity: C Admitted amount :Z Sources Destinations 實驗的拓撲

  43. 實驗變因與參數

  44. 參數變化對模型準確度之影響對淨收益誤差之影響參數變化對模型準確度之影響對淨收益誤差之影響 • Mean Holding Time對溢流機率之影響 • Active Ratio對淨收益誤差之影響 • Capacity對淨收益誤差之影響 • C1:C2比例對淨收益誤差之影響

  45. Mean Holding Time對溢流機率之影響 • 允入量是50之前，ACA會有準確度很高的溢流機率。 • 允入量超過50之後，誤差雖然大但因預測的溢流機率偏高將使ACA不容易允入過多的訊務，不至於造成負面的影響。

  46. Active Ratio對淨收益誤差之影響 • ACA在可以收到淨收益之時，Active Ratio高與低時ACA使用模型會有低淨收益誤差 • 在Active Ratio變化的情況下ACA使用模型的準確度高

  47. Capacity對淨收益誤差之影響 • 在ACA仍可收到淨收益之時，ACA可以在低Capacity時有較低的誤差。 • 在Capacity高時在最佳點之前會有較低淨收益誤差 • 在Capacity變化的情況下ACA使用模型的準確度高

  48. Capacity對最佳允入量上的淨收益誤差之影響 (1) • 在最佳允入點的淨收益，當變化capacity數值時，淨收益誤差的變化幅度比較小

  49. C1:C2比例變化對淨收益誤差之影響 • 淨收益為正值之前，隨者C2增加，最佳點之前誤差均很小

  50. 參數變化對模型準確度之影響對最佳超額允入比例誤差之影響參數變化對模型準確度之影響對最佳超額允入比例誤差之影響 • Active Ratio對最佳超額允入比例誤差之影響 • Capacity對最佳超額允入比例誤差之影響 • C1:C2比例對最佳超額允入比例誤差之影響

More Related