Evolving Artificial Neural Networks

1. Evolving Artificial Neural Networks Dr. Sheykh esmaili G5: Shadi Mahmoudi Donya Eliassy Golale Azizi G5 Evolving Artifitial Neural Networks

2. فهرست مطالب مقدمه‏ای بر شبکه‏های عصبی مقدمه‏ای بر الگوریتم‏های تکاملی تکامل شبکه‏های عصبی مصنوعی آموزش وزن‏ها طراحی معماری آموزش و طراحی معماری شبکه‏های عصبی آموزش قوانین یادگیری G5 Evolving Artifitial Neural Networks

3. شمای کلی از شبکه های عصبی تکاملی G5 Evolving Artifitial Neural Networks

4. ANNها: معماری یک ANNشامل مجموعه ای از Elementهای در حال پردازش (نرون) است که به عنوان یک گراف متصل تفسیر می شود که هر نود (نرون) i یک تابع انتقال fiرا دربر دارد. ANNها به کلاس های انتشار روبه جلو و بازگشتی مطابق اتصالشان تقسیم می شوند. یادگیری در ANNها یادگیری در ANNها به طور معمولی با استفاده از مثالهای آموزشی (training) صورت می گیرد، چون با سازگار کردن وزن های ارتباطی در شبکه های تکراری حاصل می شود. یادگیری در ANNها به سه دسته تقسیم می شود: یادگیری با ناظر (supervised learning) یادگیری بدون ناظر (unsupervised learning) یادگیری تقویتی (reinforcement learning) G5 Evolving Artifitial Neural Networks

5. EAها: کلاسی از الگوریتم های جستجوی اتفاقی بر پایه جمعیت است که از ایده ها و قوانین تکامل طبیعی الهام گرفته است که شامل استراتژی های برنامه نویسی تکاملی(EP) و الگوریتم ژنتیک(GA) اند. Frameworkعمومی EAها: • مقداردهی جمعیت اولیه به صورت رندم • هر فرد در داخل جمعیت ارزیابی می شود و بر اساس Fitnessاز جمعیت اولیه چند والد برگزیده می شود • اپراتورهای جستجو را به والدین اعمال می کنیم و تعدادی فرزند برای نسل بعد تولید می کنیم. G5 Evolving Artifitial Neural Networks

6. EANNها: نوع خاصی از کلاس شبکه های عصبی مصنوعی (ANN) است که در آن تکامل یک فاکتور حیاتی دیگری از یادگیری است. تکامل در EANNها در سه مرحله مجزا صورت می گیرد: تکامل وزن های ارتباطی – پیدا کردن نزدیکترین ترتیب بهینه برای مجموعه وزنهای ارتباطی تکامل معماری – رویکردی جهت طراحی ANNهای اتوماتیک با توپولوژی های پویا تکامل قوانین یادگیری – طراحی فرآیند آموزش برای یادگیری از طریق تکامل یک برتری قابل توجه از EANNها سازگاری آنها در محیط های پویاست. G5 Evolving Artifitial Neural Networks

7. تکامل وزن های ارتباطی Weight trainingدر ANNها معمولا با مینیمم سازی تابع خطا فرموله می شود. بیشتر الگوریتم های یادگیری بر پایه تقریب گرادیان کار می کنند. نقطه ضعف های استفاده از تقریب گرادیان • عدم پیداکردن مینیمم های سراسری در تابع خطاهای چندمدله (گیر کردن در بهینه های محلی) • عدم قابلیت الگوریتم‏های مبتنی بر گرادیان در سطوح مشتق ناپذیر • هزینه بر بودن محاسبه اطلاعات گرادیان در بعضی مسائل راه حل: استفاده از الگوریتم‏ها‏ی تکاملی الگوریتم‏ها‏ی تکاملی به صورت عمومی جستجو می‏کند و بدون نیاز به اطلاعات گرادیان، مجموعه‏ی جواب‏های نزدیک بهینه را پیدا می‏کند. G5 Evolving Artifitial Neural Networks

8. تکامل وزن های ارتباطی رویکرد تکامل وزن ها در ANNها شامل دو حوزه اصلی است: • تصمیم گیری در مورد شیوه نمایش وزن های اتصالی • تصمیم گیری در مورد اپراتورهای جستجو مثل mutationوcrossover در EAها • نمایش ژنوتایپ دودویی مثال: اختصاص 4بیت برای هر وزن یک ANNبا اتصال تمام وزن های ارتباطی شبکه در داخل کرومزوم رمزنگاری می شود. بررسی trade-offبین دقت نمایش و طول کرومزوم G5 Evolving Artifitial Neural Networks

9. تکاملوزن های ارتباطی • نمایش ژنوتایپ عدد حقیقی • مثال: اختصاص یک عدد حقیقی به هر وزن • یکی از مشکلات تکامل فرآیند یادگیری در ANNها مساله جایگشت است، هر جایگشت از نرون های داخلی می تواند عملکرد معادل با شبکه ای باشد که شیوه نمایش کرومزوم آن متفاوت است. • اعمال اپراتور crossoverدر استنتاج وزن های اتصالی نامناسب است چون نمونه های خوب شناخته شده در طول تکامل را از بین می برد. G5 Evolving Artifitial Neural Networks

10. مقایسه بین یادگیری تکاملی و یادگیری بر پایه گرادیان • جذابیت آموزش تکاملی این است که الگوریتم‏های تکاملی می‏تواند در سطوح پیچیده، چند بعدی و مشتق‏ناپذیر جستجو کند. اما یادگیری تکاملی برای برخی از مسائل در مقایسه با BPمی تواند کند باشد. • نتیجه‏گیری کلی این است که کارایی و سرعت این الگوریتم‏ها به کاربرد موردنظر بستگی دارد. Hybrid training • الگوریتم تکاملی ناحیه جواب‏های خوب را پیدا می‏کند. سپس این ناحیه با دقت بیشتری توسط یک الگوریتم جستجوی محلی برای پیدا کردن نقطه بهینه مورد جستجو قرار می‏گیرد. (ترکیب الگوریتم‏های تکاملی با الگوریتم‏های یادگیری) • برای مثال اصلاح فنوتایپ (یادگیری شبکه عصبی) می‏تواند باعث اصلاح ژنوتایپ (ماتریس وزن‏ها با BP) و همچنین تغییر برازندگی فرد در جامعه شود. G5 Evolving Artifitial Neural Networks

11. تکامل معماری شبکه عصبی • تاثیر معماری شبکه عصبی بر توانایی یادگیری و تعمیم شبکه • روش‏های مرسوم طراحی معماری توسط فرد خبره وابسته به تجربه و دانش فرد خبره فرایند تصحیح و خطا خسته کننده • طراحی معماری با الگوریتم های سازنده-مخرب مستعد افتادن در دام نقاط بهینه محلی عدم پوشش همه معماری ها و تمرکز بر دسته خاصی از آنها G5 Evolving Artifitial Neural Networks

12. تکامل معماری شبکه عصبی • الگوریتم‏های تکاملی • سطح جستجو بی نهایت بزرگ • سطح غیر قابل مشتق گیری است • سطح گول‏زننده است • سطح چند بعدی است • تکامل معماری • تکامل توپولوژی • تکامل انتقال توابع G5 Evolving Artifitial Neural Networks

13. تکامل معماری شبکه عصبی • نمایش مستقیم • کد گذاری تمام جزییات معماری در شبکه • ماتریس مجاورت معماری پیش خور G5 Evolving Artifitial Neural Networks

14. تکامل معماری شبکه عصبی • ماتریس مجاورت معماری پس خور G5 Evolving Artifitial Neural Networks

15. تکامل معماری شبکه عصبی • مزایای روش مستقیم • پیاده سازی ساده • قابلیت بدست آوردن شبکه عصبی فشرده • قابلیت محاسبه برازندگی • معایب روش مستقیم • طول کروموزوم • استفاده از دانش مسئله G5 Evolving Artifitial Neural Networks

16. تکامل معماری شبکه عصبی • مسئله جایگشت G5 Evolving Artifitial Neural Networks

17. تکامل معماری شبکه عصبی • نمایش غیر مستقیم • مشخصات خاصی از معماری کد می شود • نمایش فشرده • نمایش پارامتری • تعداد نرون‏های هر لایه • تعداد یال‏های بین لایه‏ها • الگوی ارتباط • تعداد لایه ها • معایب • زیر مجموعه ای از معماری را جست و جو می کند • معماری خاص G5 Evolving Artifitial Neural Networks

18. تکامل معماری شبکه عصبی • نمایش قواعد گرامری • تفاوت آن با روشپارامتری G5 Evolving Artifitial Neural Networks

19. تکامل معماری شبکه عصبی • معایب روش قواعد توسعه • مشخص بودن تعداد گامها • عدم استفاده از قواعد بازگشتی • روش قواعد توسعه تکامل معماری را از تکامل وزنها کاملا جدا می کند G5 Evolving Artifitial Neural Networks

20. تکامل معماری شبکه عصبی • تفاوت اصلی روش مستقیم با روش غیر مستقیم • معماری اولیه • دیگر بازنماییها • هر لایه مخفی = یک فرد در جامعه • محدودیت ها • فقط در شبکه های پیشرو کاربرد دارد • وجود نودهایی مخفی با قابلیت یکسان G5 Evolving Artifitial Neural Networks

21. تکامل معماری شبکه عصبی • تکامل توابع انتقال • تکامل نسبت تابع سیگموید و گوسین • استفاده از برنامه نویسی تکاملی برای تکامل شبکه هایی با نودهای سیگمویدی و گوسین G5 Evolving Artifitial Neural Networks

22. تکامل همزمان معماری ووزن های اتصالی • مشکل تکامل معماری بدون وزن های اتصالی: ارزیابی نویزی fitness • دوشبکه عصبی بامعماری یکسان ممکن است fitnessمتفاوت داشته باشند. • منابع اصلی نویز: • مقداردهی تصادفی وزن ها • الگوریتم های آموزشی • راه حل : گنجاندن اوزان شبکه عصبی همراه بامعماری آن درکروموزوم G5 Evolving Artifitial Neural Networks

23. تکامل همزمان معماری ووزن های اتصالی • انتخاب عملگرجستجودرEAبرای تکامل ANN. • استفاده ازcrossoverمتناقض با ایده اصلی ANNاست. • علت: عدم وجود building block(واحدسازنده) به دلیل نمایش توزیعی دانش درANN. • اگرANNازنمایش محلی مانندشبکه های RBFاستفاده کند: crossoverیک عملگربسیارمفیداست. G5 Evolving Artifitial Neural Networks

24. تکامل همزمان معماری ووزن های اتصالی (EPNet) G5 Evolving Artifitial Neural Networks

25. تکامل قوانین یادگیری • طراحی قوانین یادگیری به نوع معماری بستگی دارد. • آنچه ازیک ANNانتظار می رود: توانایی اش برای تنظیم قوانین یادگیری برطبق معماری و وظیفه ای است که باید انجام دهد. • یک ANNباید قوانین یادگیری اش را به صورت پویا یادبگیرد. زیرا قوانین تازه استخراج شده می تواند بامحیط های پیچیده وپویا تعامل داشته باشد. G5 Evolving Artifitial Neural Networks

26. شبه کدتکامل قوانین یادگیری • هرفرددرنسل فعلی رابه یک قانون یادگیری دیکد می کنیم. • یک مجموعه ازشبکه های عصبی بامعماری هایی که به صورت تصادفی تولیدشده و وزن های اتصالی اولیه ایجاد می کنیم، وآنهارا بااین قانون یادگیری دیکدشده آموزش می دهیم. • Fitness هرفرد (قانون یادگیری) رابرطبق میانگین نتایج آموزشی محاسبه می کنیم. • والدین راازنسل فعلی برطبق fitnessشان انتخاب می کنیم. • عملگرهای جستجورابه والدین برای تولید فرزندان که نسل جدید راشکل میدهند، اعمال می کنیم. G5 Evolving Artifitial Neural Networks

27. تکاملقوانین یادگیری • برخلاف تکامل وزن های اتصالی ومعماری، تکامل قوانین یادگیری باید روی رفتار پویای ANNکارکند. • مسئله کلیدی:چگونه رفتارپویای یک قانون یادگیری رادریک کروموزوم استاتیک انکد کنیم؟! • اعمال محدودیت روی نوع رفتارهای پویا :استخراج فرم اصلی قوانین یادگیری. G5 Evolving Artifitial Neural Networks

28. تکامل قوانین یادگیری • فرم اصلی قانون یادگیری: • t: زمان • Δw: تغییروزن • x1,x2,…,xn: متغیرهای محلی • Θ: ضرایب بامقادیرحقیقی • سه مسئله اصلی: • تعیین زیرمجموعه عبارات • نمایش ضرایب بامقادیرحقیقی به عنوان کروموزوم • EAکه برای استنتاج این کروموزوم هااستفاده میشود. G5 Evolving Artifitial Neural Networks

29. تکامل قوانین یادگیری • Baxterبرای تکامل کل ANN(شامل وزن های اتصالی،معماری،قوانین یادگیری) تلاش کرد. • اعمال محدودیت روی تمامی قسمت هابرای جلوگیری ازبزرگ شدن فضای جستجوی ANN: • ANNبانودهای آستانه دودویی وزن ها تنها +1یا -1می شود. • تعدادنودها در ANNثابت است. • قانون یادگیری تنهادومتغییربولی دارد. G5 Evolving Artifitial Neural Networks

30. ترکیب های دیگر:تکامل ویژگی های ورودی • برای مسائل عملی ورودی های ANNمی تواندبسیاربزرگ باشد یا تکرار زیادی بین ورودی های مختلف وجودداشته باشد. • تعدادزیاد ورودی به یک ANN: • سایزش راافزایش میدهد. • به داده های آموزشی بیشتر • وزمان آموزش طولانی تری نیازدارد تابه یک قدرت تعمیم منطقی دست یابد. • راه حل: پیش پردازش داده ها G5 Evolving Artifitial Neural Networks

31. ترکیب های دیگر:تکامل ویژگی های ورودی • EA: جستجوی مجموعه بهینه ازویژگی های ورودی به یک ANN • درتکامل ویژگی های ورودی، هرفرد درجمعیت یک زیرمجموعه ازتمام ورودی های ممکن رانشان می دهد. • استفاده ازیک کروموزوم باینری برای نمایش هرفرد که طولش برابرتعدادکل ویژگی هاست. • ارزیابی هرفرد: آموزش یک ANNبااین ورودی ها واستفاده ازنتایج برای محاسبه مقدارfitness. G5 Evolving Artifitial Neural Networks

32. نتیجه گیری: یک چارچوب کلی برای EANN ها • ازدیدگاه مهندسی،تصمیم گیری روی سطح تکامل به این بستگی داردکه چه نوعی ازدانش قبلی موجودباشد. • بهینه سازی قوانین یادگیری زمانی بامعنی تراست که دریک محیط شامل معماری ارزیابی شود. G5 Evolving Artifitial Neural Networks

33. Thank you... G5 Evolving Artifitial Neural Networks