یک روش جدید مبتنی بر شاخصه های آماری توزیع، برای تنظیم خودکار نرخ یادگیری در آتاماتای یادگیر

یکی از مسائل مطرح در طراحی سیستم های یادگیر نظیر آتاماتای یادگیر، تعیین نرخ یادگیری است. در بیشتر موارد از یک الگوریتم کاهش یابنده در طول زمان برای تنظیم نرخ یادگیری استفاده می شود تا به مرور زمان سیستم مورد آموزش به پایداری برسد. به این ترتیب نرخ یادگیری، پارامتری است که مشخص می کند یک سیستم یادگیری تا چه حد به تجربیات گذشته متکی، و به چه میزان از رویدادهای فعلی اثر پذیر باشد. این روش کارآمد است اما در محیطهای پویا عملکرد درستی ندارد. در این مقاله روشی جدید برای تنظیم نرخ یادگیری در آتاماتای یادگیر پیشنهاد شده است. این روش جدید علاوه بر طول مدت یادگیری، از معیارهای آماری میانگین و واریانس توزیع فعلی به دست آمده برای بردار احتمالات اقدام های آتاماتا به منظور تعیین افزایش یا کاهش نرخ یادگیری استفاده کرده و بر خلاف روش های موجود، در طول فرآیند یادگیری هم افزایش و هم کاهش مقدار نرخ یادگیری را انجام داده و نسبت به تغییرات محیط واکنش مناسب نشان می دهد. بررسی عملکرد الگوریتم در محیط های پویای تصادفی نشان می دهد الگوریتم جدید ضمن انعطاف پذیری بیشتر در انطباق با محیطهای پویا، از نقاط بیشینه محلی فرار کرده و مقادیر یادگرفته شده به مقادیر حقیقی نزدیک تر هستند.

کلیدواژه ها:

آتاماتای یادگیر ، نرخ یادگیری پویا ، تنظیم نرخ یادگیری ، میانگین ، واریانس ، شاخصه های آماری ، محیط تصادفی پویا