یک پیاده سازی موازی برای الگوریتم بقا

مهمترین محدودیت در تحقیقات مربوط به شبکه های عصبی، زمان بالای آموزش آنها می باشد. یک راه حل برای کاهش زمان آموزش، استفاده از نقاط توازی موجود در شبکه و مگاشت آن بر روی یک کامپیوتر موازی است. یکی از روشهای نگاشت، روش افراز نرون میباشد. در این روش داده های زیادی بین پردازشگر ها مبادله شده و پیچیدگی ارتباطی بالا میباشد. لذا زمان زیادی صرف مبادله اطلاعات شده و زمان آموش افزایش می یابد . هزینه ارتباطات متناسب با تعداد نرونهاست. اگر تعداد نرونها خحیلی کم باشد. با اینکه شبکه دارای هزینه ارتباطی پائینی خواهد بود ولی قادر به یادگیری مسئله نخواهدبود. از طرف دیگر شبکه های با تعداد بالای نرون، دچار Overfitting شده و قدرت تعمیم پائینی خواهد داشت علاوه بر این آموزش اینگونه شبکه ها مستلزم هزینه ارتباطی بالایی خواهد بوذد. لذا نیاز به الگوریتمهای داریم که بتوان تعداد بهینه نرونها را تعیین کرد. یکی از الگوریتمهای موجود، الگوریتم بقا نرون می باشد. در این مقاله یک الگوریتم موازی تحت عنوان الگوریتم بقا نرون موازی ارایه می گردد. با استفاده از الگوریتم پیشنهادی می توان هزینه ارتباطی بین پردازشگر ها را کاهش داده در نتیجه زمان آموزش را تقلیل داد. الگوریتم مذکور بر روی کاربرد بازشناسی واجهای فارسی اعمال شد. نتایج شبیه سازی ها نشان می دهد الگوریتم پیشنهادی از سرعت بالایی نسبت به روش افراز نرون برخوردار می باشد.

کلیدواژه ها:

شبکه های عصبی ، پردازش موازی ، اتوماتهای یادگیر ، هزینه ارتباطات ، یادگیری ساختار