ایجاد مکانیزم نرمال سازی متن با استفاده از معماری شبکه های عصبی تقویت حافظه

در این مقاله ما نرمال سازی متن را انجام می دهیم، یعنی تبدیل کلمات از نوشته شده به شکل گفتاری، با استفاده از یک شبکه عصبی تقویت حافظه. با افزودن دسترسی به حافظه پویا و مکانیزم ذخیره سازی، ما یک معماری عصبی را ارائه می دهیم که به عنوان یک سیستم نرمال سازی متن زبان، در حالی که اجتناب از نوع خطاهای غیر قابل قبول ساخته شده توسط شبکه های عصبی مجدد مبتنی بر LSTM ارائه می شود. با موفقیت کاهش این اشتباهات، ما نشان می دهیم که این معماری جدید در واقع یک جایگزین بهتر است. سیستم پیشنهادی ما به مقدار قابل توجهی از اطلاعات، زمان آموزش و محاسبه منابع نیاز دارد. علاوه بر این، ما با انجام نمونه برداری از داده ها، دور زدن مشکل کمبود داده در بعضی از کلاس های نشانه شناسانه، نشان می دهد که نمونه های کافی در هر کلاس خاص می تواند عملکرد سیستم نرمال سازی متن ما را بهبود بخشد. اگرچه چندین رخداد این خطاها در کلاسهای معانی خاص همچنان باقی میمانند، ما نشان میدهیم که شبکه های تقویت حافظه با قابلیت فراشناخت میتوانند دربهای زیادی را برای یک سیستم عادی سازی متن باز باز کنند.

کلیدواژه ها:

نرمال سازی متن ، محاسبات عصبی تعریف شده ، یادگیری عمیق