استفاده از انرژی آزاد در روش واگرایی متقابل پایدار برای یادگیری شبکههای باور عمیق

سال انتشار: 1392
نوع سند: مقاله کنفرانسی
زبان: فارسی
مشاهده: 1,131

فایل این مقاله در 6 صفحه با فرمت PDF قابل دریافت می باشد

استخراج به نرم افزارهای پژوهشی:

لینک ثابت به این مقاله:

شناسه ملی سند علمی:

ICS12_122

تاریخ نمایه سازی: 11 مرداد 1393

چکیده مقاله:

امروزه استفاده از معماریهای عمیق در یادگیری و تشخیص الگو بسیار متداول شده است. یکی از روشهای معمول در معماریهای عمیق شبکههای باور عمیق است که در آن با استفاده از ترکیب چندین ماشین بولتزمن محدود، یک مدل قدرتمند مولد از داده هایآموزشی را میسازد. در این مقاله سعی شده تا با بهبود یکی از روشهای یادگیری این نوع از شبکهها، نتایج بهتری را نسبت به رویکردهای قبلی بدست آوریم. روش جدید به نامFEPCD سعی میکند تا به کمک مقدار انرژی آزاد، نمونه های بهتری را برای محاسبه گرادیان لگاریتم احتمال داده آموزشی، بدست آورد. بر اساس نتایج بدست آمده در این روش، می توان در دادگان ارقام دستنویسMNIST به خطایی به اندازه 70.1 % رسید که این مقدار از نتای موجود در مرجع اصلی شبکههای باورعمیق با1.25% خطاوازروشهای معمول دسته بندی مثلsVM با 1.4درصدخطا دارای دقت بالاتری است

نویسندگان

محمدعلی کیوان راد

دانشجوی دکترا، دانشکده کامپیوتر و فناوری اطلاعات، دانشگاه صنعتی امیرکبیر ، تهران،

محمدمهدی همایونپور

دانشیار ، دانشکده کامپیوتر و فناوری اطلاعات، دانشگاه صنعتی امیرکبیر ، تهران،

مراجع و منابع این مقاله:

لیست زیر مراجع و منابع استفاده شده در این مقاله را نمایش می دهد. این مراجع به صورت کاملا ماشینی و بر اساس هوش مصنوعی استخراج شده اند و لذا ممکن است دارای اشکالاتی باشند که به مرور زمان دقت استخراج این محتوا افزایش می یابد. مراجعی که مقالات مربوط به آنها در سیویلیکا نمایه شده و پیدا شده اند، به خود مقاله لینک شده اند :
  • http:/yann. lecun. com/exdb/mم ist, 1998. ...
  • Y. Liu, S. Zhou, and Q. Chen, "Discriminative deep belief ...
  • H. Lee, C. Ekanadham, and A. Ng, "Sparse deep belief ...
  • G. E. Hinton and R R. Salakhutdinov, "Reducing the dimensionality ...
  • G. E. Hinton, S. Osindero, and Y.-W. Teh, :A Fast ...
  • H. Lee, Y. Largman, P. Pham, and A. Y. Ng, ...
  • O. Vinyals and S. V. Ravuri, "Comparing mulilayer perceptron to ...
  • A. Mohamed, G. Dahl, and G. Hinton, "Deep belief networks ...
  • P. Hamel and D Eck, "Learning features from music audio ...
  • K. Swersky, B. Chen, B. Marlin, and N. de Freitas, ...
  • C. M. Bishop, Pattern Recognition and Machine Learning, 1st ed. ...
  • M. A. C arreira-P erpinan and G. _ Hinton, :On ...
  • T. Tieleman and G. Hinton, "Using fast weights to improve ...
  • O. Breuleux, Y. Bengio, and P. Vincent, "Quickly Generating Representative ...
  • T. Tieleman, "Training restricted Boltzmann machines using approximations to the ...
  • Y. Bengio, A. Courville, and P. Vincent, "Unsupervised Feature Learning ...
  • G. Hinton, "A practical guide to training restricted boltzmann machines, ...
  • Y. LeCun and , Cortes, "MNIST handwritten digit Available: ...
  • V. Nair, "Visual Object Recognition Using Generative Models of Images, ...
  • R. Salakhutdinov, _ Mnih, and G. Hinton, :Restricted Boltzmann machines ...
  • نمایش کامل مراجع