دوره 10، شماره 1 - ( 6-1392 )                   جلد 10 شماره 1 صفحات 26-13 | برگشت به فهرست نسخه ها

XML English Abstract Print


Download citation:
BibTeX | RIS | EndNote | Medlars | ProCite | Reference Manager | RefWorks
Send citation to:

New fast pre training method for deep neural network learning . JSDP. 2013; 10 (1) :26-13
URL: http://jsdp.rcisp.ac.ir/article-1-112-fa.html
سیدصالحی سیده زهره، سیدصالحی سید علی. روش پیش‌تعلیم سریع بر مبنای کمینه‌سازی خطا برای همگرائی یادگیری شبکه‌های‌ عصبی با ساختار عمیق . پردازش علائم و داده‌ها. 1392; 10 (1) :26-13

URL: http://jsdp.rcisp.ac.ir/article-1-112-fa.html


دانشجوی دکتری
چکیده:   (7564 مشاهده)

در این مقاله با توسعه روش‌های موجود و بر مبنای کمینه‌سازی خطا و حفظ تمایز بیشینه مابین نمونه‌ها یک روش پیش‌تعلیم لایه‌به‌لایه سریع و کارا جهت مقداردهی اولیه مناسب وزن‌ها در شبکه‌های عصبی با ساختارهای عمیق ارائه شده است. تعلیم شبکه‌های عصبی عمیق به‌دلیل مواجه با تعداد بالای کمینه‌های موضعی اغلب همگرا نمی‌گردد. درحالیکه با مقداردهی اولیه مناسب وزن‌های شبکه به‌جای مقادیر تصادفی در ابتدای مسیر تعلیم، می‌توان از بسیاری از کمینه‌های موضعی اجتناب نمود. در این روش شبکه عصبی چند لایه به تعداد متناظری شبکه با یک لایه پنهان شکسته می‌شود و ابتدا این شبکه‌های تک لایه تعلیم داده می‌شوند. سپس مقادیر وزن حاصل از تعلیم اینها در شبکه عصبی اصلی قرار داده می‌شود و برای تنظیم دقیق وزن‌ها، تعلیم یکپارچه صورت می‌گیرد. روش پیشنهادی برای پیش‌تعلیم شبکه عصبی خودانجمنی 5 لایه پنهان جهت استخراج مؤلفه‌های اساسی غیرخطی چهره برای دادگان بسفروس مورد استفاده قرار گرفت. مقایسه میانگین نتایج شبکه‌های‌ عصبی با مقداردهی اولیه تصادفی و مقداردهی با روش پیش‌تعلیم لایه‌به‌لایه نشان می‌دهد که این روش پیش‌تعلیم علاوه بر اینکه سرعت همگرائی تعلیم را بهبود می‌دهد، قدرت تعمیم شبکه را نیز بالا می‌برد. به‌گونه‌ایکه با وجود خطای تعلیم یکسان، با بکارگیری روش پیش‌تعلیم لایه‌به‌لایه برای مقداردهی اولیه وزن‌ها، خطای بازسازی هر پیکسل %69/13 کاهش و درصد صحت بازشناسی تصاویر با استفاده از مؤلفه‌های استخراج شده حدود %10 رشد داشته است. 

متن کامل [PDF 2866 kb]   (1216 دریافت)    
نوع مطالعه: پژوهشي | موضوع مقاله: مقالات گروه علائم حیاتی ( مرتبط با مهندسی پزشکی)
دریافت: ۱۳۹۲/۳/۱۸ | پذیرش: ۱۳۹۲/۵/۲۲ | انتشار: ۱۳۹۲/۹/۱۲ | انتشار الکترونیک: ۱۳۹۲/۹/۱۲

ارسال نظر درباره این مقاله : نام کاربری یا پست الکترونیک شما:
کد امنیتی را در کادر بنویسید

ارسال پیام به نویسنده مسئول


کلیه حقوق این وب سایت متعلق به فصل‌نامة علمی - پژوهشی پردازش علائم و داده‌ها می باشد.