بهبود كارايي يادگيري عميق ويژگي‌ها

دكتري تخصصي

در سال‌هاي اخير مدل‌هاي عميق نقش مهمي در توسعه كاربردهاي هوش مصنوعي مخصوصاً در حوزه‌هاي پردازش گفتار، پردازش زبان‌هاي طبيعي و بينايي ماشين داشته‌اند. شبكه‌هاي همگشتي عميق يكي از مدل‌هاي عميق هستند كه در بينايي ماشين نتايج درخشاني ارائه داده‌اند. با اين وجود به‌دليل تعداد زياد پارامترها، محققين با چالش‌هايي از قبيل كاهش حجم محاسبات، كاهش حافظه مصرفي، كاهش مدت فرآيند يادگيري، افزايش دقت عملكرد و تمايل شديد به بيش‌برازش مواجه بوده‌اند. در اين رساله با هدف بهبود چالش‌هاي مذكور، دو شبكه همگشتي مجزا به‌منظور رده‌بندي مجموعه داده‌هاي MNIST، CIFAR-10 و CIFAR-100 پيشنهاد شده است. معماري دو شبكه همگشتي مبتني بر شبكه‌هاي باقي‌مانده و ادراكي طراحي شده و با بهره‌گيري از اصول بنيادين حاكم بر شبكه‌هاي همگشتي، ميزان افزونگي تقليل داده شده است. در مدل پيشنهادي اول، با به‌كارگيري ازدياد تصادفي داده‌هاي ورودي و ادغام تصادفي، تعميم‌پذيري تقويت شده است و با تحميل تعامد نقشه‌ويژگي‌ها در تابع هزينه مدل، ميزان استقلال دو‌به‌دوي نقشه ويژگي‌هاي تقويت شده و به تبع آن افزونگي رايج در آنها كاهش داده شده است. در مدل پيشنهادي دوم، با اعمال حذف تصادفي در نقشه ويژگي‌ها، تعميم‌پذيري تقويت شده است و با تحميل تُنُكي عمقي بر نقشه ‌ويژگي‌ها، با ايجاد بازنمايي توزيع‌شده، تفسيرپذيري و كارايي بازنمايي ساخته شده بهبود داده شده است. در فرآيند آموزش، با به‌كارگيري يك نرخ يادگيري نمايي پريوديك، تنها با صرف زماني در حدود آموزش يك مدل همگشتي، يك ماشين تركيبي متشكل از معماري واحد اما با پارامترهاي متفاوت ساخته شده است. به‌منظور ارزيابي مدل‌ها و صحت عملكرد روش‌هاي پيشنهادي، از تحليل حجم محاسبات، تحليل حافظه مصرفي، تحليل خطا، نمودار پراكندگي و دقت رده‌بندي استفاده شده است. دقت‌هاي بدست آمده در نتيجه به‌كارگيري ايده‌هاي پيشنهادي، 77/99، 98/93 و 12/80 هستند كه به ترتيب براي مجموعه داده‌هاي MNIST ، CIFAR-10 و CIFAR-100 حاصل شده‌اند.

192871

دانشگاه علم و صنعت ايران

دكتر بهروز مينايي

هوش مصنوعي

دكتر رضا برنگي