ارائه يك شتاب دهنده پوياي شبكه عصبي كانولوشني عميق با كارايي بالا بر پايه معماري قابل باز پيكربندي

كارشناسي ارشد

شبكه‌ي عصبي عميق يكي از متداول‌ترين روش‌هاي يادگيري ماشين است و در كاربردهاي بسياري مانند پردازش تصوير، پردازش متن، تحليل اقتصادي و پزشكي كاربرد دارد. اجراي شبكه¬هاي عصبي عميق نيازمند بستر پردازشي مناسب براي حل چالش‌هاي پردازشي و حافظه (ذخيره و انتقال حجم بالاي داده) هستند. پژوهش¬هاي اخير روش¬هايي براي پراكنده¬كردن وكاهش دقت داده¬ها در شبكه عصبي ارايه كرده¬اند. با استفاده از اين روش¬ها، شبكه عصبي تنك مي¬شود و احتمال تكرار داده¬ها افزايش مي¬يابد. اگرچه اين روش-ها، نظم محاسباتي را از بين مي¬برند و سربار حافظه دارند. پژوهش¬هاي پيشين براي استفاده از پتانسيل موجود و مديريت سربارها، مكانيزم¬هاي جريان داده و سخت¬افزار آگاه از پراكندگي و شباهت داده ارايه كرده¬اند. هرچند هيچ¬يك از اين روش¬ها همزمان از پراكندگي و اشتراك داده هم در وزن و هم در داده ورودي استفاده نكرده¬اند. در اين پژوهش، قصد داريم روشي براي مرحله استنتاج شبكه كانولوشني عميق ارايه كنيم، به¬گونه¬اي كه هم‌زمان از پتانسيل پراكندگي، كاهش دقت داده‌ها و شباهت ميان مقادير داده¬هاي شبكه (هم وزن و هم داده ورودي) بهره بگيرد. براي اين منظور، با بررسي شبكه، وزن¬هاي ورودي و داده¬هاي ورودي، از روش¬هاي كوآنتيزيشن براي وزن¬ها و ورودي¬ها استفاده مي¬كنيم. در ادامه وزن¬ها و داده¬هاي ورودي تكراري و صفر را شناسايي مي¬كنيم و براي كاهش بي¬نظمي، يك جريان داده معرفي مي¬كنيم. روش پيشنهادي، در سطح بالا قابليت انطباق با ساير شتاب‌دهنده‌ها را دارد. در انتها، يك معماري شتاب¬دهنده جديد براي اجراي جريان داده ارايه مي¬كنيم. ارزيابي معماري پيشنهادي بر روي چهار شبكه عصبي معروف نشان مي¬دهد كه روش پيشنهادي، ×18 كارايي بالاتر و ×83 انرژي مصرفي كمتري در مقايسه با شتاب‌دهنده Eyeriss، دارد. همچنين در مقايسه با شتاب‌دهنده‌هاي آگاه از پراكندگي و شباهت ، از لحاظ كارايي به ترتيب ×6/4 و ×5/4 برابر و از لحاظ كاهش انرژي مصرفي به ترتيب ×3 و ×8/5 برابر بهبود داريم.

196424

دانشگاه علم و صنعت ايران

مهندسي كامپيوتر-معماري سيستمهاي كامپيوتري

خانم دكتر هاجر فلاحتي