بهبود پياده¬سازي شبكه¬¬هاي عصبي عميق روي FPGA، مبتني بر توسعه معماري Double MAC

كارشناسي ارشد

در سال¬هاي اخير، يادگيري ماشين و شبكه¬هاي عصبي بسياري از كاربردها از پزشكي و صنعت تا اقتصاد و امنيت را در بر مي¬گيرد. با پيشرفت در اين حوزه براي رسيدن به دقت بالاتر، شبكه¬ها عميق¬تر شده و تعداد پارامترها به طور قابل توجهي افزايش پيدا كرده¬اند؛ در نتيجه حجم محاسبات و پيچيدگي آن¬ها به خصوص در لايه¬هاي كانولوشني در شبكه¬هاي عصبي كانولوشني افزايش يافته است كه پياده¬سازي آن¬ها را چالش-برانگيزتر مي¬كند. از ميان بسترهايي مانند CPU، GPU، ASIC و FPGA براي پياده¬سازي در مرحله استنتاج شبكه¬هاي عصبي عميق، FPGAها با قابليت برنامه¬ريزي مجدد، امكان اعمال معماري¬هاي موازي، بهره¬وري انرژي و سفارشي¬سازي پياده¬سازي، شرايط بهتري دارد. با اين وجود براي اين كار چالش-هايي نيز وجود دارد كه مي¬توان به در نظر گرفتن عرض بيت محدودتر وزن¬هاي شبكه با توجه به محدوديت منابع و حافظه در دسترس، اشاره كرد كه مي¬تواند بر روي دقت خروجي نهايي شبكه تأثير بگذارد. معماري Double MAC يك شتاب¬دهنده مبتني بر FPGA است كه براي افزايش سرعت محاسبات در شبكه¬هاي عصبي كانولوشني معرفي شده است. در اين معماري با قرار دادن دو عمل MAC در يك بلوك DSP به صورت SIMD، دو خروجي به صورت هم¬زمان توليد و سرعت پردازش را دو برابر مي¬كند. اين پايان¬نامه بر بهبود دقت شبكه با تنظيم عرض بيت وزن¬ها با استفاده از معماري Double MAC تمركز دارد. در اين رويكرد، ورودي بلوك DSP اختصاص داده شده به وزن¬هاي شبكه، به طور كامل براي يك وزن از دو كانال فيلتر كانولوشن مجزا كه هر كدام از دقت 8 بيتي استفاده مي¬كنند، قرار داده مي¬شود و خروجي وزن دوم از خروجي DSP به¬دست مي¬آيد. سپس وزن¬ها به صورت دو به دو از نظر چهار شرط مقايسه مي¬شوند: برابري وزن¬ها، يك وزن قرينه ديگري، يك وزن دو برابر وزن ديگر و بالعكس. خروجي مربوط به وزن دوم نيز بسته به نياز از خروجي DSP، مكمل دو و يا خروجي شيفت يافته آن به دست مي¬آيد. اين ساختار با پياده¬سازي شبكه سبك¬وزن 0.5 MobileNet-160 با مجموعه داده ImageNet بر روي بورد FPGA مبتني بر Xilinx Vittex-6 ارزيابي شده است. نتايج نشان مي¬دهد كه با استفاده از 4 درصد حافظه و 15 درصد LUT (Look-Up table) و FF (Flip-Flop) بيشتر، دقت شبكه تا 5/7 درصد در مقايسه با ساختار استاندارد كه در آن همه ضرايب 8 بيتي هستند، بهبود يافته است

227391

دانشگاه اصفهان

مهندسي برق - سيستم هاي الكترونيك ديجيتال

محمد كاظمي ورنامخاستي