تقطير دانش بر روي شبكه هاي عصبي گرافي براي پيش بيني ترافيك

اصفهان : دانشگاه صنعتي اصفهان

كامپيوتر

كارشناسي ارشد

مسئله پيش‌بيني ترافيك، از نظر ارائه راه‌حل‌هايي در جهت كاهش زمان حمل و نقل، مورد توجه فراوان قرار گرفته است. براي وابستگي شرايط ترافيك به زمان، نياز به روشي داريم كه در كوتاه‌ترين زمان ممكن قادر به پيش‌بيني ترافيك باشد. داده‌هاي ترافيكي را مي‌توان به صورت گراف‌هايي در واحد زمان مدل كرد. در اين پايان‌نامه، ما دو راهكار در جهت بهبود زمان اجراي شبكه‌هاي عصبي گرافي براي پيش‌بيني ترافيك مطرح مي‌كنيم. در ابتدا با استفاده از تقطير دانش كه هدف آن كاهش زمان اجراي شبكه‌هاي عصبي است، تابع هزينه‌اي معرفي مي‌كنيم كه بتواند با استفاده از داده‌هاي تقطير شده از يك شبكه پيچيده، شبكه‌اي با تعداد پارامتر كمتر را به نحوي آموزش دهد كه دقت آن نزديك به شبكهٔ پيچيده باقي بماند. در ادامه الگوريتمي معرفي مي‌كنيم كه با استفاده از اين تابع هزينه، بتواند علاوه بر هرس و حذف نورون‌هاي كم اهميت در يك شبكه پيچيده (معلم)، بطور همزمان شبكه‌اي را بدست آورد كه با استفاده از داده‌هاي تقطير شده از شبكهٔ معلم، به نحوي آموزش داده‌شود كه دقت شبكه هرس‌شده (دانش‌آموز) نزديك به دقت شبكهٔ معلم باقي بماند و در اين حال تعداد پارامترهاي آن بسيار كمتر است. دو راهكار مطرح شده مزاياي زير را نسبت به روش‌هاي قبلي دارد. رويكردي جديد در آموزش شبكه دانش‌آموز با استفاده از تقطير همبستگي‌هاي فضايي-زماني از شبكه معلم در جهت يادگيري الگوهاي پيچيده فضايي و زماني درك شده توسط شبكه معلم. تشخيص داده‌هاي پرت در مجموعه داده‌آموزشي و جايگزيني آنها با پيش‌بيني شبكه معلم. الگوريتم هرسي كه از يك سو به تعيين ساختار شبكهٔ دانش‌آموز با روش حذف نورون‌هاي كم اهميت شبكهٔ معلم مي‌پردازد و از سوي ديگر، بطور همزمان شبكهٔ حاصل از هر مرحله هرس را با استفاده از تقطير دانش آموزش دهد. در انتها تابع هزينه و الگوريتم پيشنهادي خود را بر روي دو مجموعه داده PeMSD7 و PeMSD8 آزمايش مي‌كنيم. نتايج نشان مي‌دهند كه هر كدام از اين دو راهكار, نسبت به روش هاي قبلي در زمينه مرتبط بهبود داشته اند.

225988

هوش مصنوعي

مهندسي برق و كامپيوتر

دانشگاه صنعتي اصفهان