X
تبلیغات
رایتل

Iris Recognition

معرفی مقاله A Novel Ant Colony Algorithm for Building Neural Network

عنوان

A Novel Ant Colony Algorithm for Building Neural Network Topologies

یک الگوریتم جدید کلونی مورچه برای ایجاد توپولوژی های شبکه عصبی

نویسندگان :  خالد سالما و اشرف ام. عبدالبار

چکیده

یک چالش تکراری در استفاده از شبکه های عصبی با انتقال تغذیه به یک مجموعه داده جدید برای تنظیم به صورت دستی در توپولوژی شبکه های عصبی مورد نیاز است. اگر توجه فرد به طور کامل به سه لایه شبکه متصل محدود شود، پس تنها نیازی وجود دارد که به صورت دستی تعداد نرون ها را در لایه مخفی واحد تنظیم می کند. در این مقاله، ما یک الگوریتم جدید بهینه سازی کلونی مورچه (ACO) را نمایش می دهیم که توپولوژی شبکه عصبی را برای یک مجموعه داده معین بهینه سازی می کند. الگوریتم ما به شبکه های سه لایه ای محدود نمی شود، و می تواند توپولوژی هایی را تولید کند که شامل چندین لایه مخفی می شوند، و توپولوژی هایی که اتصال کامل بین لایه های متوالی ندارند. الگوریتم ما از انتشار خطای بازگشتی (BP) بعنوان یک زیرزوال استفاده می کند، اما ان ممکن نیست، به طور کلی، از هر الگوریتم یادگیری شبکه عصبی بجای روش ACO استفاده می کنیم. ما بیان می کنیم که تمام عناصر لازم است که چهت حل مسئله یادیگیری ما با استفاده از ACO عمل کنند، و به صورت تجربی عملکرد طبقه بندی توپولوژی های بهینه با استفاده از الگوریتم ACO با توپولوژی شبکه سه لایه کاملا متصل استاندارد در ادبیات، مقایسه می کنیم. 

 
 طبقه بندی الگویی، یک مشکل ضروری دنیای واقعی است، که با پیش بینی کلاس یک الگوی معلوم براساس ویژگی های ورودی آن ، با استفاده از یک مدل طبقه بندی ساختاری، محدود می شود. روند طبقه بندی شامل دو مرحله می شود. این مرحله آموزشی از یک مجموعه از الگوهای برچشب گذاری شده استفاده می کند، که یک مجموعه از الگوهایی است که با برچسب های کلاسی صحیح آنها همراه هستند، که باید به اندازه کافی نشان دهنده حوزه موردعلاقه باشد. یک الگوریتم طبقه بندی از مجموعه آموزشی برای ایجاد یک مدل داخلی از ارتباطات بین صفات الگوهای وروید و برچسب های کلاسی مرتبط آنها استفاده می کند. پس، در طول مرحله عملیاتی متوالی، طبقه بندی کننده از مدل داخلی آن استفاده می کند تا کلاس الگوهای برچسب گذاری نشده را استفاده کند که با مرحله آموزشی نشان داده نمی شود. یکی از روشهایی که به صورت گسترده مورد مطالعه قرار گرفته است و استفاده شده است برای طبقه بندی الگوی شبکه های عصبی مصنوعی (ANN) هستند، که از یک مدل داخلی متشکل از یک بردار مدلی از وزن های با مقدار حقیقی استفاده می کنند که با ارتباطات درون عصبی مرتبط می شود، همانطور که در بخش 2.1 بیان شد.

معمولترین توپولوژی شبکه عصبی مورداستفاده، یک توپولوژی سه لایه است، که شامل یک لایه ورودی، یک لایه پنهان واحد، و یک لایه خروجی، با اتصال کامل بین لایه ها است. اندازه لایه های ورودی و خروجی با استفاده از مشخصه های مجموعه داده تعیین می شوند، در حالی که تعداد نورون ها در لایه مخفی اغلب به صورت دستی توسط پزشکان تعیین می شود. 

شبکه های عصبی feed-forward (FFNN) به طور کلی بعنوان یکی از روشهای گسترده برای طبقه بندی الگویی استفاده می شوند. معمولترین توپولوژی FFNN، یک توپولوژی سه لایه است که در آن نورون ها در یک لایه ورودی، یک لایه مخفی، و یک لایه خروجی مرتب می شوند. معمولاً، اتصالاتی بین هر نورن در یک لایه با تمام نورون ها در لایه نتیجه وجود دارد. هر نورون i، یک مدار ساده ترکیبی است که r ورودی o1,o2,….or را قبول می کند، و یک خروجی oi را تولید می کند

بهینه سازی کلونی مورچه، یک فرا ابتکار برای حل مسائل بهینه سازی ترکیبی است، با الهام از مشاهدات رفتار کلونی های مورچه در طبیعت می باشد. ACO در بعهده گرفتن مسئله طبقه بندی داده کاوی، موفق بوده است. تعدادی از الگوریتم های مبتنی بر ACO در ادبیات با روش های یادگیری مختلف طبقه بندی معرفی شده اند. Ant-Miner توسط پارپینلی و همکارانش پیشنهاد شد، که اولین الگوریتم طبقه بندی مبتنی بر مورچه است، که لیستی از قوانین طبقه بندی را به شکل if-شرایط-then-کلاس بیان می کند. این الگوریتم توسط چندین توسعه در [10-5،6،8] دنبال شده است. ACDT، توسط بوریسزکا و کوزاک پیشنهاد شد، و ANT-TREE-MINER، توسط اترو و همکارانش پیشنهاد شد، که دو الگوریتم مبتنی بر ACO متفاوت شامل درختهای تصمیم گیری برای طبقه بندی هستند. سالاما و فریتاس اخیرا از ACO برای یادگیری انواع مختلف طبقه بندی کننده های شبکه بیز استفاده کرده اند، همانند شبکه بیزی که به صورت ساده به بیز افزوده می شوند، کلاس مبتنی بر خوشه، کلاس مبتنی بر چند شبکه بیزی و بالنکت های کلاسی مارکوف. همانطور که برای یادگیری شبکه های عصبی، از فرا اکتشافی مبتنی بر مورچه در دو اثر استفاده شد. لئو و همکاران ACO-PB را پیشنهاد کردند، که یک هیبرید از کلونی مورچه و الگوریتم های انتشاری سایه برای بهینه سازی وزن های شبکه هستند. آن با ACO سازگار است تا ترکیب بهینه را از وزن ها در فضای راه حل جستجو کند، و سپس از الگوریتم BP استفاده کند تا راه حل بهینه دقیق را به سرعت بدست آورد. بلوم و سوچا از ACOR استفاده کردند، یک الگوریتم بهینه سازی کلونی مورچه برای بهینه سازی مداوم، تا شبکه های عصبی feed-forward را آموزش دهند. توجه کنید که، برای بهترین اگاهی ما، ACO برای یادگیری توپولوژی شبکه های عصبی قبل از کار فعلی استفاده نشده است. 

نتایج ما نشان می دهد که ACO می تواند یک روش موثر برای ایجاد توپولوژی شبکه عصبی feed-forward باشد، و مکمل کار سوچا و بلوم که فهمیدند ACO میتواند در یادگیری وزن های شبکه عصبی موثر باشد. در کار آینده، ما تمایل داریم که الگوریتم ACOR را برای وزن های شبکه عصبی در چارچوب خودمان بهینه کنیم. ما همچنین تمایل داریم که استفاده از توابع ارزیابی کیفی متفاوت را کشف کنیم، همانطور که در تابع کیفی دقت پیش بینی ساده در معادله (4) بیان شد، جایگزین کنیم. علاوه بر این، ما تمایل داریم که روش ACO را برای مسئله توابع عضویت فازی بهینه در سیستم های استنتاجی فازی-عصبی انطباقی (ANFIS) بکار ببریم.  

نظرات (0)
امکان ثبت نظر جدید برای این مطلب وجود ندارد.