پایان نامه ها و مقالات

پایان نامه با کلید واژگان ورودی، بندی، FAM، یادگیری

دیگر دارای پیکر بندی ثابتی هستند. برای مثال در شبکه MLP تعداد لایه های مخفی و نودهای آنها باید ابتدا برآورد شوند از این رو که درطی فرایند آموزش قابل تغییر نمی باشند. بنابراین اگرتعداد نودهای مخفی شبکه کمتر یا بیشتر از تعداد مورد نیاز مسئله باشد. دو نوع مشکل اساسی در شبکه رخ می نماید. درصورت کم بودن گره ها شبکه قادر به ارایه تقریب مناسبی از پیچیدگی فضای الگوها نیست۲۴٫ اگر تعداد گره های میانی بیش از حد زیاد باشد، به قدری دقیق فضای مشخصه ها فراگیری شده و شبکه به آن منطبق می شود که قابلیت تعمیم دهی شبکه و با بالتبع آن، درصد صحت کلاسه بندی، بر روی داده ها آزمایش، به شدت کاهش می یابد۲۵٫ در هر دو مورد ذکر شده کارایی شبکه بهینه نمی باشد. لذا استفاده از FAM، به سبب انعطاف پذیری ذاتی آن، که در اکثر شبکه‌های عصبی دیگر موجود نیست، کار طراحی را بسیار ساده می کند. به صورتی که دیگر به آزمایشهای فراوان اولیه برای تخمین پارامترهای مناسب شبکه، نیازی نیست. مزیت دیگر این شبکه، عدم وابستگی طراحی آن به ریزه کاری های فراوان وتنظیم پارامترهای زیاد و پیچیده است. همچنین بازه های زمانی کوچک برای آموزش و همگرایی سریع از مزایای دیگر FAM می باشد. [۷،۶،۴]
کارآیی FAM و دیگر گونه های منشعب از آن در بسیاری ازمسایل کلاسه بندی، به عنوان سیستم های یادگیری دقیق و سریع به اثبات رسیده است، از جمله می توان به بازشناسی خودکار هدف براساس پروفایل برد را دار [۸]، باز شناسی واکه های صوتی مستقل از گوینده [۹]، بازشناسی دستخت بلا درنگ [۱۰]، بازشناسی سیگنال های QRS [11]، تشخیص انواع سرطانهای سینه و بیماری های قلبی [۱۲]، یادگیری وتشخیص ابعاد اشیاء سه بعدی از روی سری تصاویر دو بعدی آنها [۱۳]، کلاسه بندی سیگنالهای نویزی [۱۴] تشخیص فرد الکلی از غیر الکلی [۱۵]، تشخیص ناهنجاری های ژنتیکی [۱۶]، که اخیراً بسیار مورد توجه قرار گرفته است، و بسیاری موارد دیگر [۲۳،۲۲،۲۱،۲۰،۱۹،۱۸،۱۷] ، اشاره کرد.
مهمترین نقص FAM مربوط به حساسیت آن به هم پوشانی ۲۶ بین خوشه های ایجاد شده است. طبیعت خود سامانده بودن آموزش در این شبکه باعث می شود که علیرغم پیوستگی یادگیری نمونه های جدید، در مورد نمونه های نویزی مشکل ایجاد شود و آنها به اشتباه، خوشه جدید و منحصر به فردی را به خود نسبت دهند از این حساسیت که منجر به ایجاد خوشه ها (نودهای) بیش از حد مورد نیاز می شود. تحت عنوان پدیده تکثیر بی رویه خوشه ها۲۷ یاد می شود. افزایش حافظه مورد نیاز و پیچیدگی شبکه، بار محاسباتی اضافه و در نتیجه کاهش قابل ملاحظه صحت کلاسه بندی از عواقب رخ نمودن این پدیده می باشد. [۲۹، ۲۸ و ۲۷ و ۲۶و ۲۵و ۲۴و ۱۶و ۹و ۷]. افزایش صحت کلاسه بندی و کاهش پیچیدگی و تعداد نودهای شبکه FAM در سالهای اخیر توجه اکثر محققان را جلب کرده و بیشترین مطالعات بر روی این موارد متمرکز بوده است.
در این فصل ابتدا با مقدمات و الگوریتم Fuzzy ART و ARTMAP Fuzzy آشنا می شویم (بخش ۲-۲). مدلهای پیشرفته تر مبتنی بر FAM که در آنها ساختار و الگوریتم مدل پایه اصلاح شده و برخی چالشهای آن در جهت بهبود کلاسه بندی، مرتفع شده است، در بخش بعدی مورد بررسی قرار خواهند گرفت. پیکربندی این بخش بر اساس سیر تکاملی مدلهایی است که در جهت رفع یا بهبود پدیده تکثیر بی رویه خوشه ها و افزایش قابلیت تعمیم دهی۲۸ شبکه FAM می باشد.
در بخش انتهایی، مروری بر کاربرهای موفق شبکه های عصبی از خانواده ARTMAP و واریته های آنها خواهیم داشت و در نهایت خلاصه فصل ارائه خواهد شد.
۲-۲- پیکربندی و الگوریتم شبکه ART MAP Fuzzy
شبکه عصبی FAM که یادگیری در آن به صورت افزایشی و با ناظر می باشد، از اتصال دو ماژول Fuzzy ART با نامهای ARTa و ARTb پدید آمده است. این دو ماژول توسط یک ماژول میدان نگاشت۲۹، که نودها (کلاسترها) را از ARTa به ARTb، مرتبط می سازد. به هم متصلند. هر ماژول Fuzzy ART قادر است، به صورت افزایشی و بی ناظر عمل خوشه بندی نمونه های m بعدی ورودی را در ناحیه هایی به شکل ابر مستطیلی در فضای m بعدی مشخصه های ورودی، انجام دهد. [۴ و ۳۰] هر کدام از این نواحی ابر مستطیلی، نماینده یک دسته یا خوشه می باشند. هر خوشه یک نود شبکه را تشکیل می دهد.
j امین خوشه با برداری از وزنها، نشان داده می شود که در ابتدا این وزنها با ۱ مقدار دهی اولیه می شوند. و در طی فرآیند یادگیری کاهش یافته یا ثابت می مانند. این خود یکی از مواردی است که ابداع کنندگان این شبکه، به عنوان عامل تکثیر بی رویه خوشه از آن یاد می کنند،‌ چون طی آموزش، عناصر بردارهای مشخصه ورودی، که ها را تشکیل می دهند،‌ فقط می توانند کوچکتر شوند. یک ماژول FA همیشه به ایجاد نمونه های بیشتر و بیشتر تمایل دارد و این بدان علت است که ممکن است انطباق الگوهای ورودی با مقادیر بزرگتر، در حالی که ها در طی یادگیری خیلی کوچک شده باشند. امکان پذیر نباشد. از این رفتار می توان بانرمال سازی ورودی به یک طول ثابت اجتناب کرد. یک روش ممکن، استفاده از نرمال سازی اقلیدسی است که یک الگوی ورودی A را به ورودی کدگذاری شده I تبدیل می کند.

مطلب مشابه :  BEAM

(۲-۱)
عیب این روش، از دست دادن هر اطلاعاتی در مورد طول یک الگوی ورودی است. بنابراین جهت مقداردهی کردن همه الگوهای ورودی به یک طول ثابت از یک نرمال سازی تغییر یافته که کدگذاری مکمل۳۰ نامیده می شود، استفاده می شود [۴]. یک بردار اصلی ، به وسیله افزودن مکمل عناصرش به بردار اصلی، به یک الگوی کد می شود. این عمل بعد الگوهای ورودی و نمونه ها را دو برابر می کند.

(۲-۲)

نرم ۳۱ در بردارهای کدگذاری شده مکمل با بعد یکسان، مستقل از مقادیر عناصرش، مقداری ثابت دارد.

(۲-۳)
خوشه بندی در FA در سه مرحله اساسی انجام می شود: انتخاب دسته (choice) انطباق دسته یا آزمون مراقبت (match) و آموزش (Adaptation). در مرحله انتخاب دسته یا خوشه،‌تابع انتخاب برای ورودی حاضر I و تک تک های موجود که هر یک نماینده یک نود یا خوشه هستند، محاسبه می شود.
(۲-۴)
در این جا عملگر AND فازی می باشد، و نیز پارامتر انتخاب۳۲ نام دارد و نماد ، معرف نرم می باشد.
خوشه ای که بیشترین مقدار را داشته باشد،‌خوشه منتخب خواهد بود و با نمایش داده می شود.
هنگامی که خوشه J انتخاب شد یک آزمون فرضی با نام آزمایش مراقبت۳۳ صورت می گیرد تا میزان تطابق خوشه انتخاب شده، با ورودی I،‌مشخص شود. اگر خروجی تابع تطابق از مقدار پارامتر مراقبت بیشتر شد، خوشه انتخابی اصطلاحاً برنده شده است و یادگیری انجام می شود.

(۲-۵)
در غیر این صورت،‌ خوشه انتخابی از لیست خوشه های قابل جستجو برای ورودی حاضر، خارج می شود. در نتیجه یک دسته یا خوشه جدید که تابع انتخاب را بیشینه کند (رابطه ۲-۴)، مجدداً انتخاب شده و این پروسه آن قدر ادامه می یابد تا رابطه ۲-۵، ارضا شود.

شکل ۲-۱: شمای کلی ماژول ART: ورودی تحت کدگذاری مکمل وارد می شود
و نودهای لایه F2 همان خوشه های شبکه هستند
انتخاب مقادیر کوچک (نزدیک به صفر) برای پارامتر مراقبت باعث افزایش قابلیت تعمیم دهی شبکه و ایجاد خوشه های بزرگتر با تعداد کمتر می شود و بالعکس. در واقع پارامتر مراقبت تعیین کننده میزان شباهت مورد نیاز بین خوشه یا همان نود انتخابی و ورودی می باشد که در صورت محقق شدن این میزان از شباهت، آموزش صورت می گیرد. اگر هیچکدام از نودهای شبکه معیار مراقبت را ارضا نکنند، شبکه با ایجاد یک نود جدید برای آن ورودی،‌بدون آزمون مراقبت، یادگیری را انجام خواهد داد.
به هر صورت، آموزش با بروزرسانی بردار وزن نود یا خوشه برنده (یا جدید) بر اساس رابطه ذیل صورت می پذیرد.
(۲-۶)
که در این رابطه ، نرخ یادگیری می باشد. اگر اختیار شود،‌ اصطلاحاً یادگیری سریع انجام می شود. [۴] (شبکه در مد یادگیری سریع است)

مطلب مشابه :  منبع پایان نامه با موضوعاثرات ثابت، بورس اوراق بهادار، عدم تقارن اطلاعات، بورس اوراق بهادار تهران

شکل ۲-۲- فلوچارت کلی ماژول ART

در مسئله طبقه بندی الگو، ورودی به بردارهای مشخصه های ورودی و ورودی Ib به ، برچسب آن بردار می باشد. لذا پارامتر، مراقبت ، با مقداردهی می شود. در نتیجه هر برچسب یک کلاستر یا نود مخصوص به خود را خواهد داشت. میدان نگاشت بین و ، ماتریسی از وزنها با نماد می باشد که خوشه های و را به هم مرتبط می سازد. J امین سطر ماتریس بر نودهایی از دلالت داردکه در نتیجه برنده شدن خوشه یا نود J ام در ، فعال می شوند. خروجی میدان نگاشت بدین صورت خواهد بود:

(۲-۷)
که در این رابطه که خروجی می باشد، دارای مختصات بولین بدین شکل می باشد.

(۲-۸)

مقدار خروجی است که پیش بینی می کند اگر نود J ام در برنده شود، کدام نود از K نود انتخاب می شود.
حین اجرای فاز آموزش، آزمون مراقبتی مشابه آنچه در اتفاق می افتد، در میدان نگاشت هم انجام می پذیرد تا حداقل مشابهت لازم بین خروجی و J امین سطر ماتریس ،‌ تایید شود.

(۲-۹)
در پی ارضا شدن رابطه (۲-۹) اصطلاحاً روزنانس به وقوع پیوسته و آموزش انجام می شود. این آزمون، پیش بینی کلاس صحیح را به واسطه برچسبی که k امین نود پیروز ، نماینده آن می باشد، تضمین می کند. در پی ارضانشدن این رابطه فرآیند ره گیری تطابق۳۴ فعال شده و شبکه به دنبال یافتن خوشه مناسب دیگری در خواهد بود. این فرآیند بدین شکل صورت می گیردکه میدان نگاشت، را به شکل ذیل افزایش می دهد.
(۲-۱۰)
لذا J امین خوشه ، در آزمون مراقبت مردود شده و از صحنه رقابت خوشه ها حذف می شود. فرآیند جستجو بین نودهای آغاز می شود و تا زمانیکه خوشه مناسبی در پیدا شود، که با نود صحیح در ارتباط یابد، ادامه می یابد. در غیر این صورت یک خوشه جدید ایجاد خواهد شد. زمانی که خوشه مناسب پیدا شد. ارتباط وزنی آن با نودهای طبق رابطه ذیل به روز می شود:
(۲-۱۱)
این فرآیند زمان به وقوع پیوستن رزونانس در میدان نگاشت صورت می گیرد. در مورد یادگیری سریع، ارتباط J امین خوشه و K امین نود ، دایمی خواهد بود. به عبارت بهتر به ازای تمام ورودیها، خواهد شد. در فاز آزمایش شبکه، تنها فعال خواهد بود، لذا آزمون مراقبت در میدان نگاشت انجام نخواهد شد و پیش بینی کلاس صحیح با توجه به وزنهای ثابت مربوط به نود برنده در میدان نگاشت انجام می پذیرد.

شکل ۲-۳- پیکربندی کلی شبکه عصبی Fuzzy ART MAP

2-3- پیشرفت های اخیر در زمینه شبکه های عصبی بر اساس FAM
پس از طرح الگوریتم و ساختار FAM در مجامع بین المللی و کنفرانس های علمی در سال ۱۹۹۲ میلادی، پیشرفت و نوآوری در زمینه بهینه سازی الگوریتم و پیکربندی این شبکه ها و واریته های آن به شکل روزافزونی گسترش یافت. این پیشرفت ها را می توان به دو دسته کلی تقسیم بندی نمود: یکی بهینه سازی ساختار و الگوریتم ابتدایی FAM و دیگری معرفی و بهبود الگوریتمهای جدید بر پایه FAM. این تقسیم بندی در واقع کمک می کند تا بین موارد ذیل تمیز ایجاد شود.
• متدهای نوین آموزش و بهینه سازی FAM
• اصلاح و ساده سازی FAM
• بهینه
سازیهایی که در آنها تغییرات ایجاد شده، اساساً‌ باعث تغییر ساختار کلی FAM نشده اند، از یک سو و از سوی دیگر تغییراتی که بر پایه رویکردهای نوین بنا شده اند.
با این وجود، باز هم نمی توان در برخی موارد دقیقاً مرز بین این دو حیطه را مشخص کرد.

مطلب مشابه :  اعتماد سازمانی

۲-۳-۱- اصلاحات و بهینه سازی FAM
متدهای مختلف آموزش FAM نظیر تک کراری۳۵، کامل۳۶ و آموزش همراه با مجموعه ارزیابی۳۷ در [۲۷ و ۱۶] به تفصیل مورد بحث قرار گرفته اند. در روش تک تکراری همه الگوهای آموزش به صورت یک دنباله و فقط یک بار به شبکه ارائه می شوند در آموزش به روش آموزش کامل دنباله ای که از همه الگوهای یادگیری تشکیل شده به شبکه ارائه خواهد شد و آنقدر این عمل تکرار می شود تا شبکه بتواند همه داده های آموزش را درست طبقه بندی کند. یا اینکه در وزنهای شبکه و تعداد نودهای آن دیگر تغییری حاصل نشود. در آموزش همراه با مجموعه ارزیابی پس از هر تکرار آموزشی، صحت طبقه بندی با استفاده از یک مجموعه داده جداگانه، ارزیابی می شود و این فرآیند آنقدر تکرار می شود تا دیگر بهبودی در درصد صحت کلاسه بندی مشاهده نشود. این روش آموزش درمحافل علمی یادگیری ماشین، روشی معروف است که با هدف کاهش جلوگیری از آموزش بیش از حد۳۸ شبکه و همچنین افزایش قابلیت تعمیم دهی سیستم یادگیری، بناشده است [۱]. لذا بر روش آموزش کامل که تکرار های غیر ضروری بسیار زیادی دارد و به همین دلیل شبکه را مستعد ابتلا به انطباق بیش از حد با الگوها می کند، برتری دارد. از طرف دیگر در مقالات علمی مرتبط، روش آموزش کامل، بیشتر مدنظر و مورد علاقه محققین بوده و به کرات در آزمایشات مورد استفاده واقع شده است [۲۷، ۱۶، ۴].
این سه روش آموزش، روی پایگاه های داده۳۹ مصنوعی و طبیعی مورد آزمایش و مقایسه قرار گرفته اند [۲۷،‌ ۱۶]. در [۲۷] صحت کلاسه بندی پس از ارائه هر ۱۰۰ نمونه داده آموزشی، با یک مجموعه داده مجزا، مورد ارزیابی قرار گرفته شده است. در پایگاه های داده مصنوعی، اگر همپوشانی بین کلاسها متوسط یا بسیار زیاد باشد، این روش آموزش، صحت کلاسه بندی را به شکل فزاینده ای بالا خواهد برد، (درجه همپوشانی بین کلاسی در [۲۷] توسط نویسنده مقاله معین شده است) و شبکه ایجاد شده به طور قابل ملاحظه ای کوچکتر (به دلیل ایجاد تعداد نود یا خوشه کمتر) و ساده تر خواهد بود. در پایگاه های داده طبیعی، تفاوت قابل ملاحظه ای در صحت کلاسه بندی و تعداد نودهای ایجاد شده در شبکه،‌ بین روش همراه با داده های ارزیابی و آموزش کامل وجود ندارد. درجه صحت طبقه بندی در روش همراه با داده های ارزیابی بیشتر از روش تک تکراری می باشد اما در مقابل، پیچیدگی و اندازه شبکه (تعداد نودهای آن) در روش اول بیشتر از روش دوم است.
یکی از روشهای آموزشی نوین برای FAM،‌ استفاده از الگوریتم پرندگان۴۰ ) [۳۲]،‌ است که یک الگوریتم تصادفی بر اساس جمعیت بوده و به دسته الگوریتم های تکاملی تعلق دارد. هر راه حلی در فضای جستجو، یک ذره یا همان پرنده بوده وجمعیت پرندگان دسته نامیده م

دیدگاهتان را بنویسید