LOGIN
ثبت نام یا ورود
Avatar
هنوز ثبت نام نکرده اید؟

هم اکنون عضو پلاک آبی شوید .و به اطلاعات وب سایت ما دسترسی داشته باشید

تنظیم مجدد کلمه عبور - نام کاربری را فراموش کرده ام

نام کاربری
کلمه عبور
مرا به خاطر بسپار

placabi articles

متوازن سازی داده ها در دیتاست هایی با کلاس های نامتوازن در رپیدماینر متوازن سازی داده ها در دیتاست های نامتوازن با رپیدماینر

متوازن سازی داده ها در دیتاست هایی با کلاس های نامتوازن در رپیدماینر

  • این مورد را ارزیابی کنید
    (5 رای‌ها)

چالش های به‌کارگیری تکنیک های استاندارد یادگیری ماشین برای متوازن سازی داده ها در دیتاست هایی با کلاس های نامتوازن کدامند؟ حل مسائلی چون کشف ناهنجاری و کشف تقلب با دیتاست هایی با داده های نامتوازن

الگوریتم های یادگیری ماشین و پروژه های کشف ناهنجاری و کشف تقلب

اگر در حوزه‌ی یادگیری ماشین و علوم داده کار می‌کنید، قطعا با توزیع نامتوازن کلاس داده‌ها مواجه شده اید. این مساله زمانی رخ می‌دهد که تعداد مشاهدات مربوط به یک کلاس به طور چشمگیری کم‌تر از مشاهداتی باشد که به کلاس دیگر تعلق دارند.

این مشکل بیشتر در سناریوهایی که کشف ناهنجاری ها در آن‌ها حیاتی است، مثل سرقت الکتریسیته، کشف تقلب در سیستم بانکی، تشخیص بیماری‌های نادر و غیره اهمیت زیادی پیدا می‌کند. در چنین وضعیتی، مدل پیشگویانه ای که با به کارگیری الگوریتم های یادگیری ماشین ایجاد شده است، جهت دار و یک‌طرفه شده و دقت آن بسیار پایین خواهد بود.

این اتفاق بدین خاطر می‌افتد که الگوریتم‌های یادگیری ماشین معمولا طوری طراحی شده‌اند که با کاهش خطا، دقت مدل را افزایش دهند. بنابراین، این الگوریتم ها توزیع/نسبت یک کلاس نسبت به کل کلاس ها، یا توازن کلاس ها را در محاسبات خود به حساب نمی‌آورند.

رویکردهای متنوعی برای حل مشکل داده‌های نامتوازن وجود دارد که تکنیک‌های نمونه‌برداری مختلفی را به‌کار می‌گیرند.

 

چالش‌های کار با دیتاست های نامتوازن

این‌روزها یکی از چالش‌های مهمی که صنعت انرژی با آن مواجه است، دزدی برق است. دزدی انرژی الکتریسیته در میان دزدی‌های بزرگی که در دنیا انجام می‌گیرد، رتبه‌ی سوم را به خود اختصاص داده است. به همین دلیل، شرکت‌های تولید انرژی به طور فزاینده‌ای از رویکردهای پیشرفته آنالیتیک و الگوریتم های یادگیری ماشین استفاده می‌کنند تا الگوهای مصرفی را که تعیین کننده‌ی دزدی الکتریسیته است تشخیص دهند.

در این میان، یکی از بزرگ‌ترین موانع و عوامل لغزش در تشخیص ناهنجاری در پروژه های یادگیری ماشین و داده کاوی ، غول آسا بودن تعداد داده ها و نامتوازن بودن توزیع آن‌هاست. تراکنش‌های تقلبی به طور چشمگیری کم‌تر از تراکنش‌های معمولی و سالم هستند و به عبارتی، حدود 1 تا دو درصد از تعداد کل مشاهدات هستند. سوال این است که چگونه می‌توانیم تشخیص کلاس اقلیت و نادری را که مانع دستیابی به دقت کلی بالاتر است، بهبود دهیم؟

الگوریتم‌های یادگیری ماشین در مواجهه با دیتاست های نامتوازن ، طبقه‌بندی‌های نامناسبی را ایجاد می‌کنند. در یک دیتاست نامتوازن اگر رویدادی که می‌خواهیم پیش بینی کنیم به کلاس اقلیت تعلق داشته باشد و نرخ آن رویداد کم‌تر از 5 درصد باشد، معمولا یک رویداد نادر محسوب می‌شود.

اجازه بدهید این موضوع را به کمک یک مثال توضیح دهیم:

مثال: در یک دیتاست مربوط به کشف تقلب، داده‌های زیر را داریم:
    - تعداد کل مشاهدات: 1000
    - تعداد مشاهدات تقلب: 20
    - تعداد سایر مشاهدات (بدون تقلب): 980
    - نرخ رویداد (تقلب): 2 درصد
سوال اصلی که در حین تحلیل داده ها با آن مواجه می‌شویم، این است که با توجه به تعداد کم مشاهدات مربوط به کلاس نادر، چگونه به یک دیتاست متوازن دست یابیم که در آن تعداد مناسبی از نمونه‌های مشاهدات ناهنجار موجود باشد.

 

چالش‌های به‌کارگیری تکنیک های استاندارد یادگیری ماشین در متوازن سازی داده ها

روش‌های معمول ارزیابی مدل نمی‌توانند در مواجهه با داده‌های نامتوازن، عملکرد مدل را به طور دقیق اندازه‌گیری کنند.

سمت‌گیری الگوریتم های دسته بندی استاندارد مانند درخت تصمیم و رگرسیون لجستیک بیشتر به سوی کلاس‌هایی است که تعداد آن‌ها در دیتاست بیشتر است. این الگوریتم ها فقط تمایل به پیش‌بینی کلاس اکثریت دارند و در مواجهه با ویژگی های کلاس اقلیت، با آن‌ها به‌عنوان نویز برخورد می‌کنند و اغلب آن‌ها را نادیده می‌گیرند. به این ترتیب، احتمال دسته بندی اشتباه کلاس اقلیت در مقایسه با کلاس اکثریت بالاست.

ارزیابی عملکرد الگوریتم دسته بندی به‌وسیله‌ی ماتریس اغتشاش انجام می‌گیرد که در آن اطلاعاتی درباره‌ی کلاس‌های واقعی و کلاس‌های پیش‌بینی شده قرار دارد.

با این وجود، در زمان کار کردن روی دیتاست نامتوازن، میزان دقت معیار مناسبی برای ارزیابی عملکرد مدل نیست. برای مثال وقتی هدف ما کشف ناهنجاری با نرخ رویداد 2 درصد است، یک مدل دسته بندی با دقت 98 درصد، اگر همه‌ی نمونه ها را در کلاس اکثریت دسته بندی کند و مشاهدات مربوط به کلاس اقلیت 2 درصدی را به‌عنوان داده نویز حذف کند، مدل دقیقی نیست.

 

بیاموزیم

کاربرد رپیدماینر در پیشنهاد محصول جدید به مشتری

پیشنهاد محصول جدید و مکمل به مشتریان فعلی یا Cross Selling ، از تکنیک های بازاریابی قابل انجام با رپیدماینر
بیاموزیم

مثال‌هایی برای کلاس های نامتوازن

به این ترتیب، وقتی می‌خواهیم چالش‌های خاص کسب و کار را با مجموعه داده های نامتوازن حل کنیم، دسته بندی های ایجاد شده توسط الگوریتم های استاندارد یادگیری ماشین ممکن است نتایج دقیقی به ما ندهند. به غیر از تراکنش‌های متقلبانه، سایر مثال‌های مرتبط با داده های نامتوازن در یک کسب و کار رایج عبارتند از:

- دیتاست های مربوط به تشخیص رویگردانی مشتری در حالی‌که بخش اعظم مشتریان به استفاده از خدمات ما ادامه می‌دهند.

- مجموعه داده ها برای تشخیص بیماری‌های نادر در تشخیص‌های پزشکی و مشابه آن.

- دیتاست های تراکنش های بانکی برای کشف تقلب در سیستم بانکی

- مجموعه داده های مربوط به پیش بینی بلایای طبیعی مانند زمین لرزه‌ها

 

 

حل مشکل کلاس های نامتوازن در الگوریتم های پیش بینی

رویکردهای مختلفی برای مواجهه با داده های نامتوازن وجود دارند که در زیر فهرستی از آن‌ها آورده شده است:

الف) رویکرد در سطح داده: تکنیک‌های Resampling

  • Random Under Sampling
  • Random Over Sampling
  • Cluster-Based Over Sampling
  • Informed Over Sampling: Synthetic Minority Over Sampling Technique
  • Modified synthetic minority oversampling technique (MSMOTE)

 

ب) تکنیک های الگوریتمی تجمعی (Algorithmic Ensemble Techniques)

  • Bagging Based
  • Boosting-Based
  • Adaptive Boosting- Ada Boost
  • Gradient Tree Boosting
  • XG Boost

 

متوازن سازی داده ها در رپیدماینر

در فیلمکی که در ادامه مشاهده می‌کنید، محسن یزدی نژاد ضمن اجرای یک مثال واقعی، نحوه‌ی متوازن سازی داده ها را با روش های Over Sampling و Under Sampling در نرم افزار رپیدماینر آموزش می‌دهد.

متوازن سازی داده ها در دیتاست هایی با کلاس های نامتوازن در رپیدماینر

برای دانلود دیتاست مربوط می‌توانید به سایت دیتاکویز مراجعه نمایید.

برای کسب اطلاعات بیشتر در خصوص سایر روش‌های مقابله با مشکل داده های نامتوازن در سناریوهای کشف ناهنجاری و کشف تقلب می‌توانید به وب سایت Analytics Vidhya مراجعه کنید.

خواندن 347 دفعه آخرین ویرایش در سه شنبه, 25 ارديبهشت 1397 15:16
محسن یزدی نژاد

عضو گروه هوش کسب و کار ایرانیان

آموزش، مشاوره و پیاده سازی راهکارهای داده کاوی

 

مدرس و مدیر پروژه های داده کاوی شرکت پلاک آبی

دانشجوی دکتری هوش مصنوعی

مدرس دروس کامپیوتر و علوم داده در دانشگاه‌های کشور

  • هیچ نظری یافت نشد

نظر خود را اضافه کنید.

ارسال نظر به عنوان مهمان

0
نظر شما به دست مدیر خواهد رسید
 تماس با ما

شهرک غرب، بلوار فرحزادی، خیابان تربیت معلم،
انتهای خیابان گلبان،
مجتمع موج، واحد 105
کد پستی: 1998963193
تلفن: 5 - 88560784
فکس: 88560786
پست الکترونیک:
info @ p l a c a b i . com
ibig @ p l a c a b i . com

 

We use cookies to improve our website. By continuing to use this website, you are giving consent to cookies being used. More details…