k-NN چیه و چرا بهش می‌گن “تنبل”؟#

این الگوریتم برخلاف خیلی از مدل‌های دیگر «یادگیری» به معنای سنتی نداره. یعنی در زمان آموزش هیچ وزن یا پارامتری یاد نمی‌گیره، بلکه تمام داده‌های آموزشی را در حافظه نگه می‌داره و در زمان پیش‌بینی، تازه شروع می‌کند به محاسبه‌ی فاصله‌ها

خب، این الگوریتم چطوری کار می‌کنه؟#

• در Classification (طبقه‌بندی): برای یک داده جدید، KNN فاصله‌ی آن را تا تمام نقاط آموزشی حساب می‌کنه، K همسایه نزدیک‌تر را پیدا می‌کنه و بر اساس رأی‌گیری اکثریت (Majority Voting)، کلاس داده‌ی جدید را تعیین می‌کنه.

• در Regression (رگرسیون): برای یک داده جدید، KNN پس از پیدا کردن k همسایه نزدیک‌تر، میانگین (Average) مقدارِ هدف (Target) آن‌ها را به عنوان خروجیِ پیش‌بینی‌شده برای داده جدید در نظر می‌گیره.

فاصله رو چطور محاسبه میکنه ؟#

تنظیمات اصلی k-NN#

عملکرد این الگوریتم به دو تا تنظیم مهم بستگی داره:

• k (تعداد همسایه ها): اینکه چند تا از نزدیک‌ترین همسایه‌ها رو برای رأی‌گیری انتخاب کنیم، خیلی مهمه.

• اگه k خیلی کوچیک باشه (مثلاً ۱): مدل خیلی روی حرف یک نفر حساب می‌کنه و ممکنه نظر اون یک نفر اشتباه یا پرت باشه (به این میگن Overfitting).

• اگه k خیلی بزرگ باشه: انگار داریم نظر کل محله رو می‌پرسیم! اینطوری نظر رفیق‌های صمیمی و اصلی گم می‌شه و مدل بیش از حد ساده فکر می‌کنه (به این میگن Underfitting). پس باید یک k بهینه پیدا کنیم که معمولاً با روش‌هایی مثل Cross-Validation انجام می‌شه.

نقاط قوت و ضعفش چیه؟#

• نقاط قوت: فهمیدنش خیلی راحته، پیاده‌سازیش ساده‌ست و برای داده‌هایی که الگوهای پیچیده و غیرخطی دارن، خوب عمل می‌کنه.

• نقاط ضعف: موقع پیش‌بینی یکم تنبله چون باید فاصله رو با همه حساب کنه. خیلی هم به مقیاس داده‌ها حساسه (پس حتماً باید قبلش داده‌ها رو نرمال یا استاندارد کنید!).

KNN کی خوب است؟#

KNN معمولاً وقتی خوب جواب می‌ده که:

• دیتاست خیلی بزرگ نباشه
• ویژگی‌ها عددی باشن
• مقیاس ویژگی‌ها قابل کنترل باشه
• مرز تصمیم‌گیری خیلی پیچیده نباشن
• داده‌ها نویز خیلی شدید نداشته باشن

کاربردهای رایج#

• طبقه‌بندی ساده
• baseline اولیه
• recommendation systems
• imputation / پر کردن داده‌های گمشده
• تشخیص الگوهای نزدیک به هم

) مهم‌ترین نکته‌ی KNN:#

در KNN، مقیاس ویژگی‌ها خیلی مهمه، چون این الگوریتم بر اساس فاصله تصمیم می‌گیره. اگر یک ستون بازه‌اش 0..1 باشه و ستون دیگر 0..100000، عملاً ستون دوم همه‌چیز را کنترل می‌کنه.

پس معمولاً قبل از KNN باید داده را scale کنیم. دو روش رایج:

چطوری بفهمیم مدل خوب کار کرده؟#

برای اینکه بفهمیم مدل چقدر خوب کار می‌کنه، فقط به دقت (Accuracy) نگاه نمی‌کنیم، چون گاهی گولمون می‌زنه. به جاش از معیارهای کامل‌تری مثل Precision و Recall استفاده می‌کنیم تا بفهمیم مدل دقیقاً کجاها خوبه و کجاها اشتباه می‌کنه.

**تحلیل نتایج نهایی: **#

بعد از تمیزکاری و بهینه‌سازی با GridSearchCV، مدل نهایی من به دقت کلی ۸۷٪ رسید. این عدد برای شروع خیلی خوبه، اما داستان اصلی وقتی شروع شد که به جزئیات گزارش عملکرد نگاه کردم.

اولین چیزی که متوجه شدم این بود که داده‌های من نامتعادل (imbalanced) بودند. یعنی تعداد نمونه‌ها برای کلاس‌های مختلف (انواع اختلال خواب) یکسان نبود. این موضوع مستقیماً روی عملکرد مدل تاثیر گذاشته بود:

• مدل من در تشخیص کلاس اکثریت (کلاس ۱) خوب بود و تقریباً در ۹۵٪ موارد درست عمل می‌کرد.

• اما برای کلاس‌های اقلیت (کلاس ۰ و ۲) داستان کمی فرق داشت. مثلاً برای کلاس ۲، مدل من خیلی دقیق بود (وقتی می‌گفت “این کلاس ۲ است”، به احتمال زیاد درست می‌گفت)، اما در پیدا کردن تمام موارد کلاس ۲ ضعف داشت و حدود ۳۸٪ از آن‌ها را از دست می‌داد (Recall پایین).

نتیجه کلیدی: این تجربه به من یاد داد که دقت (Accuracy) به تنهایی معیار خوبی نیست. در مسائل دنیای واقعی، مخصوصاً در حوزه سلامت، باید به معیارهایی مثل Recall توجه ویژه‌ای کنیم تا مطمئن شویم موارد مهم را از دست نمی‌دهیم.

چه کارهای دیگری می‌شد انجام داد؟#

برای اینکه این پروژه تمیزتر و حرفه‌ای‌تر بشود، چند قدم دیگر هم وجود داشت که می‌شد برداشت:

• مدیریت داده‌های نامتعادل: می‌شد از تکنیک‌های پیشرفته‌تری مانند SMOTE برای تولید نمونه‌های مصنوعی برای کلاس‌های اقلیت استفاده کرد تا مدل بتواند از آن‌ها بهتر یاد بگیرد.

• آزمایش مدل‌های پیچیده‌تر: من از k-NN استفاده کردم که ساده و عالی است. اما برای پیدا کردن الگوهای پیچیده‌تر، می‌شد مدل‌های دیگری مانند RandomForest یا XGBoost را هم امتحان کرد.

• تحلیل عمیق‌تر اهمیت ویژگی‌ها: بعد از ساخت مدل، می‌شد با تکنیک‌هایی مانند Permutation Importance دقیقاً فهمید که کدام ویژگی‌ها (مثلاً سطح استرس، ساعت خواب یا فعالیت بدنی) بیشترین نقش را در تصمیم‌گیری مدل داشته‌اند. این کار برای دادن پیشنهادهای هوشمندانه به کاربر در یک اپلیکیشن واقعی، حیاتی است.