رگرسیون لارس

در رگرسیون کمترین زاویه که به آن رگرسیون لارس هم گفته می‌شود، ضرایب رگرسیون در یک فرایند افزایشی به شکل زیر تخمین زده می‌شوند:

• در ابتدا تمام ضرایب ${\displaystyle \beta _{i}}$
  با عدد صفر مقداردهی می‌شوند.
• متغیر مستقل ${\displaystyle x_{j}}$
  که بیشترین ضریب همبستگی را با متغیر وابسته ${\displaystyle y}$
  دارد انتخاب می‌شود.
• ${\displaystyle \beta _{j}}$
  در جهت علامت ضریب همبستگی افزایش می‌یابد تا جایی که همبستگی متغیر دیگری مانند ${\displaystyle x_{k}}$
  با مانده ${\displaystyle r=y-{\hat {y}}}$
  از همبستگی ${\displaystyle x_{j}}$
  با مانده فزونی بیابد.
• حال (${\displaystyle \beta _{j}}$
  , ${\displaystyle \beta _{k}}$
  ) در جهت بردار بهینه‌ای که از کمترین مربعاتِ (${\displaystyle x_{j}}$
  , ${\displaystyle x_{k}}$
  ) به‌دست آمده افزایش داده می‌شود و همزمان مانده‌ها نیز محاسبه می‌شوند. متغیر دیگری پیدا می‌شود که همبستگی بیشتری با مانده متغیرهایی که تا به حال انتخاب شده‌اند داشته باشد، و به جمع متغیرهایی انتخاب شده اضافه می‌شود و این روند تا انتخاب تمام متغیرها ادامه خواهد یافت.

رگرسیون لارس مانند رگرسیون لَسو باعث می‌شوند مدل نهائی خلوت شود و بسیاری از ضرایبِ مدل صفر شود. این مدل برای داده‌هایی بُعد بالا مورد استفاده قرار می‌گیرد.

• رگرسیون خطی
• رگرسیون چندک
• رگرسیون لجستیک
• رگرسیون پواسون
• رگرسیون چند متغیره

1. ↑ least-angle regression (LARS)