Регресионен анализ

Регресионният анализ е метод за моделиране на формата на зависимостта на един

метриран резултативен признак  

Y,

  от един или няколко метрирани факторпризнаци 

X

,

наречени   още   независими   променливи.   Този   анализ   не   отчита,   че   изменението   на

разглежданите величини може да се дължи на външни, невключени в модела фактори.

Резултатът   от   регресионния   анализ   ни   позволява   ако   знаем  

Х

  да   предскажем  

Y,  

с

известна грешка. Очакваната стойност на тази грешка се измерва в средноквадратичен

смисъл. По­точно 

средноквадратична грешка на Y относно f(X)   

това е

Е(Y ­ f(X))

2

.

Ако факторпризнакът  е един, говорим за  

единична регресия

. Иначе говорим за

множествена регресия

. Ще означаваме независимите променливи с 

X 

= (X

1

, X

2

, ..., X

r

 ).

Предполагаме, че правим независими опити от наблюдения върху 

X

 и 

Y

, при едни и

същи условия на експеримента. Т.е. при всеки опит имаме реализации на 

X

 и 

Y

.

Общият алгоритъм на регресионният анализ е следният.
1.   Регресионният   анализ   започва   с   изчертаване   на   корелационните   полета   на

данните. В зависимост от кривата, около която се групират точките от тези полета  се
избира клас 

G

 от функции, в който ще моделираме линията на регресия. Да приемем, че

аналитично им представяне е

Y = f(

X

, 



) + 



,

където 



 е 

r+1

­мерен вектор, чиито координати са неизвестни параметри на функцията

f

, а 



 e стохастична грешка със средно 

Е



 = 0 

и с крайна дисперсия 

D



 = 



2

.

Оценката на линията на регресията е онази функция  

f

  от разглеждания клас G,

която минимизира средноквадратичната грешка  на  

Y

  относно  

f(

X

)

. В множеството от

всички функции това е

f(

x

) = E(Y|

X

 = 

x

).

Ако функцията  

f

  е линейна относно неизвестните параметри  



, но не обезателно

линейна  относно независимите  променливи,  говорим  за  

линеен регресионен модел

.

Иначе моделът се нарича нелинеен. 

2. Първата задача на регресионния анализ е да се построят най­добри точкови и

интервални оценки на параметрите на регресията така, че измежду всички линии с това