Regresja wieloraka - interpretacja wyników krok po kroku (R², F, B, beta, p)

Regresja wieloraka to model, który przewiduje wartość jednej zmiennej ilościowej na podstawie kilku predyktorów naraz i pokazuje, ile każdy z nich wnosi przy kontroli pozostałych. Interpretacja wyników regresji wielorakiej sprowadza się do odpowiedzi na trzy pytania: czy model jako całość coś wyjaśnia (test F), ile wyjaśnia (R² i skorygowane R²) i które predyktory mają własny, niezależny wkład (B, beta, p i przedziały ufności).

Ten wpis prowadzi przez wydruk regresji wielorakiej tabela po tabeli, w kolejności, w jakiej podaje je SPSS, jamovi czy R. Założenia modelu (liniowość, homoskedastyczność, normalność reszt, obserwacje wpływowe) opisaliśmy osobno we wpisie regresja liniowa: które założenia sprawdzić, więc tutaj zakładamy, że diagnostyka wypadła poprawnie, i skupiamy się na czytaniu liczb oraz na tym, jak je opisać w pracy.

Kiedy stosować regresję wieloraką

Regresję wieloraką wybierasz, gdy hipoteza dotyczy kilku zmiennych wyjaśniających jedną zmienną ilościową, na przykład: „wsparcie społeczne, poczucie samotności i obciążenie pracą zarobkową przewidują satysfakcję z życia studentów”. Zamiast czterech osobnych korelacji dostajesz jeden model, w którym każdy współczynnik jest oczyszczony z wpływu pozostałych predyktorów. To jest główna przewaga nad korelacjami: odpowiadasz na pytanie, czy dana zmienna wnosi coś ponad to, co już wyjaśniają inne.

Zmienna zależna musi być ilościowa (wynik testu, suma punktów skali, czas). Predyktory mogą być ilościowe albo kategorialne zakodowane jako zmienne zero-jedynkowe. Gdy zmienna zależna ma dwie kategorie, potrzebujesz regresji logistycznej, a gdy jest porządkowa (np. kilka uporządkowanych odpowiedzi), regresji porządkowej. O liczebności: przy kilku predyktorach przyjmuje się orientacyjnie co najmniej kilkanaście osób na predyktor, a dokładniej liczebność wyznacza analiza mocy.

Przykład: dane i korelacje

Przykładowe dane: 120 studentów. Zmienna zależna to satysfakcja z życia (skala 5-35 pkt, M = 20,96, SD = 4,77). Predyktory: wsparcie społeczne (12-84 pkt, M = 58,42, SD = 11,33), poczucie samotności (20-80 pkt, M = 39,73, SD = 7,32), liczba godzin pracy zarobkowej tygodniowo (M = 15,16, SD = 7,98) i wiek (M = 22,54, SD = 1,87). Zanim policzysz model, przyjrzyj się korelacjom:

Wsparcie i samotność są też skorelowane ze sobą (r = -0,26), więc część tego, co każda z nich „wyjaśnia” w korelacji prostej, jest wspólna. Regresja wieloraka to rozdzieli.

Regresja wieloraka: interpretacja wyników w trzech tabelach

Programy statystyczne podają wynik regresji w trzech blokach. W SPSS to tabele Model Summary, ANOVA i Coefficients (w polskiej wersji: Model - podsumowanie, Analiza wariancji, Współczynniki). W jamovi jest to tabela Model Fit Measures z rozwinięciem testu F oraz tabela Model Coefficients. Kolejność czytania jest zawsze ta sama: najpierw model jako całość, potem pojedyncze predyktory.

Tabela 1: R, R² i skorygowane R²

R to korelacja między wynikami obserwowanymi a przewidywanymi przez model (współczynnik korelacji wielorakiej). Sam w sobie jest rzadko raportowany. R² = 0,29 (dokładnie 0,285) to współczynnik determinacji: model wyjaśnia 29% zmienności satysfakcji z życia. Pozostałe 71% to wpływ czynników, których nie zmierzono, oraz błąd pomiaru.

Skorygowane R² = 0,26 koryguje R² o liczbę predyktorów (k) i liczebność próby (n): 1 - (1 - R²) × (n - 1) / (n - k - 1) = 1 - 0,715 × 119 / 115 = 0,26. Każdy dodany predyktor, nawet zupełnie przypadkowy, podnosi zwykłe R², a skorygowane może wtedy spaść. Gdy różnica między nimi jest duża, model ma za dużo predyktorów jak na liczebność próby. Tutaj różnica wynosi 0,03, więc problem nie występuje.

Błąd standardowy oszacowania (4,11 pkt) mówi, o ile typowo myli się model przy przewidywaniu wyniku pojedynczej osoby. Przy rozpiętości skali 5-35 pkt to sporo, co dobrze pokazuje, że istotny model nie oznacza precyzyjnych przewidywań indywidualnych.

Tabela 2: test F modelu

Test F sprawdza hipotezę zerową, że wszystkie współczynniki poza stałą są równe zero, czyli że model nie przewiduje lepiej niż sama średnia. F to stosunek średniego kwadratu regresji do średniego kwadratu reszt: 193,42 / 16,86 = 11,47. Stopnie swobody to liczba predyktorów (4) i n - k - 1 (115); zapisujesz je w nawiasie: F(4, 115) = 11,47, p < 0,001. Z tej tabeli odczytasz też R²: 773,69 / 2 712,79 = 0,285, czyli udział zmienności wyjaśnionej w całkowitej.

Tabela 3: współczynniki B, beta, t, p i przedziały ufności

Każdy wiersz czytasz tak samo. B (współczynnik niestandaryzowany) to zmiana przewidywanej satysfakcji przy wzroście predyktora o jedną jednostkę, gdy pozostałe predyktory mają stałe wartości. Wsparcie społeczne: B = 0,16, więc osoba z wynikiem wsparcia wyższym o 10 pkt ma przewidywaną satysfakcję wyższą o około 1,6 pkt, przy tym samym poziomie samotności, pracy i wieku. Poczucie samotności: B = -0,18, czyli 10 pkt więcej samotności to satysfakcja niższa o około 1,8 pkt.

β (beta, współczynnik standaryzowany) to ten sam efekt w jednostkach odchylenia standardowego: wzrost wsparcia o 1 SD wiąże się ze wzrostem satysfakcji o 0,37 SD. Beta pozwala porównać predyktory mierzone w różnych jednostkach. Tutaj najsilniejszy jest wsparcie (β = 0,37), potem samotność (β = -0,28). Znak mówi o kierunku, a wartość bezwzględna o sile. Do przewidywania konkretnych wyników używasz B, do porównań siły predyktorów β.

Statystyka t to B podzielone przez jego błąd standardowy (SE), a p mówi, czy współczynnik różni się istotnie od zera. Przedział ufności dla B pokazuje precyzję oszacowania: dla wsparcia prawdziwy efekt leży prawdopodobnie między 0,09 a 0,22 pkt na punkt skali. Gdy przedział obejmuje zero, predyktor jest nieistotny na poziomie 0,05. O interpretacji przedziałów piszemy szerzej we wpisie przedział ufności: jak go interpretować.

Stałej (21,79) nie interpretujesz. To przewidywana satysfakcja osoby, która ma zero punktów wsparcia, zero samotności i zero lat, a takiej osoby w danych nie ma (skale zaczynają się od 12 i 20 pkt).

Predyktor „prawie istotny”: co z p = 0,053

Godziny pracy zarobkowej mają p = 0,053, a górna granica przedziału ufności wypada praktycznie na zerze (0,001). Kuszące jest napisanie o „tendencji do istotności”. Nie rób tego: przy przyjętym poziomie 0,05 wynik jest nieistotny i tak go raportujesz. Możesz natomiast uczciwie opisać, co pokazują dane: oszacowanie jest ujemne (B = -0,09), ale na tyle nieprecyzyjne, że nie da się wykluczyć braku związku. Taki zapis jest zgodny z zaleceniami APA i nie naraża Cię na zarzut naciągania wyników.

Zwróć uwagę na ciekawą rzecz: w korelacji prostej praca zarobkowa miała p = 0,139, a w modelu p = 0,053. Po kontroli wsparcia i samotności reszty są mniejsze, więc efekt pracy oszacowano precyzyjniej. W regresji wielorakiej predyktor może zarówno stracić istotność, jak i ją zyskać względem korelacji prostej.

Unikalny wkład predyktora: sr² i wspólna wariancja

Ostatnia kolumna tabeli to kwadrat korelacji semicząstkowej (sr², w SPSS kolumna Part po zaznaczeniu opcji Part and partial correlations, którą trzeba podnieść do kwadratu). Różnicę między korelacją semicząstkową a cząstkową wyjaśnia wpis o korelacji cząstkowej. Mówi, o ile spadłoby R², gdyby usunąć dany predyktor z modelu. Wsparcie społeczne wnosi unikalnie 13% wariancji, samotność 7%, praca 2%, wiek praktycznie nic.

Suma sr² wynosi 0,22, a R² modelu 0,29. Brakujące 0,06 to wariancja wyjaśniana wspólnie przez skorelowane predyktory, głównie wsparcie i samotność, której nie da się przypisać żadnemu z nich osobno. Im silniej predyktory są ze sobą powiązane, tym większa ta wspólna część i tym mniejsze unikalne udziały. Skrajną postać tego zjawiska opisuje wpis o współliniowości i VIF; w przykładzie najwyższy VIF wynosi 1,08, więc problem nie występuje.

Jako wielkość efektu całego modelu możesz podać f² Cohena: R² / (1 - R²) = 0,285 / 0,715 = 0,40. Według umownych progów Cohena (0,02 mały, 0,15 średni, 0,35 duży) to efekt duży. Dla pojedynczego predyktora f² = sr² / (1 - R²), dla wsparcia 0,126 / 0,715 = 0,18.

Równanie regresji i przewidywanie wyniku

Współczynniki B tworzą równanie: satysfakcja = 21,79 + 0,156 × wsparcie - 0,182 × samotność - 0,095 × praca - 0,055 × wiek. Dla studenta z wynikiem wsparcia 70 pkt, samotności 35 pkt, pracującego 10 godzin tygodniowo i mającego 22 lata model przewiduje około 24,1 pkt satysfakcji. Do takich obliczeń bierz współczynniki z większą liczbą miejsc po przecinku niż w tabeli, bo zaokrąglenia się kumulują. Pamiętaj też o błędzie standardowym oszacowania: rzeczywisty wynik tej osoby może łatwo różnić się od przewidywanego o 4 pkt.

Jak opisać regresję wieloraką w pracy (APA 7)

W rozdziale wyników umieść tabelę współczynników jak powyżej (B, SE, β, t, p, 95% CI; sr² opcjonalnie), a pod nią lub w tekście R², skorygowane R² i test F. Przykładowy opis w tekście:

Przeprowadzono analizę regresji liniowej wielorakiej, w której zmienną zależną była satysfakcja z życia, a predyktorami wsparcie społeczne, poczucie samotności, liczba godzin pracy zarobkowej i wiek. Model był istotny statystycznie, F(4, 115) = 11,47, p < 0,001, i wyjaśniał 29% wariancji satysfakcji z życia (R² = 0,29, skorygowane R² = 0,26). Wyższe wsparcie społeczne wiązało się z wyższą satysfakcją, B = 0,16, 95% CI [0,09; 0,22], β = 0,37, p < 0,001, a wyższe poczucie samotności z niższą, B = -0,18, 95% CI [-0,29; -0,08], β = -0,28, p < 0,001. Liczba godzin pracy zarobkowej, B = -0,09, β = -0,16, p = 0,053, i wiek, B = -0,05, β = -0,02, p = 0,790, nie były istotnymi predyktorami.

Przed tym akapitem dodaj jedno zdanie o sprawdzonych założeniach (np. „Rozkład reszt był zbliżony do normalnego, nie stwierdzono heteroskedastyczności ani współliniowości, VIF ≤ 1,08”). To zamyka większość pytań recenzenta.

Trzy sytuacje, o które pyta promotor

• Model istotny, a żaden predyktor nie jest istotny. Zwykle oznacza to silnie skorelowane predyktory, które razem wyjaśniają wynik, ale model nie potrafi rozdzielić ich wkładu. Sprawdź VIF i opisz sytuację wprost.
• Znak B inny niż znak korelacji prostej. Predyktor koreluje dodatnio z wynikiem, a w modelu ma ujemne B. To efekt kontroli innych zmiennych (tzw. supresja) albo objaw współliniowości. Interpretuj B jako efekt „przy stałych pozostałych predyktorach” i sprawdź, czy wynik jest stabilny po usunięciu jednej ze skorelowanych zmiennych.
• Niskie R² przy istotnym modelu. W naukach społecznych R² rzędu 0,10-0,30 jest częste, bo zachowanie ludzi zależy od wielu niezmierzonych czynników. Niskie R² nie unieważnia istotnych współczynników, ale nie pozwala twierdzić, że model dobrze przewiduje wyniki pojedynczych osób.

Regresja wieloraka a pokrewne analizy

ANCOVA to w istocie regresja wieloraka z predyktorem grupującym i zmienną towarzyszącą; opisujemy ją we wpisie ANCOVA: analiza kowariancji.

Typowe błędy w opisie

• Raport samego R² bez testu F i skorygowanego R².
• Porównywanie siły predyktorów na podstawie B, gdy zmienne mają różne jednostki.
• Pisanie „wsparcie powoduje wzrost satysfakcji” w badaniu przekrojowym. Poprawnie: „wiązało się z”.
• Pominięcie przedziałów ufności i podawanie samych gwiazdek istotności.
• Interpretowanie stałej, gdy zero nie jest realną wartością predyktorów.
• Opis predyktora z p = 0,053 jako „prawie istotnego” albo „istotnego na poziomie tendencji”.

Regresja liniowa wieloraka z diagnostyką, tabelą współczynników i wykresami w standardzie APA jest dostępna w wyliczeniu automatycznym. Analizę wybierasz w kreatorze wyceny, a po wgraniu pliku wskazujesz zmienną zależną i predyktory z listy kolumn. W pakiecie Rozszerzonym raport zawiera też słowny opis wyników w APA, który możesz wykorzystać jako punkt wyjścia do własnego tekstu.

Najczęstsze pytania

Jak interpretować R kwadrat w regresji wielorakiej?

R² to odsetek zmienności zmiennej zależnej wyjaśniony łącznie przez wszystkie predyktory. R² = 0,29 oznacza, że model wyjaśnia 29% zmienności wyniku. Przy kilku predyktorach raportuj też skorygowane R², które uwzględnia ich liczbę i liczebność próby.

Czym różni się współczynnik B od beta?

B jest wyrażony w jednostkach zmiennych i mówi, o ile zmienia się wynik przy wzroście predyktora o jedną jednostkę. Beta to ten sam efekt w odchyleniach standardowych, dlatego służy do porównywania siły predyktorów mierzonych na różnych skalach. Do przewidywania wyników używasz B.

Co oznacza, że model jest istotny, a żaden predyktor nie jest?

Predyktory razem wyjaśniają wynik, ale model nie potrafi rozdzielić ich wkładu, najczęściej przez silną korelację między nimi. Sprawdź VIF i korelacje predyktorów. Rozwiązaniem bywa połączenie dublujących się zmiennych w jeden wskaźnik.

Jakie R² jest dobre?

Nie ma jednej granicy, bo zależy to od dziedziny. W psychologii i naukach społecznych R² od 0,10 do 0,30 jest typowe, w naukach technicznych oczekuje się znacznie więcej. Jako wielkość efektu możesz podać f² Cohena z progami 0,02, 0,15 i 0,35.

Jak zapisać wynik regresji wielorakiej w APA?

Podaj test modelu z df, np. F(4, 115) = 11,47, p < 0,001, oraz R² i skorygowane R². Dla predyktorów raportuj B, 95% przedział ufności, beta i p, najlepiej w tabeli. Dodaj jedno zdanie o sprawdzonych założeniach.