Regresja logistyczna - kiedy zamiast liniowej i jak interpretować iloraz szans

Regresję logistyczną stosujesz, gdy zmienna zależna ma dwie wartości: zdał albo nie zdał egzaminu, wystąpiło powikłanie albo nie, pacjent przestrzega zaleceń albo nie. To jedna z częstszych analiz w pracach z pielęgniarstwa, zdrowia publicznego i zarządzania. Jednocześnie wyniki regresji logistycznej są najczęściej źle opisywane: iloraz szans bywa mylony z prawdopodobieństwem, a pseudo-R² interpretowany jak zwykłe R².

W tym wpisie znajdziesz wyjaśnienie, dlaczego regresja liniowa nie nadaje się do zmiennej 0/1, pełny przykład na przykładowych danych, interpretację ilorazu szans z przedziałem ufności, ocenę dopasowania modelu oraz tabelę wyników w APA 7.

Dlaczego nie regresja liniowa

Formalnie można policzyć regresję liniową dla zmiennej 0/1 (tak zwany liniowy model prawdopodobieństwa), ale prowadzi to do kłopotów. Model przewiduje wartości spoza przedziału od 0 do 1, reszty z definicji nie mają rozkładu normalnego, a ich wariancja nie jest stała. W przykładzie poniżej regresja liniowa na tych samych danych przewiduje „prawdopodobieństwo" zdania od -0,10 do 1,24, czyli wartości niemożliwe.

Regresja logistyczna rozwiązuje ten problem, modelując nie samo prawdopodobieństwo, tylko logarytm szansy (logit):

ln( p / (1 - p) ) = b₀ + b₁X₁ + ... + b_kX_k
p = 1 / (1 + e^{-(b₀ + b₁X₁ + ... + b_kX_k)})

Szansa (ang. odds) to stosunek prawdopodobieństwa zdarzenia do prawdopodobieństwa jego braku. Prawdopodobieństwo 0,75 to szansa 3 (3 do 1), prawdopodobieństwo 0,50 to szansa 1. Przewidywane prawdopodobieństwa zawsze mieszczą się między 0 a 1, a krzywa ma kształt litery S. Rozróżnienie zmiennej zależnej i predyktorów przypomina wpis o zmiennej zależnej i niezależnej.

Przykład na przykładowych danych

Przykładowe dane: 150 studentów. Zmienna zależna: zdanie egzaminu (1 = zdał, 0 = nie zdał); zdało 93 osoby (62%), nie zdało 57. Predyktory: liczba godzin nauki tygodniowo (M = 7,73, SD = 3,05), liczba obecności na 15 zajęciach (M = 10,60, SD = 2,25) oraz praca zawodowa w trakcie studiów (1 = tak, 0 = nie; pracowały 52 osoby).

Model jako całość jest istotny: test ilorazu wiarygodności (omnibus) daje χ²(3) = 36,20, p < 0,001. Wartość -2 log-wiarygodności spadła z 199,22 dla modelu zerowego (bez predyktorów) do 163,02 dla modelu pełnego. Statystyka Walda to kwadrat ilorazu B / SE i służy do testowania pojedynczych współczynników.

Iloraz szans: interpretacja

Surowe współczynniki B są w skali logitu, więc trudno je czytać. Interpretuje się ich wartość wykładniczą, czyli iloraz szans OR = e^B (w SPSS kolumna Exp(B)). OR mówi, ile razy zmienia się szansa zdarzenia, gdy predyktor rośnie o jedną jednostkę, przy stałych pozostałych predyktorach.

• OR = 1,29 dla godzin nauki: każda dodatkowa godzina tygodniowo zwiększa szansę zdania o 29% (mnoży ją przez 1,29). Pięć dodatkowych godzin to szansa większa 1,29⁵, czyli około 3,5 raza.
• OR = 1,43 dla obecności: każde dodatkowe zajęcia, na których student był obecny, zwiększają szansę zdania o 43%.
• OR = 0,94 dla pracy zawodowej: szansa zdania u pracujących jest o 6% mniejsza, ale przedział ufności od 0,43 do 2,05 obejmuje 1, więc dane są zgodne zarówno z dużym spadkiem, jak i z dwukrotnym wzrostem szansy. To wynik nieistotny i bardzo nieprecyzyjny.

OR powyżej 1 oznacza wzrost szansy, poniżej 1 spadek, a równy 1 brak związku. Gdy przedział ufności dla OR nie obejmuje 1, predyktor jest istotny na poziomie 0,05. Jak czytać przedziały, opisuje wpis o przedziale ufności.

Szansa to nie prawdopodobieństwo

Najczęstszy błąd w opisie to zdanie „każda godzina nauki zwiększa prawdopodobieństwo zdania o 29%". Iloraz szans jest stały, ale zmiana prawdopodobieństwa zależy od punktu wyjścia. Przewidywane prawdopodobieństwa dla studenta niepracującego, obecnego na 11 zajęciach:

Przejście z 4 do 5 godzin mnoży szansę przez 1,29 (z 0,85 na 1,10), a prawdopodobieństwo rośnie o 6 punktów procentowych. Między 8 a 12 godzinami szansa rośnie prawie trzykrotnie, a prawdopodobieństwo o 16 punktów procentowych. Przy wysokich prawdopodobieństwach kolejne godziny dają coraz mniejszy przyrost, bo krzywa zbliża się do 1. Taka tabela przewidywanych prawdopodobieństw to dobry dodatek do rozdziału wyników, bo czytelnik od razu widzi praktyczny sens modelu.

Pseudo-R² i test Hosmera-Lemeshowa

W regresji logistycznej nie ma R² w sensie odsetka wyjaśnionej wariancji. Programy podają jego odpowiedniki, tak zwane pseudo-R². R² Coxa i Snella wynosi tu 0,21, ale nie może osiągnąć 1. Nagelkerke (1991) zaproponował jego przeskalowanie do maksimum równego 1; w przykładzie R² Nagelkerkego = 0,29. Najczęściej raportuje się właśnie tę wartość, z zastrzeżeniem, że opisuje ona względną poprawę dopasowania, a nie odsetek wyjaśnionej zmienności. Różne pseudo-R² dają różne liczby (McFadden: 0,18), dlatego zawsze podaj, którego użyłeś.

Test Hosmera-Lemeshowa dzieli osoby na grupy (zwykle 10) według przewidywanego prawdopodobieństwa i porównuje liczbę zdarzeń obserwowanych z oczekiwanymi. Nieistotny wynik oznacza brak dowodów na złe dopasowanie: tutaj χ²(8) = 1,99, p = 0,981. Do tego testu podchodź z ostrożnością. Jego wynik zależy od sposobu podziału na grupy, więc różne programy potrafią dać dla tych samych danych różne wartości. Przy małych próbach ma niską moc, a przy bardzo dużych odrzuca nawet modele dopasowane dobrze. Traktuj go jako jedną z kilku informacji, nie jako ostateczny werdykt.

Trzecia perspektywa to trafność klasyfikacji przy progu 0,5:

Model poprawnie klasyfikuje 71% osób. Porównaj to z trafnością modelu zerowego, który każdemu przypisuje częstszą kategorię: zgadując „zdał" dla wszystkich, trafiasz w 62% przypadków. Poprawa o 9 punktów procentowych jest realna, ale umiarkowana. Pole pod krzywą ROC (AUC) wynosi 0,78 i opisuje zdolność modelu do odróżniania osób, które zdały, od tych, które nie zdały, niezależnie od wybranego progu.

Ile osób potrzeba: liczba zdarzeń na predyktor

W regresji logistycznej o stabilności modelu decyduje nie tyle łączna liczebność, ile liczba osób w rzadszej kategorii zmiennej zależnej. Popularna reguła „co najmniej 10 zdarzeń na predyktor" (EPV, ang. events per variable) pochodzi z symulacji Peduzziego i współpracowników (1996), w których przy EPV poniżej 10 pojawiały się obciążone współczynniki i zawodne przedziały ufności. Późniejsze symulacje (Vittinghoff i McCulloch, 2007) pokazały, że w wielu sytuacjach model działa poprawnie także przy EPV od 5 do 9, więc reguły nie należy traktować jak sztywnej granicy.

W przykładzie rzadsza kategoria to 57 osób, które nie zdały, a model ma 3 predyktory, więc EPV = 57 / 3 = 19. Zapas jest wystarczający. Pamiętaj, że liczysz parametry, a nie zmienne: predyktor kategorialny o czterech kategoriach to trzy zmienne zero-jedynkowe, czyli trzy predyktory w tym rachunku. Ogólne zasady planowania liczebności opisuje wpis ile respondentów potrzebujesz.

Kodowanie zmiennych i kategoria odniesienia

Zanim uruchomisz analizę, sprawdź kodowanie. Zdarzenie, którego szansę modelujesz, powinno mieć kod 1 (tutaj „zdał"). Jeśli zakodujesz odwrotnie, wszystkie ilorazy szans zamienią się na swoje odwrotności: OR = 1,29 dla szansy zdania to OR = 1 / 1,29 = 0,78 dla szansy niezdania. Wynik merytorycznie jest ten sam, ale opis zmienia się całkowicie, więc w pracy zawsze napisz, co oznacza 1.

Dla predyktora kategorialnego program wybiera kategorię odniesienia i każdy OR porównuje kolejną kategorię właśnie z nią. W przykładzie odniesieniem są osoby niepracujące, więc OR = 0,94 opisuje pracujących na ich tle. Przy zmiennej o kilku kategoriach (np. miejsce zamieszkania) wybierz odniesienie, które ma sens merytoryczny i dużą liczebność, bo rzadka kategoria odniesienia daje szerokie przedziały ufności dla wszystkich porównań.

Założenia regresji logistycznej

• Zmienna zależna dychotomiczna, kategorie wzajemnie się wykluczają. Przy trzech i więcej kategoriach stosuje się regresję wielomianową lub porządkową.
• Niezależne obserwacje: każda osoba występuje raz.
• Liniowa zależność między predyktorami ilościowymi a logitem (nie prawdopodobieństwem). Sprawdza się ją m.in. testem Boxa-Tidwella.
• Brak silnej współliniowości predyktorów (VIF jak w regresji liniowej).
• Brak obserwacji o nadmiernym wpływie oraz wystarczająca liczba zdarzeń na predyktor.

Regresja logistyczna nie wymaga normalności rozkładu predyktorów ani stałej wariancji reszt, co bywa mylone z założeniami regresji liniowej.

Tabela i opis wyników w APA 7

Tabelę przygotuj jak w przykładzie: B, SE, statystyka Walda, p, OR i 95% przedział ufności dla OR. Pod tabelą lub w tekście podaj test omnibus, R² Nagelkerkego, wynik testu Hosmera-Lemeshowa i trafność klasyfikacji. Przykładowy opis:

Przeprowadzono analizę regresji logistycznej, w której zmienną zależną było zdanie egzaminu. Model był istotny statystycznie, χ²(3) = 36,20, p < 0,001, R² Nagelkerkego = 0,29, i poprawnie klasyfikował 71% osób; test Hosmera-Lemeshowa nie wskazał na złe dopasowanie, χ²(8) = 1,99, p = 0,981. Szansę zdania zwiększała liczba godzin nauki, OR = 1,29, 95% CI [1,12; 1,48], p < 0,001, oraz liczba obecności na zajęciach, OR = 1,43, 95% CI [1,18; 1,74], p < 0,001. Praca zawodowa nie była istotnym predyktorem, OR = 0,94, 95% CI [0,43; 2,05], p = 0,874.

Typowe błędy

• Opis ilorazu szans jako zmiany prawdopodobieństwa („o 29% bardziej prawdopodobne").
• Interpretowanie surowego B jak w regresji liniowej („wynik rośnie o 0,25").
• Traktowanie R² Nagelkerkego jako odsetka wyjaśnionej wariancji.
• Uznanie modelu za dobry tylko dlatego, że test Hosmera-Lemeshowa jest nieistotny.
• Kilkanaście predyktorów przy kilkudziesięciu zdarzeniach w rzadszej kategorii.
• Brak przedziałów ufności dla OR, przez co czytelnik nie widzi, jak niepewne są oszacowania.

Jeśli zmienna zależna jest dychotomiczna, a predyktor tylko jeden i też kategorialny, często wystarczy test chi-kwadrat. Regresja logistyczna z diagnostyką, ilorazami szans i tabelą w standardzie APA jest dostępna w wyliczeniu automatycznym, także przy pracach z pielęgniarstwa. Analizę wybierasz w kreatorze wyceny, a zmienną zależną i predyktory wskazujesz z listy kolumn po wgraniu pliku w panelu.

Najczęstsze pytania

Jak interpretować iloraz szans?

Iloraz szans (OR) mówi, ile razy zmienia się szansa zdarzenia przy wzroście predyktora o jedną jednostkę. OR = 1,5 oznacza szansę większą o 50%, OR = 0,8 szansę mniejszą o 20%, a OR = 1 brak związku. Jeśli 95% przedział ufności obejmuje 1, wynik nie jest istotny na poziomie 0,05.

Kiedy stosować regresję logistyczną zamiast liniowej?

Gdy zmienna zależna ma dwie kategorie, na przykład wystąpienie zdarzenia albo jego brak. Regresja liniowa dawałaby wtedy przewidywania spoza przedziału 0-1 i łamałaby założenia dotyczące reszt. Przy kilku nieuporządkowanych kategoriach stosuje się regresję wielomianową, a przy uporządkowanych porządkową.

Co oznacza R² Nagelkerkego?

To pseudo-R², czyli miara poprawy dopasowania modelu względem modelu bez predyktorów, przeskalowana tak, by mogła osiągnąć 1. Nie oznacza odsetka wyjaśnionej wariancji jak w regresji liniowej. Raportuj ją z nazwą miary i razem z innymi wskaźnikami dopasowania.

Co zrobić, gdy test Hosmera-Lemeshowa jest istotny?

Istotny wynik sugeruje rozbieżność między przewidywanymi a obserwowanymi częstościami zdarzeń. Sprawdź, czy związek predyktorów ilościowych z logitem jest liniowy i czy nie brakuje ważnej zmiennej lub interakcji. Przy bardzo dużych próbach test bywa istotny mimo dobrego dopasowania, więc oceń też trafność klasyfikacji i krzywą ROC.

Ile osób potrzeba do regresji logistycznej?

Często stosuje się regułę około 10 zdarzeń w rzadszej kategorii na każdy predyktor (EPV). Przy 3 predyktorach potrzeba więc co najmniej około 30 osób z rzadszym wynikiem. Nowsze badania pokazują, że reguła bywa zbyt surowa, ale przy małej liczbie zdarzeń oszacowania stają się niestabilne.