Test Levene'a - jednorodność wariancji, interpretacja i co zrobić, gdy odrzuca

Test t-Studenta i jednoczynnikowa analiza wariancji w klasycznej wersji zakładają jednorodność wariancji, nazywaną też homogenicznością wariancji. Oznacza to podobny rozrzut wyników we wszystkich porównywanych grupach. Gdy jedna grupa jest znacznie bardziej „rozstrzelona” niż druga, klasyczny wynik testu może być obciążony: wartość p wychodzi za mała albo za duża, zależnie od tego, która grupa jest liczniejsza.

Najpopularniejszym sprawdzianem tego założenia jest test Levene'a. Poniżej znajdziesz jego hipotezy, interpretację, różnicę między wersją ze średnią i z medianą, dwa przykłady policzone na przykładowych danych, postępowanie po odrzuceniu założenia, a także argumenty za tym, żeby w ogóle nie uzależniać wyboru testu od wyniku testu Levene'a.

Jednorodność wariancji - co to znaczy

Wariancja to miara rozrzutu wyników wokół średniej, czyli kwadrat odchylenia standardowego. Jednorodność wariancji oznacza, że w populacjach, z których pochodzą porównywane grupy, wariancje są równe. Założenie dotyczy populacji, a nie próby: w próbie wariancje prawie nigdy nie wychodzą identyczne, więc pytanie brzmi, czy różnica jest na tyle duża, żeby przeszkadzała.

Jednorodności wariancji wymagają w klasycznej postaci:

• test t-Studenta dla prób niezależnych (wersja z połączoną wariancją);
• jednoczynnikowa i wieloczynnikowa analiza wariancji między grupami;
• test post hoc Tukeya po ANOVA.

Pokrewnym założeniem w regresji jest homoskedastyczność, czyli stały rozrzut reszt dla różnych wartości predyktora. Sprawdza się ją głównie na wykresie reszt, o czym pisze tekst o tym, które założenia regresji liniowej sprawdzić.

Problem jest najpoważniejszy, gdy grupy mają różne liczebności. Jeśli mniejsza grupa ma większą wariancję, klasyczny test t i ANOVA zbyt często wskazują istotne różnice, czyli rośnie ryzyko błędu I rodzaju. Jeśli większa grupa ma większą wariancję, test staje się zbyt zachowawczy. Przy równych liczebnościach skutki są znacznie mniejsze.

Hipotezy testu Levene'a

• H₀: wariancje w populacjach są równe (σ₁² = σ₂² = ... = σ_k²).
• H₁: co najmniej jedna wariancja różni się od pozostałych.

Tu leży najczęstsze źródło pomyłek. W teście Levene'a hipoteza zerowa to stan pożądany. Wynik istotny statystycznie (p < 0,05) oznacza, że wariancje różnią się istotnie, czyli założenie jest naruszone. Wynik nieistotny to sytuacja, w której nie ma podstaw do odrzucenia równości wariancji.

Brak istotności nie dowodzi, że wariancje są równe. Przy kilkunastu osobach w grupie test Levene'a ma małą moc i potrafi nie wykryć nawet kilkukrotnej różnicy wariancji. Przy kilkuset osobach wychwyci różnice zupełnie bez znaczenia praktycznego. Więcej o tym, dlaczego p nie mówi o wielkości zjawiska, przeczytasz w tekście o tym, co naprawdę oznacza wartość p.

Jak działa test Levene'a

Pomysł Howarda Levene'a z 1960 roku jest prosty. Dla każdej osoby liczysz bezwzględną odległość jej wyniku od średniej jej grupy. Jeśli w jednej grupie wyniki są bardziej rozrzucone, te odległości będą w niej średnio większe. Następnie na odległościach przeprowadzasz zwykłą jednoczynnikową analizę wariancji. Statystyka F tej analizy to statystyka testu Levene'a, ze stopniami swobody k - 1 oraz N - k, gdzie k to liczba grup, a N to łączna liczebność.

Dzięki temu, że test pracuje na bezwzględnych odchyleniach, a nie na ich kwadratach, jest mniej wrażliwy na brak normalności niż starsze testy porównujące wariancje, na przykład test Bartletta czy test F dla dwóch wariancji.

Wersja ze średnią czy z medianą (Brown-Forsythe)

W 1974 roku Morton Brown i Alan Forsythe zaproponowali, żeby odległości liczyć nie od średniej, lecz od mediany grupy. Ta wersja jest odporniejsza na rozkłady skośne i wartości odstające, bo pojedynczy skrajny wynik nie przesuwa mediany tak jak średniej. W praktyce nazywa się ją testem Levene'a opartym na medianie albo testem Browna-Forsythe'a.

Programy różnią się ustawieniami domyślnymi. W SPSS tabela testu t dla prób niezależnych pokazuje wersję ze średnią, a w jednoczynnikowej ANOVA nowsze wersje programu podają kilka wariantów, w tym oparty na średniej i na medianie. W R funkcja leveneTest() z pakietu car domyślnie liczy wariant z medianą. Dlatego wynik z dwóch programów może się nieco różnić. W pracy napisz, której wersji użyłeś.

Nie myl testu Browna-Forsythe'a dla wariancji z testem Browna-Forsythe'a dla średnich, który SPSS pokazuje obok testu Welcha jako odporną alternatywę dla ANOVA. To dwie różne procedury tych samych autorów.

Test Levene'a - przykład dla dwóch grup

Przykładowe dane: porównujesz wynik testu wiedzy (w punktach) studentów stacjonarnych i niestacjonarnych. Grupa stacjonarna liczy 20 osób, niestacjonarna 8 osób.

Już statystyki opisowe pokazują problem: odchylenie standardowe w mniejszej grupie jest ponad cztery razy większe niż w większej, a wariancje wynoszą 6,87 i 127,71. Bezwzględne odległości od średniej wynoszą średnio około 2,1 punktu w grupie stacjonarnej i około 9,3 punktu w niestacjonarnej. Test Levene'a oparty na średniej daje F(1, 26) = 30,11, p < 0,001, a wersja z medianą F(1, 26) = 28,06, p < 0,001. Założenie jednorodności wariancji jest wyraźnie naruszone.

Zobacz, co dzieje się z wynikiem porównania średnich:

Klasyczny test t wskazuje istotną różnicę, test Welcha nie. To typowy wzorzec: mniejsza grupa ma dużą wariancję, a połączona wariancja w teście Studenta jest zdominowana przez liczniejszą, jednorodną grupę. W efekcie błąd standardowy różnicy jest niedoszacowany, a wynik zbyt optymistyczny. Poprawnym wynikiem jest tu test Welcha, który liczy błąd standardowy osobno dla każdej grupy i koryguje stopnie swobody. Szerzej opisuje to tekst o teście t-Studenta dla prób niezależnych.

Co zrobić, gdy test Levene'a odrzuca jednorodność

Naruszenie jednorodności wariancji nie oznacza rezygnacji z analizy. Wystarczy wybrać wersję testu, która tego założenia nie wymaga:

• przy dwóch grupach test t Welcha zamiast klasycznego testu t;
• przy trzech i więcej grupach ANOVA Welcha zamiast klasycznej ANOVA;
• jako test post hoc procedurę Games-Howella zamiast Tukeya, bo uwzględnia nierówne wariancje i nierówne liczebności.

Przykładowe dane dla trzech grup: wynik skali stresu u pielęgniarek o różnym stażu pracy.

Test Levene'a: F(2, 31) = 14,51, p < 0,001 (wersja z medianą F(2, 31) = 13,99, p < 0,001). Klasyczna ANOVA daje F(2, 31) = 8,15, p = 0,001, a ANOVA Welcha F(2; 15,87) = 5,65, p = 0,014. Wniosek ogólny jest ten sam, ale porównania szczegółowe już się różnią:

Test Tukeya, który zakłada równe wariancje, wskazuje dwie istotne różnice. Games-Howell, który tego nie zakłada, tylko jedną: między najkrótszym a najdłuższym stażem. Różnica między grupą 6-15 lat a grupą powyżej 15 lat w teście Tukeya wynika w dużej mierze z tego, że zaniżył on niepewność w bardzo zróżnicowanej grupie najstarszej stażem. O doborze testów post hoc pisze tekst o ANOVA i testach post hoc.

Przejście na test nieparametryczny nie rozwiązuje problemu różnych wariancji. Test U Manna-Whitneya i test Kruskala-Wallisa reagują nie tylko na przesunięcie rozkładów, ale też na różnice w ich kształcie i rozrzucie, więc przy wyraźnie różnych wariancjach ich wynik trudno interpretować jako różnicę median. Opisuje to tekst o teście U Manna-Whitneya.

Czy w ogóle testować jednorodność przed testem t?

Procedura „najpierw test Levene'a, potem wybór między testem Studenta a Welcha” jest powszechna, ale statystycy krytykują ją od lat. Argumenty są trzy.

1. Procedura dwuetapowa zniekształca poziom błędu I rodzaju. Zimmerman (2004) pokazał w symulacjach, że warunkowy wybór testu na podstawie testu wariancji daje gorszą kontrolę błędu niż bezwarunkowe stosowanie testu Welcha.
2. Test Levene'a ma małą moc w małych próbach, czyli dokładnie tam, gdzie nierówne wariancje szkodzą najbardziej, i nadmierną moc w dużych, gdzie szkodzą najmniej.
3. Test Welcha przy równych wariancjach traci bardzo niewiele w porównaniu z testem Studenta, a przy nierównych chroni przed poważnymi błędami. Delacre, Lakens i Leys (2017) zalecają z tego powodu stosowanie testu Welcha domyślnie, bez wstępnego testowania wariancji.

Praktyczny wniosek: w porównaniu dwóch grup możesz od razu stosować test t Welcha, a przy kilku grupach ANOVA Welcha z testem Games-Howella. Test Levene'a i odchylenia standardowe w grupach podajesz wtedy jako informację opisową, a nie jako przełącznik decydujący o wyborze testu. Patrz też na samą wielkość różnic w odchyleniach standardowych, a nie tylko na p.

Jeśli promotor wymaga testu Levene'a, podaj go. Możesz napisać, że ze względu na różne liczebności grup zastosowano test Welcha, który nie wymaga równości wariancji, niezależnie od wyniku testu Levene'a. To argument, który trudno podważyć. Pozostałe założenia, w tym normalność rozkładu, omawia tekst o tym, jak sprawdzić normalność rozkładu.

Test Levene'a - jak zapisać wynik w APA

W standardzie APA podajesz statystykę F z dwoma stopniami swobody i wartość p, a obok wynik właściwego testu. Dla przykładu z dwiema grupami:

Test Levene'a wykazał istotną różnicę wariancji w grupach, F(1, 26) = 30,11, p < 0,001. Z tego powodu zastosowano test t Welcha. Średni wynik testu wiedzy studentów niestacjonarnych (M = 32,00, SD = 11,30) nie różnił się istotnie od wyniku studentów stacjonarnych (M = 24,85, SD = 2,62), t(7,30) = 1,77, p = 0,118, 95% CI [-2,32; 16,62].

Dla przykładu z trzema grupami:

Ze względu na nierówność wariancji, F(2, 31) = 14,51, p < 0,001, zastosowano jednoczynnikową analizę wariancji z poprawką Welcha. Staż pracy różnicował poziom stresu, F(2; 15,87) = 5,65, p = 0,014. Porównania post hoc testem Games-Howella wykazały wyższy poziom stresu u osób ze stażem powyżej 15 lat niż u osób ze stażem do 5 lat (p = 0,033). Pozostałe różnice były nieistotne.

Stopnie swobody z częścią dziesiętną oddzielasz od siebie średnikiem, żeby przecinek dziesiętny nie mylił się z separatorem. Więcej przykładów zapisu znajdziesz w tekście o tym, jak zaraportować wynik testu w APA 7.

Najczęstsze błędy przy teście Levene'a

• Odwrotna interpretacja: uznanie istotnego wyniku za potwierdzenie jednorodności.
• Zignorowanie istotnego testu Levene'a i podanie wiersza „założono równość wariancji” z tabeli SPSS.
• Uznanie nieistotnego wyniku w małej próbie za dowód równości wariancji.
• Test Tukeya po ANOVA przy wyraźnie różnych wariancjach i liczebnościach grup.
• Brak informacji, której wersji testu użyto (średnia czy mediana).
• Przejście na test nieparametryczny wyłącznie z powodu nierównych wariancji.

W wyliczeniu automatycznym, które skonfigurujesz w kreatorze wyceny, analiza wariancji jest dostępna z testami post hoc Tukeya i Games-Howella, a porównanie dwóch grup obejmuje test t-Studenta.

Najczęstsze pytania

Jak interpretować test Levene'a?

Hipoteza zerowa mówi, że wariancje w grupach są równe. Jeśli p < 0,05, odrzucasz ją i uznajesz, że założenie jednorodności wariancji jest naruszone. Jeśli p ≥ 0,05, nie ma podstaw do odrzucenia równości wariancji.

Co zrobić, gdy test Levene'a jest istotny?

Przy dwóch grupach zastosuj test t Welcha, przy trzech i więcej ANOVA Welcha, a jako test post hoc Games-Howella zamiast Tukeya. Nie musisz przechodzić na testy nieparametryczne tylko z tego powodu.

Czym różni się test Levene'a od testu Browna-Forsythe'a?

Oba porównują średnie bezwzględne odchylenia wyników w grupach. Test Levene'a liczy odchylenia od średniej, a test Browna-Forsythe'a od mediany, dzięki czemu jest odporniejszy na skośne rozkłady i wartości odstające.

Czy test Levene'a jest konieczny przed testem t?

Nie jest konieczny. Coraz częściej zaleca się stosowanie testu t Welcha domyślnie, bo dobrze działa zarówno przy równych, jak i przy nierównych wariancjach. Jeśli promotor wymaga testu Levene'a, podaj go jako informację uzupełniającą.

Czy homogeniczność wariancji to to samo co jednorodność wariancji?

Tak, to dwie nazwy tego samego założenia. Oznacza ono równe wariancje w populacjach, z których pochodzą porównywane grupy.