Testiramo nultu hipotezu (\(H_0\)) protiv alterantivne hipoteze (\(H_1\)). U opstem slucaju ove hipoteze ne moraju da budu komplementarne, tj.ne moraju da pokrivaju ceo prostor ishoda.
Sa \(T\) oznacimo - statistiku pomocu koje vrsimo testiranje hipoteze.
\(W\) - kriticna oblast.
\(\hat{T}\) - realizovana vrednost, koju imamo na osnovu uzorka.
I ukoliko je \(\hat{T} \in W\) (tj upada u kriticnu oblast), tada se odbacuje \(H_0,\) tj. nemamo dovoljno razloga da je prihvatimo.
Razlikujemo dve vrste greske: \(\alpha =\) Greska prve vrste - odbacujemo \(H_0\), kad je ona tacna.
\(\beta =\) Greska druge vrste - nismo odbacili \(H_0\), a ona nije tacna.
I definisemo verovatnoce tih gresaka: \[P\{ T\in W | H_0\}= \alpha\] - nivo znacajnosti testa (najcesce \(0.05\) ili \(0.01\)). Nivo znacajnosti testa ce uvek biti zadat unapred!
\[P\{ T \notin W | H_1\} = \beta\]
Takodje, bitna stvar nam je moc testa \(\gamma\), koja se zadaje na sledeci nacin:
\[\gamma = P\{T\in W|H_1\} = 1- \beta. \]
\(p\)-vrednost - najmanji nivo znacajnosti testa za koju cemo na osnovu datog uzorka da prihvatimo \(H_0\).
Tj, ako je \[p < alfa\] => ODBACUJEMO \(H_0\) !!! (ovo obavezno iscrtajte sebi, zapamtite i razumite, najcesce se na tome gresi)
Kratak primer za ilustraciju gresaka prve i druge vrste:
\(H_0\) - osoba \(X\) nije kriva,
\(H_1\) - osoba \(X\) je kriva.
U slucaju da je osoba kriva dobice kaznu (recimo, smrtnu). Tada Greska prve vrste predstavlja - da je osoba osudjena, a nevina je,
dok Greska druge vrste - kriva je, ali slobodna. A moc testa da je optuzena i zaista jeste kriva.
Specijalno cemo danas da odradimo parametarske testove. Videcete dosta slicnosti medju ovim i intervalnim ocenjivanjem (iste statistike).
Testiranje u slucaju normalne raspodele \(\mathcal{N}(m, \sigma^2)\) za parametar “\(m\)”. Taj slucaj deli se na dva podslucaju u zavisnosti od toga da li znamo \(\sigma^2\) ili je ocenjujemo za dati uzorak. U slucaju kada znamo \(\sigma^2\) koristimo test statistiku: \[Z=\frac{\overline{X}-m}{\sigma} \sqrt{n},\] gde je
\(\overline{X}\) - srednja vrednost uzorka za dato obelezje.
\(m\) - parametar u odnosu na koji testiramo
\(n\) - obim uzorka
\(\sigma\) - koren iz \(\sigma^2\) (koja nam je poznata u ovom slucaju)
I u tom slucaju mozemo reci da je prema Centralnoj Granicnoj Teoremi (CGT): \[Z\sim \mathcal{N}(0,1),\]
tj \(Z\) je normalna sa parametrima \(0\) i \(1\).
Dok u slucaju kada ne znamo \(\sigma^2\), moramo je prvo oceniti i tada imamo sledecu statistiku pomocu koje nalazimo sprovodimo testiranje: \[T=\frac{\overline{X}-m}{\widetilde{S}_n}\sqrt{n}\] gde je \(\widetilde{S}_n = \sqrt{\frac{1}{n-1} \sum_{i=1}^n[(X_i-\overline{X})^2]}\) - tj ocena korena iz disperzije. (ovo se dobija pozivom funkcije {}
sqrt(var(uzorak))Tada \[T\sim t_{n-1},\] tj. Studentovu raspodelu sa \(n-1\) stepeni slobode.
To je sve bilo za slucaj kada je testiranje vezano za parametar \(m\).
Dok ako zelimo da testiramo \(\sigma^2\) tu je prica malo drugacija.
Statistika koja se koristi za to je:
\[S = \frac{(n-1) \widetilde{S}_n^2}{\sigma^2} ,\] tj. Hi-kvadrat sa \(n-1\) stepeni slobode. gde je:
\(n\)- obim uzorka
\(\widetilde{S}_n^2\) - uzoracka popravljena disperzija
\(\sigma^2\) - parametar koji testiramo.
I sasvim je prirodno da ta statistika, kojom se ocenjuje parametar \(\sigma^2\) ima neku nenegativnu raspodelu, kao sto je Hi-kvadrat.
Za razliku od testiranja parametra \(m\), gde su u oba slucaja statistike imale simetricne raspodele oko nule, hi-kvadrat nije simetricna, i stavise nenagativna je.
Pretpostavimo da imamo uzorak:
c(5.6884562, 2.0308148, -0.2508697, -2.5062107, 5.1422191, 1.1849337, 3.6343267,
4.6528487, 1.5760364, 5.1431170, 1.8864374, 4.4475159, 3.5619849, 4.7377123,
-1.2994996, 2.4134766, 0.2744983, 5.2431267, -0.1152874, 0.8769407, 2.1222095,
1.8561701, 3.0470218, 0.4738757, 2.1079643, 2.5249362, -2.2613439, 1.0116844,
2.1796532, 1.6629011, 0.6026096, 3.0568876, 0.1365397, -5.0585758, 2.3148987,
4.0924715, -0.9189906, 7.6984261, -1.9539183, 2.7631545, 5.5492733, -1.5838495,
-2.3246922, 0.7752239, 1.3790237, -1.1731306, 4.8165865, 2.9824243, 6.0295380,
0.1998773, 9.0725547, -1.2977859, 1.9417684, -3.5287460, 2.5369642, -1.3349065,
-1.7820453, 4.2251318, 2.9737008, 1.8158107)iz normalne \(\mathcal{N}(m, 10)\) raspodele, gde je
\(m\) - nepoznat parametar. Testirati koristeci \(p\)-vrednost testa hipotezu da:
\[H_0: m=2 \\ H_1: m>2\]
prvo instaliramo paket BSDA
install.packages("BSDA")ucitamo ga
library(BSDA)## Warning: package 'BSDA' was built under R version 3.4.4## Loading required package: lattice##
## Attaching package: 'BSDA'## The following object is masked from 'package:datasets':
##
## OrangeU ovom paketu se bas nalazi z.test
x=c(5.6884562, 2.0308148, -0.2508697, -2.5062107, 5.1422191, 1.1849337, 3.6343267,
4.6528487, 1.5760364, 5.1431170, 1.8864374, 4.4475159, 3.5619849, 4.7377123,
-1.2994996, 2.4134766, 0.2744983, 5.2431267, -0.1152874, 0.8769407, 2.1222095,
1.8561701, 3.0470218, 0.4738757, 2.1079643, 2.5249362, -2.2613439, 1.0116844,
2.1796532, 1.6629011, 0.6026096, 3.0568876, 0.1365397, -5.0585758, 2.3148987,
4.0924715, -0.9189906, 7.6984261, -1.9539183, 2.7631545, 5.5492733, -1.5838495,
-2.3246922, 0.7752239, 1.3790237, -1.1731306, 4.8165865, 2.9824243, 6.0295380,
0.1998773, 9.0725547, -1.2977859, 1.9417684, -3.5287460, 2.5369642, -1.3349065,
-1.7820453, 4.2251318, 2.9737008, 1.8158107)?z.testprimetimo da je po defoltu \(\alpha = 0.05.\)
prvi argument - uzorak na osnovu kojeg trazimo vrednost p-testa
drugi argument “sigma.x” - standardno odstupanje tog uzorka koje nam je dato u zadatku
treci argument - sta bi bio argument \(m\), ukoliko je \(H_0\) tacno,
cetvrti argument - sta je alternaticna hipoteza: imamo tri opcije : \("two.sided"\), \("greater"\), \("less"\).
z.test(x, sigma.x=sqrt(10), mu=2, alternative = "greater")##
## One-sample z-Test
##
## data: x
## z = -0.52852, p-value = 0.7014
## alternative hypothesis: true mean is greater than 2
## 95 percent confidence interval:
## 1.112723 NA
## sample estimates:
## mean of x
## 1.784231Odakle vidimo da je p-value > 0.05 i to mnogo vece. zato mozemo da prihvatimo \(H_0.\)
Ceo kod:
x=c(5.6884562, 2.0308148, -0.2508697, -2.5062107, 5.1422191, 1.1849337, 3.6343267,
4.6528487, 1.5760364, 5.1431170, 1.8864374, 4.4475159, 3.5619849, 4.7377123,
-1.2994996, 2.4134766, 0.2744983, 5.2431267, -0.1152874, 0.8769407, 2.1222095,
1.8561701, 3.0470218, 0.4738757, 2.1079643, 2.5249362, -2.2613439, 1.0116844,
2.1796532, 1.6629011, 0.6026096, 3.0568876, 0.1365397, -5.0585758, 2.3148987,
4.0924715, -0.9189906, 7.6984261, -1.9539183, 2.7631545, 5.5492733, -1.5838495,
-2.3246922, 0.7752239, 1.3790237, -1.1731306, 4.8165865, 2.9824243, 6.0295380,
0.1998773, 9.0725547, -1.2977859, 1.9417684, -3.5287460, 2.5369642, -1.3349065,
-1.7820453, 4.2251318, 2.9737008, 1.8158107)
library(BSDA)
z.test(x, sigma.x=sqrt(10), mu=2, alternative = "greater")##
## One-sample z-Test
##
## data: x
## z = -0.52852, p-value = 0.7014
## alternative hypothesis: true mean is greater than 2
## 95 percent confidence interval:
## 1.112723 NA
## sample estimates:
## mean of x
## 1.784231Drugi nacin da resimo ovaj zadatak bi bio da izracunamo realizovanu vrednost \(\widehat{T}.\)
Za to nam treba srednja vrednost uzorka, njegov obim i std. odstupanje:
n = length(x) #obim uzorka
sr.vr = mean(x) #srednja vrednost uzorka
odstupanje = sqrt(10) #dato u postavcii dobijamo:
t_kapa = (sr.vr - 2)/odstupanje * sqrt(n)Samo moramo da uporedimo ovo sa vrednoscu za alfa = 0.05. Kako je statistika priblizno \(\mathcal{N}(0,1)\) to dobijamo:
alfa = 0.05
c = qnorm(1-alfa)i vidimo da:
t_kapa > c## [1] FALSEdobijamo vrednost false, a kriticna oblast u ovom slucaju je: \[W=\{T>c\},\] jer imamo \(H_1\) oblika: \(m>2\) (kriticna oblast prati nejednakost iz \(H_1\)).
U slucaju da je \(H_1: m \neq 2\), tada: \[W=\{|T| > c\}\]
alfa = 0.05
c = qnorm(1-alfa/2)
abs(t_kapa) > c## [1] FALSEKako smo dobili da NE pripada \(W\), to mozemo da prihvatimo \(H_0.\)
Ceo kod za drugi nacin:
x=c(5.6884562, 2.0308148, -0.2508697, -2.5062107, 5.1422191, 1.1849337, 3.6343267,
4.6528487, 1.5760364, 5.1431170, 1.8864374, 4.4475159, 3.5619849, 4.7377123,
-1.2994996, 2.4134766, 0.2744983, 5.2431267, -0.1152874, 0.8769407, 2.1222095,
1.8561701, 3.0470218, 0.4738757, 2.1079643, 2.5249362, -2.2613439, 1.0116844,
2.1796532, 1.6629011, 0.6026096, 3.0568876, 0.1365397, -5.0585758, 2.3148987,
4.0924715, -0.9189906, 7.6984261, -1.9539183, 2.7631545, 5.5492733, -1.5838495,
-2.3246922, 0.7752239, 1.3790237, -1.1731306, 4.8165865, 2.9824243, 6.0295380,
0.1998773, 9.0725547, -1.2977859, 1.9417684, -3.5287460, 2.5369642, -1.3349065,
-1.7820453, 4.2251318, 2.9737008, 1.8158107)
n = length(x) #obim uzorka
sr.vr = mean(x) #srednja vrednost uzorka
odstupanje = sqrt(10) #dato u postavci
t_kapa = (sr.vr - 2)/odstupanje * sqrt(n)
alfa = 0.05
c = qnorm(1-alfa)
t_kapa > c## [1] FALSEMoc testa:
\[\gamma(t) =P\{T > c | m = t\} = P\left\{\frac{\overline{X}_n -2}{\sqrt{10}}\sqrt{60} > c |m=t\right\} =P\left\{\frac{\overline{X}_n -2 + t -t}{\sqrt{10}}\sqrt{60} > c |m=t\right\} = \\ 1 - P\left\{\frac{\overline{X}_n -t}{\sqrt{10}}\sqrt{60} \leq c + \frac{2-t}{\sqrt{10}}\sqrt{60} |m=t\right\} \sim 1 - \Phi\left(c + \frac{2-t}{\sqrt{10}}\sqrt{60}\right). \]
nadji_moc <- function(c, donja_granica, gornja_granica, korak)
{
t = seq(donja_granica, gornja_granica, korak)
rezultat = 1 - pnorm(c + (2-t)/sqrt(10)*sqrt(60))
return(rezultat)
}
alfa = 0.05
c = qnorm(1 - alfa)
nadji_moc(c, 2, 3.5, 0.01)## [1] 0.05000000 0.05257762 0.05525960 0.05804849 0.06094681 0.06395705
## [7] 0.06708166 0.07032304 0.07368353 0.07716542 0.08077094 0.08450222
## [13] 0.08836135 0.09235032 0.09647100 0.10072521 0.10511463 0.10964085
## [19] 0.11430533 0.11910940 0.12405429 0.12914106 0.13437064 0.13974383
## [25] 0.14526125 0.15092338 0.15673052 0.16268282 0.16878025 0.17502261
## [31] 0.18140949 0.18794033 0.19461437 0.20143065 0.20838804 0.21548519
## [37] 0.22272057 0.23009245 0.23759890 0.24523778 0.25300678 0.26090338
## [43] 0.26892484 0.27706827 0.28533055 0.29370839 0.30219832 0.31079666
## [49] 0.31949960 0.32830310 0.33720300 0.34619496 0.35527446 0.36443688
## [55] 0.37367742 0.38299116 0.39237304 0.40181790 0.41132046 0.42087533
## [61] 0.43047704 0.44012004 0.44979868 0.45950729 0.46924010 0.47899133
## [67] 0.48875515 0.49852571 0.50829716 0.51806363 0.52781928 0.53755826
## [73] 0.54727477 0.55696306 0.56661741 0.57623217 0.58580175 0.59532067
## [79] 0.60478350 0.61418493 0.62351977 0.63278292 0.64196942 0.65107444
## [85] 0.66009329 0.66902143 0.67785447 0.68658818 0.69521850 0.70374154
## [91] 0.71215357 0.72045108 0.72863070 0.73668928 0.74462385 0.75243162
## [97] 0.76011002 0.76765667 0.77506936 0.78234612 0.78948515 0.79648486
## [103] 0.80334385 0.81006092 0.81663506 0.82306544 0.82935145 0.83549264
## [109] 0.84148875 0.84733968 0.85304554 0.85860658 0.86402323 0.86929607
## [115] 0.87442584 0.87941343 0.88425987 0.88896634 0.89353412 0.89796466
## [121] 0.90225949 0.90642028 0.91044880 0.91434690 0.91811655 0.92175979
## [127] 0.92527875 0.92867563 0.93195270 0.93511230 0.93815679 0.94108862
## [133] 0.94391027 0.94662424 0.94923308 0.95173935 0.95414565 0.95645458
## [139] 0.95866875 0.96079077 0.96282325 0.96476882 0.96663007 0.96840958
## [145] 0.97010992 0.97173365 0.97328328 0.97476131 0.97617021 0.97751239
## [151] 0.97879025Prodavac smatra da, ako je prosecna zarada \(2\$\) po osobi, ostvaruje se dobar profit i da treba otvoriti prodavnicu. Profit ima normalnu \(\mathcal{N}(m,(1.7)^2)\) raspodelu. Prodavac je uzeo uzorak od \(25\) slucajno odabranih osoba i dobio prosecnu vrednost profita \(2.842\$\).
Ako je \(\alpha = 0.05\), da li se na osnovu dobijenog rezultata moze zakljuciti da treba otvoriti prodavnicu?
Sta bi ovde bila nulta hipoteza a sta alternativna?
Primetimo da je potrebno ovde da nulta hipoteza bude \(H_0: m=2\)
jer zelimo da je \(H_0\) bude uvek u obliku jednakosti,
dok je \(H_1 : m>2\) (tj da treba da otvori prodavnicu).
Racunamo c:
alfa = 0.05
c = qnorm(1-alfa) # ne delimo alfa sa 2, jer je jednostrana hipoteza.
(2.842 - 2) / 1.7 * 5 > c## [1] TRUEdobili smo TRUE, tj upalo u kriticnu oblast => odbacujemo \(H_0.\)
Posmatrajmo uzorak generisan u zadatku 1. Takodje ovoga puta cemo pretpostaviti da nam nije poznato \(\sigma^2\). Koristeci p-vrednost testa testirati \(H_0: m=2\), protiv \(H_1: m \neq 2\).
isto kao u slucaju intervalnih ocena kada nam nije poznato \(\sigma^2\) koristimo statistiku: \[V=\frac{\overline{X}-m}{\sqrt{\widetilde{S}^2_n}} \sqrt{n} \] i to ima studentovu \(t_{n-1}\) sa \(n-1\) stepeni slobode.
To testiranje mozemo da obavimo pomocu funkcije \(t.test(),\)
t.test(x, mu=2, alternative = "two.sided")##
## One Sample t-test
##
## data: x
## t = -0.59766, df = 59, p-value = 0.5524
## alternative hypothesis: true mean is not equal to 2
## 95 percent confidence interval:
## 1.061832 2.506630
## sample estimates:
## mean of x
## 1.784231Opet vidimo da mozemo da prihvatimo nultu hipotezu.
Ili smo mogli i ovako:
t_kapa = (sr.vr - 2)/sqrt(var(x)) * sqrt(n)
p = 2 * min(pt(t_kapa, n-1), 1-pt(t_kapa, n-1)) #pt - vrednost funkcije raspodele studentove slucajne velicine u tacki t_kapa sa n-1 stepeni slobode.
p## [1] 0.5523509opet je p vrednost veca od alfa (i ista je kao u t.test() jer je ovo zapravo rucno odradjen taj t.test())
Vazna NAPOMENA:
Ukoliko je n>30, mozemo studentovu raspodelu aproksimirati sa N(0,1)
to omogucava dosta lakse racunanje svih trazenih vrednosti.
Specijalno iz razloga sto imamo dostupne tablice za N(0,1) raspodelu!Za stare teniske loptice imamo: \[X \sim \mathcal{N}(28, 0.25)\] Proizvedena je nova serija teniskih loptica. Da li je smanjena disperzija? Na osnovu uzorka od \(n=25\) loptica imamo:
n = 25
alfa = 0.05
S_tilda_kv = 0.1497 # setimo se da se ovo dobija pozivanjem funkcije var()!Postaviti hipoteze i testirati da li je smanjena disperzija.
u ovom slucaju sada vise ne testiramo parametar srednje vrednosti, vec parametar disperzije, tj \(\sigma^2.\) imamo test statistiku
\[T=\frac{(n-1)\widetilde{S}_n^2}{\sigma^2}\] tj. Hi-kvadrat sa \(n-1\) stepeni slobode. \[H_0 : \sigma^2=0.25 \\ H_1: \sigma^2<0.25\]
Kriticna oblast: \[W=\{T<c\},\] jer prati alternaticnu hipotezu \[T \sim \chi^2_{24}\] Hi-kvadrat sa 24 stepeni slobode.
r n = 25 alfa = 0.05 S_tilda_kv = 0.1497 t_kapa = 24 * S_tilda_kv / 0.25 Jos da nadjemo vrednost za c?
\[P\{T<c\}=0.05\] primenimo interznu funkciju raspodele Hi-kvadrat, df=24 \[c=F^{-1}(0.05) \implies\]
c = qchisq(alfa, n-1)
t_kapa < c## [1] FALSEDobili smo FALSE, sledi da prihvatamo \(H_0\).
Sve isto vazi za slucaj kada testiramo parametar \(p\) kod bernulijeve slucajne velicine.
Menadzer neke firme hoce da vidi da li je za firmu bolje da radi od 9:30 do 17:30(a) ili od 10 do 18(b). Uzorak je 25 slucajno odabranih dana kada je firma radila po prvom i 25 dana po drugom rezimu i dobio je sledece rezultate:
Prvi rezim: prosecna zarada je \(570\) (\(X_a\)), sa uzorackim disperzijama \(1600 = (S_a)^2\), i
Drugi rezim: \(X_b = 600,\) \(S_b^2= 625\)
Sa nivoom znacajnosti testa od 0.05 testirati da li se veca zarada ostvaruje u drugom rezimu rada.
Oznacimo: \[A \sim \mathcal{N}(m_a, \sigma_a^2)\] slucajna velicina koja odgovara prvom rezimu \[B \sim \mathcal{N}(m_b, \sigma_b^2)\] slucajna velicina koja odgovara drugom rezimu.
Primetimo da se ovde sada testira sledece:
\[H_0: m_a=m_b \\ H_1: m_b>m_a.\] Ali pre nego sto krenemo da testiramo to, moramo da vidimo sta se desava sa disperzijama, tj da li mozemo da zakljucimo njihovu jednakost.
Zadajmo nivo znacajnosti tog drugog testa za testiranje jednakosti disperzija, neka bude \(0.1\).\
Pa testiramo:
\[H_0: \sigma_a^2 = \sigma_b^2 \\ H_1: \sigma_a^2 \neq \sigma_a^2\]
To radimo pomocu statistike: \[F=(S_a)^2/(S_b)^2\] tj. Fiserova raspodela sa parametrima \(n1-1\) i \(n2-1\), gde su \(n_1\) i \(n_2\) obimi uzorka prvog, odnosno drugog. Kriticna oblast je: \[W=\{F<c_1\} \cup \{F>c_2\}\] gde su: ```
c1=F(-1)(0.05)=F(-1)(alfa/2)=qf(0.1/2, n1-1, n2-1) c2=F(-1)(0.95)=F(-1)(1-alfa/2) ```
F_kapa = 1600/625
F_kapa## [1] 2.56c1 = qf(0.1/2, 24, 24)
c2 = qf(1-0.1/2, 24, 24)
F_kapa < c1 | F_kapa > c2## [1] TRUEDobili smo TRUE, znaci odbacujemo \(H_0\) - disperzije nisu jednake!
Stoga koristimo sledecu statistiku:
\[T=(X_a-X_b)/ \sqrt{ S_a^2/n_1 + S_b^2/n_2 }\] ~ studentova sa Q stepeni
gde je Q:
Q = neka uzasna formula…
\[Q = (S_a^2/n_1 + S_b^2/n_2)^2 / [ (S_a^2/n_1)^2 / (n_1-1) + (S_b^2/n_2)^2 / (n_2-1) ] \]
Q = (1600 / 25 + 625/25) / ((1600/25)^2 / 24 + (625/25)^2 / 24) u nasem slucaju \(Q\sim 45\), tj vise od \(30\) stepeni slobode za studentovu pa se moze aproksimirati standardnom normalnom. Odakle dalje dobijamoza kriticnu oblast \[W=\{T<c\}\]
c = qnorm(0.05)dok je t_kapa:
t_kapa = (570-600)/sqrt(1600/25 + 625/25)t_kapa < c## [1] TRUEOdbacujemo \(H_0.\) bolje da uzme rezim rada B.
Izvrseno je istrazivanje da li je cena artikala u jednom hipermarketu veca od cene u drugom i slucajno je odabrano 20 artikala i belezene su njihove razlike u supermarketima i dobijene su sledece vrednosti:
\(D = 0.045\) - srednja vrednost razlika u ceni,
\((S_D)^2 = 0.0084\) ocenjena disperzija razlika u ceni.
Sa nivoom znacajnosti testa alfa = 0.05 ispitati da li su cene u prvom hipermarketu znacajno vece od cena u drugom.
ovo je slucaj tzv sparen testa. \[H_0: d_0=0 \\ H_1: d_0>0\]
Statistika: \[T=\sqrt{n}D/S_D \sim t_{n-1}\]
t_kapa = 0.045/sqrt(0.0084) * sqrt(20)\(W=\{T>c\}\)
c = qt(1-alfa, 19)
t_kapa > c## [1] TRUEOdbacujemo \(H_0.\)