Varianssi

Varianssi on todennäköisyyslaskennassa ja tilastotieteessä satunnaismuuttujan hajonnan mitta. Varianssi kuvaa sitä, kuinka paljon satunnaismuuttujan arvot keskimäärin vaihtelevat odotusarvosta tai populaation keskiarvosta. Varianssissa yksittäisen mittauksen poikkeamat keskiarvosta tai odotusarvosta korotetaan toiseen potenssiin (neliöön). Varianssi saadaan ottamalla keskiarvo näistä neliöön korotetuista eroista. Kun arvot keskittyvät odotusarvon ympärille tiiviisti, on varianssin arvo pieni, ja kun arvot ovat hajallaan odotusarvon ympärillä, on sen arvo suuri. Reaaliarvoisen satunnaismuuttujan varianssi on sen toinen keskusmomentti. Varianssin yksikkö on satunnaismuuttujan yksikkö korotettuna toiseen potenssiin. Varianssin neliöjuurta sanotaan keskihajonnaksi, jonka yksikkö on sama kuin satunnaismuuttujalla.^[1][2][3][4]

Matemaattisesti varianssi ${\displaystyle \sigma _{X}^{2}}$ määritellään reaaliarvoisen satunnaismuuttujan ${\displaystyle X}$ odotusarvon ${\displaystyle \operatorname {E} }$ avulla

${\displaystyle \sigma _{X}^{2}=\operatorname {E} ((X-\mu )^{2}),}$ ^[2]

missä ${\displaystyle \mu =\operatorname {E} [X]}$ on satunnaismuuttujan odotusarvo. Varianssin arvo on ääretön, ellei odotusarvo ${\displaystyle \operatorname {E} [X^{2}]}$ ole äärellisenä olemassa. Varianssi voidaan merkitä myös

${\displaystyle \sigma _{X}^{2}=\sigma ^{2}(X)=\sigma ^{2}=Var(X)=D^{2}(X).}$ ^[2][4]

Varianssin avulla voidaan esittää myös keskihajonta eli standardipoikkeama ${\displaystyle \sigma _{X}={\sqrt {\sigma _{X}^{2}}}.}$ ^[2]

Diskreetin satunnaismuuttujan varianssi lasketaan

${\displaystyle \sigma _{X}^{2}=\sum _{x\in X}(x-\mu _{X})^{2}f_{X}(x),}$ ^[2][3][4]

missä ${\displaystyle f_{X}(x)}$ on jakauman pistetodennäköisyysfunktio.

Jatkuvan satunnaismuuttujaparin varianssi on taas

${\displaystyle \sigma _{X}^{2}=\int _{-\infty }^{+\infty }(x-\mu _{X})^{2}f_{X}(x)dx,\,}$ ^[2][3][4]

missä ${\displaystyle f_{X}(x)}$ on jakauman tiheysfunktio.

Varianssin lauseketta voidaan kehittää edelleen käyttämällä hyväksi odotusarvon ominaisuuksia:^[2]

${\displaystyle {\begin{aligned}\sigma _{X}^{2}&=\operatorname {E} \left[(X-\operatorname {E} [X])^{2}\right]\\&=\operatorname {E} \left[X^{2}-2X\operatorname {E} [X]+(\operatorname {E} [X])^{2}\right]\\&=\operatorname {E} \left[X^{2}\right]-2\operatorname {E} [X]\operatorname {E} [X]+(\operatorname {E} [X])^{2}\\&=\operatorname {E} \left[X^{2}\right]-(\operatorname {E} [X])^{2}\end{aligned}}}$

Ensimmäistä muotoa kutsutaan toiseksi keskusmomentiksi ja viimeisessä muodossa käytetään toista ja ensimmäistä origomomenttia.^[4]

Varianssin laskemiseksi on käytössä myös tekijämomentin sisältävä muoto:

${\displaystyle \sigma ^{2}=\operatorname {E} [X(X-1)]+\operatorname {E} [X]-(\operatorname {E} [X])^{2}}$ ^[3]

Varianssin arvo on aina epänegatiivinen. Kun varianssi on nolla, ei arvoissa esiinny vaihtelua ja satunnaismuuttuja antaa vain samoja arvoja. Siten

${\displaystyle \sigma ^{2}(X)\geq 0.}$ ^[3]

Varianssi on kovarianssi kahden identtisen satunnaismuuttujan välillä

${\displaystyle \sigma ^{2}(X)=\sigma (X,X).}$ ^[5] (kovarianssi)

Jokaisen satunnaismuuttujan arvoon lisätty vakio ei vaikuta varianssin arvoon eli

${\displaystyle \sigma ^{2}(X+a)=\sigma ^{2}(X),}$ ^[2][3][4]

mutta arvojen kertominen vakiolla kasvattavat ${\displaystyle (|a|>1)}$ tai vähentävät ${\displaystyle (|a|<1)}$ varianssia

${\displaystyle \sigma ^{2}(aX)=a^{2}\sigma ^{2}(X).}$ ^[2][3][4]

Kahden satunnaismuuttujan lineaarikombinaatiossa varianssiin vaikuttaa myös satunnaismuuttujien kovarianssi

${\displaystyle \sigma ^{2}(aX\pm bY)=a^{2}\sigma ^{2}(X)+b^{2}\sigma ^{2}(Y)\pm 2ab\,\sigma (X,Y),}$ ^[2]

mikä merkitään yleisemmässä tapauksessa

${\displaystyle \sigma ^{2}(a_{1}X_{1}+a_{2}X_{2}+\dots +a_{n}X_{n})=\sum _{i=1}^{n}a_{i}^{2}\,\sigma ^{2}(X_{i})+2\sum _{1\leq i<j\leq n}a_{i}a_{j}\sigma (X_{i},X_{j}).}$ ^[2][4]

Nämä arvot voidaan käsitellä hallitummin kovarianssimatriisissa.^[6] Tämä ominaisuus vaikuttaa myös satunnaismuuttujien summan varianssiin

${\displaystyle \sigma ^{2}(X_{1}+X_{2}+\dots +X_{n})=\sum _{i=1}^{n}\sum _{j=1}^{n}\sigma (X_{i},X_{j})=\sum _{i=1}^{n}\sigma ^{2}(X_{i})+\sum _{i\neq j}\sigma (X_{i},X_{j}).}$ ^[4]

Kovarianssia ei tarvitse huomioida, mikäli satunnaismuuttujat ovat korreloimattomia ${\displaystyle \sigma (X_{i},X_{j})=0\ ,\ \forall \ (i\neq j),}$ jolloin

${\displaystyle \sigma ^{2}(X_{1}+X_{2}+\dots +X_{n})=\sum _{i=1}^{n}\sigma ^{2}(X_{i}).}$

Riippumattomat satunnaismuuttujat ovat aina korreloimattomia. Korreloimattomilla satunnaismuuttujilla välimerkki ei vaikuta varianssin arvoon

${\displaystyle \sigma ^{2}(X\pm Y)=\sigma ^{2}(X)+\sigma ^{2}(Y).}$ ^[2]

Kahden satunnaismuuttujan tulon varianssi voidaan määrittää odotusarvon ominaisuuksien avulla

${\displaystyle {\begin{aligned}\operatorname {Var} (XY)&=[E(X)]^{2}\operatorname {Var} (Y)+[E(Y)]^{2}\operatorname {Var} (X)+\operatorname {Var} (X)\operatorname {Var} (Y)\\&=E(X^{2})E(Y^{2})-[E(X)]^{2}[E(Y)]^{2}.\end{aligned}}}$

Varianssi lasketaan äärelliselle populaatiolle ${\displaystyle (y_{1},\dots ,y_{N})}$ seuraavasti

${\displaystyle \sigma _{x}^{2}={\frac {1}{N}}\sum _{i=1}^{N}\left(y_{i}-{\overline {y}}\right)^{2},\,}$ ^[1][7][4]

missä ${\displaystyle {\overline {y}}}$ on populaation keskiarvo. Tätä kutsutaan toisinaan otosvarianssiksi, mutta termin käyttö on vaihtelevaa. Kun ${\displaystyle (y_{1},\dots ,y_{N})}$ on otos laajemmasta populaatiosta, ${\displaystyle \sigma ^{2}}$ on varianssin tarkentuva mutta harhainen estimaatti. Harhaton estimaatti on

${\displaystyle s_{x}^{2}={\frac {1}{N-1}}\sum _{i=1}^{N}\left(y_{i}-{\overline {y}}\right)^{2},}$ ^[1][7][4]

jota yleensä kutsutaan otosvarianssiksi. Suurten otosten tapauksessa ei ole käytännössä merkitystä kumpaa estimaattoria käytetään. Molempien keskihajonta saadaan ottamalla varianssista neliöjuuri.^[7][4]