Distribución normal multivariante

De Wikipedia
Saltar a: navegación, buscar

Plantía:Ficha de distribución de probabilidá

En probabilidá y estadística, una distribución normal multivariante, tamién llamada distribución gaussiana multivariante, ye una xeneralización de la distribución normal unidimensional a dimensiones cimeres.

Casu xeneral[editar | editar la fonte]

Un vector aleatoriu sigue una distribución normal multivariante si satisfai les siguientes condiciones equivalentes:

  • Toa combinación llineal ta de normal distribuyida.
  • Hai un vector aleatoriu , que les sos componentes son variables aleatories independientes distribuyíes según la normal estándar, un vector y una matriz tal que .
  • Hai un vector y una matriz semidefinida positiva simétrica tal que la función característica de X ye


Si ye una matriz non singular, entós la distribución puede describise pola siguiente función de densidá:


onde ye'l determinante de . Nótese como la ecuación de riba amenórgase a la distribución normal si ye un esguilar (esto ye, una matriz 1x1).

El vector μ nestes circunstancies ye la esperanza de X y la matriz ye la matriz de covarianza de les componentes Xi.

Ye importante entender que la matriz de covarianza puede ser singular (anque nun tea asina descrita pola fórmula de riba, pa la cual ta definida).

Esti casu apaez con frecuencia en estadística; por casu, na distribución del vector de borrafes en problemes ordinarios de regresión llineal. Nótese tamién que los Xi son polo xeneral non independientes; pueden trate como la resultancia d'aplicar el tresformamientu llineal A a una colección de variables normales Z.

Esta distribución d'un vector aleatoriu X que sigue una distribución normal multivariante pue ser descrita cola siguiente notación:


o faer esplícitu que X ye n-dimensional,


Función de distribución[editar | editar la fonte]

La función de distribución defínese como la probabilidá de que tolos valores d'un vector aleatoriu sían menores o iguales que los valores correspondientes d'un vector . Anque F nun tenga una fórmula, hai una serie d'algoritmos que dexen envalorala numbéricamente.[1]

Un contraejemplo[editar | editar la fonte]

El fechu de que dos variables aleatories X y Y sigan una distribución normal, caúna, nun implica que'l par (XY) siga una distribución normal conxunta. Un exemplu simple dar con X Normal(0,1), Y = X si |X| > 1 y Y = −X si |X| < 1. Esto tamién ye ciertu pa más de dos variables aleatories.[2]

De normal distribuyíes ya independencia[editar | editar la fonte]

Si X y Y tán de normal distribuyíes y son independientes, la so distribución conxunta tamién ta de normal distribuyida, esto ye, el par (XY) tien de tener una distribución normal bivariante. Sía que non, un par de variables aleatories de normal distribuyíes nun tienen por qué ser independientes al ser consideraes de forma conxunta.

Caso bivariante[editar | editar la fonte]

Nel casu particular de dos dimensiones, la función de densidá (con media (0, 0) ye

onde ye'l coeficiente de correlación ente y . Nesti casu,

Tresformamientu allegáu[editar | editar la fonte]

Si ye una tresformamientu allegáu de onde ye un vector de constantes y una matriz, entós tien una distribución normal multivariante con esperanza y varianza esto ye, . En particular, cualquier subconxuntu de les tien una distribución marxinal que ye tamién una normal multivariante.

Pa ver esto, considérese'l siguiente exemplu: pa estrayer el subconxuntu , úsese

lo qu'estrayi directamente los elementos deseyaos.

Otru corolariu sería que la distribución de , onde ye un vector del mesmu llargor que y el puntu indica un productu vectorial, sería una distribución gaussiana unidimensional con . Esta resultancia llógrase usando

y considerando namái la primer componente del productu (la primer fila de ye'l vector ). Reparar cómo la definición positiva de implica que la varianza del productu vectorial tendría de ser positiva.

Interpretación xeométrica[editar | editar la fonte]

Les curves de equidensidad d'una distribución normal multivariante son elipsoides (esto ye, tresformamientos llineales de hiperesferes) centraos na media.[3] Les direcciones de les exes principales de los elipsoides vienen daos polos vectores propios de la matriz de covarianza . Los llargores relativos de los cuadraos de les exes principales vienen daos polos correspondientes vectores propios.

Si ye una descomposición espectral onde les columnes d'O son vectores propios unitarios y ye una matriz diagonal de valores propios, entós tenemos

Amás, O puede escoyese talmente que sía una matriz de rotación, tal qu'invirtiendo una exa nun tenga nengún efectu en , pero invirtiendo una columna, camude'l signu del determinante de O'. La distribución ye n'efectu esguilada por , rotada por O y treslladada por .

Recíprocamente, cualquier elección de , matriz de rangu completu O, y valores diagonales positivos dexa'l pasu a una distribución normal non singular multivariante. Si cualesquier ye cero y O ye cuadrada, la matriz de covarianza ye una singular. Geométricamente esto significa que cada curva elipsoide ye infinitamente delgada y tien volume cero nun espaciu n-dimensional, según, siquier, unu de les principales exes tien longitud cero.

Correlaciones ya independencia[editar | editar la fonte]

Polo xeneral, les variables aleatories pueden ser incorreladas, pero altamente dependientes. Pero si un vector aleatoriu tien una distribución normal multivariante, entós cualesquier dos o más de los sos componentes que sían incorreladas, son independientes.

Pero non ye ciertu que dos variables aleatories que tán (xebradamente, marginalmente) de normal distribuyíes y incorreladas sían independientes. Dos variables aleatories que tán de normal distribuyíes pueden que nun lo tean conjuntamente. Pa un exemplu de dos variables de normal distribuyíes que sían incorreladas pero non independientes, vease de normal distribuyíes y incorreladas nun implica independencia.

Momentos más altos[editar | editar la fonte]

El momentu estándar de k-ésimo orde de X defínese como

onde

Los momentos centrales d'orde k vien daos como sigue:

(a) Si k ye impar, .

(b) Si k ye par, con , entós

onde la suma toma sobre toles disposiciones de conxuntos en pareyes (non ordenar). Esto ye, si tiense un k-ésimo () momentu central, tarán sumándose los productos de covarianzas (la notación - desprecióse pa facilitar la llectura):

Esto da llugar a términos na suma (15 nel casu de riba), caúnu siendo'l productu de (3 nesti casu) covarianzas. Pa momentos de cuartu orde (cuatro variables) hai tres términos. Pa momentos de sestu orde hai 3 × 5 = 15 términos, y pa momentos d'octavu orde hai 3 × 5 × 7 = 105 términos.

Les covarianzas son entós determinaes por aciu el reemplazu de los términos de la llista polos términos correspondientes de la llista que consiste en unos, entós doses, etc... Pa ilustrar esto, esamínese'l siguiente casu pel momento central de cuartu orde:

onde ye la covarianza de y . La idea del métodu de riba ye que primero s'atopa'l casu xeneral pal momentu -ésimo, onde se tien distintos variables - y entós pueden simplificase apropiadamente. Si tiense entós, a cencielles sía y síguese que .

Distribuciones condicionales[editar | editar la fonte]

Si y son estremaes como sigue:

con tamaños
con tamaños

entós la distribución de condicionada a ye una normal multivariante Fallu al revisar la fórmula (función '\chigre' desconocida): {\displaystyle (X_1|X_2=a) \sim N(\chigre{\mu}, \overline{\Sigma})} onde

Fallu al revisar la fórmula (función '\chigre' desconocida): {\displaystyle \chigre{\mu} = \mu_1 + \Sigma_{12} \Sigma_{22}^{-1} \left( a - \mu_2 \right) }

y matriz de covarianza

Esta matriz ye'l complementu de Schur de en . Esto significa que pa calcular la matriz condicional de covarianza, inviértese la matriz global de covarianza, despréciense les files y columnes correspondientes a les variables so les cualos ta condicionada y entós inviértese de nuevu pa consiguir la matriz condicional de covarianza.

Nótese que se sabe que alteria la varianza, anque la nueva varianza nun dependa del valor específicu de ; quiciabes más sosprendentemente, la media camudar por ; compárese esto cola situación na que nun se conoz el valor de , y nesi casu tendría como distribución

.

La matriz conozse como la matriz de coeficientes de regresión.

Esperanza condicional bivariante[editar | editar la fonte]

Nel casu

entós

onde esta última razón llámase de cutiu razón inversa de Mills.

Matriz d'información de Fisher[editar | editar la fonte]

La matriz d'información de Fisher (MIF) pa una distribución normal toma una formulación especial. L'elementu de la MIF pa ye

onde *

  • ye la función traza d'una matriz.

Diverxencia de Kullback-Leibler[editar | editar la fonte]

La diverxencia de Kullback-Leibler de a ye:

El llogaritmu tien de tomase con base y nos dos términos (llogaritmos neperianos), siguiendo'l llogaritmu tán los llogaritmos neperianos de les espresiones que son dambos factores de la función de densidá o si non, surden naturalmente. La diverxencia de riba mídese en nats. Estremando la espresión de riba por logy 2 dase pasu a la diverxencia en bits.

Estimación de parámetros[editar | editar la fonte]

La derivación del estimador de máxima verosimilitud de la matriz de covarianza d'una distribución normal multivariante ye, quiciabes sosprendentemente, sutil y elegante. Vease estimación de matrices de covarianza.

En poques palabres, la función de densidá de probabilidá d'una normal multivariante N-dimensional ye

y el estimador MV de la matriz de covarianza pa una amuesa de n observaciones ye

lo cual ye, a cencielles, la matriz muestral de covarianza. Este ye un estimador sesgado que la so esperanza ye

Una covarianza muestral insesgada ye

Entropía[editar | editar la fonte]

La entropía diferencial de la distribución normal multivariante ye[4]

onde ye'l determinante de la matriz de covarianza .

Tests de normalidá multivariante[editar | editar la fonte]

Los tests de normalidá multivariante comprueben la semeyanza d'un conxuntu dáu de datos cola distribución normal multivariante. La hipótesis nula ye qu'el conxuntu de datos ye similar a la distribución normal, por consiguiente un p-valor abondo pequeñu indica datos non normales. Los tests de normalidá multivariante inclúin el test de Cox-Small[5] y l'adaptación de Smith y Jain [6] del test de Friedman-Rafsky.

Asemeyando valores de la distribución[editar | editar la fonte]

Un métodu llargamente usáu p'asemeyar un vector aleatoriu de la distribución normal multivariada -dimensional con vector de medies y matriz de covarianza (riquida pa ser simétrica y definida positiva) funciona como sigue:

  1. Calcúlase la descomposición de Cholesky de , esto ye, atópase la única matriz triangular inferior tal que . Nótese que cualesquier otra matriz que satisfaiga esta condición, esto ye, que ye unu la raigañu cuadráu de , podría usase, pero de cutiu atopar tal matriz, distinta de la de la descomposición de Cholesky, sería abondo más costosu en términos de computación.
  2. Sía un vector que les sos componentes normales ya independientes varien (lo cual puede xenerase, por casu, usando'l métodu de Box-Muller.
  3. Sía

Referencies[editar | editar la fonte]

  1. Vease MVNDST en [1] (incluyi códigu FORTRAN) o [2] (inclúi códigu MATLAB).
  2. Ver tamién de normal distribuyíes y incorreladas nun implica independencia
  3. Nikolaus Hansen. «The CMA Evolution Strategy: A Tutorial».
  4. «Entropy Expressions and Their Estimators for Multivariate Distributions». Information Theory, IEEE Transactions on 35. mayu de 1989. doi:10.1109/18.30996. 
  5. «Testing multivariate normality». Biometrika 65. agostu de 1978. doi:10.1093/biomet/65.2.263. 
  6. «A test to determine the multivariate normality of a dataset». IEEE Transactions on Pattern Analysis and Machine Intelligence 10. setiembre de 1988. doi:10.1109/34.6789. 



Distribución normal multivariante