Post on 04-Oct-2018
1. ÁLGEBRA LINEAL
Y VECTORES ALEATORIOS
Vectores
Ortogonalización de Gram-Schmidt
Matrices ortogonales
Autovalores y autovectores
Formas cuadráticas
Vectores y matrices aleatorias
Matriz de datos
1
DAGOBERTO SALGADO HORTA
ALGEBRA LINEAL
Vectores
Matriz de datos: p variables observadas en n objetos
2
nxp
npnnn
p
p
p
X
xxxx
xxxx
xxxx
xxxx
321
3333231
2232221
1131211
pen
Objeto_1
Objeto_n
Variable_1 Variable_p
nxp
npnnn
p
p
p
X
xxxx
xxxx
xxxx
xxxx
321
3333231
2232221
1131211
pen
Objeto_1
Objeto_n
Variable_1 Variable_p
ALGEBRA LINEAL
Vectores
Dados vectores
px
x
x 1
py
y
y 1
se define:
1. Suma de dos vectores
pp yx
yx
yx 11
3
ALGEBRA LINEAL
Vectores
2. Producto de un escalar por un vector
pxc
xc
xc 1
3. Producto escalar de dos vectores
pp
p
i
ii yxyxyxyxyxyx
11
1
',
4
ALGEBRA LINEAL
Vectores
4. Norma de un vector
Propiedades
p
i
ixxxxxx1
22/1)'('
zxbyxabzayx ,,,
xyyx ,,
00,0, xxxyxx
x xx x
5
ALGEBRA LINEAL
Vectores
5. Distancia entre dos vectores
6. Ángulo entre dos vectores
yxyxd ),(
y
x
yx y
x
yx
6
yx
yx,cos
yxyx 0cos0,
ALGEBRA LINEAL
Vectores
7. Ortogonalidad
8. Ortonormalidad
nuuu ,,, 21 jiuu ji ,
nuuu ,,, 21 es ortonormal si es ortogonal
y todos los vectores tienen norma 1, es decir, iei 1
es ortogonal si
7
ALGEBRA LINEAL
Vectores
9. Desigualdad de Cauchy-Schwartz
yxyx ,
Consecuencia:
9
1cos1
1,
1
,
yx
yx
yxyxyx
ALGEBRA LINEAL
Vectores
Un conjunto de vectores nuuu ,,, 21
es linealmente independiente si
n
n
i
ii cccuc
21
1
0
(la única manera de construir una combinación lineal
igual a 0 es que todos los coeficientes sean 0)
10
ALGEBRA LINEAL
Vectores
Proposición Todo conjunto ortogonal es
nuuu ,,, 21
linealmente independiente:
ortogonal nuuu ,,, 21 l.i.
00,
0,,
0
11
11
jjj
jjjnnj
nn
cuu
uucucuccu
ucuc
Dem.-
11
ALGEBRA LINEAL
Ortogonalización de Gram-Schmidt
V subespacio vectorial de p
si V es espacio vectorial,
;,, bayVvues decir, si Vbvau
Dado A =
n
i
iii cucAspan1
:
nuuu ,,, 21
Propiedades
subespaciounesAspanii
AspanAi
)()(
)(
14
; p V
ALGEBRA LINEAL
Ortogonalización de Gram-Schmidt
Proposición
n
i
uuspanv
niuv
,,
,,1
1
0,,,
,,
11
1
i
n
i
i
n
i
ii
n
uvcucvvu
uuspanu
Dem.-
15
ALGEBRA LINEAL
Ortogonalización de Gram-Schmidt
Método de Gram-Schmidt
1
11
1
1
11
1
2
22
23
1
11
13
33
1
11
12
22
11
,
,
,
,
,
,
,
,
,
,
n
nn
nnn
nn uuu
uxu
uu
uxxu
uuu
uxu
uu
uxxu
uuu
uxxu
xu
Sean
Dado un conjunto de vectores l.i., se puede
construir otro conjunto ortogonal que genere el
mismo espacio
linealmente independientes nxxx ,,, 21
16
ALGEBRA LINEAL
Ortogonalización de Gram-Schmidt
Entonces:
ortogonalesuuii
uuspanxxspani
n
nn
,,)(
,,,,)(
1
11
17
ALGEBRA LINEAL
Matrices ortogonales
Matrices ortogonales
Anxn; inversa A-1: A A-1 = A-1A = I.
A’ transpuesta de A.
Qnxn es ortogonal si Q’Q = QQ’ = I.
(las columnas de una matriz ortogonal son vectores ortonormales)
mnmm
n
mxn
aaa
aaa
A
21
11211
18
ALGEBRA LINEAL
Matrices ortogonales
Propiedades
Qy Qx
y
x
19
xQxiii
QyQxyxii
yxQyQxi
ortogonal
matrizQyx p
)(
)(
,,)(
; ,
ALGEBRA LINEAL
Autovalores y autovectores
Anxn;
xAxquetalxvectorun 0
x
autovalor de A
x es un autovector asociado a .
0
0)(,0
0,0
0 ,0
IA
xIAx
IxAxx
xAxx
Polinomio
característico
Ecuación
característica
20
ALGEBRA LINEAL
Autovalores y autovectores
Propiedades
21
21
22
11
21
..,
)(
)(
ilsonxyxautovalorconx
autovalorconxii
trAi n
Diagonalización de matrices
jiijnxn aaAAsimétricaA '
nnn
n
nxn
aa
a
aaa
A
1
12
11211
22
ALGEBRA LINEAL
Autovalores y autovectores:
diagonalización
A simétrica
nn
n
nxn
e
e
e
eeeA
2
1
2
1
21
0
0
existen autovalores reales
n ,,1 con autovectores asociados nee ,,1
Ortonormales tales que
P P’ D
A=PDP’, siendo D diagonal y P ortogonal
(Toda matriz simétrica es diagonalizable)
23
ALGEBRA LINEAL
Autovalores y autovectores:
representación espectral
Sea
n ,,1
con autovectores ortonormales nee ,,1 tales que
A es simétrica existen autovalores reales
''
222
'
111 nnn eeeeeeA
nnn
n
nxn
aa
a
aaa
A
1
12
11211
25
ALGEBRA LINEAL
Ejemplo
Descomposición espectral de
26
15
51A
Autovalores y autovectores:
representación espectral
ALGEBRA LINEAL
Formas cuadráticas
Anxn simétrica;
n
jii
n
j
jiij
n
i
n
j
n
i
iijjiij
nnnnjiijnnn
nnnn
n
n
xxaxaxxa
xxaxxaxxaxaxa
x
x
x
aa
a
aaa
xxxxf
1 11 1 1
2
112112
22
111
2
1
1
12
11211
21
2
)(
nx ,
nx
x
x 1
f(x)=x’ A x es una forma cuadrática
27
ALGEBRA LINEAL
Formas cuadráticas
Ejemplo
Expresar matricialmente la forma cuadrática
Escribir en forma cuadrática
28
323121
2
3
2
2
2
1321 546325),,( xxxxxxxxxxxxf
2
1
212115
51),(
x
xxxxxf
ALGEBRA LINEAL
Formas cuadráticas
Como Anxn es simétrica, es diagonalizable,
se puede escribir A = PDP’ y, por tanto,
queda: f(x) = x’PDP’x.
Haciendo y = P’x:
,
0
0
')(1
2
11
1
n
i
ii
nn
n y
y
y
yyDyyxf
se tiene
2
1
2
11
2)( nn
n
i
ii yyyyf
29
Formas cuadráticas
x1
x2 y2 y1
e2 e1 2λ
c
1λ
c
ALGEBRA LINEAL 30
y los autovectores x’Ax=c2 representa geométricamente una elipse en
22
22
2
11
2
2
'''
cyycxPDPxcAxx
; los autovalores son 21
normalizados son e1 y e2
2
Formas cuadráticas
ALGEBRA LINEAL 31
Ejemplo
Representar, hallar ejes, hallar expresión reducida
915
51
2
1
21
x
xxx
Formas cuadráticas
Clasificación de formas cuadráticas
ALGEBRA LINEAL 32
Sea f(x) = x’ A x
f es definida positiva si
f es semidefinida positiva si
f es semidefinida negativa si
f es definida negativa si
f es indefinida si
0)(,0 xfx
0)(, xfx n
0)(,0 xfx
0)(0)( 2121 xfyxfquetalxyx nn
0)(, xfx n
Formas cuadráticas
Sean los autovalores de A
f es definida positiva
f es semidefinida positiva
f es semidefinida negativa
f es definida negativa
f es indefinida
ALGEBRA LINEAL
0,,01 n
0,,01 n
0,,01 n
0,,01 n
0,0 ji
33
n ,,1
Formas cuadráticas
B es raíz de A si A=BB ;
ALGEBRA LINEAL
n
i
ii eeA1
'
Raíz cuadrada de una matriz
A definida positiva;
B=A1/2 ; A=A1/2 A1/2
Si A es simétrica y diagonalizable, A=PDP’ con
descomposición espectral
34
Formas cuadráticas
ALGEBRA LINEAL
Raíz cuadrada de una matriz
''
0
0
'
0
0
1
1
2/1
1
ii
n
i
i
nn
eePPAPPASea
'1
'
/10
0/1
1
1
1
ii
n
i i
n
eePPA
Nota:
35
Descomposición singular de una matriz
ALGEBRA LINEAL
i
Dada la matriz Amxn, AA’ es cuadrada y
simétrica; por tanto, diagonalizable.
VUAk
00
0
0
01
es un valor singular de A, si 2
i es autovalor de AA’.
Descomposición singular
Sea A una matriz mxn; k ,,1 valores singulares de A.
Entonces existen matrices ortogonales U y V tales que:
36
Vectores y matrices aleatorias
22 )]([)(
)(
aleatoria variable
iiiiii
ii
i
XEXEXV
XE
X
mnmm
n
n XXX
XXX
X
X
X
21
112111
;
Vector
aleatorio
Matriz
aleatoria
31
Vectores y matrices aleatorias
)()()()(
)()()(
)()(
)()(
)()()(
1
111
YEXEYXEYiii
BXAEAXBEii
XEXE
XEXE
AXAEAXEi
mxn
mnm
n
Propiedades
Sea Xmxm y sean Akxm y Bnxr matrices de constantes.
Entonces:
38
Vectores y matrices aleatorias
)(
)( 11
nn XE
XE
EX
Se llama vector de medias a:
y covarianza entre dos variables a
Se puede definir la matriz de covarianzas de X como:
)].)([(),( jjiijiij EXXEXXEXXCov
nnn
n
XVX
1
111
39
Vectores y matrices aleatorias
Proposición
')( )(
)()()(
constantes de matriz una Sea
CCCXVii
XCECXEi
Cmxn
40
ccXcVii
cXcEi
VXEX
nic
c
c
c
X
X
X i
p
pp
')'( )(
')'()(
;
constantes ,...,1con y Sea
11
)')(( XXEProposición Proposición
X1
Xn
Vectores y matrices aleatorias
ALGEBRA LINEAL
Ejemplo
41
42
26
0
1
2
2
123
212
121
2
1
XXY
XXY
XXY
X
XX
Vectores y matrices aleatorias
,
1
1
1
21
221
112
pp
p
p
rr
rr
rr
Matriz de correlaciones
,2/12/1 VVen forma matricial:
donde V es la matriz de varianzas:
2
2
111
0
0
0
0
ppp
V
donde ;jjii
ij
ijr
42
Vectores y matrices aleatorias
)2(
)1(
1
1
1
;X
X
X
X
X
X
X
X
X
X
p
r
r
p
Partición de un vector aleatorio
)2(
)1(
Vector de medias:
Sea
Matriz de covarianzas:
2221
1211
),(),(
)(
)(
)2()1()2()1('
2112
)2(
22
)1(
11
ji XXCovXXCov
XV
XV
, donde
43
Matriz de datos
44
nxp
npnnn
p
p
p
X
xxxx
xxxx
xxxx
xxxx
321
3333231
2232221
1131211
pen
Objeto_1
Objeto_n
Variable_1 Variable_p
nxp
npnnn
p
p
p
X
xxxx
xxxx
xxxx
xxxx
321
3333231
2232221
1131211
pen
Objeto_1
Objeto_n
Variable_1 Variable_p
n
x
xn
x
x
n
i
ip
p
n
i
i 11
1
1
Matriz de datos
45
px
x
x 1
Vector de medias:
Matriz de varianzas y covarianzas:
donde
ppp
p
n
ss
ss
S
1
111
nxxxxs jkj
n
k
ikiij /)()(1
Matriz de correlaciones: 2/12/1
nnn VSVR , donde
pp
n
s
s
V
0
011
Matriz de datos
; ...,,,; 21
1
diiXXX
X
X
X n
p
Proposición
n
X
X
n
i
i 1
Dado
46
n
nSEiii
nXVii
XEi
n
1)()(
/)()(
)()(
Matriz de datos
47
La matriz de datos se puede representar como:
Diagrama de dispersión, n puntos en el espacio p
x1
x2 p=2
x1
x2
x3 p=3
Como para p>3 es imposible representarlo se hacen
diagramas de dispersión múltiple de dos variables:
Matriz de datos
48
Considerando las columnas en vez de la filas de la
matriz de datos, es decir, p puntos en n
nxp
npnnn
p
p
p
X
xxxx
xxxx
xxxx
xxxx
321
3333231
2232221
1131211
pen
Objeto_1
Objeto_n
Variable_1 Variable_p
nxp
npnnn
p
p
p
X
xxxx
xxxx
xxxx
xxxx
321
3333231
2232221
1131211
pen
Objeto_1
Objeto_n
Variable_1 Variable_p
Y1 Y2 Y3 Yp
Para cuatro variables:
34333231
24232221
14131211
xxxx
xxxx
xxxx
X
Y1 Y2 Y3 Y4
Y1 Y4
Y3
Y2
Matriz de datos
49
y forma el mismo ángulo con todos
los ejes.
1
1
11 nx
n1
Vector de unos: n unos
Propiedades:
es el vector unitario que forma el mismo
ángulo en todas las direcciones.
n/1
Matriz de datos
50
Coordenada en cualquier dirección de la proyección
de un vector sobre el vector
i
i
i
n
j
ij
i
i
x
x
xnxy
ypr 1/111,1
1,)(
1
1
1
yi
1
ix
Matriz de datos
52
Entonces:
ij
jjii
ij
jjii
ij
ji
ji
ji
ijjkj
n
k
ikiji
iiiiniiii
rss
s
nsns
ns
dd
dddd
nsxxxxdd
nsdxxxxd
,),cos(
)()(,
)(...)(
1
222
1
Matriz de datos
54
Varianza generalizada de X:
Varianza total de X:
Caso muestral:
Varianza generalizada muestral:
Varianza total muestral:
)det(
pptraza 11)(
ppn ssStraza 11)(
)det( nn SS
Matriz de datos
55
Interpretación geométrica
Área
Varianza generalizada en
pn
VolumenS
2
)1(cos1 2
122211
2
221121 rssnnsnssendd
p