SlideShare uma empresa Scribd logo
1 de 18
Baixar para ler offline
Independent
Component
Analysis
ICA
Ystallonne Alves
Aprendizado de Máquina | DIMAP | PPgSC
2
Independent Component Analysis
ICA
Aprendizado de Máquina | DIMAP | PPgSC
• Introdução
• ICA
• Aplicações
• Problema da festa de coquetel
• PCA e ICA
• Considerações finais
• Referências
Agenda
3
Independent Component Analysis
ICA
Aprendizado de Máquina | DIMAP | PPgSC
Anos 80
J. Hérault, C. Jutten e B.Ans
1994
“Independent Component Analysis,
a new concept?” — Comon
InfoMax
Introdução
Um breve histórico
4
Independent Component Analysis
ICA
Aprendizado de Máquina | DIMAP | PPgSC
ICA é uma técnica estatística e computacional para
revelar fatores ocultos que subjazem
conjuntos de variáveis aleatórias, medidas, ou sinais.
Trata-se de uma técnica bastante poderosa capaz
de separar fontes independentes linearmente
misturadas em vários sensores (HYVÄRINEN, 2015).
ICA
Independent Component Analysis
5
Independent Component Analysis
ICA
Aprendizado de Máquina | DIMAP | PPgSC
Para Hyvärinen, Karhunen e Oja (2001, p. 7):
Misturas de sinais de voz simultâneas, análise
de ondas cerebrais, interferências de sinais de
rádio, processos industriais, imagens cerebrais,
em econometria, extração de características de
imagem, entre outras.
Aplicações
Utilização de ICA
6
Independent Component Analysis
ICA
Aprendizado de Máquina | DIMAP | PPgSC
Problema da festa de coquetel
Cocktail party problem
f1
f2
f3
x1
x2
x3
Fontes
Matriz de mistura A
Observações
7
Independent Component Analysis
ICA
Aprendizado de Máquina | DIMAP | PPgSC
Tempo
t
Coeficientes
aij
Fontes originais
f1
, f2
e f3
x1
(t) = a11
f1
+ a12
f2
+ a13
f3
x2
(t) = a21
f1
+ a22
f2
+ a23
f3
x3
(t) = a31
f1
+ a32
f2
+ a33
f3
Problema da festa de coquetel
Cocktail party problem
8
Independent Component Analysis
ICA
Aprendizado de Máquina | DIMAP | PPgSC
x = Af
Problema da festa de coquetel
Cocktail party problem
x1
(t) = a11
f1
+ a12
f2
+ a13
f3
x2
(t) = a21
f1
+ a22
f2
+ a23
f3
x3
(t) = a31
f1
+ a32
f2
+ a33
f3
9
Independent Component Analysis
ICA
Aprendizado de Máquina | DIMAP | PPgSC
Problema da festa de coquetel
Cocktail party problem
y1
(t) = w11
x1
+ w12
x2
+ w13
x3
y2
(t) = w21
x1
+ w22
x2
+ w23
x3
y3
(t) = w31
x1
+ w32
x2
+ w33
x3
W = A-1
10
Independent Component Analysis
ICA
Aprendizado de Máquina | DIMAP | PPgSC
Tempo
t
Coeficientes
wij
Fontes extraídas
y1
, y2
e y3
y1
(t) = w11
x1
+ w12
x2
+ w13
x3
y2
(t) = w21
x1
+ w22
x2
+ w23
x3
y3
(t) = w31
x1
+ w32
x2
+ w33
x3
Problema da festa de coquetel
Cocktail party problem
11
Independent Component Analysis
ICA
Aprendizado de Máquina | DIMAP | PPgSC
Problema da festa de coquetel
Cocktail party problem
12
Independent Component Analysis
ICA
Aprendizado de Máquina | DIMAP | PPgSC
PCA
Correlação. Maximizar variação. Possibilitar
reconstruções.
ICA
Maximizar a independência. Maximizar a não
Gaussianidade.
PCA e ICA
Características
13
Independent Component Analysis
ICA
Aprendizado de Máquina | DIMAP | PPgSC
PCA e ICA
Comparativo
MisturasFontes originais Fontes extraídas
PCA
14
Independent Component Analysis
ICA
Aprendizado de Máquina | DIMAP | PPgSC
PCA e ICA
Comparativo
MisturasFontes originais Fontes extraídas
ICA
15
Independent Component Analysis
ICA
Aprendizado de Máquina | DIMAP | PPgSC
»» Um projeto de aprendizagem de máquina é basicamente um ciclo de
ações que precisam ser executadas (BELL, 2014).
»» Portanto, conhecer diferentes métodos, modelos e técnicas permite
estabelecer estratégias mais eficazes quando se pretende desenvolver ou
pôr em prática um projeto de aprendizado de máquina.
»» Como pode ser observado, o modelo ICA permite seu uso em
aplicações variadas de diferen­tes campos e ainda mostra-se mais eficiente
na resolução de certos problemas em relação ao PCA.
»» Por fim, Independent Component Analysis compreende uma técnica
extremamente poderosa, capaz de separar fontes independentes
linearmente misturadas em vários receptores.
Considerações finais
Independent Component Analysis
16
Independent Component Analysis
ICA
Aprendizado de Máquina | DIMAP | PPgSC
BELL, A. J.; SEJNOWSKI, T. J. An information maximization approach to blind separation and blind
deconvolution. In: ______. Neural Computation. 7. ed. La Jolla, CA: MIT Press, 1995a. p. 1129-1159.
______. A non-linear information maximization algorithm that performs blind separation. In: ______.
Advances in Neural Information Processing Systems. 7. ed. [S.l.]: [S.n.], 1995b. p. 467-474.
BELL, Jason. Machine Learning: Hands-On for Developers and Technical Professionals. [S.l.]: John
Wiley e Sons, 2014.
CHARTIER, S.; GOSSELIN, D.; LANGLOIS, D. An Introduction to Independent Component
Analysis: InfoMax and FastICA algorithms. v. 6(1). Ottawa: Tutorials in Quantitative Methods for
Psychology, 2010.
HYVÄRINEN, Aapo. What is Independent Component Analysis? Disponível em: < http://www.
cs.helsinki.fi/u/ahyvarin/whatisica.shtml >. Acesso em: 18 de setembro de 2015.
Referências
Parte I
17
Independent Component Analysis
ICA
Aprendizado de Máquina | DIMAP | PPgSC
HYVÄRINEN, A.; KARHUNEN, J.; OJA, E. Independent Component Analysis. [S.l.]: John Wiley and
Sons, 2001.
MARSLAND, Stephen. Machine Learning. 2. ed. [S.l.]: CRC Press, 2014.
NEVES, J. L. Pesquisa qualitativa: características, usos e possibilidades. Disponível em: <http://www.
ead.fea.usp.br/cad-pesq/arquivos/c03-art06.pdf>. Acesso em: 19 set. 2015.
NG, Andrew. Independent Component Analysis. Disponível em: < http://cs229.stanford.edu/notes/
cs229-notes11.pdf >. Acesso em: 17 set. 2015.
THEODORIDIS, Sergios. Machine Learning. [S.l.]: Academic Press, 2015.
Referências
Parte II
Independent
Component
Analysis
ICA
Ystallonne Alves
Aprendizado de Máquina | DIMAP | PPgSC

Mais conteúdo relacionado

Mais de Ystallonne Alves

Estudo de Caso sobre a Adoção de Padrões de Acessibilidade em Aplicações Web
Estudo de Caso sobre a Adoção de Padrões de Acessibilidade em Aplicações WebEstudo de Caso sobre a Adoção de Padrões de Acessibilidade em Aplicações Web
Estudo de Caso sobre a Adoção de Padrões de Acessibilidade em Aplicações WebYstallonne Alves
 
Proposição para um Paradigma de Orientação a Acessibilidade
Proposição para um Paradigma de Orientação a AcessibilidadeProposição para um Paradigma de Orientação a Acessibilidade
Proposição para um Paradigma de Orientação a AcessibilidadeYstallonne Alves
 
Super-Resolution for Imagery Enhancement Using Variational Quantum Eigensolver
Super-Resolution for Imagery Enhancement Using Variational Quantum EigensolverSuper-Resolution for Imagery Enhancement Using Variational Quantum Eigensolver
Super-Resolution for Imagery Enhancement Using Variational Quantum EigensolverYstallonne Alves
 
Predicting protein interaction sites from residue spatial sequence profile an...
Predicting protein interaction sites from residue spatial sequence profile an...Predicting protein interaction sites from residue spatial sequence profile an...
Predicting protein interaction sites from residue spatial sequence profile an...Ystallonne Alves
 
Accessibility-Oriented Paradigm for Designing UI
Accessibility-Oriented Paradigm for Designing UIAccessibility-Oriented Paradigm for Designing UI
Accessibility-Oriented Paradigm for Designing UIYstallonne Alves
 
Design Interativo para Dispositivos Móveis
Design Interativo para Dispositivos MóveisDesign Interativo para Dispositivos Móveis
Design Interativo para Dispositivos MóveisYstallonne Alves
 

Mais de Ystallonne Alves (9)

SMARTFARM | Pitch Deck
SMARTFARM | Pitch DeckSMARTFARM | Pitch Deck
SMARTFARM | Pitch Deck
 
Estudo de Caso sobre a Adoção de Padrões de Acessibilidade em Aplicações Web
Estudo de Caso sobre a Adoção de Padrões de Acessibilidade em Aplicações WebEstudo de Caso sobre a Adoção de Padrões de Acessibilidade em Aplicações Web
Estudo de Caso sobre a Adoção de Padrões de Acessibilidade em Aplicações Web
 
Proposição para um Paradigma de Orientação a Acessibilidade
Proposição para um Paradigma de Orientação a AcessibilidadeProposição para um Paradigma de Orientação a Acessibilidade
Proposição para um Paradigma de Orientação a Acessibilidade
 
Super-Resolution for Imagery Enhancement Using Variational Quantum Eigensolver
Super-Resolution for Imagery Enhancement Using Variational Quantum EigensolverSuper-Resolution for Imagery Enhancement Using Variational Quantum Eigensolver
Super-Resolution for Imagery Enhancement Using Variational Quantum Eigensolver
 
Sumarização de Video
Sumarização de VideoSumarização de Video
Sumarização de Video
 
Predicting protein interaction sites from residue spatial sequence profile an...
Predicting protein interaction sites from residue spatial sequence profile an...Predicting protein interaction sites from residue spatial sequence profile an...
Predicting protein interaction sites from residue spatial sequence profile an...
 
Accessibility-Oriented Paradigm for Designing UI
Accessibility-Oriented Paradigm for Designing UIAccessibility-Oriented Paradigm for Designing UI
Accessibility-Oriented Paradigm for Designing UI
 
Augmented reality
Augmented realityAugmented reality
Augmented reality
 
Design Interativo para Dispositivos Móveis
Design Interativo para Dispositivos MóveisDesign Interativo para Dispositivos Móveis
Design Interativo para Dispositivos Móveis
 

Independent component analysis

  • 2. 2 Independent Component Analysis ICA Aprendizado de Máquina | DIMAP | PPgSC • Introdução • ICA • Aplicações • Problema da festa de coquetel • PCA e ICA • Considerações finais • Referências Agenda
  • 3. 3 Independent Component Analysis ICA Aprendizado de Máquina | DIMAP | PPgSC Anos 80 J. Hérault, C. Jutten e B.Ans 1994 “Independent Component Analysis, a new concept?” — Comon InfoMax Introdução Um breve histórico
  • 4. 4 Independent Component Analysis ICA Aprendizado de Máquina | DIMAP | PPgSC ICA é uma técnica estatística e computacional para revelar fatores ocultos que subjazem conjuntos de variáveis aleatórias, medidas, ou sinais. Trata-se de uma técnica bastante poderosa capaz de separar fontes independentes linearmente misturadas em vários sensores (HYVÄRINEN, 2015). ICA Independent Component Analysis
  • 5. 5 Independent Component Analysis ICA Aprendizado de Máquina | DIMAP | PPgSC Para Hyvärinen, Karhunen e Oja (2001, p. 7): Misturas de sinais de voz simultâneas, análise de ondas cerebrais, interferências de sinais de rádio, processos industriais, imagens cerebrais, em econometria, extração de características de imagem, entre outras. Aplicações Utilização de ICA
  • 6. 6 Independent Component Analysis ICA Aprendizado de Máquina | DIMAP | PPgSC Problema da festa de coquetel Cocktail party problem f1 f2 f3 x1 x2 x3 Fontes Matriz de mistura A Observações
  • 7. 7 Independent Component Analysis ICA Aprendizado de Máquina | DIMAP | PPgSC Tempo t Coeficientes aij Fontes originais f1 , f2 e f3 x1 (t) = a11 f1 + a12 f2 + a13 f3 x2 (t) = a21 f1 + a22 f2 + a23 f3 x3 (t) = a31 f1 + a32 f2 + a33 f3 Problema da festa de coquetel Cocktail party problem
  • 8. 8 Independent Component Analysis ICA Aprendizado de Máquina | DIMAP | PPgSC x = Af Problema da festa de coquetel Cocktail party problem x1 (t) = a11 f1 + a12 f2 + a13 f3 x2 (t) = a21 f1 + a22 f2 + a23 f3 x3 (t) = a31 f1 + a32 f2 + a33 f3
  • 9. 9 Independent Component Analysis ICA Aprendizado de Máquina | DIMAP | PPgSC Problema da festa de coquetel Cocktail party problem y1 (t) = w11 x1 + w12 x2 + w13 x3 y2 (t) = w21 x1 + w22 x2 + w23 x3 y3 (t) = w31 x1 + w32 x2 + w33 x3 W = A-1
  • 10. 10 Independent Component Analysis ICA Aprendizado de Máquina | DIMAP | PPgSC Tempo t Coeficientes wij Fontes extraídas y1 , y2 e y3 y1 (t) = w11 x1 + w12 x2 + w13 x3 y2 (t) = w21 x1 + w22 x2 + w23 x3 y3 (t) = w31 x1 + w32 x2 + w33 x3 Problema da festa de coquetel Cocktail party problem
  • 11. 11 Independent Component Analysis ICA Aprendizado de Máquina | DIMAP | PPgSC Problema da festa de coquetel Cocktail party problem
  • 12. 12 Independent Component Analysis ICA Aprendizado de Máquina | DIMAP | PPgSC PCA Correlação. Maximizar variação. Possibilitar reconstruções. ICA Maximizar a independência. Maximizar a não Gaussianidade. PCA e ICA Características
  • 13. 13 Independent Component Analysis ICA Aprendizado de Máquina | DIMAP | PPgSC PCA e ICA Comparativo MisturasFontes originais Fontes extraídas PCA
  • 14. 14 Independent Component Analysis ICA Aprendizado de Máquina | DIMAP | PPgSC PCA e ICA Comparativo MisturasFontes originais Fontes extraídas ICA
  • 15. 15 Independent Component Analysis ICA Aprendizado de Máquina | DIMAP | PPgSC »» Um projeto de aprendizagem de máquina é basicamente um ciclo de ações que precisam ser executadas (BELL, 2014). »» Portanto, conhecer diferentes métodos, modelos e técnicas permite estabelecer estratégias mais eficazes quando se pretende desenvolver ou pôr em prática um projeto de aprendizado de máquina. »» Como pode ser observado, o modelo ICA permite seu uso em aplicações variadas de diferen­tes campos e ainda mostra-se mais eficiente na resolução de certos problemas em relação ao PCA. »» Por fim, Independent Component Analysis compreende uma técnica extremamente poderosa, capaz de separar fontes independentes linearmente misturadas em vários receptores. Considerações finais Independent Component Analysis
  • 16. 16 Independent Component Analysis ICA Aprendizado de Máquina | DIMAP | PPgSC BELL, A. J.; SEJNOWSKI, T. J. An information maximization approach to blind separation and blind deconvolution. In: ______. Neural Computation. 7. ed. La Jolla, CA: MIT Press, 1995a. p. 1129-1159. ______. A non-linear information maximization algorithm that performs blind separation. In: ______. Advances in Neural Information Processing Systems. 7. ed. [S.l.]: [S.n.], 1995b. p. 467-474. BELL, Jason. Machine Learning: Hands-On for Developers and Technical Professionals. [S.l.]: John Wiley e Sons, 2014. CHARTIER, S.; GOSSELIN, D.; LANGLOIS, D. An Introduction to Independent Component Analysis: InfoMax and FastICA algorithms. v. 6(1). Ottawa: Tutorials in Quantitative Methods for Psychology, 2010. HYVÄRINEN, Aapo. What is Independent Component Analysis? Disponível em: < http://www. cs.helsinki.fi/u/ahyvarin/whatisica.shtml >. Acesso em: 18 de setembro de 2015. Referências Parte I
  • 17. 17 Independent Component Analysis ICA Aprendizado de Máquina | DIMAP | PPgSC HYVÄRINEN, A.; KARHUNEN, J.; OJA, E. Independent Component Analysis. [S.l.]: John Wiley and Sons, 2001. MARSLAND, Stephen. Machine Learning. 2. ed. [S.l.]: CRC Press, 2014. NEVES, J. L. Pesquisa qualitativa: características, usos e possibilidades. Disponível em: <http://www. ead.fea.usp.br/cad-pesq/arquivos/c03-art06.pdf>. Acesso em: 19 set. 2015. NG, Andrew. Independent Component Analysis. Disponível em: < http://cs229.stanford.edu/notes/ cs229-notes11.pdf >. Acesso em: 17 set. 2015. THEODORIDIS, Sergios. Machine Learning. [S.l.]: Academic Press, 2015. Referências Parte II