SlideShare uma empresa Scribd logo
1 de 63
Baixar para ler offline
Padrões de pulsos e computação
em redes neurais com dinâmica
Humberto Sandmann
(candidato)
Prof. Dr. Emilio Del Moral Hernandez
(orientador)
Departamento de Engenharia de Sistemas Eletrônicos
Escola Politécnica da Universidade de São Paulo
São Paulo, Brasil
Prof. Dr. Marc Timme
(supervisor em estágio sanduíche)
Network Dynamics Group
Max Planck Institute for Dynamics and Self-organization
Göttingen, Alemanha
Defesa de Tese de Doutorado
São Paulo, 05 de Março de 2012
Humberto Sandmann 2 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Agenda
• Contextualização – capítulos 1 e 2
• Processamento de sinais pelo sistema neural
• O modelo integra-e-dispara
• O uso de neurodinâmica nesta pesquisa
• Objetivos
• Arquitetura desenvolvida
• Codificando estímulos em trens de pulsos – seção 3.1
• Decodificando trens de pulsos em classes – seção 3.2
• Simulações numéricas e resultados – seção 3.3
• Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4
• Mapeando potencial de membrana em fase – seção 4.1
• Medida de coerência de fase – seção 4.2
• Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5
• Discussão – capítulo 5
• Conclusões – seção 5.1
• Contribuições – seção 5.2
• Perpectivas – seção 5.3
Humberto Sandmann 3 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Agenda
• Contextualização – capítulos 1 e 2
• Processamento de sinais pelo sistema neural
• O modelo integra-e-dispara
• O uso de neurodinâmica nesta pesquisa
• Objetivos
• Arquitetura desenvolvida
• Codificando estímulos em trens de pulsos – seção 3.1
• Decodificando trens de pulsos em classes – seção 3.2
• Simulações numéricas e resultados – seção 3.3
• Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4
• Mapeando potencial de membrana em fase – seção 4.1
• Medida de coerência de fase – seção 4.2
• Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5
• Discussão – capítulo 5
• Conclusões – seção 5.1
• Contribuições – seção 5.2
• Perpectivas – seção 5.3
Humberto Sandmann 4 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Contextualização: processamento de sinais pelo sistema neural
De alguma forma o sistema neural biológico faz computação através de sinais
adquiridos pelo sistema sensorial.
Existem diversas propostas para explicar esse processamento de sinais:
– sincronização entre os disparos de neurônios;
– relações temporais de trens de pulsos;
– mapeamento espacial; entre outras.
Algumas características comuns presentes nessas propostas de processamento são:
– estarem baseadas em trens de pulsos emitidos por redes de neurônios;
– reconhecerem e aprenderem padrões;
– possuírem uma grande capacidade de representação.
PAUGAM-MOISY, H. Spiking neuron networks: a survey. Martigny - Switzerland, 2006
FREEMAN, W. J. Mass action in the nervous system. New York, NY: Academic Press, Inc., 1975
HODGKIN, A. L.; HUXLEY, A. F. A quantitative description of membrane current and its application to conduction and excitation in nerve. J. of Phys, August 1952
IZHIKEVICH, E. M. Dynamical systems in neuroscience: the geometry of excitability and bursting. Cambridge, Mass: MIT Press, 2007
GERSTNER,W.; KISTLER,W. M. Mathematical formulations of hebbian learning. Biological Cybernetics, v. 87, n. 5-6, p. 404–15, December 2002
Humberto Sandmann 5 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Contextualização: o modelo integra-e-dispara
Processamento baseado em trens de pulsos
O neurônio faz integração de Potenciais Pós-Sinápticos (PSP) que chegam através
de seus dendritos. Essa integração gera mudança no potencial de membrana do
neurônio, o que pode forçá-lo a disparar. Tal comportamento pode ser usado num
mecanismo de classificação.
GERSTNER,W.; KISTLER,W. M. Mathematical formulations of hebbian learning.
Biological Cybernetics, v. 87, n. 5-6, p. 404–15, December 2002
O neurônio do tipo integra-e-dispara é um dos modelos que reproduz alguns destes
comporamentos.
Extraído e adaptado de
en.wikipedia.org/wiki/Action_potential
trens de pulsos
Humberto Sandmann 6 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Contextualização: o uso neurodinâmica nesta pesquisa
Grande capacidade de representação
Pode estar ligada à riqueza de dinâmica produzida por redes de neurônios. Por isto,
é possível representar diferentes estímulos através da dinâmica sem fazer
modificações na estrutura de uma rede neural.
(dentro do grupo foi necessário dar os passos iniciais na área de pesquisa em sistemas dinâmicos de tempo
contínuo em redes neurais)
O neurônio do tipo oscilador é um exemplo de neurônio que usa dinâmica em seu
funcionamento. Este tipo de neurônio é encontrado em diversas regiões do sistema
nervoso, por exemplo, os neurônios cardíacos marcapassos.
IZHIKEVICH, E. M. Dynamical systems in neuroscience: the geometry of excitability and bursting.
Cambridge, Mass: MIT Press, 2007. (Computational Neuroscience)
diversas variedades de dinâmica segundo modelo de Izhikevich
Humberto Sandmann 7 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Contextualização: objetivos
Objetivos de estudos de mecanismos que possam:
– realizar processamento de sinais baseado-se em trens de pulsos;
– distinguir entre estímulos de entrada;
– suportar uma grande capacidade de representação.
Concretamente:
– os estudos ocorreram sobre diversos paradigmas e mecanismos;
– uma combinação entre redes de neurônios osciladores e um modelo de
neurônio integra-e-dispara foi usada para a elaboração de uma arquitetura.
Humberto Sandmann 8 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Agenda
• Contextualização – capítulos 1 e 2
• Processamento de sinais pelo sistema neural
• O modelo integra-e-dispara
• O uso de neurodinâmica nesta pesquisa
• Objetivos
• Arquitetura desenvolvida
• Codificando estímulos em trens de pulsos – seção 3.1
• Decodificando trens de pulsos em classes – seção 3.2
• Simulações numéricas e resultados – seção 3.3
• Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4
• Mapeando potencial de membrana em fase – seção 4.1
• Medida de coerência de fase – seção 4.2
• Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5
• Discussão – capítulo 5
• Conclusões – seção 5.1
• Contribuições – seção 5.2
• Perpectivas – seção 5.3
Humberto Sandmann 9 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Fluxo dos processos de codificação e decodificação da arquitetura proposta
C1
C2
Humberto Sandmann 10 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Agenda
• Contextualização – capítulos 1 e 2
• Processamento de sinais pelo sistema neural
• O modelo integra-e-dispara
• O uso de neurodinâmica nesta pesquisa
• Objetivos
• Arquitetura desenvolvida
• Codificando estímulos em trens de pulsos – seção 3.1
• Decodificando trens de pulsos em classes – seção 3.2
• Simulações numéricas e resultados – seção 3.3
• Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4
• Mapeando potencial de membrana em fase – seção 4.1
• Medida de coerência de fase – seção 4.2
• Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5
• Discussão – capítulo 5
• Conclusões – seção 5.1
• Contribuições – seção 5.2
• Perpectivas – seção 5.3
Humberto Sandmann 11 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Codificação: processo de codificação da arquitetura na 1a
camada
O processo de codificação é feito por uma rede de neurônios osciladores acoplados por pulsos, que
recebe estímulos de correntes de entrada e produz trens de pulsos.
codificação
C1
C2
Humberto Sandmann 12 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Codificação: a dinâmica do neurônio oscilador empregado
Dinâmica do potencial de membrana
Quando o potencial de membrana atinge um valor de
limiar, então, ele volta ao seu valor de repouso
capacitância
corrente de entrada
perda de membrana
Este modelo de neurônio é um oscilador de relaxação e seu potencial de membrana pode ser lido em fase
Humberto Sandmann 13 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Codificação: rede de neurônios osciladores acoplados por pulsos empregada
Dinâmica do potencial de membrana para um neurônio
de uma rede de neurônios acoplados por pulsos
taxa de acoplamento
dinâmica do neurônio oscilador 1
dinâmica do neurônio oscilador 2
Ao disparar, um neurônio gera um descontinuidade no potencial de membrana dos outros.
Humberto Sandmann 14 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Codificação: sincronização global ou parcial das fases de todos os osciladores
Um fenômeno neste tipo de acoplamento é a ocorrência de sincronização global ou parcial das
fases de todos os osciladores. Ao disparar, um oscilador convida os demais a dispararem juntos.
Portanto, não existe uma grande variedade de dinâmica no comportamento global da rede, logo,
existe uma limitação de representação.
MIROLLO, R. E.; STROGATZ, S. H. Synchronization of pulse-coupled biological
oscillators. SIAM J. Appl. Math., v. 50, n. 6, p. 1645–62, December 1990
Humberto Sandmann 15 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Codificação: adição de atraso entre os pulsos dos acoplamentos
Se for considerado um atraso entre a emissão de um pulso e a recepção deste pulso por outro
neurônio, então, o comportamento da dinâmica global da rede passa a ser diferente.
atraso
influência dos neurônios vizinhos
sendo que
MEMMESHEIMER, R.-M.; TIMME, M. Designing complex networks.
Physica D, v. 224, p. 182–201, November 2006
Dinâmica do potencial de membrana
Humberto Sandmann 16 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Codificação: seção de Poincaré do conjunto de osciladores acoplados
Extraído de www.wikipedia.org/wiki/Poincaré_map
Para visualizar o comportamento a longo prazo um oscilador de referência é eleito e toda vez que
este oscilador dispara, todos os valores de fases são plotados.
seção de Poincaré
NEVES, F. S.; TIMME, M. Controlled pertubation-induced switching in pulse-coupled
oscillator networks. J. Phys. A: Math. Theor., v. 42, n. 34, p. 345103, August 2009
Através da seção de Poincaré é possível observar comportamentos da dinâmica global da rede,
como por exemplo, perceber a existência de periodicidade de uma trajetória.
valordemembrana
período global
TP = 57 ciclos
5 osciladores acoplados (cada cor é o valor de membrana de um oscilador)
oscilador de referência (vermelho)
Humberto Sandmann 17 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Codificação: visualização por trajetórias
Baseado na seção de Poincaré, é possível traçar trajetórias da dinâmica da rede.
A trajetória passa pela vizinhança de diversos pontos de sela, portanto, é uma trajetória
heteroclínica.
Uma pseudo-trajetória com todas as 5 dimensões
pode ser representada pela diferença entre as fases
e uma dimensão de referência.
Humberto Sandmann 18 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Codificação: diferentes correntes de entrada geram diferentes trajetórias
corrente de estímulo de entrada
Cada corrente de entrada x leva a rede a apresentar uma
dinâmica global diferente.
x1 x2
Xi=(1,2,3,4,5) Xi=(5,1,2,3,4)
Humberto Sandmann 19 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Codificação: estados de sincronização
a
b
c
Ao longo do intervalo de tempo de um período pode existir sincronização entre as fases de
alguns osciladores. Essas sincronizações são temporárias, sendo feitas e desfeitas ao longo do
tempo, portanto, gerando estados de sincronização temporária de fase.
potencialdemembrana
t
(existe uma sobreposição dos valores)
a
b
c
período global
TP = 57 ciclos
Humberto Sandmann 20 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Agenda
• Contextualização – capítulos 1 e 2
• Processamento de sinais pelo sistema neural
• O modelo integra-e-dispara
• O uso de neurodinâmica nesta pesquisa
• Objetivos
• Arquitetura desenvolvida
• Codificando estímulos em trens de pulsos – seção 3.1
• Decodificando trens de pulsos em classes – seção 3.2
• Simulações numéricas e resultados – seção 3.3
• Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4
• Mapeando potencial de membrana em fase – seção 4.1
• Medida de coerência de fase – seção 4.2
• Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5
• Discussão – capítulo 5
• Conclusões – seção 5.1
• Contribuições – seção 5.2
• Perpectivas – seção 5.3
Humberto Sandmann 21 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Decodificação: processo de decodificação da arquitetura na 2a
camada
O processo de decodificação é feito por um neurônio do tipo integra-e-dispara, que emite um ou mais
pulsos quando recebe trens de pulsos que já foram aprendidos pela arquitetura.
decodificação
C1
C2
Humberto Sandmann 22 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Decodificação: saída de cada camada
O potencial de membrana é definido apenas pelos pulsos recebidos de outros neurônios. Nesta tese
foi usado o Tempotron, pois este possui um algoritmo de aprendizado bem estudado e seu uso em
problemas que envolvem trens de pulsos é crescente.
GÜTIG, R.; SOMPOLINSKY, H. The tempotron: a neuron that learns spike timing-based
decisions. Nature Neuroscience, v. 9, p. 420–8, February 2006
classe C2
classe C1
Humberto Sandmann 23 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Decodificação: um neurônio do tipo integra-e-dispara, o Tempotron
O potencial de membrana do Tempotron é dado por:
peso da conexão entre o neurônio da
camada anterior e esta camada
e o critério de disparo:
função característica do
potencial pós-sináptico (PSP)
Humberto Sandmann 24 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Decodificação: curva característica do potencial pós-sináptico (PSP)
função característica do
potencial pós-sináptico (PSP)
sendo que
volta ao potencial de repouso
Humberto Sandmann 25 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Decodificação: exemplo do potencial do Tempotron ao receber múltiplos pulsos
Quando diversos pulsos são recebidos pelo Tempotron, esses são somados de acordo com a
curva característica PSP.
pulsos recebidos
Processo supervisionado de aprendizado, onde os pesos w são atualizados de acordo com:
A atualização é positiva para trens de pulsos pertencentes a uma classe C1 e negativa para outra
classe C2.
Humberto Sandmann 26 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Decodificação: classificação
O processo de aprendizado induz o Tempotron a ter valores de membrana superiores ao valor
de limiar para determinados padrões de trens de pulsos e inferiores ao limiar para outros.
Assim, o Tempotron dispara para uma classe C1 de trens e permanece em silêncio para uma
outra classe C2.
Este comportamento é usado para discriminar entre padrões de trens de pulsos, logo:
Sendo que S é o número de vezes que o Tempotron disparou.
S = 0
Humberto Sandmann 27 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Decodificação: exemplo do processo de aprendizado
trens de pulsos a disparar
trens de pulsos a não disparar
Pontecial de membrana do Tempotron antes do aprendizado
C2C1
Humberto Sandmann 28 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Decodificação: exemplo do processo de aprendizado
trens de pulsos a disparar
trens de pulsos a não disparar
Pontecial de membrana do Tempotron
C2C1
após o aprendizado
Humberto Sandmann 29 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Agenda
• Contextualização – capítulos 1 e 2
• Processamento de sinais pelo sistema neural
• O modelo integra-e-dispara
• O uso de neurodinâmica nesta pesquisa
• Objetivos
• Arquitetura desenvolvida
• Codificando estímulos em trens de pulsos – seção 3.1
• Decodificando trens de pulsos em classes – seção 3.2
• Simulações numéricas e resultados – seção 3.3
• Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4
• Mapeando potencial de membrana em fase – seção 4.1
• Medida de coerência de fase – seção 4.2
• Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5
• Discussão – capítulo 5
• Conclusões – seção 5.1
• Contribuições – seção 5.2
• Perpectivas – seção 5.3
Humberto Sandmann 30 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Simulações: fluxo de trens de pulsos entre as camadas com múltiplos Tempotrons
Humberto Sandmann 31 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Simulações: objetivos das séries de simulações
Duas séries de simulações foram feitas com os objetivos de:
• Na 1a série é validar e explorar a arquitetura desenvolvida;
• Na 2a série é mostrar a aplicação desta arquitetura em um problema de classificação
onde os elementos das classes sejam não linearmente separáveis.
Humberto Sandmann 32 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Simulações: validação e exploração da arquitetura – agrupamento dos
estímulos
Objetivo da 1a
série: validar e explorar a arquitetura desenvolvida.
Foram preparados estímulos de correntes de entrada que levassem a rede a apresentar uma
dinâmia global com trajetória de órbita fechada e com o mesmo período.
Estímulos de entrada foram: {1,2,3,4,5}x10-4
, sendo que permutações desses elementos permitem
criar 120 combinações de estímulos; ainda, se esses conjuntos forem classificados em bipartições,
então, existem 2120
bipartições possíveis.
Para reduzir esse volume de bipartições um critério de agrupamento foi estabelecido sobre os
estímulos similares, uma função degrau foi aplicada, onde: xi < 3 então 0, caso contrário, 1, logo:
grupo
Humberto Sandmann 33 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Simulações: validação e exploração da arquitetura
Assim, é possível reduzir o número de 120 possíveis permutações para 10 possíveis grupos (sendo
que cada um representa 12 estímulos de entrada permutados):
Quando separado em bipartições, o número total de combinações é de 210
bipartições,
reduzindo assim consideravelmente o esforço computacional (com relação a 2120
).
Exemplo: 72 entradas distribuídas em 6 grupos foram aprendidas, sendo que 2 desses grupos
pertencentes a classe C1 e os demais a classe C2.
C1 = {(5,2,1,4,3), ...}, tal que x pertence ao grupo (1,0,0,1,1) ou grupo (1,1,1,0,0)
C2 = {(5,2,3,1,4), ...}, tal que x pertence ao grupo (1,0,1,0,1), grupo (1,1,0,1,0),
grupo (1,1,0,0,1) ou grupo (1,0,1,1,0)
Classes com elementos agrupados
Humberto Sandmann 34 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Resultados: exemplo de classificação dos grupos
C1 = {(5,2,1,4,3), ...}, tal que x pertence ao grupo (1,0,0,1,1) ou grupo (1,1,1,0,0)
C2 = {(5,2,3,1,4), ...}, tal que x pertence ao grupo (1,0,1,0,1), grupo (1,1,0,1,0),
grupo (1,1,0,0,1) ou grupo (1,0,1,1,0)
Humberto Sandmann 35 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Resultados: classificando as 210
bipartições
grupo
C1
C2
Tarefa: aprendendo todas as 210
possibilidades de bipartições possíveis através do agrupamento.
Como resultado desta série de simulações, todas as classificações foram realizadas com sucesso,
sendo que algumas convergiram rapidamente e outras nem tanto.
Humberto Sandmann 36 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Resultados: um problema xor-like
Objetivo da 2a
série: explorar o uso desta arquitetura em um problema de classificação onde os
elementos das classes sejam não linearmente separáveis.
Foi utilizado um exemplo clássico encontrado em sistemas digitais, o XOR; quatro elementos
foram criados e agrupados em classes de forma não linearmente separáveis.
entrada x classe
(1, 2, 3, 4, 4) C1
(1, 2, 3, 4, 5) C2
(1, 2, 3, 5, 4) C2
(1, 2, 3, 5, 5) C1
Como resultado a arquitetura desenvolvida foi capaz de classificar as correntes de estímulos
que são não linearmente separáveis, em duas dimensões.
tabela XOR
0 0 0
0 1 1
1 0 1
1 1 0
Humberto Sandmann 37 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Agenda
• Contextualização – capítulos 1 e 2
• Processamento de sinais pelo sistema neural
• O modelo integra-e-dispara
• O uso de neurodinâmica nesta pesquisa
• Objetivos
• Arquitetura desenvolvida
• Codificando estímulos em trens de pulsos – seção 3.1
• Decodificando trens de pulsos em classes – seção 3.2
• Simulações numéricas e resultados – seção 3.3
• Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4
• Mapeando potencial de membrana em fase – seção 4.1
• Medida de coerência de fase – seção 4.2
• Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5
• Discussão – capítulo 5
• Conclusões – seção 5.1
• Contribuições – seção 5.2
• Perpectivas – seção 5.3
Humberto Sandmann 38 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Análises: características favoráveis para o funcionamento adequado da arquitetura
Características favoráveis:
Periodicidade
As trajetórias devem ser cíclicas
Estabilidade
As trajetórias devem ser estáveis, ou seja, ciclos-limite
Sincronização temporária de fase
As trajetórias deve apresentar estados de sincronização de fase ao longo do período
Como consequência de periodicidade e estabilidade:
É possível estimar o período Tp dos trens de pulsos emitidos pela da 1a
camada;
e usar esta estimativa para o processo de aprendizagem que ocorre na 2a
camada.
Humberto Sandmann 39 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Agenda
• Contextualização – capítulos 1 e 2
• Processamento de sinais pelo sistema neural
• O modelo integra-e-dispara
• O uso de neurodinâmica nesta pesquisa
• Objetivos
• Arquitetura desenvolvida
• Codificando estímulos em trens de pulsos – seção 3.1
• Decodificando trens de pulsos em classes – seção 3.2
• Simulações numéricas e resultados – seção 3.3
• Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4
• Mapeando potencial de membrana em fase – seção 4.1
• Medida de coerência de fase – seção 4.2
• Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5
• Discussão – capítulo 5
• Conclusões – seção 5.1
• Contribuições – seção 5.2
• Perpectivas – seção 5.3
Humberto Sandmann 40 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Mapeando potencial de membrana em fase
Existe um volume de estudos maior para trabalhar com osciladores acoplados por fase, por isto, a
transformação de potencial de membrana para fase se torna conveniente, logo:
sendo que
KURAMOTO, Y. Collective synchronization of pulse-coupled oscillators
and excitable units. Physica D, v. 50, n. 1, p. 15–30, May 1991
dinâmica do neurônio oscilador isolado
Humberto Sandmann 41 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Agenda
• Contextualização – capítulos 1 e 2
• Processamento de sinais pelo sistema neural
• O modelo integra-e-dispara
• O uso de neurodinâmica nesta pesquisa
• Objetivos
• Arquitetura desenvolvida
• Codificando estímulos em trens de pulsos – seção 3.1
• Decodificando trens de pulsos em classes – seção 3.2
• Simulações numéricas e resultados – seção 3.3
• Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4
• Mapeando potencial de membrana em fase – seção 4.1
• Medida de coerência de fase – seção 4.2
• Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5
• Discussão – capítulo 5
• Conclusões – seção 5.1
• Contribuições – seção 5.2
• Perpectivas – seção 5.3
Humberto Sandmann 42 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Coerência: medida de coerência de fase
No círculo unitário complexo, é possível calcular um valor de medida de coerência de fase entre as
fases de todos os osciladores, para isto:
onde:
ACEBRÓN, J. A.; BONILLA, L. L.; VICENTE, C. J. P.; RITORT, F.; SPIGLER, R. The Kuramoto model: a simple paradigm for
synchronization phenomena. Reviews of Modern Physics, v. 77, n. 1, p. 137–85, April 2005
Humberto Sandmann 43 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Coerência: medida de coerência de fase quando existem estados de sincronização
A medida de coerência de fase pode ser empregada como um critério para indicar a existência
de estados de sincronização temporária entre os osciladores.
Quando existem tais estados de sincronização de fase a medida de coerência de fase apresenta
também uma variação ao longo do período.
período global
Humberto Sandmann 44 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Coerência: medida de coerência de fase quando não existem estados de sincronização
Quando a medida de coerência de fase é uma constante, então, pode-se assumir que a
trajetória convergiu assintoticamente para um ponto fixo.
Em outro caso, a medida de coerência de fase possui pequenas oscilações, o que pode ser um
indício da trajetória estar excursionando em uma região de atração de um ponto de sela.
Humberto Sandmann 45 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Agenda
• Contextualização – capítulos 1 e 2
• Processamento de sinais pelo sistema neural
• O modelo integra-e-dispara
• O uso de neurodinâmica nesta pesquisa
• Objetivos
• Arquitetura desenvolvida
• Codificando estímulos em trens de pulsos – seção 3.1
• Decodificando trens de pulsos em classes – seção 3.2
• Simulações numéricas e resultados – seção 3.3
• Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4
• Mapeando potencial de membrana em fase – seção 4.1
• Medida de coerência de fase – seção 4.2
• Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5
• Discussão – capítulo 5
• Conclusões – seção 5.1
• Contribuições – seção 5.2
• Perpectivas – seção 5.3
Humberto Sandmann 46 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Simulações: estimando o período das trajetórias em espaço de estímulos
Objetivo: estimar o volume percentual de trajetórias em um espaço de estímulos que tenham as
características favoráveis ao funcionamento adequado da arquitetura.
Foram definidos estímulos de entrada na faixa de [0; 9] x 10-4
para uma rede com 5 neurônios
osciladores. Sendo ensaiadas 3024 das 30240 combinações possíveis (sem repetição); e para cada
combinação, duas trajetórias foram inicializadas com estados iniciais diferentes.
Como resultado foi possível montar a tabela:
possíveis pontos de sela
periodicidade não encontrada
Humberto Sandmann 47 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Simulações: histograma dos intervalos dos períodos das trajetórias encontradas
Possibilitando estimar o tamanho do período TP das trajetórias a ser usado no processo de
aprendizado do Tempotron
Histograma dos intervalos dos períodos das trajetórias encontradas
~ ~ ~ ~
~~~
Humberto Sandmann 48 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Simulações: tabela de todas as situações encontradas pela simulações
Periódicas, estáveis e com sincronização diversificada
volume percentual
%
%
%
%
%
%
%
Humberto Sandmann 49 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Agenda
• Contextualização – capítulos 1 e 2
• Processamento de sinais pelo sistema neural
• O modelo integra-e-dispara
• O uso de neurodinâmica nesta pesquisa
• Objetivos
• Arquitetura desenvolvida
• Codificando estímulos em trens de pulsos – seção 3.1
• Decodificando trens de pulsos em classes – seção 3.2
• Simulações numéricas e resultados – seção 3.3
• Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4
• Mapeando potencial de membrana em fase – seção 4.1
• Medida de coerência de fase – seção 4.2
• Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5
• Discussão – capítulo 5
• Conclusões – seção 5.1
• Contribuições – seção 5.2
• Perpectivas – seção 5.3
Humberto Sandmann 50 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Agenda
• Contextualização – capítulos 1 e 2
• Processamento de sinais pelo sistema neural
• O modelo integra-e-dispara
• O uso de neurodinâmica nesta pesquisa
• Objetivos
• Arquitetura desenvolvida
• Codificando estímulos em trens de pulsos – seção 3.1
• Decodificando trens de pulsos em classes – seção 3.2
• Simulações numéricas e resultados – seção 3.3
• Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4
• Mapeando potencial de membrana em fase – seção 4.1
• Medida de coerência de fase – seção 4.2
• Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5
• Discussão – capítulo 5
• Conclusões – seção 5.1
• Contribuições – seção 5.2
• Perpectivas – seção 5.3
Humberto Sandmann 51 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Discussão: conclusões
Conclusões - vantagens:
• capacidade de representação: a primeira camada produz trajetórias
heteroclínicas que podem gerar um número muito grande de trajetórias
cíclicas;
• emergência natural de trens de pulsos: a rede de osciladores acoplados por
pulsos emite padrões de trens de pulsos que podem ser decodificados pela
segunda camada;
• sensibilidade espaço-temporal: a primeira camada adiciona a dimensão tempo
aos estímulos de entrada, logo, existe uma dimensão a mais para ajudar no
aprendizado dos estímulos de entrada;
• plausibilidade biológica: todos os modelos são significativamente conectados
com mecanismos e padrões de comportamento da dinâmica dos sistemas
biológicos.
Humberto Sandmann 52 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Discussão: conclusões
Conclusões - desafios enfrentados:
• dependência de um intervalo conhecido para o processo de aprendizado: um
trem só é aprendido se seu período for conhecido;
• coexistência de múltiplos ciclos-limite: para um mesmo estímulo de entrada a
rede pode convergir para bacias de atração distintas, ou seja, o sistema é
sensível à configuração inicial;
• problema de desempenho no aprendizado: o processo de aprendizagem
apresenta um problema de desempenho para encontrar os pesos w’s
adequados para todas as amostras;
• precisão computacional: no processo de aprendizagem de um padrão de trens
de pulsos da segunda camada a precisão computacional pode influenciar nas
simulações numéricas, isto porque o processo computacional usa um modelo
do tipo integra-e-dispara.
Humberto Sandmann 53 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Discussão: contribuições
Contribuições:
• a proposta e desenvolvimento da arquitetura que conecta a rede de
osciladores acoplados por pulsos ao modelo integra-e-dispara Tempotron traz
uma contribuição para a área da neurocomputação, sendo esta arquitetura um
novo modelo para o processo de codificação e decodificação de sinais;
• as análises feitas para definir o intervalo do período TP são de grande
importância para o processo de aprendizado. Esta arquitetura permite que de
maneira automática este intervalo possa ser calculado (se existir), lhe dando
autonomia.
Humberto Sandmann 54 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Discussão: contribuições
Contribuições:
• para a realização dos diversos experimentos foi construída uma estrutura
computacional que suporta dois tipos de configurações: rede de osciladores
acoplados por pulsos e acoplados por fase. Esta estrutura foi implementada
em linguagem de programação Java; e vem sendo compartilhada por outros
pesquisadores, incluindo pesquisadores do Max Planck Institute for Dynamics
and Self-organization;
• uma customização do algoritmo Fast Kuramoto foi desenvolvida. Com esta
customização é possível aplicar o método fast Kuramoto em redes cujos
acoplamentos não são uniformes;
• uma frente nova dentro do grupo: neurodinâmica em tempo contínuo.
Humberto Sandmann 55 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Discussão: perspectivas
Perspectivas:
• definir as influências dos pontos fixos que determinam o percurso de uma
trajetória no subespaço. Se não for possível mapear todas as influências, ao
menos, seria interessante definir as regiões de ciclos-limite existentes no
subespaço;
• investigar e comparar outras métricas aplicadas a trens de pulsos. Este item
pode conduzir a uma melhor compreensão da dinâmica exercitada pela
trajetória global dos trens de pulsos, portanto, facilitando a identificação de
comportamentos dinâmicos exercitados pela primeira camada;
• fazer um estudo mais amplo sobre o impacto de ruídos sobre esta arquitetura;
• estudar o impacto de alterações na topologia da rede, ou seja, evitar uma rede
totalmente simétrica, porém ao mesmo tempo tentando manter as trajetórias
heteroclínicas.
Humberto Sandmann 56 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Publicações
SILVA, L. A. ; SANDMANN, H. ; DEL-MORAL-HERNANDEZ, E. . A self-organizing
architecture of recursive elements for continuous learning. In: International Joint
Conference on Neural Networks, 2008, Hong Kong. Proceedings of the
International Joint Conference on Neural Networks (IJCNN 2008). NY, U.S.A : IEEE
Press.: Piscataway, 2008.
SANDMANN, H. ; SILVA, L. A. ; DEL-MORAL-HERNANDEZ, E. . A self-organizing
architecture of recursive elements for continuous learning. In: Dynamics Days
Europe, 2009, Goettingen. Book of Dynamics Days Europe 2009, 2009. p. 246-247.
em preparação:
SANDMANN, H. ; NEVES, S. F. ; TIMME, M. ; DEL-MORAL-HERNANDEZ, E. . Bio-inspired
temporal pattern discrimination based on complex periodic orbits. (em preparação
possivelmente será submetido à Neural Networks).
Humberto Sandmann 57 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Agradecimentos
ICONE - Grupo de Inteligência Computacional,
Modelagem e Neurocomputação Eletrônica
Escola Politécnica da
Universidade de São Paulo
Max Planck Society
Max-Planck-Institut für Dynamik und Selbstorganization
Abteilung für Netzwerk-Dynamik
Humberto Sandmann 58 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Humberto Sandmann 59 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Humberto Sandmann 60 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Humberto Sandmann 61 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Contextualização: trabalhos correlatos
grande capacidade de armazenamento
através da neurodinâmica é possível representar diferentes estímulos sem
modificações na estrutura de uma rede neural.
(para isto, foi necessário dar passos iniciais na área de pesquisa em sistemas dinâmicos em redes)
ex: redes de osciladores neurais são estudados pela neurodinâmica e tem suas
inspirações em estudos de neurônios biológicos do tipo marcapassos (como os
cardíacos).
Processamento baseado em trens de pulsos
através da integração de potenciais pós-sinápticos (PSP) que chegam a um
neurônio por trens de pulsos é possível usar os processos de depolarização e
disparo deste neurônio para classificação.
ex: modelo de neurônio do tipo integra-e-dispara.
Humberto Sandmann 62 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Decodificação: processo de aprendizado
o processo de decodificação precisa aprender o trem de pulsos a ser identificado, para isto, o
Tempotron possui um processo supervisionado de aprendizado, onde os pesos w são atualizados
de acordo com:
onde a atualização é positiva para trens de pulsos a serem reconhecidos e negativa para os
demais.
Humberto Sandmann 63 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Codificação: processo de codificação da arquitetura na 1a
camada
O processo de codificação é feito por uma rede neurônios osciladores acoplados por pulsos, que ao
receberem estímulos de correntes de entrada e produzem trens de pulsos.
codificação

Mais conteúdo relacionado

Mais procurados

Aplicação das Redes Neuronais Artificiais do software STATISTICA 7.0: O caso ...
Aplicação das Redes Neuronais Artificiais do software STATISTICA 7.0: O caso ...Aplicação das Redes Neuronais Artificiais do software STATISTICA 7.0: O caso ...
Aplicação das Redes Neuronais Artificiais do software STATISTICA 7.0: O caso ...
Ricardo Brasil
 
Aplicação de redes neurais artificiais à engenharia de estruturas
Aplicação de redes neurais artificiais à engenharia de estruturasAplicação de redes neurais artificiais à engenharia de estruturas
Aplicação de redes neurais artificiais à engenharia de estruturas
Família Schmidt
 
Redes Neurais Artificiais: Regras de Aprendizado
Redes Neurais Artificiais: Regras de AprendizadoRedes Neurais Artificiais: Regras de Aprendizado
Redes Neurais Artificiais: Regras de Aprendizado
Jackson Daner
 

Mais procurados (11)

IA Redes Neurais Artificiais
IA Redes Neurais ArtificiaisIA Redes Neurais Artificiais
IA Redes Neurais Artificiais
 
Aplicação das Redes Neuronais Artificiais do software STATISTICA 7.0: O caso ...
Aplicação das Redes Neuronais Artificiais do software STATISTICA 7.0: O caso ...Aplicação das Redes Neuronais Artificiais do software STATISTICA 7.0: O caso ...
Aplicação das Redes Neuronais Artificiais do software STATISTICA 7.0: O caso ...
 
RNA - Redes neurais artificiais
RNA - Redes neurais artificiaisRNA - Redes neurais artificiais
RNA - Redes neurais artificiais
 
Banner sic 02
Banner sic 02Banner sic 02
Banner sic 02
 
Redes neurais e lógica fuzzy
Redes neurais e lógica fuzzyRedes neurais e lógica fuzzy
Redes neurais e lógica fuzzy
 
Aplicação de redes neurais artificiais à engenharia de estruturas
Aplicação de redes neurais artificiais à engenharia de estruturasAplicação de redes neurais artificiais à engenharia de estruturas
Aplicação de redes neurais artificiais à engenharia de estruturas
 
Introdução a redes neurais artificiais com a biblioteca encog
Introdução a redes neurais artificiais com a biblioteca encogIntrodução a redes neurais artificiais com a biblioteca encog
Introdução a redes neurais artificiais com a biblioteca encog
 
Redes Neurais Artificiais: Regras de Aprendizado
Redes Neurais Artificiais: Regras de AprendizadoRedes Neurais Artificiais: Regras de Aprendizado
Redes Neurais Artificiais: Regras de Aprendizado
 
Extração e Representação de Conhecimento de Redes Neurais Artificiais Utiliza...
Extração e Representação de Conhecimento de Redes Neurais Artificiais Utiliza...Extração e Representação de Conhecimento de Redes Neurais Artificiais Utiliza...
Extração e Representação de Conhecimento de Redes Neurais Artificiais Utiliza...
 
Apresentação sobre Gerencia de redes sem fio em ambiente externo (2007)
Apresentação sobre Gerencia de redes sem fio em ambiente externo (2007)Apresentação sobre Gerencia de redes sem fio em ambiente externo (2007)
Apresentação sobre Gerencia de redes sem fio em ambiente externo (2007)
 
Desenvolvimento de Rede Neural SOM: Um Estudo de Caso para Segmentação de Perfis
Desenvolvimento de Rede Neural SOM: Um Estudo de Caso para Segmentação de PerfisDesenvolvimento de Rede Neural SOM: Um Estudo de Caso para Segmentação de Perfis
Desenvolvimento de Rede Neural SOM: Um Estudo de Caso para Segmentação de Perfis
 

Destaque

Alexandra de Curtis SS17 Lookbook DPS
Alexandra de Curtis SS17 Lookbook DPSAlexandra de Curtis SS17 Lookbook DPS
Alexandra de Curtis SS17 Lookbook DPS
Alexandra de Curtis
 
Marathon Article 2015
Marathon Article 2015Marathon Article 2015
Marathon Article 2015
Andy Austin
 
Open sequence establish graph
Open sequence establish graphOpen sequence establish graph
Open sequence establish graph
megdoolin
 

Destaque (15)

Liebovitz pictures
Liebovitz picturesLiebovitz pictures
Liebovitz pictures
 
Alexandra de Curtis SS17 Lookbook DPS
Alexandra de Curtis SS17 Lookbook DPSAlexandra de Curtis SS17 Lookbook DPS
Alexandra de Curtis SS17 Lookbook DPS
 
Marathon Article 2015
Marathon Article 2015Marathon Article 2015
Marathon Article 2015
 
Tom Jenkins
Tom JenkinsTom Jenkins
Tom Jenkins
 
Improving Agility (Learning from Maersk Line's Journey) | Özlem Yüce | Agile ...
Improving Agility (Learning from Maersk Line's Journey) | Özlem Yüce | Agile ...Improving Agility (Learning from Maersk Line's Journey) | Özlem Yüce | Agile ...
Improving Agility (Learning from Maersk Line's Journey) | Özlem Yüce | Agile ...
 
StudyAdvantage - Blogger Candidate Information
StudyAdvantage - Blogger Candidate InformationStudyAdvantage - Blogger Candidate Information
StudyAdvantage - Blogger Candidate Information
 
Curriculum Vitae
Curriculum VitaeCurriculum Vitae
Curriculum Vitae
 
TD 20 oct
TD 20 octTD 20 oct
TD 20 oct
 
Fuse workshop in TechHub Riga
Fuse workshop in TechHub RigaFuse workshop in TechHub Riga
Fuse workshop in TechHub Riga
 
Ai1617 ac-tp1-g6-a
Ai1617 ac-tp1-g6-aAi1617 ac-tp1-g6-a
Ai1617 ac-tp1-g6-a
 
Marketing
Marketing Marketing
Marketing
 
A2 Media Audience research synopsis
A2 Media Audience research synopsisA2 Media Audience research synopsis
A2 Media Audience research synopsis
 
Open sequence establish graph
Open sequence establish graphOpen sequence establish graph
Open sequence establish graph
 
Deterioro cognitivo secundario a fármacos
Deterioro cognitivo secundario a fármacosDeterioro cognitivo secundario a fármacos
Deterioro cognitivo secundario a fármacos
 
ハースト婦人画報社【映像あり】
ハースト婦人画報社【映像あり】ハースト婦人画報社【映像あり】
ハースト婦人画報社【映像あり】
 

Semelhante a 20120305 - presentation

18.ago ouro i 16.00_495_coelce
18.ago ouro i 16.00_495_coelce18.ago ouro i 16.00_495_coelce
18.ago ouro i 16.00_495_coelce
itgfiles
 
Dissertação Eduardo Benayon
Dissertação Eduardo BenayonDissertação Eduardo Benayon
Dissertação Eduardo Benayon
edubenayon
 

Semelhante a 20120305 - presentation (20)

Rede Neural MLP para reconhecimento de Faces
Rede Neural MLP para reconhecimento de FacesRede Neural MLP para reconhecimento de Faces
Rede Neural MLP para reconhecimento de Faces
 
Redes Neuronais
Redes NeuronaisRedes Neuronais
Redes Neuronais
 
18.ago ouro i 16.00_495_coelce
18.ago ouro i 16.00_495_coelce18.ago ouro i 16.00_495_coelce
18.ago ouro i 16.00_495_coelce
 
P910Aula05
P910Aula05P910Aula05
P910Aula05
 
Aplicações de Inteligência Artificial em Rádios Cognitivos
Aplicações de Inteligência Artificial em Rádios CognitivosAplicações de Inteligência Artificial em Rádios Cognitivos
Aplicações de Inteligência Artificial em Rádios Cognitivos
 
Redes_Neurais.ppt
Redes_Neurais.pptRedes_Neurais.ppt
Redes_Neurais.ppt
 
Defesa Dissertação Fambrini
Defesa Dissertação FambriniDefesa Dissertação Fambrini
Defesa Dissertação Fambrini
 
Slides correção
Slides correçãoSlides correção
Slides correção
 
Search based gravitational algorithm
Search based gravitational algorithmSearch based gravitational algorithm
Search based gravitational algorithm
 
[Ottoni micro05] resume
[Ottoni micro05] resume[Ottoni micro05] resume
[Ottoni micro05] resume
 
Expert Systems Enabled for WEB Using Inference Based Hyperlink
Expert Systems Enabled for WEB Using  Inference Based  HyperlinkExpert Systems Enabled for WEB Using  Inference Based  Hyperlink
Expert Systems Enabled for WEB Using Inference Based Hyperlink
 
Classificação não supervisionada - Kohonen
Classificação não supervisionada - KohonenClassificação não supervisionada - Kohonen
Classificação não supervisionada - Kohonen
 
MagalhaesEduardoCavalcanti_D
MagalhaesEduardoCavalcanti_DMagalhaesEduardoCavalcanti_D
MagalhaesEduardoCavalcanti_D
 
Dissertacao mestrado-f fambrini
Dissertacao mestrado-f fambriniDissertacao mestrado-f fambrini
Dissertacao mestrado-f fambrini
 
Slides qualif fran v5
Slides qualif fran v5Slides qualif fran v5
Slides qualif fran v5
 
Introdução a Simulação de redes Sensores sem fio com Castalia
Introdução a Simulação de redes Sensores sem fio com CastaliaIntrodução a Simulação de redes Sensores sem fio com Castalia
Introdução a Simulação de redes Sensores sem fio com Castalia
 
Modelo de previsão de propriedades mecânicas de produtos abm
Modelo de previsão de propriedades mecânicas de produtos abmModelo de previsão de propriedades mecânicas de produtos abm
Modelo de previsão de propriedades mecânicas de produtos abm
 
Redes Neurais Artificiais
Redes Neurais ArtificiaisRedes Neurais Artificiais
Redes Neurais Artificiais
 
aula 1.pdf
aula 1.pdfaula 1.pdf
aula 1.pdf
 
Dissertação Eduardo Benayon
Dissertação Eduardo BenayonDissertação Eduardo Benayon
Dissertação Eduardo Benayon
 

20120305 - presentation

  • 1. Padrões de pulsos e computação em redes neurais com dinâmica Humberto Sandmann (candidato) Prof. Dr. Emilio Del Moral Hernandez (orientador) Departamento de Engenharia de Sistemas Eletrônicos Escola Politécnica da Universidade de São Paulo São Paulo, Brasil Prof. Dr. Marc Timme (supervisor em estágio sanduíche) Network Dynamics Group Max Planck Institute for Dynamics and Self-organization Göttingen, Alemanha Defesa de Tese de Doutorado São Paulo, 05 de Março de 2012
  • 2. Humberto Sandmann 2 / 57Padrões de pulsos e computação em redes neurais com dinâmica Agenda • Contextualização – capítulos 1 e 2 • Processamento de sinais pelo sistema neural • O modelo integra-e-dispara • O uso de neurodinâmica nesta pesquisa • Objetivos • Arquitetura desenvolvida • Codificando estímulos em trens de pulsos – seção 3.1 • Decodificando trens de pulsos em classes – seção 3.2 • Simulações numéricas e resultados – seção 3.3 • Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4 • Mapeando potencial de membrana em fase – seção 4.1 • Medida de coerência de fase – seção 4.2 • Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5 • Discussão – capítulo 5 • Conclusões – seção 5.1 • Contribuições – seção 5.2 • Perpectivas – seção 5.3
  • 3. Humberto Sandmann 3 / 57Padrões de pulsos e computação em redes neurais com dinâmica Agenda • Contextualização – capítulos 1 e 2 • Processamento de sinais pelo sistema neural • O modelo integra-e-dispara • O uso de neurodinâmica nesta pesquisa • Objetivos • Arquitetura desenvolvida • Codificando estímulos em trens de pulsos – seção 3.1 • Decodificando trens de pulsos em classes – seção 3.2 • Simulações numéricas e resultados – seção 3.3 • Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4 • Mapeando potencial de membrana em fase – seção 4.1 • Medida de coerência de fase – seção 4.2 • Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5 • Discussão – capítulo 5 • Conclusões – seção 5.1 • Contribuições – seção 5.2 • Perpectivas – seção 5.3
  • 4. Humberto Sandmann 4 / 57Padrões de pulsos e computação em redes neurais com dinâmica Contextualização: processamento de sinais pelo sistema neural De alguma forma o sistema neural biológico faz computação através de sinais adquiridos pelo sistema sensorial. Existem diversas propostas para explicar esse processamento de sinais: – sincronização entre os disparos de neurônios; – relações temporais de trens de pulsos; – mapeamento espacial; entre outras. Algumas características comuns presentes nessas propostas de processamento são: – estarem baseadas em trens de pulsos emitidos por redes de neurônios; – reconhecerem e aprenderem padrões; – possuírem uma grande capacidade de representação. PAUGAM-MOISY, H. Spiking neuron networks: a survey. Martigny - Switzerland, 2006 FREEMAN, W. J. Mass action in the nervous system. New York, NY: Academic Press, Inc., 1975 HODGKIN, A. L.; HUXLEY, A. F. A quantitative description of membrane current and its application to conduction and excitation in nerve. J. of Phys, August 1952 IZHIKEVICH, E. M. Dynamical systems in neuroscience: the geometry of excitability and bursting. Cambridge, Mass: MIT Press, 2007 GERSTNER,W.; KISTLER,W. M. Mathematical formulations of hebbian learning. Biological Cybernetics, v. 87, n. 5-6, p. 404–15, December 2002
  • 5. Humberto Sandmann 5 / 57Padrões de pulsos e computação em redes neurais com dinâmica Contextualização: o modelo integra-e-dispara Processamento baseado em trens de pulsos O neurônio faz integração de Potenciais Pós-Sinápticos (PSP) que chegam através de seus dendritos. Essa integração gera mudança no potencial de membrana do neurônio, o que pode forçá-lo a disparar. Tal comportamento pode ser usado num mecanismo de classificação. GERSTNER,W.; KISTLER,W. M. Mathematical formulations of hebbian learning. Biological Cybernetics, v. 87, n. 5-6, p. 404–15, December 2002 O neurônio do tipo integra-e-dispara é um dos modelos que reproduz alguns destes comporamentos. Extraído e adaptado de en.wikipedia.org/wiki/Action_potential trens de pulsos
  • 6. Humberto Sandmann 6 / 57Padrões de pulsos e computação em redes neurais com dinâmica Contextualização: o uso neurodinâmica nesta pesquisa Grande capacidade de representação Pode estar ligada à riqueza de dinâmica produzida por redes de neurônios. Por isto, é possível representar diferentes estímulos através da dinâmica sem fazer modificações na estrutura de uma rede neural. (dentro do grupo foi necessário dar os passos iniciais na área de pesquisa em sistemas dinâmicos de tempo contínuo em redes neurais) O neurônio do tipo oscilador é um exemplo de neurônio que usa dinâmica em seu funcionamento. Este tipo de neurônio é encontrado em diversas regiões do sistema nervoso, por exemplo, os neurônios cardíacos marcapassos. IZHIKEVICH, E. M. Dynamical systems in neuroscience: the geometry of excitability and bursting. Cambridge, Mass: MIT Press, 2007. (Computational Neuroscience) diversas variedades de dinâmica segundo modelo de Izhikevich
  • 7. Humberto Sandmann 7 / 57Padrões de pulsos e computação em redes neurais com dinâmica Contextualização: objetivos Objetivos de estudos de mecanismos que possam: – realizar processamento de sinais baseado-se em trens de pulsos; – distinguir entre estímulos de entrada; – suportar uma grande capacidade de representação. Concretamente: – os estudos ocorreram sobre diversos paradigmas e mecanismos; – uma combinação entre redes de neurônios osciladores e um modelo de neurônio integra-e-dispara foi usada para a elaboração de uma arquitetura.
  • 8. Humberto Sandmann 8 / 57Padrões de pulsos e computação em redes neurais com dinâmica Agenda • Contextualização – capítulos 1 e 2 • Processamento de sinais pelo sistema neural • O modelo integra-e-dispara • O uso de neurodinâmica nesta pesquisa • Objetivos • Arquitetura desenvolvida • Codificando estímulos em trens de pulsos – seção 3.1 • Decodificando trens de pulsos em classes – seção 3.2 • Simulações numéricas e resultados – seção 3.3 • Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4 • Mapeando potencial de membrana em fase – seção 4.1 • Medida de coerência de fase – seção 4.2 • Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5 • Discussão – capítulo 5 • Conclusões – seção 5.1 • Contribuições – seção 5.2 • Perpectivas – seção 5.3
  • 9. Humberto Sandmann 9 / 57Padrões de pulsos e computação em redes neurais com dinâmica Fluxo dos processos de codificação e decodificação da arquitetura proposta C1 C2
  • 10. Humberto Sandmann 10 / 57Padrões de pulsos e computação em redes neurais com dinâmica Agenda • Contextualização – capítulos 1 e 2 • Processamento de sinais pelo sistema neural • O modelo integra-e-dispara • O uso de neurodinâmica nesta pesquisa • Objetivos • Arquitetura desenvolvida • Codificando estímulos em trens de pulsos – seção 3.1 • Decodificando trens de pulsos em classes – seção 3.2 • Simulações numéricas e resultados – seção 3.3 • Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4 • Mapeando potencial de membrana em fase – seção 4.1 • Medida de coerência de fase – seção 4.2 • Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5 • Discussão – capítulo 5 • Conclusões – seção 5.1 • Contribuições – seção 5.2 • Perpectivas – seção 5.3
  • 11. Humberto Sandmann 11 / 57Padrões de pulsos e computação em redes neurais com dinâmica Codificação: processo de codificação da arquitetura na 1a camada O processo de codificação é feito por uma rede de neurônios osciladores acoplados por pulsos, que recebe estímulos de correntes de entrada e produz trens de pulsos. codificação C1 C2
  • 12. Humberto Sandmann 12 / 57Padrões de pulsos e computação em redes neurais com dinâmica Codificação: a dinâmica do neurônio oscilador empregado Dinâmica do potencial de membrana Quando o potencial de membrana atinge um valor de limiar, então, ele volta ao seu valor de repouso capacitância corrente de entrada perda de membrana Este modelo de neurônio é um oscilador de relaxação e seu potencial de membrana pode ser lido em fase
  • 13. Humberto Sandmann 13 / 57Padrões de pulsos e computação em redes neurais com dinâmica Codificação: rede de neurônios osciladores acoplados por pulsos empregada Dinâmica do potencial de membrana para um neurônio de uma rede de neurônios acoplados por pulsos taxa de acoplamento dinâmica do neurônio oscilador 1 dinâmica do neurônio oscilador 2 Ao disparar, um neurônio gera um descontinuidade no potencial de membrana dos outros.
  • 14. Humberto Sandmann 14 / 57Padrões de pulsos e computação em redes neurais com dinâmica Codificação: sincronização global ou parcial das fases de todos os osciladores Um fenômeno neste tipo de acoplamento é a ocorrência de sincronização global ou parcial das fases de todos os osciladores. Ao disparar, um oscilador convida os demais a dispararem juntos. Portanto, não existe uma grande variedade de dinâmica no comportamento global da rede, logo, existe uma limitação de representação. MIROLLO, R. E.; STROGATZ, S. H. Synchronization of pulse-coupled biological oscillators. SIAM J. Appl. Math., v. 50, n. 6, p. 1645–62, December 1990
  • 15. Humberto Sandmann 15 / 57Padrões de pulsos e computação em redes neurais com dinâmica Codificação: adição de atraso entre os pulsos dos acoplamentos Se for considerado um atraso entre a emissão de um pulso e a recepção deste pulso por outro neurônio, então, o comportamento da dinâmica global da rede passa a ser diferente. atraso influência dos neurônios vizinhos sendo que MEMMESHEIMER, R.-M.; TIMME, M. Designing complex networks. Physica D, v. 224, p. 182–201, November 2006 Dinâmica do potencial de membrana
  • 16. Humberto Sandmann 16 / 57Padrões de pulsos e computação em redes neurais com dinâmica Codificação: seção de Poincaré do conjunto de osciladores acoplados Extraído de www.wikipedia.org/wiki/Poincaré_map Para visualizar o comportamento a longo prazo um oscilador de referência é eleito e toda vez que este oscilador dispara, todos os valores de fases são plotados. seção de Poincaré NEVES, F. S.; TIMME, M. Controlled pertubation-induced switching in pulse-coupled oscillator networks. J. Phys. A: Math. Theor., v. 42, n. 34, p. 345103, August 2009 Através da seção de Poincaré é possível observar comportamentos da dinâmica global da rede, como por exemplo, perceber a existência de periodicidade de uma trajetória. valordemembrana período global TP = 57 ciclos 5 osciladores acoplados (cada cor é o valor de membrana de um oscilador) oscilador de referência (vermelho)
  • 17. Humberto Sandmann 17 / 57Padrões de pulsos e computação em redes neurais com dinâmica Codificação: visualização por trajetórias Baseado na seção de Poincaré, é possível traçar trajetórias da dinâmica da rede. A trajetória passa pela vizinhança de diversos pontos de sela, portanto, é uma trajetória heteroclínica. Uma pseudo-trajetória com todas as 5 dimensões pode ser representada pela diferença entre as fases e uma dimensão de referência.
  • 18. Humberto Sandmann 18 / 57Padrões de pulsos e computação em redes neurais com dinâmica Codificação: diferentes correntes de entrada geram diferentes trajetórias corrente de estímulo de entrada Cada corrente de entrada x leva a rede a apresentar uma dinâmica global diferente. x1 x2 Xi=(1,2,3,4,5) Xi=(5,1,2,3,4)
  • 19. Humberto Sandmann 19 / 57Padrões de pulsos e computação em redes neurais com dinâmica Codificação: estados de sincronização a b c Ao longo do intervalo de tempo de um período pode existir sincronização entre as fases de alguns osciladores. Essas sincronizações são temporárias, sendo feitas e desfeitas ao longo do tempo, portanto, gerando estados de sincronização temporária de fase. potencialdemembrana t (existe uma sobreposição dos valores) a b c período global TP = 57 ciclos
  • 20. Humberto Sandmann 20 / 57Padrões de pulsos e computação em redes neurais com dinâmica Agenda • Contextualização – capítulos 1 e 2 • Processamento de sinais pelo sistema neural • O modelo integra-e-dispara • O uso de neurodinâmica nesta pesquisa • Objetivos • Arquitetura desenvolvida • Codificando estímulos em trens de pulsos – seção 3.1 • Decodificando trens de pulsos em classes – seção 3.2 • Simulações numéricas e resultados – seção 3.3 • Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4 • Mapeando potencial de membrana em fase – seção 4.1 • Medida de coerência de fase – seção 4.2 • Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5 • Discussão – capítulo 5 • Conclusões – seção 5.1 • Contribuições – seção 5.2 • Perpectivas – seção 5.3
  • 21. Humberto Sandmann 21 / 57Padrões de pulsos e computação em redes neurais com dinâmica Decodificação: processo de decodificação da arquitetura na 2a camada O processo de decodificação é feito por um neurônio do tipo integra-e-dispara, que emite um ou mais pulsos quando recebe trens de pulsos que já foram aprendidos pela arquitetura. decodificação C1 C2
  • 22. Humberto Sandmann 22 / 57Padrões de pulsos e computação em redes neurais com dinâmica Decodificação: saída de cada camada O potencial de membrana é definido apenas pelos pulsos recebidos de outros neurônios. Nesta tese foi usado o Tempotron, pois este possui um algoritmo de aprendizado bem estudado e seu uso em problemas que envolvem trens de pulsos é crescente. GÜTIG, R.; SOMPOLINSKY, H. The tempotron: a neuron that learns spike timing-based decisions. Nature Neuroscience, v. 9, p. 420–8, February 2006 classe C2 classe C1
  • 23. Humberto Sandmann 23 / 57Padrões de pulsos e computação em redes neurais com dinâmica Decodificação: um neurônio do tipo integra-e-dispara, o Tempotron O potencial de membrana do Tempotron é dado por: peso da conexão entre o neurônio da camada anterior e esta camada e o critério de disparo: função característica do potencial pós-sináptico (PSP)
  • 24. Humberto Sandmann 24 / 57Padrões de pulsos e computação em redes neurais com dinâmica Decodificação: curva característica do potencial pós-sináptico (PSP) função característica do potencial pós-sináptico (PSP) sendo que volta ao potencial de repouso
  • 25. Humberto Sandmann 25 / 57Padrões de pulsos e computação em redes neurais com dinâmica Decodificação: exemplo do potencial do Tempotron ao receber múltiplos pulsos Quando diversos pulsos são recebidos pelo Tempotron, esses são somados de acordo com a curva característica PSP. pulsos recebidos Processo supervisionado de aprendizado, onde os pesos w são atualizados de acordo com: A atualização é positiva para trens de pulsos pertencentes a uma classe C1 e negativa para outra classe C2.
  • 26. Humberto Sandmann 26 / 57Padrões de pulsos e computação em redes neurais com dinâmica Decodificação: classificação O processo de aprendizado induz o Tempotron a ter valores de membrana superiores ao valor de limiar para determinados padrões de trens de pulsos e inferiores ao limiar para outros. Assim, o Tempotron dispara para uma classe C1 de trens e permanece em silêncio para uma outra classe C2. Este comportamento é usado para discriminar entre padrões de trens de pulsos, logo: Sendo que S é o número de vezes que o Tempotron disparou. S = 0
  • 27. Humberto Sandmann 27 / 57Padrões de pulsos e computação em redes neurais com dinâmica Decodificação: exemplo do processo de aprendizado trens de pulsos a disparar trens de pulsos a não disparar Pontecial de membrana do Tempotron antes do aprendizado C2C1
  • 28. Humberto Sandmann 28 / 57Padrões de pulsos e computação em redes neurais com dinâmica Decodificação: exemplo do processo de aprendizado trens de pulsos a disparar trens de pulsos a não disparar Pontecial de membrana do Tempotron C2C1 após o aprendizado
  • 29. Humberto Sandmann 29 / 57Padrões de pulsos e computação em redes neurais com dinâmica Agenda • Contextualização – capítulos 1 e 2 • Processamento de sinais pelo sistema neural • O modelo integra-e-dispara • O uso de neurodinâmica nesta pesquisa • Objetivos • Arquitetura desenvolvida • Codificando estímulos em trens de pulsos – seção 3.1 • Decodificando trens de pulsos em classes – seção 3.2 • Simulações numéricas e resultados – seção 3.3 • Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4 • Mapeando potencial de membrana em fase – seção 4.1 • Medida de coerência de fase – seção 4.2 • Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5 • Discussão – capítulo 5 • Conclusões – seção 5.1 • Contribuições – seção 5.2 • Perpectivas – seção 5.3
  • 30. Humberto Sandmann 30 / 57Padrões de pulsos e computação em redes neurais com dinâmica Simulações: fluxo de trens de pulsos entre as camadas com múltiplos Tempotrons
  • 31. Humberto Sandmann 31 / 57Padrões de pulsos e computação em redes neurais com dinâmica Simulações: objetivos das séries de simulações Duas séries de simulações foram feitas com os objetivos de: • Na 1a série é validar e explorar a arquitetura desenvolvida; • Na 2a série é mostrar a aplicação desta arquitetura em um problema de classificação onde os elementos das classes sejam não linearmente separáveis.
  • 32. Humberto Sandmann 32 / 57Padrões de pulsos e computação em redes neurais com dinâmica Simulações: validação e exploração da arquitetura – agrupamento dos estímulos Objetivo da 1a série: validar e explorar a arquitetura desenvolvida. Foram preparados estímulos de correntes de entrada que levassem a rede a apresentar uma dinâmia global com trajetória de órbita fechada e com o mesmo período. Estímulos de entrada foram: {1,2,3,4,5}x10-4 , sendo que permutações desses elementos permitem criar 120 combinações de estímulos; ainda, se esses conjuntos forem classificados em bipartições, então, existem 2120 bipartições possíveis. Para reduzir esse volume de bipartições um critério de agrupamento foi estabelecido sobre os estímulos similares, uma função degrau foi aplicada, onde: xi < 3 então 0, caso contrário, 1, logo: grupo
  • 33. Humberto Sandmann 33 / 57Padrões de pulsos e computação em redes neurais com dinâmica Simulações: validação e exploração da arquitetura Assim, é possível reduzir o número de 120 possíveis permutações para 10 possíveis grupos (sendo que cada um representa 12 estímulos de entrada permutados): Quando separado em bipartições, o número total de combinações é de 210 bipartições, reduzindo assim consideravelmente o esforço computacional (com relação a 2120 ). Exemplo: 72 entradas distribuídas em 6 grupos foram aprendidas, sendo que 2 desses grupos pertencentes a classe C1 e os demais a classe C2. C1 = {(5,2,1,4,3), ...}, tal que x pertence ao grupo (1,0,0,1,1) ou grupo (1,1,1,0,0) C2 = {(5,2,3,1,4), ...}, tal que x pertence ao grupo (1,0,1,0,1), grupo (1,1,0,1,0), grupo (1,1,0,0,1) ou grupo (1,0,1,1,0) Classes com elementos agrupados
  • 34. Humberto Sandmann 34 / 57Padrões de pulsos e computação em redes neurais com dinâmica Resultados: exemplo de classificação dos grupos C1 = {(5,2,1,4,3), ...}, tal que x pertence ao grupo (1,0,0,1,1) ou grupo (1,1,1,0,0) C2 = {(5,2,3,1,4), ...}, tal que x pertence ao grupo (1,0,1,0,1), grupo (1,1,0,1,0), grupo (1,1,0,0,1) ou grupo (1,0,1,1,0)
  • 35. Humberto Sandmann 35 / 57Padrões de pulsos e computação em redes neurais com dinâmica Resultados: classificando as 210 bipartições grupo C1 C2 Tarefa: aprendendo todas as 210 possibilidades de bipartições possíveis através do agrupamento. Como resultado desta série de simulações, todas as classificações foram realizadas com sucesso, sendo que algumas convergiram rapidamente e outras nem tanto.
  • 36. Humberto Sandmann 36 / 57Padrões de pulsos e computação em redes neurais com dinâmica Resultados: um problema xor-like Objetivo da 2a série: explorar o uso desta arquitetura em um problema de classificação onde os elementos das classes sejam não linearmente separáveis. Foi utilizado um exemplo clássico encontrado em sistemas digitais, o XOR; quatro elementos foram criados e agrupados em classes de forma não linearmente separáveis. entrada x classe (1, 2, 3, 4, 4) C1 (1, 2, 3, 4, 5) C2 (1, 2, 3, 5, 4) C2 (1, 2, 3, 5, 5) C1 Como resultado a arquitetura desenvolvida foi capaz de classificar as correntes de estímulos que são não linearmente separáveis, em duas dimensões. tabela XOR 0 0 0 0 1 1 1 0 1 1 1 0
  • 37. Humberto Sandmann 37 / 57Padrões de pulsos e computação em redes neurais com dinâmica Agenda • Contextualização – capítulos 1 e 2 • Processamento de sinais pelo sistema neural • O modelo integra-e-dispara • O uso de neurodinâmica nesta pesquisa • Objetivos • Arquitetura desenvolvida • Codificando estímulos em trens de pulsos – seção 3.1 • Decodificando trens de pulsos em classes – seção 3.2 • Simulações numéricas e resultados – seção 3.3 • Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4 • Mapeando potencial de membrana em fase – seção 4.1 • Medida de coerência de fase – seção 4.2 • Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5 • Discussão – capítulo 5 • Conclusões – seção 5.1 • Contribuições – seção 5.2 • Perpectivas – seção 5.3
  • 38. Humberto Sandmann 38 / 57Padrões de pulsos e computação em redes neurais com dinâmica Análises: características favoráveis para o funcionamento adequado da arquitetura Características favoráveis: Periodicidade As trajetórias devem ser cíclicas Estabilidade As trajetórias devem ser estáveis, ou seja, ciclos-limite Sincronização temporária de fase As trajetórias deve apresentar estados de sincronização de fase ao longo do período Como consequência de periodicidade e estabilidade: É possível estimar o período Tp dos trens de pulsos emitidos pela da 1a camada; e usar esta estimativa para o processo de aprendizagem que ocorre na 2a camada.
  • 39. Humberto Sandmann 39 / 57Padrões de pulsos e computação em redes neurais com dinâmica Agenda • Contextualização – capítulos 1 e 2 • Processamento de sinais pelo sistema neural • O modelo integra-e-dispara • O uso de neurodinâmica nesta pesquisa • Objetivos • Arquitetura desenvolvida • Codificando estímulos em trens de pulsos – seção 3.1 • Decodificando trens de pulsos em classes – seção 3.2 • Simulações numéricas e resultados – seção 3.3 • Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4 • Mapeando potencial de membrana em fase – seção 4.1 • Medida de coerência de fase – seção 4.2 • Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5 • Discussão – capítulo 5 • Conclusões – seção 5.1 • Contribuições – seção 5.2 • Perpectivas – seção 5.3
  • 40. Humberto Sandmann 40 / 57Padrões de pulsos e computação em redes neurais com dinâmica Mapeando potencial de membrana em fase Existe um volume de estudos maior para trabalhar com osciladores acoplados por fase, por isto, a transformação de potencial de membrana para fase se torna conveniente, logo: sendo que KURAMOTO, Y. Collective synchronization of pulse-coupled oscillators and excitable units. Physica D, v. 50, n. 1, p. 15–30, May 1991 dinâmica do neurônio oscilador isolado
  • 41. Humberto Sandmann 41 / 57Padrões de pulsos e computação em redes neurais com dinâmica Agenda • Contextualização – capítulos 1 e 2 • Processamento de sinais pelo sistema neural • O modelo integra-e-dispara • O uso de neurodinâmica nesta pesquisa • Objetivos • Arquitetura desenvolvida • Codificando estímulos em trens de pulsos – seção 3.1 • Decodificando trens de pulsos em classes – seção 3.2 • Simulações numéricas e resultados – seção 3.3 • Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4 • Mapeando potencial de membrana em fase – seção 4.1 • Medida de coerência de fase – seção 4.2 • Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5 • Discussão – capítulo 5 • Conclusões – seção 5.1 • Contribuições – seção 5.2 • Perpectivas – seção 5.3
  • 42. Humberto Sandmann 42 / 57Padrões de pulsos e computação em redes neurais com dinâmica Coerência: medida de coerência de fase No círculo unitário complexo, é possível calcular um valor de medida de coerência de fase entre as fases de todos os osciladores, para isto: onde: ACEBRÓN, J. A.; BONILLA, L. L.; VICENTE, C. J. P.; RITORT, F.; SPIGLER, R. The Kuramoto model: a simple paradigm for synchronization phenomena. Reviews of Modern Physics, v. 77, n. 1, p. 137–85, April 2005
  • 43. Humberto Sandmann 43 / 57Padrões de pulsos e computação em redes neurais com dinâmica Coerência: medida de coerência de fase quando existem estados de sincronização A medida de coerência de fase pode ser empregada como um critério para indicar a existência de estados de sincronização temporária entre os osciladores. Quando existem tais estados de sincronização de fase a medida de coerência de fase apresenta também uma variação ao longo do período. período global
  • 44. Humberto Sandmann 44 / 57Padrões de pulsos e computação em redes neurais com dinâmica Coerência: medida de coerência de fase quando não existem estados de sincronização Quando a medida de coerência de fase é uma constante, então, pode-se assumir que a trajetória convergiu assintoticamente para um ponto fixo. Em outro caso, a medida de coerência de fase possui pequenas oscilações, o que pode ser um indício da trajetória estar excursionando em uma região de atração de um ponto de sela.
  • 45. Humberto Sandmann 45 / 57Padrões de pulsos e computação em redes neurais com dinâmica Agenda • Contextualização – capítulos 1 e 2 • Processamento de sinais pelo sistema neural • O modelo integra-e-dispara • O uso de neurodinâmica nesta pesquisa • Objetivos • Arquitetura desenvolvida • Codificando estímulos em trens de pulsos – seção 3.1 • Decodificando trens de pulsos em classes – seção 3.2 • Simulações numéricas e resultados – seção 3.3 • Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4 • Mapeando potencial de membrana em fase – seção 4.1 • Medida de coerência de fase – seção 4.2 • Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5 • Discussão – capítulo 5 • Conclusões – seção 5.1 • Contribuições – seção 5.2 • Perpectivas – seção 5.3
  • 46. Humberto Sandmann 46 / 57Padrões de pulsos e computação em redes neurais com dinâmica Simulações: estimando o período das trajetórias em espaço de estímulos Objetivo: estimar o volume percentual de trajetórias em um espaço de estímulos que tenham as características favoráveis ao funcionamento adequado da arquitetura. Foram definidos estímulos de entrada na faixa de [0; 9] x 10-4 para uma rede com 5 neurônios osciladores. Sendo ensaiadas 3024 das 30240 combinações possíveis (sem repetição); e para cada combinação, duas trajetórias foram inicializadas com estados iniciais diferentes. Como resultado foi possível montar a tabela: possíveis pontos de sela periodicidade não encontrada
  • 47. Humberto Sandmann 47 / 57Padrões de pulsos e computação em redes neurais com dinâmica Simulações: histograma dos intervalos dos períodos das trajetórias encontradas Possibilitando estimar o tamanho do período TP das trajetórias a ser usado no processo de aprendizado do Tempotron Histograma dos intervalos dos períodos das trajetórias encontradas ~ ~ ~ ~ ~~~
  • 48. Humberto Sandmann 48 / 57Padrões de pulsos e computação em redes neurais com dinâmica Simulações: tabela de todas as situações encontradas pela simulações Periódicas, estáveis e com sincronização diversificada volume percentual % % % % % % %
  • 49. Humberto Sandmann 49 / 57Padrões de pulsos e computação em redes neurais com dinâmica Agenda • Contextualização – capítulos 1 e 2 • Processamento de sinais pelo sistema neural • O modelo integra-e-dispara • O uso de neurodinâmica nesta pesquisa • Objetivos • Arquitetura desenvolvida • Codificando estímulos em trens de pulsos – seção 3.1 • Decodificando trens de pulsos em classes – seção 3.2 • Simulações numéricas e resultados – seção 3.3 • Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4 • Mapeando potencial de membrana em fase – seção 4.1 • Medida de coerência de fase – seção 4.2 • Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5 • Discussão – capítulo 5 • Conclusões – seção 5.1 • Contribuições – seção 5.2 • Perpectivas – seção 5.3
  • 50. Humberto Sandmann 50 / 57Padrões de pulsos e computação em redes neurais com dinâmica Agenda • Contextualização – capítulos 1 e 2 • Processamento de sinais pelo sistema neural • O modelo integra-e-dispara • O uso de neurodinâmica nesta pesquisa • Objetivos • Arquitetura desenvolvida • Codificando estímulos em trens de pulsos – seção 3.1 • Decodificando trens de pulsos em classes – seção 3.2 • Simulações numéricas e resultados – seção 3.3 • Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4 • Mapeando potencial de membrana em fase – seção 4.1 • Medida de coerência de fase – seção 4.2 • Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5 • Discussão – capítulo 5 • Conclusões – seção 5.1 • Contribuições – seção 5.2 • Perpectivas – seção 5.3
  • 51. Humberto Sandmann 51 / 57Padrões de pulsos e computação em redes neurais com dinâmica Discussão: conclusões Conclusões - vantagens: • capacidade de representação: a primeira camada produz trajetórias heteroclínicas que podem gerar um número muito grande de trajetórias cíclicas; • emergência natural de trens de pulsos: a rede de osciladores acoplados por pulsos emite padrões de trens de pulsos que podem ser decodificados pela segunda camada; • sensibilidade espaço-temporal: a primeira camada adiciona a dimensão tempo aos estímulos de entrada, logo, existe uma dimensão a mais para ajudar no aprendizado dos estímulos de entrada; • plausibilidade biológica: todos os modelos são significativamente conectados com mecanismos e padrões de comportamento da dinâmica dos sistemas biológicos.
  • 52. Humberto Sandmann 52 / 57Padrões de pulsos e computação em redes neurais com dinâmica Discussão: conclusões Conclusões - desafios enfrentados: • dependência de um intervalo conhecido para o processo de aprendizado: um trem só é aprendido se seu período for conhecido; • coexistência de múltiplos ciclos-limite: para um mesmo estímulo de entrada a rede pode convergir para bacias de atração distintas, ou seja, o sistema é sensível à configuração inicial; • problema de desempenho no aprendizado: o processo de aprendizagem apresenta um problema de desempenho para encontrar os pesos w’s adequados para todas as amostras; • precisão computacional: no processo de aprendizagem de um padrão de trens de pulsos da segunda camada a precisão computacional pode influenciar nas simulações numéricas, isto porque o processo computacional usa um modelo do tipo integra-e-dispara.
  • 53. Humberto Sandmann 53 / 57Padrões de pulsos e computação em redes neurais com dinâmica Discussão: contribuições Contribuições: • a proposta e desenvolvimento da arquitetura que conecta a rede de osciladores acoplados por pulsos ao modelo integra-e-dispara Tempotron traz uma contribuição para a área da neurocomputação, sendo esta arquitetura um novo modelo para o processo de codificação e decodificação de sinais; • as análises feitas para definir o intervalo do período TP são de grande importância para o processo de aprendizado. Esta arquitetura permite que de maneira automática este intervalo possa ser calculado (se existir), lhe dando autonomia.
  • 54. Humberto Sandmann 54 / 57Padrões de pulsos e computação em redes neurais com dinâmica Discussão: contribuições Contribuições: • para a realização dos diversos experimentos foi construída uma estrutura computacional que suporta dois tipos de configurações: rede de osciladores acoplados por pulsos e acoplados por fase. Esta estrutura foi implementada em linguagem de programação Java; e vem sendo compartilhada por outros pesquisadores, incluindo pesquisadores do Max Planck Institute for Dynamics and Self-organization; • uma customização do algoritmo Fast Kuramoto foi desenvolvida. Com esta customização é possível aplicar o método fast Kuramoto em redes cujos acoplamentos não são uniformes; • uma frente nova dentro do grupo: neurodinâmica em tempo contínuo.
  • 55. Humberto Sandmann 55 / 57Padrões de pulsos e computação em redes neurais com dinâmica Discussão: perspectivas Perspectivas: • definir as influências dos pontos fixos que determinam o percurso de uma trajetória no subespaço. Se não for possível mapear todas as influências, ao menos, seria interessante definir as regiões de ciclos-limite existentes no subespaço; • investigar e comparar outras métricas aplicadas a trens de pulsos. Este item pode conduzir a uma melhor compreensão da dinâmica exercitada pela trajetória global dos trens de pulsos, portanto, facilitando a identificação de comportamentos dinâmicos exercitados pela primeira camada; • fazer um estudo mais amplo sobre o impacto de ruídos sobre esta arquitetura; • estudar o impacto de alterações na topologia da rede, ou seja, evitar uma rede totalmente simétrica, porém ao mesmo tempo tentando manter as trajetórias heteroclínicas.
  • 56. Humberto Sandmann 56 / 57Padrões de pulsos e computação em redes neurais com dinâmica Publicações SILVA, L. A. ; SANDMANN, H. ; DEL-MORAL-HERNANDEZ, E. . A self-organizing architecture of recursive elements for continuous learning. In: International Joint Conference on Neural Networks, 2008, Hong Kong. Proceedings of the International Joint Conference on Neural Networks (IJCNN 2008). NY, U.S.A : IEEE Press.: Piscataway, 2008. SANDMANN, H. ; SILVA, L. A. ; DEL-MORAL-HERNANDEZ, E. . A self-organizing architecture of recursive elements for continuous learning. In: Dynamics Days Europe, 2009, Goettingen. Book of Dynamics Days Europe 2009, 2009. p. 246-247. em preparação: SANDMANN, H. ; NEVES, S. F. ; TIMME, M. ; DEL-MORAL-HERNANDEZ, E. . Bio-inspired temporal pattern discrimination based on complex periodic orbits. (em preparação possivelmente será submetido à Neural Networks).
  • 57. Humberto Sandmann 57 / 57Padrões de pulsos e computação em redes neurais com dinâmica Agradecimentos ICONE - Grupo de Inteligência Computacional, Modelagem e Neurocomputação Eletrônica Escola Politécnica da Universidade de São Paulo Max Planck Society Max-Planck-Institut für Dynamik und Selbstorganization Abteilung für Netzwerk-Dynamik
  • 58. Humberto Sandmann 58 / 57Padrões de pulsos e computação em redes neurais com dinâmica
  • 59. Humberto Sandmann 59 / 57Padrões de pulsos e computação em redes neurais com dinâmica
  • 60. Humberto Sandmann 60 / 57Padrões de pulsos e computação em redes neurais com dinâmica
  • 61. Humberto Sandmann 61 / 57Padrões de pulsos e computação em redes neurais com dinâmica Contextualização: trabalhos correlatos grande capacidade de armazenamento através da neurodinâmica é possível representar diferentes estímulos sem modificações na estrutura de uma rede neural. (para isto, foi necessário dar passos iniciais na área de pesquisa em sistemas dinâmicos em redes) ex: redes de osciladores neurais são estudados pela neurodinâmica e tem suas inspirações em estudos de neurônios biológicos do tipo marcapassos (como os cardíacos). Processamento baseado em trens de pulsos através da integração de potenciais pós-sinápticos (PSP) que chegam a um neurônio por trens de pulsos é possível usar os processos de depolarização e disparo deste neurônio para classificação. ex: modelo de neurônio do tipo integra-e-dispara.
  • 62. Humberto Sandmann 62 / 57Padrões de pulsos e computação em redes neurais com dinâmica Decodificação: processo de aprendizado o processo de decodificação precisa aprender o trem de pulsos a ser identificado, para isto, o Tempotron possui um processo supervisionado de aprendizado, onde os pesos w são atualizados de acordo com: onde a atualização é positiva para trens de pulsos a serem reconhecidos e negativa para os demais.
  • 63. Humberto Sandmann 63 / 57Padrões de pulsos e computação em redes neurais com dinâmica Codificação: processo de codificação da arquitetura na 1a camada O processo de codificação é feito por uma rede neurônios osciladores acoplados por pulsos, que ao receberem estímulos de correntes de entrada e produzem trens de pulsos. codificação