Este documento apresenta uma tese de doutorado sobre padrões de pulsos e computação em redes neurais com dinâmica. A tese propõe uma arquitetura que combina redes de neurônios osciladores e um modelo de neurônio integra-e-dispara para codificar e decodificar estímulos em trens de pulsos. A arquitetura utiliza a dinâmica global da rede de osciladores acoplados para representar diferentes estímulos através de trajetórias distintas, permitindo distinguir entre classes

1. Padrões de pulsos e computação
em redes neurais com dinâmica
Humberto Sandmann
(candidato)
Prof. Dr. Emilio Del Moral Hernandez
(orientador)
Departamento de Engenharia de Sistemas Eletrônicos
Escola Politécnica da Universidade de São Paulo
São Paulo, Brasil
Prof. Dr. Marc Timme
(supervisor em estágio sanduíche)
Network Dynamics Group
Max Planck Institute for Dynamics and Self-organization
Göttingen, Alemanha
Defesa de Tese de Doutorado
São Paulo, 05 de Março de 2012

2. Humberto Sandmann 2 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Agenda
• Contextualização – capítulos 1 e 2
• Processamento de sinais pelo sistema neural
• O modelo integra-e-dispara
• O uso de neurodinâmica nesta pesquisa
• Objetivos
• Arquitetura desenvolvida
• Codificando estímulos em trens de pulsos – seção 3.1
• Decodificando trens de pulsos em classes – seção 3.2
• Simulações numéricas e resultados – seção 3.3
• Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4
• Mapeando potencial de membrana em fase – seção 4.1
• Medida de coerência de fase – seção 4.2
• Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5
• Discussão – capítulo 5
• Conclusões – seção 5.1
• Contribuições – seção 5.2
• Perpectivas – seção 5.3

3. Humberto Sandmann 3 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Agenda
• Contextualização – capítulos 1 e 2
• Processamento de sinais pelo sistema neural
• O modelo integra-e-dispara
• O uso de neurodinâmica nesta pesquisa
• Objetivos
• Arquitetura desenvolvida
• Codificando estímulos em trens de pulsos – seção 3.1
• Decodificando trens de pulsos em classes – seção 3.2
• Simulações numéricas e resultados – seção 3.3
• Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4
• Mapeando potencial de membrana em fase – seção 4.1
• Medida de coerência de fase – seção 4.2
• Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5
• Discussão – capítulo 5
• Conclusões – seção 5.1
• Contribuições – seção 5.2
• Perpectivas – seção 5.3

4. Humberto Sandmann 4 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Contextualização: processamento de sinais pelo sistema neural
De alguma forma o sistema neural biológico faz computação através de sinais
adquiridos pelo sistema sensorial.
Existem diversas propostas para explicar esse processamento de sinais:
– sincronização entre os disparos de neurônios;
– relações temporais de trens de pulsos;
– mapeamento espacial; entre outras.
Algumas características comuns presentes nessas propostas de processamento são:
– estarem baseadas em trens de pulsos emitidos por redes de neurônios;
– reconhecerem e aprenderem padrões;
– possuírem uma grande capacidade de representação.
PAUGAM-MOISY, H. Spiking neuron networks: a survey. Martigny - Switzerland, 2006
FREEMAN, W. J. Mass action in the nervous system. New York, NY: Academic Press, Inc., 1975
HODGKIN, A. L.; HUXLEY, A. F. A quantitative description of membrane current and its application to conduction and excitation in nerve. J. of Phys, August 1952
IZHIKEVICH, E. M. Dynamical systems in neuroscience: the geometry of excitability and bursting. Cambridge, Mass: MIT Press, 2007
GERSTNER,W.; KISTLER,W. M. Mathematical formulations of hebbian learning. Biological Cybernetics, v. 87, n. 5-6, p. 404–15, December 2002

5. Humberto Sandmann 5 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Contextualização: o modelo integra-e-dispara
Processamento baseado em trens de pulsos
O neurônio faz integração de Potenciais Pós-Sinápticos (PSP) que chegam através
de seus dendritos. Essa integração gera mudança no potencial de membrana do
neurônio, o que pode forçá-lo a disparar. Tal comportamento pode ser usado num
mecanismo de classificação.
GERSTNER,W.; KISTLER,W. M. Mathematical formulations of hebbian learning.
Biological Cybernetics, v. 87, n. 5-6, p. 404–15, December 2002
O neurônio do tipo integra-e-dispara é um dos modelos que reproduz alguns destes
comporamentos.
Extraído e adaptado de
en.wikipedia.org/wiki/Action_potential
trens de pulsos

6. Humberto Sandmann 6 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Contextualização: o uso neurodinâmica nesta pesquisa
Grande capacidade de representação
Pode estar ligada à riqueza de dinâmica produzida por redes de neurônios. Por isto,
é possível representar diferentes estímulos através da dinâmica sem fazer
modificações na estrutura de uma rede neural.
(dentro do grupo foi necessário dar os passos iniciais na área de pesquisa em sistemas dinâmicos de tempo
contínuo em redes neurais)
O neurônio do tipo oscilador é um exemplo de neurônio que usa dinâmica em seu
funcionamento. Este tipo de neurônio é encontrado em diversas regiões do sistema
nervoso, por exemplo, os neurônios cardíacos marcapassos.
IZHIKEVICH, E. M. Dynamical systems in neuroscience: the geometry of excitability and bursting.
Cambridge, Mass: MIT Press, 2007. (Computational Neuroscience)
diversas variedades de dinâmica segundo modelo de Izhikevich

7. Humberto Sandmann 7 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Contextualização: objetivos
Objetivos de estudos de mecanismos que possam:
– realizar processamento de sinais baseado-se em trens de pulsos;
– distinguir entre estímulos de entrada;
– suportar uma grande capacidade de representação.
Concretamente:
– os estudos ocorreram sobre diversos paradigmas e mecanismos;
– uma combinação entre redes de neurônios osciladores e um modelo de
neurônio integra-e-dispara foi usada para a elaboração de uma arquitetura.

8. Humberto Sandmann 8 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Agenda
• Contextualização – capítulos 1 e 2
• Processamento de sinais pelo sistema neural
• O modelo integra-e-dispara
• O uso de neurodinâmica nesta pesquisa
• Objetivos
• Arquitetura desenvolvida
• Codificando estímulos em trens de pulsos – seção 3.1
• Decodificando trens de pulsos em classes – seção 3.2
• Simulações numéricas e resultados – seção 3.3
• Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4
• Mapeando potencial de membrana em fase – seção 4.1
• Medida de coerência de fase – seção 4.2
• Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5
• Discussão – capítulo 5
• Conclusões – seção 5.1
• Contribuições – seção 5.2
• Perpectivas – seção 5.3

9. Humberto Sandmann 9 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Fluxo dos processos de codificação e decodificação da arquitetura proposta
C1
C2

10. Humberto Sandmann 10 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Agenda
• Contextualização – capítulos 1 e 2
• Processamento de sinais pelo sistema neural
• O modelo integra-e-dispara
• O uso de neurodinâmica nesta pesquisa
• Objetivos
• Arquitetura desenvolvida
• Codificando estímulos em trens de pulsos – seção 3.1
• Decodificando trens de pulsos em classes – seção 3.2
• Simulações numéricas e resultados – seção 3.3
• Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4
• Mapeando potencial de membrana em fase – seção 4.1
• Medida de coerência de fase – seção 4.2
• Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5
• Discussão – capítulo 5
• Conclusões – seção 5.1
• Contribuições – seção 5.2
• Perpectivas – seção 5.3

11. Humberto Sandmann 11 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Codificação: processo de codificação da arquitetura na 1a
camada
O processo de codificação é feito por uma rede de neurônios osciladores acoplados por pulsos, que
recebe estímulos de correntes de entrada e produz trens de pulsos.
codificação
C1
C2

12. Humberto Sandmann 12 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Codificação: a dinâmica do neurônio oscilador empregado
Dinâmica do potencial de membrana
Quando o potencial de membrana atinge um valor de
limiar, então, ele volta ao seu valor de repouso
capacitância
corrente de entrada
perda de membrana
Este modelo de neurônio é um oscilador de relaxação e seu potencial de membrana pode ser lido em fase

13. Humberto Sandmann 13 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Codificação: rede de neurônios osciladores acoplados por pulsos empregada
Dinâmica do potencial de membrana para um neurônio
de uma rede de neurônios acoplados por pulsos
taxa de acoplamento
dinâmica do neurônio oscilador 1
dinâmica do neurônio oscilador 2
Ao disparar, um neurônio gera um descontinuidade no potencial de membrana dos outros.

14. Humberto Sandmann 14 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Codificação: sincronização global ou parcial das fases de todos os osciladores
Um fenômeno neste tipo de acoplamento é a ocorrência de sincronização global ou parcial das
fases de todos os osciladores. Ao disparar, um oscilador convida os demais a dispararem juntos.
Portanto, não existe uma grande variedade de dinâmica no comportamento global da rede, logo,
existe uma limitação de representação.
MIROLLO, R. E.; STROGATZ, S. H. Synchronization of pulse-coupled biological
oscillators. SIAM J. Appl. Math., v. 50, n. 6, p. 1645–62, December 1990

15. Humberto Sandmann 15 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Codificação: adição de atraso entre os pulsos dos acoplamentos
Se for considerado um atraso entre a emissão de um pulso e a recepção deste pulso por outro
neurônio, então, o comportamento da dinâmica global da rede passa a ser diferente.
atraso
influência dos neurônios vizinhos
sendo que
MEMMESHEIMER, R.-M.; TIMME, M. Designing complex networks.
Physica D, v. 224, p. 182–201, November 2006
Dinâmica do potencial de membrana

16. Humberto Sandmann 16 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Codificação: seção de Poincaré do conjunto de osciladores acoplados
Extraído de www.wikipedia.org/wiki/Poincaré_map
Para visualizar o comportamento a longo prazo um oscilador de referência é eleito e toda vez que
este oscilador dispara, todos os valores de fases são plotados.
seção de Poincaré
NEVES, F. S.; TIMME, M. Controlled pertubation-induced switching in pulse-coupled
oscillator networks. J. Phys. A: Math. Theor., v. 42, n. 34, p. 345103, August 2009
Através da seção de Poincaré é possível observar comportamentos da dinâmica global da rede,
como por exemplo, perceber a existência de periodicidade de uma trajetória.
valordemembrana
período global
TP = 57 ciclos
5 osciladores acoplados (cada cor é o valor de membrana de um oscilador)
oscilador de referência (vermelho)

17. Humberto Sandmann 17 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Codificação: visualização por trajetórias
Baseado na seção de Poincaré, é possível traçar trajetórias da dinâmica da rede.
A trajetória passa pela vizinhança de diversos pontos de sela, portanto, é uma trajetória
heteroclínica.
Uma pseudo-trajetória com todas as 5 dimensões
pode ser representada pela diferença entre as fases
e uma dimensão de referência.

18. Humberto Sandmann 18 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Codificação: diferentes correntes de entrada geram diferentes trajetórias
corrente de estímulo de entrada
Cada corrente de entrada x leva a rede a apresentar uma
dinâmica global diferente.
x1 x2
Xi=(1,2,3,4,5) Xi=(5,1,2,3,4)

19. Humberto Sandmann 19 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Codificação: estados de sincronização
a
b
c
Ao longo do intervalo de tempo de um período pode existir sincronização entre as fases de
alguns osciladores. Essas sincronizações são temporárias, sendo feitas e desfeitas ao longo do
tempo, portanto, gerando estados de sincronização temporária de fase.
potencialdemembrana
t
(existe uma sobreposição dos valores)
a
b
c
período global
TP = 57 ciclos

20. Humberto Sandmann 20 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Agenda
• Contextualização – capítulos 1 e 2
• Processamento de sinais pelo sistema neural
• O modelo integra-e-dispara
• O uso de neurodinâmica nesta pesquisa
• Objetivos
• Arquitetura desenvolvida
• Codificando estímulos em trens de pulsos – seção 3.1
• Decodificando trens de pulsos em classes – seção 3.2
• Simulações numéricas e resultados – seção 3.3
• Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4
• Mapeando potencial de membrana em fase – seção 4.1
• Medida de coerência de fase – seção 4.2
• Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5
• Discussão – capítulo 5
• Conclusões – seção 5.1
• Contribuições – seção 5.2
• Perpectivas – seção 5.3

21. Humberto Sandmann 21 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Decodificação: processo de decodificação da arquitetura na 2a
camada
O processo de decodificação é feito por um neurônio do tipo integra-e-dispara, que emite um ou mais
pulsos quando recebe trens de pulsos que já foram aprendidos pela arquitetura.
decodificação
C1
C2

22. Humberto Sandmann 22 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Decodificação: saída de cada camada
O potencial de membrana é definido apenas pelos pulsos recebidos de outros neurônios. Nesta tese
foi usado o Tempotron, pois este possui um algoritmo de aprendizado bem estudado e seu uso em
problemas que envolvem trens de pulsos é crescente.
GÜTIG, R.; SOMPOLINSKY, H. The tempotron: a neuron that learns spike timing-based
decisions. Nature Neuroscience, v. 9, p. 420–8, February 2006
classe C2
classe C1

23. Humberto Sandmann 23 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Decodificação: um neurônio do tipo integra-e-dispara, o Tempotron
O potencial de membrana do Tempotron é dado por:
peso da conexão entre o neurônio da
camada anterior e esta camada
e o critério de disparo:
função característica do
potencial pós-sináptico (PSP)

24. Humberto Sandmann 24 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Decodificação: curva característica do potencial pós-sináptico (PSP)
função característica do
potencial pós-sináptico (PSP)
sendo que
volta ao potencial de repouso

25. Humberto Sandmann 25 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Decodificação: exemplo do potencial do Tempotron ao receber múltiplos pulsos
Quando diversos pulsos são recebidos pelo Tempotron, esses são somados de acordo com a
curva característica PSP.
pulsos recebidos
Processo supervisionado de aprendizado, onde os pesos w são atualizados de acordo com:
A atualização é positiva para trens de pulsos pertencentes a uma classe C1 e negativa para outra
classe C2.

26. Humberto Sandmann 26 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Decodificação: classificação
O processo de aprendizado induz o Tempotron a ter valores de membrana superiores ao valor
de limiar para determinados padrões de trens de pulsos e inferiores ao limiar para outros.
Assim, o Tempotron dispara para uma classe C1 de trens e permanece em silêncio para uma
outra classe C2.
Este comportamento é usado para discriminar entre padrões de trens de pulsos, logo:
Sendo que S é o número de vezes que o Tempotron disparou.
S = 0

27. Humberto Sandmann 27 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Decodificação: exemplo do processo de aprendizado
trens de pulsos a disparar
trens de pulsos a não disparar
Pontecial de membrana do Tempotron antes do aprendizado
C2C1

28. Humberto Sandmann 28 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Decodificação: exemplo do processo de aprendizado
trens de pulsos a disparar
trens de pulsos a não disparar
Pontecial de membrana do Tempotron
C2C1
após o aprendizado

29. Humberto Sandmann 29 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Agenda
• Contextualização – capítulos 1 e 2
• Processamento de sinais pelo sistema neural
• O modelo integra-e-dispara
• O uso de neurodinâmica nesta pesquisa
• Objetivos
• Arquitetura desenvolvida
• Codificando estímulos em trens de pulsos – seção 3.1
• Decodificando trens de pulsos em classes – seção 3.2
• Simulações numéricas e resultados – seção 3.3
• Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4
• Mapeando potencial de membrana em fase – seção 4.1
• Medida de coerência de fase – seção 4.2
• Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5
• Discussão – capítulo 5
• Conclusões – seção 5.1
• Contribuições – seção 5.2
• Perpectivas – seção 5.3

30. Humberto Sandmann 30 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Simulações: fluxo de trens de pulsos entre as camadas com múltiplos Tempotrons

31. Humberto Sandmann 31 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Simulações: objetivos das séries de simulações
Duas séries de simulações foram feitas com os objetivos de:
• Na 1a série é validar e explorar a arquitetura desenvolvida;
• Na 2a série é mostrar a aplicação desta arquitetura em um problema de classificação
onde os elementos das classes sejam não linearmente separáveis.

32. Humberto Sandmann 32 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Simulações: validação e exploração da arquitetura – agrupamento dos
estímulos
Objetivo da 1a
série: validar e explorar a arquitetura desenvolvida.
Foram preparados estímulos de correntes de entrada que levassem a rede a apresentar uma
dinâmia global com trajetória de órbita fechada e com o mesmo período.
Estímulos de entrada foram: {1,2,3,4,5}x10-4
, sendo que permutações desses elementos permitem
criar 120 combinações de estímulos; ainda, se esses conjuntos forem classificados em bipartições,
então, existem 2120
bipartições possíveis.
Para reduzir esse volume de bipartições um critério de agrupamento foi estabelecido sobre os
estímulos similares, uma função degrau foi aplicada, onde: xi < 3 então 0, caso contrário, 1, logo:
grupo

33. Humberto Sandmann 33 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Simulações: validação e exploração da arquitetura
Assim, é possível reduzir o número de 120 possíveis permutações para 10 possíveis grupos (sendo
que cada um representa 12 estímulos de entrada permutados):
Quando separado em bipartições, o número total de combinações é de 210
bipartições,
reduzindo assim consideravelmente o esforço computacional (com relação a 2120
).
Exemplo: 72 entradas distribuídas em 6 grupos foram aprendidas, sendo que 2 desses grupos
pertencentes a classe C1 e os demais a classe C2.
C1 = {(5,2,1,4,3), ...}, tal que x pertence ao grupo (1,0,0,1,1) ou grupo (1,1,1,0,0)
C2 = {(5,2,3,1,4), ...}, tal que x pertence ao grupo (1,0,1,0,1), grupo (1,1,0,1,0),
grupo (1,1,0,0,1) ou grupo (1,0,1,1,0)
Classes com elementos agrupados

34. Humberto Sandmann 34 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Resultados: exemplo de classificação dos grupos
C1 = {(5,2,1,4,3), ...}, tal que x pertence ao grupo (1,0,0,1,1) ou grupo (1,1,1,0,0)
C2 = {(5,2,3,1,4), ...}, tal que x pertence ao grupo (1,0,1,0,1), grupo (1,1,0,1,0),
grupo (1,1,0,0,1) ou grupo (1,0,1,1,0)

35. Humberto Sandmann 35 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Resultados: classificando as 210
bipartições
grupo
C1
C2
Tarefa: aprendendo todas as 210
possibilidades de bipartições possíveis através do agrupamento.
Como resultado desta série de simulações, todas as classificações foram realizadas com sucesso,
sendo que algumas convergiram rapidamente e outras nem tanto.

36. Humberto Sandmann 36 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Resultados: um problema xor-like
Objetivo da 2a
série: explorar o uso desta arquitetura em um problema de classificação onde os
elementos das classes sejam não linearmente separáveis.
Foi utilizado um exemplo clássico encontrado em sistemas digitais, o XOR; quatro elementos
foram criados e agrupados em classes de forma não linearmente separáveis.
entrada x classe
(1, 2, 3, 4, 4) C1
(1, 2, 3, 4, 5) C2
(1, 2, 3, 5, 4) C2
(1, 2, 3, 5, 5) C1
Como resultado a arquitetura desenvolvida foi capaz de classificar as correntes de estímulos
que são não linearmente separáveis, em duas dimensões.
tabela XOR
0 0 0
0 1 1
1 0 1
1 1 0

37. Humberto Sandmann 37 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Agenda
• Contextualização – capítulos 1 e 2
• Processamento de sinais pelo sistema neural
• O modelo integra-e-dispara
• O uso de neurodinâmica nesta pesquisa
• Objetivos
• Arquitetura desenvolvida
• Codificando estímulos em trens de pulsos – seção 3.1
• Decodificando trens de pulsos em classes – seção 3.2
• Simulações numéricas e resultados – seção 3.3
• Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4
• Mapeando potencial de membrana em fase – seção 4.1
• Medida de coerência de fase – seção 4.2
• Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5
• Discussão – capítulo 5
• Conclusões – seção 5.1
• Contribuições – seção 5.2
• Perpectivas – seção 5.3

38. Humberto Sandmann 38 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Análises: características favoráveis para o funcionamento adequado da arquitetura
Características favoráveis:
Periodicidade
As trajetórias devem ser cíclicas
Estabilidade
As trajetórias devem ser estáveis, ou seja, ciclos-limite
Sincronização temporária de fase
As trajetórias deve apresentar estados de sincronização de fase ao longo do período
Como consequência de periodicidade e estabilidade:
É possível estimar o período Tp dos trens de pulsos emitidos pela da 1a
camada;
e usar esta estimativa para o processo de aprendizagem que ocorre na 2a
camada.

39. Humberto Sandmann 39 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Agenda
• Contextualização – capítulos 1 e 2
• Processamento de sinais pelo sistema neural
• O modelo integra-e-dispara
• O uso de neurodinâmica nesta pesquisa
• Objetivos
• Arquitetura desenvolvida
• Codificando estímulos em trens de pulsos – seção 3.1
• Decodificando trens de pulsos em classes – seção 3.2
• Simulações numéricas e resultados – seção 3.3
• Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4
• Mapeando potencial de membrana em fase – seção 4.1
• Medida de coerência de fase – seção 4.2
• Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5
• Discussão – capítulo 5
• Conclusões – seção 5.1
• Contribuições – seção 5.2
• Perpectivas – seção 5.3

40. Humberto Sandmann 40 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Mapeando potencial de membrana em fase
Existe um volume de estudos maior para trabalhar com osciladores acoplados por fase, por isto, a
transformação de potencial de membrana para fase se torna conveniente, logo:
sendo que
KURAMOTO, Y. Collective synchronization of pulse-coupled oscillators
and excitable units. Physica D, v. 50, n. 1, p. 15–30, May 1991
dinâmica do neurônio oscilador isolado

41. Humberto Sandmann 41 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Agenda
• Contextualização – capítulos 1 e 2
• Processamento de sinais pelo sistema neural
• O modelo integra-e-dispara
• O uso de neurodinâmica nesta pesquisa
• Objetivos
• Arquitetura desenvolvida
• Codificando estímulos em trens de pulsos – seção 3.1
• Decodificando trens de pulsos em classes – seção 3.2
• Simulações numéricas e resultados – seção 3.3
• Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4
• Mapeando potencial de membrana em fase – seção 4.1
• Medida de coerência de fase – seção 4.2
• Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5
• Discussão – capítulo 5
• Conclusões – seção 5.1
• Contribuições – seção 5.2
• Perpectivas – seção 5.3

42. Humberto Sandmann 42 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Coerência: medida de coerência de fase
No círculo unitário complexo, é possível calcular um valor de medida de coerência de fase entre as
fases de todos os osciladores, para isto:
onde:
ACEBRÓN, J. A.; BONILLA, L. L.; VICENTE, C. J. P.; RITORT, F.; SPIGLER, R. The Kuramoto model: a simple paradigm for
synchronization phenomena. Reviews of Modern Physics, v. 77, n. 1, p. 137–85, April 2005

43. Humberto Sandmann 43 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Coerência: medida de coerência de fase quando existem estados de sincronização
A medida de coerência de fase pode ser empregada como um critério para indicar a existência
de estados de sincronização temporária entre os osciladores.
Quando existem tais estados de sincronização de fase a medida de coerência de fase apresenta
também uma variação ao longo do período.
período global

44. Humberto Sandmann 44 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Coerência: medida de coerência de fase quando não existem estados de sincronização
Quando a medida de coerência de fase é uma constante, então, pode-se assumir que a
trajetória convergiu assintoticamente para um ponto fixo.
Em outro caso, a medida de coerência de fase possui pequenas oscilações, o que pode ser um
indício da trajetória estar excursionando em uma região de atração de um ponto de sela.

45. Humberto Sandmann 45 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Agenda
• Contextualização – capítulos 1 e 2
• Processamento de sinais pelo sistema neural
• O modelo integra-e-dispara
• O uso de neurodinâmica nesta pesquisa
• Objetivos
• Arquitetura desenvolvida
• Codificando estímulos em trens de pulsos – seção 3.1
• Decodificando trens de pulsos em classes – seção 3.2
• Simulações numéricas e resultados – seção 3.3
• Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4
• Mapeando potencial de membrana em fase – seção 4.1
• Medida de coerência de fase – seção 4.2
• Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5
• Discussão – capítulo 5
• Conclusões – seção 5.1
• Contribuições – seção 5.2
• Perpectivas – seção 5.3

46. Humberto Sandmann 46 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Simulações: estimando o período das trajetórias em espaço de estímulos
Objetivo: estimar o volume percentual de trajetórias em um espaço de estímulos que tenham as
características favoráveis ao funcionamento adequado da arquitetura.
Foram definidos estímulos de entrada na faixa de [0; 9] x 10-4
para uma rede com 5 neurônios
osciladores. Sendo ensaiadas 3024 das 30240 combinações possíveis (sem repetição); e para cada
combinação, duas trajetórias foram inicializadas com estados iniciais diferentes.
Como resultado foi possível montar a tabela:
possíveis pontos de sela
periodicidade não encontrada

47. Humberto Sandmann 47 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Simulações: histograma dos intervalos dos períodos das trajetórias encontradas
Possibilitando estimar o tamanho do período TP das trajetórias a ser usado no processo de
aprendizado do Tempotron
Histograma dos intervalos dos períodos das trajetórias encontradas
~ ~ ~ ~
~~~

48. Humberto Sandmann 48 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Simulações: tabela de todas as situações encontradas pela simulações
Periódicas, estáveis e com sincronização diversificada
volume percentual
%
%
%
%
%
%
%

49. Humberto Sandmann 49 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Agenda
• Contextualização – capítulos 1 e 2
• Processamento de sinais pelo sistema neural
• O modelo integra-e-dispara
• O uso de neurodinâmica nesta pesquisa
• Objetivos
• Arquitetura desenvolvida
• Codificando estímulos em trens de pulsos – seção 3.1
• Decodificando trens de pulsos em classes – seção 3.2
• Simulações numéricas e resultados – seção 3.3
• Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4
• Mapeando potencial de membrana em fase – seção 4.1
• Medida de coerência de fase – seção 4.2
• Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5
• Discussão – capítulo 5
• Conclusões – seção 5.1
• Contribuições – seção 5.2
• Perpectivas – seção 5.3

50. Humberto Sandmann 50 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Agenda
• Contextualização – capítulos 1 e 2
• Processamento de sinais pelo sistema neural
• O modelo integra-e-dispara
• O uso de neurodinâmica nesta pesquisa
• Objetivos
• Arquitetura desenvolvida
• Codificando estímulos em trens de pulsos – seção 3.1
• Decodificando trens de pulsos em classes – seção 3.2
• Simulações numéricas e resultados – seção 3.3
• Análises dos trens de pulsos produzidos pela rede de osciladores – capítulo 4
• Mapeando potencial de membrana em fase – seção 4.1
• Medida de coerência de fase – seção 4.2
• Ensaiando para definir o volume percentual de trajetórias favoráveis – seção 4.5
• Discussão – capítulo 5
• Conclusões – seção 5.1
• Contribuições – seção 5.2
• Perpectivas – seção 5.3

51. Humberto Sandmann 51 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Discussão: conclusões
Conclusões - vantagens:
• capacidade de representação: a primeira camada produz trajetórias
heteroclínicas que podem gerar um número muito grande de trajetórias
cíclicas;
• emergência natural de trens de pulsos: a rede de osciladores acoplados por
pulsos emite padrões de trens de pulsos que podem ser decodificados pela
segunda camada;
• sensibilidade espaço-temporal: a primeira camada adiciona a dimensão tempo
aos estímulos de entrada, logo, existe uma dimensão a mais para ajudar no
aprendizado dos estímulos de entrada;
• plausibilidade biológica: todos os modelos são significativamente conectados
com mecanismos e padrões de comportamento da dinâmica dos sistemas
biológicos.

52. Humberto Sandmann 52 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Discussão: conclusões
Conclusões - desafios enfrentados:
• dependência de um intervalo conhecido para o processo de aprendizado: um
trem só é aprendido se seu período for conhecido;
• coexistência de múltiplos ciclos-limite: para um mesmo estímulo de entrada a
rede pode convergir para bacias de atração distintas, ou seja, o sistema é
sensível à configuração inicial;
• problema de desempenho no aprendizado: o processo de aprendizagem
apresenta um problema de desempenho para encontrar os pesos w’s
adequados para todas as amostras;
• precisão computacional: no processo de aprendizagem de um padrão de trens
de pulsos da segunda camada a precisão computacional pode influenciar nas
simulações numéricas, isto porque o processo computacional usa um modelo
do tipo integra-e-dispara.

53. Humberto Sandmann 53 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Discussão: contribuições
Contribuições:
• a proposta e desenvolvimento da arquitetura que conecta a rede de
osciladores acoplados por pulsos ao modelo integra-e-dispara Tempotron traz
uma contribuição para a área da neurocomputação, sendo esta arquitetura um
novo modelo para o processo de codificação e decodificação de sinais;
• as análises feitas para definir o intervalo do período TP são de grande
importância para o processo de aprendizado. Esta arquitetura permite que de
maneira automática este intervalo possa ser calculado (se existir), lhe dando
autonomia.

54. Humberto Sandmann 54 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Discussão: contribuições
Contribuições:
• para a realização dos diversos experimentos foi construída uma estrutura
computacional que suporta dois tipos de configurações: rede de osciladores
acoplados por pulsos e acoplados por fase. Esta estrutura foi implementada
em linguagem de programação Java; e vem sendo compartilhada por outros
pesquisadores, incluindo pesquisadores do Max Planck Institute for Dynamics
and Self-organization;
• uma customização do algoritmo Fast Kuramoto foi desenvolvida. Com esta
customização é possível aplicar o método fast Kuramoto em redes cujos
acoplamentos não são uniformes;
• uma frente nova dentro do grupo: neurodinâmica em tempo contínuo.

55. Humberto Sandmann 55 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Discussão: perspectivas
Perspectivas:
• definir as influências dos pontos fixos que determinam o percurso de uma
trajetória no subespaço. Se não for possível mapear todas as influências, ao
menos, seria interessante definir as regiões de ciclos-limite existentes no
subespaço;
• investigar e comparar outras métricas aplicadas a trens de pulsos. Este item
pode conduzir a uma melhor compreensão da dinâmica exercitada pela
trajetória global dos trens de pulsos, portanto, facilitando a identificação de
comportamentos dinâmicos exercitados pela primeira camada;
• fazer um estudo mais amplo sobre o impacto de ruídos sobre esta arquitetura;
• estudar o impacto de alterações na topologia da rede, ou seja, evitar uma rede
totalmente simétrica, porém ao mesmo tempo tentando manter as trajetórias
heteroclínicas.

56. Humberto Sandmann 56 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Publicações
SILVA, L. A. ; SANDMANN, H. ; DEL-MORAL-HERNANDEZ, E. . A self-organizing
architecture of recursive elements for continuous learning. In: International Joint
Conference on Neural Networks, 2008, Hong Kong. Proceedings of the
International Joint Conference on Neural Networks (IJCNN 2008). NY, U.S.A : IEEE
Press.: Piscataway, 2008.
SANDMANN, H. ; SILVA, L. A. ; DEL-MORAL-HERNANDEZ, E. . A self-organizing
architecture of recursive elements for continuous learning. In: Dynamics Days
Europe, 2009, Goettingen. Book of Dynamics Days Europe 2009, 2009. p. 246-247.
em preparação:
SANDMANN, H. ; NEVES, S. F. ; TIMME, M. ; DEL-MORAL-HERNANDEZ, E. . Bio-inspired
temporal pattern discrimination based on complex periodic orbits. (em preparação
possivelmente será submetido à Neural Networks).

57. Humberto Sandmann 57 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Agradecimentos
ICONE - Grupo de Inteligência Computacional,
Modelagem e Neurocomputação Eletrônica
Escola Politécnica da
Universidade de São Paulo
Max Planck Society
Max-Planck-Institut für Dynamik und Selbstorganization
Abteilung für Netzwerk-Dynamik

58. Humberto Sandmann 58 / 57Padrões de pulsos e computação em redes neurais com dinâmica

59. Humberto Sandmann 59 / 57Padrões de pulsos e computação em redes neurais com dinâmica

60. Humberto Sandmann 60 / 57Padrões de pulsos e computação em redes neurais com dinâmica

61. Humberto Sandmann 61 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Contextualização: trabalhos correlatos
grande capacidade de armazenamento
através da neurodinâmica é possível representar diferentes estímulos sem
modificações na estrutura de uma rede neural.
(para isto, foi necessário dar passos iniciais na área de pesquisa em sistemas dinâmicos em redes)
ex: redes de osciladores neurais são estudados pela neurodinâmica e tem suas
inspirações em estudos de neurônios biológicos do tipo marcapassos (como os
cardíacos).
Processamento baseado em trens de pulsos
através da integração de potenciais pós-sinápticos (PSP) que chegam a um
neurônio por trens de pulsos é possível usar os processos de depolarização e
disparo deste neurônio para classificação.
ex: modelo de neurônio do tipo integra-e-dispara.

62. Humberto Sandmann 62 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Decodificação: processo de aprendizado
o processo de decodificação precisa aprender o trem de pulsos a ser identificado, para isto, o
Tempotron possui um processo supervisionado de aprendizado, onde os pesos w são atualizados
de acordo com:
onde a atualização é positiva para trens de pulsos a serem reconhecidos e negativa para os
demais.

63. Humberto Sandmann 63 / 57Padrões de pulsos e computação em redes neurais com dinâmica
Codificação: processo de codificação da arquitetura na 1a
camada
O processo de codificação é feito por uma rede neurônios osciladores acoplados por pulsos, que ao
receberem estímulos de correntes de entrada e produzem trens de pulsos.
codificação