Desenvolvimento de Rede Neural SOM: Um Estudo de Caso para Segmentação de Perfis

1.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Desenvolvimento de Rede Neural SOM Trabalho de Conclusão de Curso Manoel Jorge Ribeiro Neto Evandro de Barros Costa Rômulo Nunes de Oliveira Instituto de Computaç ão Universidade Federal de Alagoas 30 de Março de 2007 Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

2.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Sumário 1 Resumo 2 Introduç ão 3 Redes Neurais 4 Mapas Auto-Organizáveis 5 Segmentaç ão de perfis 6 Conclusão Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

3.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Resumo Neste trabalho, apresenta-se um estudo sobre Redes Neurais, com foco nas redes SOM (Self-Organizing Map, ou Mapa Auto-Organizável). Decorrente deste estudo, desenvolve-se um sistema de software capaz de agrupar os diferentes perfis de um dom´ınio. O sistema de software criado é composto por um componente que implementa o algoritmo SOM. A visualizaç ão do mapa gerado pelo algoritmo, desta forma, é efetuada por um Mapa Contextual, por meio do qual é poss´ıvel identificar os agrupamentos do dom´ınio e, desta maneira, segmentar os diferentes grupos de perfis pertinentes ao mesmo. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

4.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Motivaç ão Proposta Motivaç ão Antes mesmo da popularizaç ão da informática, muitas instituiç ões ofereciam serviços destinados a usuários em massa. Com a evoluç ão da tecnologia, os serviços passaram a agregar milhares (ou até milhões) de usuários, tornando humanamente imposs´ıvel a tarefa de analisar os mais diversos perfis, classificando-os de acordo com suas similaridades. Diante disso, a Inteligência Artificial oferece muitas técnicas para abordar esse problema. Entre elas, está a utilizaç ão de redes SOM (Self-Organizing Map), que é um tipo especial de Rede Neural artificial, capaz de realizar agrupamentos e classificaç ões em mapas bidimensionais. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

5.

6.

7.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Motivaç ão Proposta Proposta A proposta do trabalho é, portanto: Pormenorizar o assunto, com o estudo de Redes Neurais SOM. Como estudo de caso, implementar um sistema segmentador de perfis. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

8.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Motivaç ão Proposta Proposta A proposta do trabalho é, portanto: Pormenorizar o assunto, com o estudo de Redes Neurais SOM. Como estudo de caso, implementar um sistema segmentador de perfis. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

9.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Representaç ão de um neurônio Arquiteturas de rede Formas de aprendizagem de máquina Representaç ão de um neurônio O neurônio é a base das Redes Neurais, sendo que os neurônios de uma rede são conectados por v´ınculos orientados. Um neurônio é constitu´ıdo pelos seguintes elementos básicos: Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

10.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Representaç ão de um neurônio Arquiteturas de rede Formas de aprendizagem de máquina Representaç ão de um neurônio O neurônio é a base das Redes Neurais, sendo que os neurônios de uma rede são conectados por v´ınculos orientados. Um neurônio é constitu´ıdo pelos seguintes elementos básicos: Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

11.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Representaç ão de um neurônio Arquiteturas de rede Formas de aprendizagem de máquina Elementos de um neurônio 1 Um conjunto de sinapses: com cada sinapse associada a um peso wkj, cujo valor é multiplicado pelo sinal de entrada xj; 2 Um adicionador: que efetua a soma dos sinais de entrada (já devidamente multiplicados pelos pesos wkj; 3 Uma funç ão de ativaç ão: que serve para “ativar” ou “desativar” o neurônio, dependendo de suas entradas. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

12.

13.

14.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Representaç ão de um neurônio Arquiteturas de rede Formas de aprendizagem de máquina Elementos de um neurônio Além das sinapses, é também inclu´ıdo um peso bk, chamado de peso de desvio, cuja funç ão é aumentar ou diminuir a entrada da funç ão de ativaç ão. Esse peso pode ser externo aos demais, ou contido em uma sinapse com entrada fixa igual a 1 e peso bk. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

15.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Representaç ão de um neurônio Arquiteturas de rede Formas de aprendizagem de máquina Elementos de um neurônio Além das sinapses, é também inclu´ıdo um peso bk, chamado de peso de desvio, cuja funç ão é aumentar ou diminuir a entrada da funç ão de ativaç ão. Esse peso pode ser externo aos demais, ou contido em uma sinapse com entrada fixa igual a 1 e peso bk. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

16.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Representaç ão de um neurônio Arquiteturas de rede Formas de aprendizagem de máquina Modelo matemático de um neurônio Matematicamente, o neurônio é definido pelo seguinte par de equaç ões: uk = Σm j=1wkjxj e yk = ϕ(uk + bk), caso bk esteja “fora” das sinapses; vk = Σm j=0wkjxj e yk = ϕ(vk), caso bk esteja “entre” as sinapses. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

17.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Representaç ão de um neurônio Arquiteturas de rede Formas de aprendizagem de máquina Modelo matemático de um neurônio Matematicamente, o neurônio é definido pelo seguinte par de equaç ões: uk = Σm j=1wkjxj e yk = ϕ(uk + bk), caso bk esteja “fora” das sinapses; vk = Σm j=0wkjxj e yk = ϕ(vk), caso bk esteja “entre” as sinapses. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

18.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Representaç ão de um neurônio Arquiteturas de rede Formas de aprendizagem de máquina Modelo matemático de um neurônio 01 01 01 V´ınculos de entrada Adicionador Funç ão de ativaç ão Sa´ıda V´ınculos de sa´ıda x0 = +1 x1 x2 xm wk0 = bk wk1 wk2 wkm Σ ϕ(.) vk yk Figura: Modelo matemático simples para um neurônio Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

19.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Representaç ão de um neurônio Arquiteturas de rede Formas de aprendizagem de máquina Funç ões de ativaç ão A funç ão de ativaç ão define a sa´ıda do neurônio em termos do valor v (obtido pelo adicionador). Nesta seç ão, são identificados três tipos básicos de funç ões de ativaç ão: Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

20.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Representaç ão de um neurônio Arquiteturas de rede Formas de aprendizagem de máquina Funç ões de ativaç ão A funç ão de ativaç ão define a sa´ıda do neurônio em termos do valor v (obtido pelo adicionador). Nesta seç ão, são identificados três tipos básicos de funç ões de ativaç ão: Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

21.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Representaç ão de um neurônio Arquiteturas de rede Formas de aprendizagem de máquina Funç ões de ativaç ão I Funç ão de limiar, que é dada pela seguinte funç ão: ϕ(v) = 1, se v ≥ 0 (1) 0, se v < 0 (2) Semi-linear: ϕ(v) =    1, se v ≥ +1 2 (3) v, se −1 2 < v < +1 2 (4) 0, se v ≤ −1 2 (5) Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

22.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Representaç ão de um neurônio Arquiteturas de rede Formas de aprendizagem de máquina Funç ões de ativaç ão II Funç ão sigmóide: ϕ(v) = 1 1+exp(−av) E a sua derivada é definida por: dϕ dv = aϕ(v) [1 − ϕ(v)] Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

23.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Representaç ão de um neurônio Arquiteturas de rede Formas de aprendizagem de máquina Gráficos da funç ão sigmóide e de sua derivada Figura: Gráficos da funç ão sigmóide e de sua derivada Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

24.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Representaç ão de um neurônio Arquiteturas de rede Formas de aprendizagem de máquina Arquiteturas de rede A maneira como os neurônios em uma Rede Neural estão estruturados está intimamente ligada com o algoritmo de aprendizado utilizado. Basicamente, existem duas categorias principais de estruturas de Redes Neurais: Redes de alimentaç ão direta; Redes recorrentes. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

25.

26.

27.

28.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Representaç ão de um neurônio Arquiteturas de rede Formas de aprendizagem de máquina Arquiteturas de rede As redes de alimentaç ão direta geralmente são organizadas em camadas, de tal forma que os neurônios de determinada camada recebem informaç ões apenas dos neurônios da camada imediatamente precedente. Redes recorrentes têm pelo menos um ciclo, tornando suas respostas dependentes de seus estados anteriores, formando um sistema dinâmico. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

29.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Representaç ão de um neurônio Arquiteturas de rede Formas de aprendizagem de máquina Arquiteturas de rede As redes de alimentaç ão direta geralmente são organizadas em camadas, de tal forma que os neurônios de determinada camada recebem informaç ões apenas dos neurônios da camada imediatamente precedente. Redes recorrentes têm pelo menos um ciclo, tornando suas respostas dependentes de seus estados anteriores, formando um sistema dinâmico. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

30.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Representaç ão de um neurônio Arquiteturas de rede Formas de aprendizagem de máquina Arquiteturas de rede Camada de entrada Camada escondida Camada de sa´ıda Entradas Sa´ıdas Elementos de espera z−1 z−1 z−1 z−1 Figura: Exemplos de redes de alimentaç ão direta e recorrente Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

31.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Representaç ão de um neurônio Arquiteturas de rede Formas de aprendizagem de máquina Formas de aprendizagem de máquina As Redes Neurais são capazes de aprender a partir de um ambiente abordado. O seu aprendizado se dá através dos ajustes dos pesos sinápticos dos neurônios por meio de algum algoritmo de aprendizado. A aprendizagem de máquina geralmente ocorre de três formas: Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

32.

33.

34.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Representaç ão de um neurônio Arquiteturas de rede Formas de aprendizagem de máquina Formas de aprendizagem de máquina Supervisionada: Consiste em aprender a partir de exemplos de entradas e sa´ıdas. Não-supervisionada: Faz o aprendizado a partir de padrões de entrada quando os mesmos não possuem valores de sa´ıda. Por reforço: Aprende a partir de medidas de “recompensa”. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

35.

36.

37.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Algoritmo Resumo do algoritmo Interpretaç ão do mapa produzido pelo SOM Mapas Auto-Organizáveis O Mapa Auto-Organizável de Kohonen (SOM, de Self-Organizing Map) é um tipo especial de Rede Neural, baseado em aprendizado competitivo e não-supervisionado. Nele, os neurônios competem entre si pelo direito de representar o dado apresentado, sendo que apenas um é o vencedor. Após a competiç ão, o neurônio vencedor e seus vizinhos têm seus pesos sinápticos atualizados em direç ão ao dado. Como resultado, obtém-se um mapa topologicamente correto do ambiente após a apresentaç ão dos dados de aprendizado repetidas vezes e em ordens diversas. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

38.

39.

40.

41.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Algoritmo Resumo do algoritmo Interpretaç ão do mapa produzido pelo SOM Mapas Auto-Organizáveis No SOM, os neurônios são dispostos em um arranjo geralmente unidimensional ou bidimensional, totalmente conectados com a entrada. O algoritmo SOM realiza um projeç ão não-linear do espaço cont´ınuo de entrada X para o espaço discreto de sa´ıda A. Quando a dimensão de A é menor que a de X, é realizada uma reduç ão dimensional. A reduç ão da dimensionalidade, em conjunto com a preservaç ão topológica dos dados, tornam o algoritmo SOM apropriado como ferramenta de mineraç ão de dados. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

42.

43.

44.

45.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Algoritmo Resumo do algoritmo Interpretaç ão do mapa produzido pelo SOM Exemplo de SOM Arranjo de neurônios bidimensional Camada de entrada (em R3 ) Conjunto de ligaç ões sinápticas Figura: Exemplo de SOM Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

46.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Algoritmo Resumo do algoritmo Interpretaç ão do mapa produzido pelo SOM Algoritmo O algoritmo responsável pelo aprendizado do SOM começa inicializando os pesos sinápticos dos neurônios do arranjo. Após a inicializaç ão dos neurônios, os dados do conjunto de treinamento são apresentados repetidas vezes e em ordens diversas, com um número de iteraç ões predeterminado ou até que não ocorram mudanças significativas no mapa. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

47.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Algoritmo Resumo do algoritmo Interpretaç ão do mapa produzido pelo SOM Algoritmo O algoritmo responsável pelo aprendizado do SOM começa inicializando os pesos sinápticos dos neurônios do arranjo. Após a inicializaç ão dos neurônios, os dados do conjunto de treinamento são apresentados repetidas vezes e em ordens diversas, com um número de iteraç ões predeterminado ou até que não ocorram mudanças significativas no mapa. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

48.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Algoritmo Resumo do algoritmo Interpretaç ão do mapa produzido pelo SOM Algoritmo Para a formaç ão de um Mapa Auto-Organizável, há três processos principais, que são: Competiç ão: Para cada dado apresentado, os neurônios competem entre si pelo direito de representar o dado, sendo que apenas um é o vencedor; Cooperaç ão: O neurônio vencedor determina a localizaç ão espacial de sua vizinhança, de acordo com alguma regra; Adaptaç ão sináptica: Os neurônios da vizinhança são habilitados a alterarem os seus pesos sinápticos na direç ão do dado, de acordo com alguma regra pré-estabelecida. A seguir, há uma descriç ão mais detalhada desses processos. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

49.

50.

51.

52.

53.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Algoritmo Resumo do algoritmo Interpretaç ão do mapa produzido pelo SOM Processo competitivo Seja m a dimensão do espaço de entrada. Cada padrão é denotado da seguinte forma: x = [x1, x2, . . . , xm]T Os vetores de pesos sinápticos de cada neurônio, com dimensão igual ao do espaço de entrada, são denotados da seguinte maneira: wj = [wj1, wj2, . . . , wjm]T , j = 1, 2, . . . , l Onde l é o número de neurônios. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

54.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Algoritmo Resumo do algoritmo Interpretaç ão do mapa produzido pelo SOM Processo competitivo Seja m a dimensão do espaço de entrada. Cada padrão é denotado da seguinte forma: x = [x1, x2, . . . , xm]T Os vetores de pesos sinápticos de cada neurônio, com dimensão igual ao do espaço de entrada, são denotados da seguinte maneira: wj = [wj1, wj2, . . . , wjm]T , j = 1, 2, . . . , l Onde l é o número de neurônios. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

55.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Algoritmo Resumo do algoritmo Interpretaç ão do mapa produzido pelo SOM Processo competitivo O neurônio vencedor é aquele que possui a menor distância em relaç ão ao dado x. Dessa forma, o neurônio vencedor i(x) é determinado pela seguinte condiç ão: i(x) = arg min j x − wj , j = 1, 2, . . . , l Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

56.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Algoritmo Resumo do algoritmo Interpretaç ão do mapa produzido pelo SOM Processo cooperativo O neurônio vencedor deve determinar a localizaç ão espacial da sua vizinhança, segundo alguma regra. Uma escolha t´ıpica de funç ão de vizinhança é a que segue: hj,i(x)(n) = exp − d2 j,i 2σ2(n) , n = 0, 1, 2, . . . Onde: Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

57.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Algoritmo Resumo do algoritmo Interpretaç ão do mapa produzido pelo SOM Processo cooperativo O neurônio vencedor deve determinar a localizaç ão espacial da sua vizinhança, segundo alguma regra. Uma escolha t´ıpica de funç ão de vizinhança é a que segue: hj,i(x)(n) = exp − d2 j,i 2σ2(n) , n = 0, 1, 2, . . . Onde: Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

58.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Algoritmo Resumo do algoritmo Interpretaç ão do mapa produzido pelo SOM Processo cooperativo n representa o tempo discreto de execuç ão do algoritmo; dj,i = rj − ri , é distância entre os neurônios no arranjo; σ(n) representa a largura da funç ão de vizinhança e que muda com o passar do tempo, de acordo com a seguinte funç ão: σ(n) = σ0 exp − n τ1 , n = 0, 1, 2, . . . Onde σ0 é o valor de σ no in´ıcio do algoritmo e τ1 é uma constante temporal. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

59.

60.

61.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Algoritmo Resumo do algoritmo Interpretaç ão do mapa produzido pelo SOM Gráfico da funç ão de vizinhança Figura: Gráfico da funç ão de vizinhança Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

62.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Algoritmo Resumo do algoritmo Interpretaç ão do mapa produzido pelo SOM Processo adaptativo Nesse processo, os neurônios excitados têm seus pesos sinápticos alterados em direç ão ao dado de entrada x. A equaç ão para a atualizaç ão dos pesos sinápticos do j-ésimo neurônio é a que segue: wj(n+1) = wj(n)+η(n)hj,i(x)(n) [x − wj(n)] , j = 1, 2, . . . , l Onde: Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

63.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Algoritmo Resumo do algoritmo Interpretaç ão do mapa produzido pelo SOM Processo adaptativo Nesse processo, os neurônios excitados têm seus pesos sinápticos alterados em direç ão ao dado de entrada x. A equaç ão para a atualizaç ão dos pesos sinápticos do j-ésimo neurônio é a que segue: wj(n+1) = wj(n)+η(n)hj,i(x)(n) [x − wj(n)] , j = 1, 2, . . . , l Onde: Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

64.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Algoritmo Resumo do algoritmo Interpretaç ão do mapa produzido pelo SOM Processo adaptativo η(n) é a taxa de aprendizado e que varia com o tempo de acordo com a seguinte funç ão: η(n) = η0 exp − n τ2 , n = 0, 1, 2, . . . Onde η0 é o valor de η no in´ıcio do algoritmo e τ2 é outra constante temporal. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

65.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Algoritmo Resumo do algoritmo Interpretaç ão do mapa produzido pelo SOM Resumo do algoritmo As partes integrantes do algoritmo SOM são: Um espaço cont´ınuo de padrões de entrada; Um arranjo de neurônios; Uma funç ão de vizinhança; Um parâmetro de aprendizado. O resumo do algoritmo, portanto, é o que segue: Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

66.

67.

68.

69.

70.

71.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Algoritmo Resumo do algoritmo Interpretaç ão do mapa produzido pelo SOM Algoritmo incremental Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

72.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Algoritmo Resumo do algoritmo Interpretaç ão do mapa produzido pelo SOM Algoritmo incremental Esta versão do algoritmo é conhecida como incremental, no qual os pesos sinápticos são atualizados para cada dado apresentado. Em outra versão, os pesos sinápticos são atualizados apenas ao final de uma época de treinamento. Ela é conhecida como em lote. O algoritmo em lote é o que segue: Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

73.

74.

75.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Algoritmo Resumo do algoritmo Interpretaç ão do mapa produzido pelo SOM Algoritmo em lote Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

76.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Algoritmo Resumo do algoritmo Interpretaç ão do mapa produzido pelo SOM Interpretaç ão do mapa produzido pelo SOM Após a fomaç ão do mapa produzido pelo algoritmo SOM, o resultado é um conjunto de neurônios, cuja topologia é determinada pelas relaç ões métricas entre os neurônios vizinhos no arranjo. Contudo, para que se consiga interpretar o conteúdo do mapa, é necessário a utilizaç ão de algum método de visualizaç ão. A seguir, dois desses métodos são descritos: a Matriz-U e o Mapa Contextual. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

77.

78.

79.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Algoritmo Resumo do algoritmo Interpretaç ão do mapa produzido pelo SOM Matriz-U A matriz de distâncias unificada é uma matriz composta pelas distâncias entre os neurônios vizinhos no arranjo. Para o cálculo das distâncias, é necessário estabelecer alguma regra para a vizinhança. Duas formas de vizinhança utilizadas são: retangular e hexagonal. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

80.

81.

82.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Algoritmo Resumo do algoritmo Interpretaç ão do mapa produzido pelo SOM Exemplos de Matriz-U Figura: Exemplos de Matriz-U (com vizinhança retangular e hexagonal) Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

83.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Algoritmo Resumo do algoritmo Interpretaç ão do mapa produzido pelo SOM Mapas Contextuais O Mapa Contextual consiste em um mapa onde os neurônios são “rotulados” com valores de dados do espaço de entrada que eles melhor representam. No Mapa Contextual, os neurônios são rotulados de tal forma que o arranjo seja particionado em regiões coerentes. A seguir, o algoritmo para a formaç ão de um Mapa Contextual e um exemplo deste método. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

84.

85.

86.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Algoritmo Resumo do algoritmo Interpretaç ão do mapa produzido pelo SOM Algoritmo para a formaç ão de um Mapa Contextual Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

87.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Algoritmo Resumo do algoritmo Interpretaç ão do mapa produzido pelo SOM Exemplo de Mapa Contextual cachorro cachorro cachorro cachorro raposa raposa raposa raposa raposa raposa gato gato lobo lobo lobo raposa gato tigre lobo lobo leão leão leão tigre lobo lobo leão leão leão tigre lobo lobo leão leão leão coruja cavalo cavalo leão leão leão pombo galinha galinha pombo pombo pombo falcão falcão coruja águia águia pombo falcão falcão coruja águia águia falcão tigre tigre tigre gato gato pombo tigre tigre tigre gato gato cavalo cavalo zebra vaca vaca vaca galinha galinha pombo pombo zebra zebra zebra vaca vaca vaca galinha galinha pato ganso zebra zebra zebra vaca vaca vaca pato pato pato ganso Figura: Exemplo de Mapa Contextual Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

88.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Segmentando perfis utilizando o algoritmo SOM Segmentador Experimentos com o componente Segmentador Segmentaç ão de perfis Em muitos dom´ınios, o conhecimento a respeito dos perfis com os quais esses dom´ınios atuam é de fundamental importância. A análise dos perfis, em muitos casos não é trivial. Quando há um conhecimento prévio sobre o dom´ınio abordado, podem ser utilizadas técnicas que empregam aprendizagem de máquina supervisionada. Por outro lado, quando há pouco ou nenhum conhecimento, é necessário empregar técnicas de agrupamento de perfis de forma não-supervisionada. A Rede Neural SOM de Kohonen é uma das técnicas não-supervisionadas mais utilizadas. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

89.

90.

91.

92.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Segmentando perfis utilizando o algoritmo SOM Segmentador Experimentos com o componente Segmentador Segmentando perfis utilizando o algoritmo SOM Com a utilizaç ão do algoritmo SOM, a tarefa de segmentar perfis resume-se nos seguintes passos: 1 Escolha dos perfis de treinamento; 2 Codificaç ão dos atributos; 3 Treinamento do SOM; 4 Análise do mapa produzido pelo SOM. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

93.

94.

95.

96.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Segmentando perfis utilizando o algoritmo SOM Segmentador Experimentos com o componente Segmentador Segmentador O componente Segmentador, escrito na linguagem de programaç ão C++, corresponde à implementaç ão do algoritmo SOM. As classes do componente são: Calculos; Dado; Neuronio; Arranjo; SOM; MapaContextual. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

97.

98.

99.

100.

101.

102.

103.

104.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Segmentando perfis utilizando o algoritmo SOM Segmentador Experimentos com o componente Segmentador Experimentos com o componente Segmentador Após o componente Segmentador ter sido implementado, foram feitos alguns experimentos. A seguir, dois dos experimentos realizados são descritos: Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

105.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Segmentando perfis utilizando o algoritmo SOM Segmentador Experimentos com o componente Segmentador Experimentos com o componente Segmentador Após o componente Segmentador ter sido implementado, foram feitos alguns experimentos. A seguir, dois dos experimentos realizados são descritos: Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

106.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Segmentando perfis utilizando o algoritmo SOM Segmentador Experimentos com o componente Segmentador Clientes de um supermercado Neste experimento, os perfis de clientes de um supermercado fict´ıcio foram codificados em 11 atributos. Dos 11 atributos, 5 representam dados pessoais de cada perfil e os 6 restantes representam a proporç ão do que cada pessoa comprou nos últimos 6 meses. Os dados codificados de 20 perfis serviram de entrada para o SOM, de tal forma como segue: Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

107.

108.

109.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Segmentando perfis utilizando o algoritmo SOM Segmentador Experimentos com o componente Segmentador Tabela com os dados dos clientes do supermercado Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

110.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Segmentando perfis utilizando o algoritmo SOM Segmentador Experimentos com o componente Segmentador Treinamento do SOM Para o treinamento do SOM, os seguintes parâmetros foram adotados: Número de iteraç ões: 20000; Formato do arranjo: quadrado, de tamanho 10x10; Largura inicial do parâmetro de vizinhança σ0: 2, 5; Taxa inicial de aprendizado η0: 0, 1; O Mapa Contextual do Experimento é o que segue: Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

111.

112.

113.

114.

115.

116.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Segmentando perfis utilizando o algoritmo SOM Segmentador Experimentos com o componente Segmentador Mapa Contextual resultante Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

117.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Segmentando perfis utilizando o algoritmo SOM Segmentador Experimentos com o componente Segmentador Resultados Após a análise do Mapa Contextual resultante, é poss´ıvel identificar os seguintes agrupamentos: Clientes jovens, com boas condiç ões financeiras; Clientes com baixo n´ıvel sócio-econômico; Clientes integrantes da classe média, do sexo masculino; Clientes mais velhos; Clientes jovens. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

118.

119.

120.

121.

122.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Segmentando perfis utilizando o algoritmo SOM Segmentador Experimentos com o componente Segmentador Análise epidemiológica Para este experimento, foi considerada uma pesquisa fict´ıcia em alguns bairros de Maceió, cujo objetivo é saber quais as localidades onde há maior incidência das doenças dengue, dengue hemorrágica e malária. Os perfis foram codificados em 6 atributos, onde em 3 há informaç ões pessoais das pessoas e os outros 3 são para determinar qual(is) doença(s) a pessoa contraiu no último ano. Os dados codificados de 20 perfis serviram de entrada para o SOM, assim como segue: Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

123.

124.

125.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Segmentando perfis utilizando o algoritmo SOM Segmentador Experimentos com o componente Segmentador Tabela com os dados dos clientes do supermercado Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

126.

127.

128.

129.

130.

131.

132.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Segmentando perfis utilizando o algoritmo SOM Segmentador Experimentos com o componente Segmentador Mapa Contextual resultante Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

133.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Introduç ão Segmentando perfis utilizando o algoritmo SOM Segmentador Experimentos com o componente Segmentador Resultados Após a análise do Mapa Contextual resultante, é poss´ıvel identificar os seguintes agrupamentos: Pessoas que não contra´ıram doença alguma; Pessoas que contra´ıram dengue hemorrágica; Pessoas que contra´ıram apenas dengue, homens; Pessoas que contra´ıram apenas dengue, mulheres; Pessoas que contra´ıram apenas dengue, jovens; Pessoas que contra´ıram malária, jovens; Pessoas que contra´ıram malária, adultos. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

134.

135.

136.

137.

138.

139.

140.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Conclusão Neste trabalho, foi realizado um estudo sobre Redes Neurais, como foco nas Redes SOM. Como estudo de caso, foi desenvolvido um software segmentador de perfis. O objetivo do presente trabalho é, portanto, fornecer um embasamento teórico para o desenvolvimento de um sistema que implemente o algoritmo SOM. Nos experimentos realizados com o sistema desenvolvido, constatou-se a sua capacidade de agrupar os diferentes perfis. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

141.

142.

143.

144.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Conclusão No entanto, em alguns casos, apenas com o uso do Mapa Contextual não foi suficiente para uma boa compreensão dos agrupamentos do dom´ınio estudado, evidenciando a necessidade de outros métodos de visualizaç ão do mapa produzido pelo SOM; Outro ponto a considerar é com relaç ão ao tempo de execuç ão, fazendo levar em consideraç ão a pesquisa por algoritmos que implementem o SOM de forma otimizada. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

145.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Conclusão No entanto, em alguns casos, apenas com o uso do Mapa Contextual não foi suficiente para uma boa compreensão dos agrupamentos do dom´ınio estudado, evidenciando a necessidade de outros métodos de visualizaç ão do mapa produzido pelo SOM; Outro ponto a considerar é com relaç ão ao tempo de execuç ão, fazendo levar em consideraç ão a pesquisa por algoritmos que implementem o SOM de forma otimizada. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

146.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Conclusão Além disso, pode vir a ser considerada a paralelizaç ão do algoritmo, com a utilizaç ão dos algoritmos e estruturas de dados apropriadas. Como trabalho futuro, além dos supramencionados, poderá ser considerada a utilizaç ão de algum método derivado do SOM tradicional. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

147.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Conclusão Além disso, pode vir a ser considerada a paralelizaç ão do algoritmo, com a utilizaç ão dos algoritmos e estruturas de dados apropriadas. Como trabalho futuro, além dos supramencionados, poderá ser considerada a utilizaç ão de algum método derivado do SOM tradicional. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

148.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Referências I Haykin, S. (1999), Neural Networks - A Comprehensive Foundation, 2 ed., Prentice-Hall, New Jersey, USA. Kohonen, T. (2006), ‘Self-organizing neural projections’, Neural Networks 19, 723–733. Lingras, P., Hogo, M., Snorek, M. & West, C. (2005), ‘Temporal analysis of clusters of supermarket customers: conventional versus interval set approach’, Information Sciences 172, 215–240. Luger, G. F. (2004), Inteligência Artificial - Estruturas e Estratégias para a Soluç ão de Problemas Complexos, 4 ed., Bookman, Porto Alegre, RS. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

149.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Referências II Malone, J., McGarry, K., Wermter, S. & Bowerman, C. (2005), ‘Data mining using rule extraction from kohonen self-organising maps’, Neural Computing & Applications 15, 9–17. Russell, S. & Norvig, P. (2004), Inteligência Artificial, 2 ed., Elsevier, Rio de Janeiro. Stroustrup, B. (2000), A Linguagem de Programaç ão C++, 3 ed., Bookman, Porto Alegre. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

150.
Resumo Introduç ão Redes Neurais MapasAuto-Organizáveis Segmentaç ão de perfis Conclusão Referências Referências III Zuchini, M. H. (2003), Aplicaç ões de mapas auto-organizáveis em mineraç ão de dados e recuperaç ão de informaç ão, (dissertaç ão de mestrado), Faculdade de Engenharia Elétrica e de Computaç ão (FEEC - UNICAMP), Campinas, SP. Manoel Jorge Ribeiro Neto Desenvolvimento de Rede Neural SOM

Desenvolvimento de Rede Neural SOM: Um Estudo de Caso para Segmentação de Perfis

Mais conteúdo relacionado

Semelhante a Desenvolvimento de Rede Neural SOM: Um Estudo de Caso para Segmentação de Perfis

Desenvolvimento de Rede Neural SOM: Um Estudo de Caso para Segmentação de Perfis