SlideShare uma empresa Scribd logo
1 de 34
Baixar para ler offline
1
Redes Neurais Artificiais – IBM1108
Redes Neurais Artificiais
IBM1108
1. Introdução às Redes Neurais
Artificiais (RNAs)
Prof. Renato Tinós
Depto. de Computação e Matemática (FFCLRP/USP)
2
Redes Neurais Artificiais – IBM1108
1.1. Motivação
1.2. O que são RNAs?
1.3. Áreas de aplicações de RNAs
1. Introdução às Redes Neurais
Artificiais (RNAs)
3
Redes Neurais Artificiais – IBM1108
• Computadores modernos superam
seres humanos em diversos
domínios
 Exemplos
» Operações matemáticas
» Manipulação de informação
Armazenamento
Comunicação
1.1. Motivação
4
Redes Neurais Artificiais – IBM1108
• No entanto, animais são muito mais
eficientes em resolver certos problemas
que exigem processamento de informação
do que computadores
 Exemplos
» Reconhecimento de faces em uma multidão
» Processamento de linguagem natural
» Manipulação de dados incompletos
1.1. Motivação
5
Redes Neurais Artificiais – IBM1108
• O cérebro funciona de forma diferente dos
computadores convencionais
 Neurônios são de cinco a seis ordens de grandeza
mais lentos que as portas lógicas dos micro-
processadores
» Ordem de grandeza dos eventos
Em portas lógicas: nanossegundos (10-9 s)
Em neurônios: milissegundos (10-3 s)
1.1. Motivação
6
Redes Neurais Artificiais – IBM1108
• O cérebro funciona de forma diferente dos
computadores convencionais
 Lentidão compensada por
» Grande número de neurônios massivamente conectados
Estima-se que haja 10 bilhões de neurônios no córtex humano e
60 trilhões de sinapses
» Extrema eficiência na operação
Eficiência energética do cérebro é de aproximadamente 10-16 J
por operação por segundo, enquanto que em computadores é
de cerca de 10-6 J
1.1. Motivação
7
Redes Neurais Artificiais – IBM1108
• Arquitetura de um sistema neural
biológico é completamente diferente da
arquitetura de Von Neumann
 O cérebro é
» Altamente complexo
» Não-linear
» Extremamente paralelo
1.1. Motivação
8
Redes Neurais Artificiais – IBM1108
Computador Von
Neumann
Sistema neural
biológico
Processador unidade básica complexa
alta velocidade
um ou poucos
unidade básica simples
baixa velocidade
grande número
Memória separada do processador
localizada
não-endereçavel pelo conteúdo
integrada com processador
distribuída
endereçável pelo conteúdo
Computação centralizada
seqüencial
programas armazenados
distribuída
paralela
aprendizado
Confiabilidade muito vulnerável robusto
Adequação manipulações num. e simbólica problemas de percepção
Ambiente
operacional
bem definido
muito restrito
pouco definido
não restrito
1.1. Motivação
9
Redes Neurais Artificiais – IBM1108
• Principais partes de um neurônio
 Dendritos
» Recebem informações de outros neurônios
» As informações fluem dos dendritos para o axônio
 Axônio
» Transmite informação para outros neurônios
» Sinais viajam através dos axônios em forma de
impulsos elétricos
1.1. Motivação
10
Redes Neurais Artificiais – IBM1108
• Principais partes de um neurônio
 Corpo celular (ou Soma)
» Combina (processa) informações provenientes dos
dendritos
Disparo do axônio depende da soma dos impulsos
recebidos
 Limiar de disparo
1.1. Motivação
11
Redes Neurais Artificiais – IBM1108
• Ligação entre neurônios
 Sinapse
» Permite uma célula influenciar a outra
» Transmissão sináptica se faz por um mecanismo
de natureza química
Através da ação de neurotransmissores
1.1. Motivação
12
Redes Neurais Artificiais – IBM1108
• Um neurônio simplificado:
Corpo
Dendritos
Axônio
Sinal
Sinapse
1.1. Motivação
13
Redes Neurais Artificiais – IBM1108
1.1. Motivação
+ + + + - - - -
+ + + + - - - -
+ + + + + + + + + + + + + + + + + + + + + + + + +
+ + + + + + + + + + + + + + + + + + + + + + + + +
- - - - + + + + - - - - - - - -
- - - - - - - -
- - - - - - - -
- - - - - - - -
- - - - - - - -
- - - - - - - -
- - - - + + + +
Na+
Na+
K+
+
-
V
+ + + + - - - -
+ + + + - - - -
+ + + + + + + + + + + + + + + + + + + + + + + +
+ + + + + + + + + + + + + + + + + + + + + + + +
- - - - + + + +
- - - - - - -
- - - - - - -
- - - - - - - -
- - - - - - - -
- - - - - - - -
- - - - - - - -
- - - - + + + +
Na+
Na+
K+
+
-
V
• Propagação da impulso de potencial através do axônio
14
Redes Neurais Artificiais – IBM1108
• Modelo Simples de um neurônio
Sinal
Entradas Saída
 (u)
Pesos
w2
x1
x2
xm
y







 

m
i
i
iw
x
u
y
1
)
( 

y : ativação (saída do neurônio)
u : ativação interna
1.1. Motivação
15
Redes Neurais Artificiais – IBM1108
• Início
 (1943) McCulloch & Pitts
» Desenvolvem um modelo matemático de um neurônio
(nodo)
» Combinação de vários nodos em sistemas neurais produz
um elevado poder computacional
Nodos executam funções lógicas simples
Cada nodo pode executar uma função diferente
Qualquer função que puder ser representada por uma
combinação de funções lógicas pode ser modelada por uma
rede de nodos
1.2. O que são Redes
Neurais Artificiais?
16
Redes Neurais Artificiais – IBM1108
• Sistemas inspirados em algumas
propriedades simples do
funcionamento do sistema nervoso
• Estruturas distribuídas
 Formadas por grande número de unidades
de processamento (“neurônios”) interligadas
por um grande número de conexões
(“sinapses”)
1.2. O que são Redes
Neurais Artificiais?
17
Redes Neurais Artificiais – IBM1108
• Definição de rede neural (Haykin, 2001)
 “Uma rede neural é um processador maciçamente e
paralelamente distribuído, constituído de unidades
de processamento simples, que têm a propensão
natural de armazenar conhecimento experimental e
torná-lo disponível para o uso. Ela se assemelha ao
cérebro em dois aspectos:
1. O conhecimento é adquirido pela rede a partir de
seu ambiente através de um processo de
aprendizagem.
2. Forças de conexão entre neurônios, conhecidas
como pesos sinápticos, são utilizadas para
armazenar o conhecimento adquirido.”
1.2. O que são Redes
Neurais Artificiais?
18
Redes Neurais Artificiais – IBM1108
• Algumas definições
 Neurônio (artificial)
» unidade básica de processamento
 Peso sináptico
» conexão entre neurônios
 Algoritmo de aprendizagem
» modificação dos parâmetros da RNA (Ex.: pesos sinápticos)
de uma forma ordenada para alcançar um objetivo dado
 Arquitetura da RNA
» disposição espacial dos neurônios e pesos sinápticos
(estrutura)
1.2. O que são Redes
Neurais Artificiais?
19
Redes Neurais Artificiais – IBM1108
• Aprendizado de Máquina
Área da Inteligência Artificial
Objetivos
» Desenvolvimento de ferramentas
computacionais capazes de tomar decisões e
resolver problemas baseadas em experiências
acumuladas
» Desenvolvimento de técnicas computacionais
capazes de adquirir e armazenar
conhecimento de forma automática
1.3. Áreas de Aplicações de
RNAs
20
Redes Neurais Artificiais – IBM1108
• Componentes fundamentais de um
sistema de AM
Representação
»Modo de representar o conhecimento adquirido
Raciocínio
»Habilidade em resolver problemas
Aprendizagem
»Utilização de informação para aperfeiçoar o
conhecimento adquirido
1.3. Áreas de Aplicações de
RNAs
21
Redes Neurais Artificiais – IBM1108
• Categorias de sistemas de aprendizado
 Simbólico
» Desenvolve representações simbólicas do conhecimento
As representações, geralmente, podem ser facilmente
interpretadas por seres-humanos
 Não-simbólico
» Desenvolve representações próprias do conhecimento
As representações, geralmente, não são facilmente
interpretadas por seres-humanos
Entre as técnicas não-simbólicas, destaca-se as técnicas
conexionistas
Redes Neurais Artificiais
1.3. Áreas de Aplicações de
RNAs
22
Redes Neurais Artificiais – IBM1108
• Basicamente, RNAs são aplicadas em tarefas que
envolvem a aproximação de funções
 y = f ( x )
 Mapeamento entrada-saída
 No aprendizado supervisionado, a função f(.) é estimada
através de um conjunto de entradas e saídas
» Conjunto de treinamento
1.3. Áreas de Aplicações de
RNAs
RNA
x1
x2
xn
y1
y2
ym
23
Redes Neurais Artificiais – IBM1108
• Dados pares (x,f(x)), inferir f(·)
Ex.:
x f(x)
1 1
2 4
3 9
4 16
5 ?
Observação:
Dada uma amostra finita, é
freqüentemente impossível
determinar a verdadeira função f(·)
Abordagem:
• Encontre uma hipótese (modelo) através
dos exemplos de treinamento
•Valide esta hipótese através de exemplos de
teste
• Assuma que a hipótese se repita para
exemplos futuros
1.3. Áreas de Aplicações de
RNAs
24
Redes Neurais Artificiais – IBM1108
• Em geral, um conjunto de exemplos é dividido
em dois subconjuntos disjuntos:
 conjunto de treinamento que é usado para o
aprendizado do conceito e o
 conjunto de teste que é usado para medir o grau de
efetividade do conceito aprendido
• Os subconjuntos são disjuntos para
assegurar que as medidas obtidas utilizando
o conjunto de teste sejam de um conjunto
diferente do usado para realizar o
aprendizado, tornando a medida
estatisticamente válida
1.3. Áreas de Aplicações de
RNAs
25
Redes Neurais Artificiais – IBM1108
• Aproximação de funções
 Saídas assumem valores discretos
» Reconhecimento de padrões
Exemplos:
Classificação
Clusterização
 Saídas assumem valores contínuos
» Regressão
Exemplos:
Mapeamento estático de entrada saída de funções com valores
contínuos
Associação de Padrões (memória associativa)
Previsão de séries temporais
Filtragem
1.3. Áreas de Aplicações de
RNAs
26
Redes Neurais Artificiais – IBM1108
• Classificação
 Rede classifica novas entradas em uma entre
várias categorias discretas
 Exemplo
» Reconhecimento de caracteres
1.3. Áreas de Aplicações de
RNAs
27
Redes Neurais Artificiais – IBM1108
• Classificação
 Exemplo
» Dez exemplos (n=10)
» Duas classes (k=2): Sim;
Não
» Dois atributos (m=2):
 Idade é inteiro
 Tipo de Veículo é
categórico (Esporte, Van,
Caminhão)
» Rótulo da classe indica se a
pessoa comprou o produto
» Atributo dependente (classe)
é categórico
Idade Veículo Classe
20 V Sim
30 V Sim
25 C Não
30 E Sim
40 E Sim
20 C Não
30 V Sim
25 V Sim
40 V Sim
20 E Não
1.3. Áreas de Aplicações de
RNAs
28
Redes Neurais Artificiais – IBM1108
• Clusterização (ou categorização)
 Rede explora semelhanças entre padrões e
agrupa padrões de acordo com a semelhança
» Aprendizado não-supervisionado
» Análise de dados
Extrai informações de um conjunto de dados
» Exemplos
Mineração de dados
Compressão de dados
1.3. Áreas de Aplicações de
RNAs
29
Redes Neurais Artificiais – IBM1108
1.3. Áreas de Aplicações de
RNAs
• Clusterização
 Exemplo:
» Dez exemplos (n=10)
» Três atributos (m=3):
Idade, tipo de veículo
(Esporte, Van,
Caminhão) e cor do
veículo
» Neste caso, não há
associação explícita de
algum atributo com uma
determinada classe
Idade Veículo Cor
20 V preto
30 V verde
25 C azul
30 E branco
40 E azul
20 C preto
30 V branco
25 V azul
40 V Verde
20 E azul
30
Redes Neurais Artificiais – IBM1108
• No Aprendizado
Supervisionado, cada
exemplo é rotulado segundo
sua classe
• No Aprendizado Não
Supervisionado, cada
exemplo não possui classe
associada
n
exemplos
m atributos classe
k valores distintos
n
exemplos
m atributos
1.3. Áreas de Aplicações de
RNAs
31
Redes Neurais Artificiais – IBM1108
• Regressão
 Rede associa novas entradas a saídas que
assumem valores contínuos
 Para isso, deve reproduzir da melhor maneira
o mapeamento entrada-saída da função f(.)
1.3. Áreas de Aplicações de
RNAs
x y  IRm
f(.)
32
Redes Neurais Artificiais – IBM1108
• Regressão
 Exemplo
» Dez exemplos (n=10)
» Dois atributos (m=2):
Idade e tipo de veículo
(Esporte, Van,
Caminhão)
» Despesa indica quanto a
pessoa gastou em
manutenção
» Atributo dependente
(classe) é numérico
Idade Veículo Despesa
20 V $200
30 V $150
25 C $300
30 E $220
40 E $400
20 C $80
30 V $100
25 V $125
40 V $500
20 E $420
1.3. Áreas de Aplicações de
RNAs
33
Redes Neurais Artificiais – IBM1108
• Exemplos de Software
 Bibliotecas em diversas linguagens
» Bibliotecas em Matlab, R
» Theano (Phyton)
» TensorFlow (Google Brain)
 Simuladores
» Stuttgart Neural Network Simulator (SNNS), Emergent,
Neural Lab
 Software para AM
» Weka (Java), Scikit Learn (Phyton)
1.4. Áreas de Aplicações de
RNAs
34
Redes Neurais Artificiais – IBM1108
Comentários
• Referências
 Anderson, J. A. An introduction to neural networks. MIT Press,
1995.
» Capítulos 1 e 2
 Haykin, S. S.. Redes neurais: princípios e prática. 2ª ed., Bookman,
2001.
» Capítulo 1 e Seção 2.10
 Braga, A.P.; Carvalho, A.C.P.L.F. & Ludermir, T.B.. Redes neurais
artificiais: Teoria e Aplicações. LTC, 2000.
» Capítulo 1

Mais conteúdo relacionado

Semelhante a rn_1_int.pdf

Introdução à redes neurais artificiais
Introdução à redes neurais artificiaisIntrodução à redes neurais artificiais
Introdução à redes neurais artificiaisRobson Gomes
 
[José Ahirton Lopes] Apresentação MLP
[José Ahirton Lopes] Apresentação MLP[José Ahirton Lopes] Apresentação MLP
[José Ahirton Lopes] Apresentação MLPAhirton Lopes
 
Redes Neurais Artificiais
Redes Neurais ArtificiaisRedes Neurais Artificiais
Redes Neurais ArtificiaisRicardo Zalla
 
Redes Neurais Perceptron e Hopfield
Redes Neurais Perceptron e HopfieldRedes Neurais Perceptron e Hopfield
Redes Neurais Perceptron e HopfieldLucas Sabadini
 
INTELIGENCIA ARTIFICIAL RNA
INTELIGENCIA ARTIFICIAL RNAINTELIGENCIA ARTIFICIAL RNA
INTELIGENCIA ARTIFICIAL RNACarlos Cheth
 
Inteligência Computacional Unidade 02 – Redes Neuronais Artificiais
Inteligência Computacional Unidade 02 – Redes Neuronais ArtificiaisInteligência Computacional Unidade 02 – Redes Neuronais Artificiais
Inteligência Computacional Unidade 02 – Redes Neuronais ArtificiaisLeonardo Goliatt
 
Conceitos e técnicas de programação introdução
Conceitos e técnicas de programação introduçãoConceitos e técnicas de programação introdução
Conceitos e técnicas de programação introduçãoRobson Ferreira
 
Extração e Representação de Conhecimento de Redes Neurais Artificiais Utiliza...
Extração e Representação de Conhecimento de Redes Neurais Artificiais Utiliza...Extração e Representação de Conhecimento de Redes Neurais Artificiais Utiliza...
Extração e Representação de Conhecimento de Redes Neurais Artificiais Utiliza...Sérgio Dias
 
Inteligência Artificial Parte 6 [IA]
Inteligência Artificial Parte 6 [IA]Inteligência Artificial Parte 6 [IA]
Inteligência Artificial Parte 6 [IA]ronaldo ramos
 
Banner sic 02
Banner sic 02Banner sic 02
Banner sic 02siridakis
 
Redes neurais e lógica fuzzy
Redes neurais e lógica fuzzyRedes neurais e lógica fuzzy
Redes neurais e lógica fuzzyRenato Ximenes
 
1Generalidades - Cópia.pdf
1Generalidades - Cópia.pdf1Generalidades - Cópia.pdf
1Generalidades - Cópia.pdfDavidSalvador48
 
Aula1 mba fiap_2018_redes_neurais
Aula1 mba fiap_2018_redes_neuraisAula1 mba fiap_2018_redes_neurais
Aula1 mba fiap_2018_redes_neuraisAhirton Lopes
 
Aplicações de Inteligência Artificial em Rádios Cognitivos
Aplicações de Inteligência Artificial em Rádios CognitivosAplicações de Inteligência Artificial em Rádios Cognitivos
Aplicações de Inteligência Artificial em Rádios CognitivosRamon Mayor Martins
 

Semelhante a rn_1_int.pdf (20)

P910Aula05
P910Aula05P910Aula05
P910Aula05
 
Introdução à redes neurais artificiais
Introdução à redes neurais artificiaisIntrodução à redes neurais artificiais
Introdução à redes neurais artificiais
 
[José Ahirton Lopes] Apresentação MLP
[José Ahirton Lopes] Apresentação MLP[José Ahirton Lopes] Apresentação MLP
[José Ahirton Lopes] Apresentação MLP
 
Redes Neurais Artificiais
Redes Neurais ArtificiaisRedes Neurais Artificiais
Redes Neurais Artificiais
 
Redes Neurais Perceptron e Hopfield
Redes Neurais Perceptron e HopfieldRedes Neurais Perceptron e Hopfield
Redes Neurais Perceptron e Hopfield
 
INTELIGENCIA ARTIFICIAL RNA
INTELIGENCIA ARTIFICIAL RNAINTELIGENCIA ARTIFICIAL RNA
INTELIGENCIA ARTIFICIAL RNA
 
ArtigoFinal_v02
ArtigoFinal_v02ArtigoFinal_v02
ArtigoFinal_v02
 
Inteligência Computacional Unidade 02 – Redes Neuronais Artificiais
Inteligência Computacional Unidade 02 – Redes Neuronais ArtificiaisInteligência Computacional Unidade 02 – Redes Neuronais Artificiais
Inteligência Computacional Unidade 02 – Redes Neuronais Artificiais
 
Conceitos e técnicas de programação introdução
Conceitos e técnicas de programação introduçãoConceitos e técnicas de programação introdução
Conceitos e técnicas de programação introdução
 
Extração e Representação de Conhecimento de Redes Neurais Artificiais Utiliza...
Extração e Representação de Conhecimento de Redes Neurais Artificiais Utiliza...Extração e Representação de Conhecimento de Redes Neurais Artificiais Utiliza...
Extração e Representação de Conhecimento de Redes Neurais Artificiais Utiliza...
 
Inteligência Artificial Parte 6 [IA]
Inteligência Artificial Parte 6 [IA]Inteligência Artificial Parte 6 [IA]
Inteligência Artificial Parte 6 [IA]
 
Banner sic 02
Banner sic 02Banner sic 02
Banner sic 02
 
Redes neurais e lógica fuzzy
Redes neurais e lógica fuzzyRedes neurais e lógica fuzzy
Redes neurais e lógica fuzzy
 
1Generalidades - Cópia.pdf
1Generalidades - Cópia.pdf1Generalidades - Cópia.pdf
1Generalidades - Cópia.pdf
 
Aula1 mba fiap_2018_redes_neurais
Aula1 mba fiap_2018_redes_neuraisAula1 mba fiap_2018_redes_neurais
Aula1 mba fiap_2018_redes_neurais
 
Aplicações de Inteligência Artificial em Rádios Cognitivos
Aplicações de Inteligência Artificial em Rádios CognitivosAplicações de Inteligência Artificial em Rádios Cognitivos
Aplicações de Inteligência Artificial em Rádios Cognitivos
 
Arq orgcom (1)
Arq orgcom (1)Arq orgcom (1)
Arq orgcom (1)
 
ArqOrgCom.ppt
ArqOrgCom.pptArqOrgCom.ppt
ArqOrgCom.ppt
 
Redes neurais
Redes neuraisRedes neurais
Redes neurais
 
Isi.slides
Isi.slidesIsi.slides
Isi.slides
 

rn_1_int.pdf

  • 1. 1 Redes Neurais Artificiais – IBM1108 Redes Neurais Artificiais IBM1108 1. Introdução às Redes Neurais Artificiais (RNAs) Prof. Renato Tinós Depto. de Computação e Matemática (FFCLRP/USP)
  • 2. 2 Redes Neurais Artificiais – IBM1108 1.1. Motivação 1.2. O que são RNAs? 1.3. Áreas de aplicações de RNAs 1. Introdução às Redes Neurais Artificiais (RNAs)
  • 3. 3 Redes Neurais Artificiais – IBM1108 • Computadores modernos superam seres humanos em diversos domínios  Exemplos » Operações matemáticas » Manipulação de informação Armazenamento Comunicação 1.1. Motivação
  • 4. 4 Redes Neurais Artificiais – IBM1108 • No entanto, animais são muito mais eficientes em resolver certos problemas que exigem processamento de informação do que computadores  Exemplos » Reconhecimento de faces em uma multidão » Processamento de linguagem natural » Manipulação de dados incompletos 1.1. Motivação
  • 5. 5 Redes Neurais Artificiais – IBM1108 • O cérebro funciona de forma diferente dos computadores convencionais  Neurônios são de cinco a seis ordens de grandeza mais lentos que as portas lógicas dos micro- processadores » Ordem de grandeza dos eventos Em portas lógicas: nanossegundos (10-9 s) Em neurônios: milissegundos (10-3 s) 1.1. Motivação
  • 6. 6 Redes Neurais Artificiais – IBM1108 • O cérebro funciona de forma diferente dos computadores convencionais  Lentidão compensada por » Grande número de neurônios massivamente conectados Estima-se que haja 10 bilhões de neurônios no córtex humano e 60 trilhões de sinapses » Extrema eficiência na operação Eficiência energética do cérebro é de aproximadamente 10-16 J por operação por segundo, enquanto que em computadores é de cerca de 10-6 J 1.1. Motivação
  • 7. 7 Redes Neurais Artificiais – IBM1108 • Arquitetura de um sistema neural biológico é completamente diferente da arquitetura de Von Neumann  O cérebro é » Altamente complexo » Não-linear » Extremamente paralelo 1.1. Motivação
  • 8. 8 Redes Neurais Artificiais – IBM1108 Computador Von Neumann Sistema neural biológico Processador unidade básica complexa alta velocidade um ou poucos unidade básica simples baixa velocidade grande número Memória separada do processador localizada não-endereçavel pelo conteúdo integrada com processador distribuída endereçável pelo conteúdo Computação centralizada seqüencial programas armazenados distribuída paralela aprendizado Confiabilidade muito vulnerável robusto Adequação manipulações num. e simbólica problemas de percepção Ambiente operacional bem definido muito restrito pouco definido não restrito 1.1. Motivação
  • 9. 9 Redes Neurais Artificiais – IBM1108 • Principais partes de um neurônio  Dendritos » Recebem informações de outros neurônios » As informações fluem dos dendritos para o axônio  Axônio » Transmite informação para outros neurônios » Sinais viajam através dos axônios em forma de impulsos elétricos 1.1. Motivação
  • 10. 10 Redes Neurais Artificiais – IBM1108 • Principais partes de um neurônio  Corpo celular (ou Soma) » Combina (processa) informações provenientes dos dendritos Disparo do axônio depende da soma dos impulsos recebidos  Limiar de disparo 1.1. Motivação
  • 11. 11 Redes Neurais Artificiais – IBM1108 • Ligação entre neurônios  Sinapse » Permite uma célula influenciar a outra » Transmissão sináptica se faz por um mecanismo de natureza química Através da ação de neurotransmissores 1.1. Motivação
  • 12. 12 Redes Neurais Artificiais – IBM1108 • Um neurônio simplificado: Corpo Dendritos Axônio Sinal Sinapse 1.1. Motivação
  • 13. 13 Redes Neurais Artificiais – IBM1108 1.1. Motivação + + + + - - - - + + + + - - - - + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + - - - - + + + + - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - + + + + Na+ Na+ K+ + - V + + + + - - - - + + + + - - - - + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + + - - - - + + + + - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - + + + + Na+ Na+ K+ + - V • Propagação da impulso de potencial através do axônio
  • 14. 14 Redes Neurais Artificiais – IBM1108 • Modelo Simples de um neurônio Sinal Entradas Saída  (u) Pesos w2 x1 x2 xm y           m i i iw x u y 1 ) (   y : ativação (saída do neurônio) u : ativação interna 1.1. Motivação
  • 15. 15 Redes Neurais Artificiais – IBM1108 • Início  (1943) McCulloch & Pitts » Desenvolvem um modelo matemático de um neurônio (nodo) » Combinação de vários nodos em sistemas neurais produz um elevado poder computacional Nodos executam funções lógicas simples Cada nodo pode executar uma função diferente Qualquer função que puder ser representada por uma combinação de funções lógicas pode ser modelada por uma rede de nodos 1.2. O que são Redes Neurais Artificiais?
  • 16. 16 Redes Neurais Artificiais – IBM1108 • Sistemas inspirados em algumas propriedades simples do funcionamento do sistema nervoso • Estruturas distribuídas  Formadas por grande número de unidades de processamento (“neurônios”) interligadas por um grande número de conexões (“sinapses”) 1.2. O que são Redes Neurais Artificiais?
  • 17. 17 Redes Neurais Artificiais – IBM1108 • Definição de rede neural (Haykin, 2001)  “Uma rede neural é um processador maciçamente e paralelamente distribuído, constituído de unidades de processamento simples, que têm a propensão natural de armazenar conhecimento experimental e torná-lo disponível para o uso. Ela se assemelha ao cérebro em dois aspectos: 1. O conhecimento é adquirido pela rede a partir de seu ambiente através de um processo de aprendizagem. 2. Forças de conexão entre neurônios, conhecidas como pesos sinápticos, são utilizadas para armazenar o conhecimento adquirido.” 1.2. O que são Redes Neurais Artificiais?
  • 18. 18 Redes Neurais Artificiais – IBM1108 • Algumas definições  Neurônio (artificial) » unidade básica de processamento  Peso sináptico » conexão entre neurônios  Algoritmo de aprendizagem » modificação dos parâmetros da RNA (Ex.: pesos sinápticos) de uma forma ordenada para alcançar um objetivo dado  Arquitetura da RNA » disposição espacial dos neurônios e pesos sinápticos (estrutura) 1.2. O que são Redes Neurais Artificiais?
  • 19. 19 Redes Neurais Artificiais – IBM1108 • Aprendizado de Máquina Área da Inteligência Artificial Objetivos » Desenvolvimento de ferramentas computacionais capazes de tomar decisões e resolver problemas baseadas em experiências acumuladas » Desenvolvimento de técnicas computacionais capazes de adquirir e armazenar conhecimento de forma automática 1.3. Áreas de Aplicações de RNAs
  • 20. 20 Redes Neurais Artificiais – IBM1108 • Componentes fundamentais de um sistema de AM Representação »Modo de representar o conhecimento adquirido Raciocínio »Habilidade em resolver problemas Aprendizagem »Utilização de informação para aperfeiçoar o conhecimento adquirido 1.3. Áreas de Aplicações de RNAs
  • 21. 21 Redes Neurais Artificiais – IBM1108 • Categorias de sistemas de aprendizado  Simbólico » Desenvolve representações simbólicas do conhecimento As representações, geralmente, podem ser facilmente interpretadas por seres-humanos  Não-simbólico » Desenvolve representações próprias do conhecimento As representações, geralmente, não são facilmente interpretadas por seres-humanos Entre as técnicas não-simbólicas, destaca-se as técnicas conexionistas Redes Neurais Artificiais 1.3. Áreas de Aplicações de RNAs
  • 22. 22 Redes Neurais Artificiais – IBM1108 • Basicamente, RNAs são aplicadas em tarefas que envolvem a aproximação de funções  y = f ( x )  Mapeamento entrada-saída  No aprendizado supervisionado, a função f(.) é estimada através de um conjunto de entradas e saídas » Conjunto de treinamento 1.3. Áreas de Aplicações de RNAs RNA x1 x2 xn y1 y2 ym
  • 23. 23 Redes Neurais Artificiais – IBM1108 • Dados pares (x,f(x)), inferir f(·) Ex.: x f(x) 1 1 2 4 3 9 4 16 5 ? Observação: Dada uma amostra finita, é freqüentemente impossível determinar a verdadeira função f(·) Abordagem: • Encontre uma hipótese (modelo) através dos exemplos de treinamento •Valide esta hipótese através de exemplos de teste • Assuma que a hipótese se repita para exemplos futuros 1.3. Áreas de Aplicações de RNAs
  • 24. 24 Redes Neurais Artificiais – IBM1108 • Em geral, um conjunto de exemplos é dividido em dois subconjuntos disjuntos:  conjunto de treinamento que é usado para o aprendizado do conceito e o  conjunto de teste que é usado para medir o grau de efetividade do conceito aprendido • Os subconjuntos são disjuntos para assegurar que as medidas obtidas utilizando o conjunto de teste sejam de um conjunto diferente do usado para realizar o aprendizado, tornando a medida estatisticamente válida 1.3. Áreas de Aplicações de RNAs
  • 25. 25 Redes Neurais Artificiais – IBM1108 • Aproximação de funções  Saídas assumem valores discretos » Reconhecimento de padrões Exemplos: Classificação Clusterização  Saídas assumem valores contínuos » Regressão Exemplos: Mapeamento estático de entrada saída de funções com valores contínuos Associação de Padrões (memória associativa) Previsão de séries temporais Filtragem 1.3. Áreas de Aplicações de RNAs
  • 26. 26 Redes Neurais Artificiais – IBM1108 • Classificação  Rede classifica novas entradas em uma entre várias categorias discretas  Exemplo » Reconhecimento de caracteres 1.3. Áreas de Aplicações de RNAs
  • 27. 27 Redes Neurais Artificiais – IBM1108 • Classificação  Exemplo » Dez exemplos (n=10) » Duas classes (k=2): Sim; Não » Dois atributos (m=2):  Idade é inteiro  Tipo de Veículo é categórico (Esporte, Van, Caminhão) » Rótulo da classe indica se a pessoa comprou o produto » Atributo dependente (classe) é categórico Idade Veículo Classe 20 V Sim 30 V Sim 25 C Não 30 E Sim 40 E Sim 20 C Não 30 V Sim 25 V Sim 40 V Sim 20 E Não 1.3. Áreas de Aplicações de RNAs
  • 28. 28 Redes Neurais Artificiais – IBM1108 • Clusterização (ou categorização)  Rede explora semelhanças entre padrões e agrupa padrões de acordo com a semelhança » Aprendizado não-supervisionado » Análise de dados Extrai informações de um conjunto de dados » Exemplos Mineração de dados Compressão de dados 1.3. Áreas de Aplicações de RNAs
  • 29. 29 Redes Neurais Artificiais – IBM1108 1.3. Áreas de Aplicações de RNAs • Clusterização  Exemplo: » Dez exemplos (n=10) » Três atributos (m=3): Idade, tipo de veículo (Esporte, Van, Caminhão) e cor do veículo » Neste caso, não há associação explícita de algum atributo com uma determinada classe Idade Veículo Cor 20 V preto 30 V verde 25 C azul 30 E branco 40 E azul 20 C preto 30 V branco 25 V azul 40 V Verde 20 E azul
  • 30. 30 Redes Neurais Artificiais – IBM1108 • No Aprendizado Supervisionado, cada exemplo é rotulado segundo sua classe • No Aprendizado Não Supervisionado, cada exemplo não possui classe associada n exemplos m atributos classe k valores distintos n exemplos m atributos 1.3. Áreas de Aplicações de RNAs
  • 31. 31 Redes Neurais Artificiais – IBM1108 • Regressão  Rede associa novas entradas a saídas que assumem valores contínuos  Para isso, deve reproduzir da melhor maneira o mapeamento entrada-saída da função f(.) 1.3. Áreas de Aplicações de RNAs x y  IRm f(.)
  • 32. 32 Redes Neurais Artificiais – IBM1108 • Regressão  Exemplo » Dez exemplos (n=10) » Dois atributos (m=2): Idade e tipo de veículo (Esporte, Van, Caminhão) » Despesa indica quanto a pessoa gastou em manutenção » Atributo dependente (classe) é numérico Idade Veículo Despesa 20 V $200 30 V $150 25 C $300 30 E $220 40 E $400 20 C $80 30 V $100 25 V $125 40 V $500 20 E $420 1.3. Áreas de Aplicações de RNAs
  • 33. 33 Redes Neurais Artificiais – IBM1108 • Exemplos de Software  Bibliotecas em diversas linguagens » Bibliotecas em Matlab, R » Theano (Phyton) » TensorFlow (Google Brain)  Simuladores » Stuttgart Neural Network Simulator (SNNS), Emergent, Neural Lab  Software para AM » Weka (Java), Scikit Learn (Phyton) 1.4. Áreas de Aplicações de RNAs
  • 34. 34 Redes Neurais Artificiais – IBM1108 Comentários • Referências  Anderson, J. A. An introduction to neural networks. MIT Press, 1995. » Capítulos 1 e 2  Haykin, S. S.. Redes neurais: princípios e prática. 2ª ed., Bookman, 2001. » Capítulo 1 e Seção 2.10  Braga, A.P.; Carvalho, A.C.P.L.F. & Ludermir, T.B.. Redes neurais artificiais: Teoria e Aplicações. LTC, 2000. » Capítulo 1