Redes Neurais


Alex Alonso
Antônio Nunes
Carolina Borges
Everton Ramos
Kézia bittencourt
O sistema nervoso
   O cérebro humano possui
    aproximadamente 10 bilhões de
    neurônios;

   São conectados através de sinapses;

   Formam a rede neural;
O sistema nervoso
     As sinapses transmitem estímulos
      através de diferentes concentrações
      de Na+ (Sódio) e K+ (Potássio), e o
      resultado disto pode ser estendido por
      todo o corpo humano.




Sinapse
O sistema nervoso
   Os neurônios têm um papel essencial na
    determinação do
    funcionamento, comportamento e do
    raciocínio do ser humano.

   Ao contrário das redes neurais
    artificiais, redes neurais naturais não
    transmitem sinais negativos, sua
    ativação é medida pela frequência com
    que emite pulsos, frequência esta de
    pulsos contínuos e positivos.
Redes Neurais artificiais
   Redes Neurais Artificiais são técnicas
    computacionais que apresentam um
    modelo matemático inspirado na
    estrutura neural de organismos
    inteligentes e que adquirem
    conhecimento através da experiência.
Redes Neurais artificiais -
Histórico
   As pesquisas sobre redes neurais
    artificias começaram basicamente
    com três publicações muito
    importantes neste
    universo, desenvolvidas por:
    McCulloch e Pitts (1943), Hebb
    (1949), e Rosemblatt (1958).
Redes Neurais artificiais
   McCulloch - neurônio possuia apenas
    uma saída, que era uma função de
    entrada (threshold) da soma do valor
    de suas diversas entradas;
Redes Neurais artificiais
   Rosemblatt - os neurônios eram
    organizados em camada de entrada e
    saída, onde os pesos das conexões
    eram adaptados a fim de se atingir a
    eficiência sináptica;
Redes Neurais artificiais
   Rumelhart, Hinton e Williams – famoso
    backpropagation. Modelo de 3 camadas:

   Camada de Entrada: onde os padrões são
    apresentados à rede;
Redes Neurais artificiais
 Camadas Intermediárias ou Escondidas:
  onde é feita a maior parte do
  processamento, através das conexões
  ponderadas; podem ser consideradas
  como extratoras de características;
 Camada de Saída: onde o resultado final é
  concluído e apresentado.
Processos de aprendizado
 Aprendizado Supervisionado: quando é
  utilizado um agente externo que indica à
  rede a resposta desejada para o padrão de
  entrada;
 Aprendizado Não Supervisionado: (auto-
  organização), quando não existe um
  agente externo indicando a resposta
  desejada para os padrões de entrada;
 Reforço: quando um crítico externo avalia
  a resposta fornecida pela rede.
Processos de aprendizado
 Modo Padrão: A correção dos pesos
  acontece a cada apresentação à rede de
  um exemplo do conjunto de treinamento.
  Cada correção de pesos baseia-se
  somente no erro do exemplo apresentado
  naquela iteração. Assim, em cada ciclo
  ocorrem N correções.
 Modo Batch: Apenas uma correção é feita
  por ciclo. Todos os exemplos do conjunto
  de treinamento são apresentados à rede,
  seu erro médio é calculado e a partir deste
  erro fazem-se as correções dos pesos.
Treinamento supervisionado
   Adotado no Perceptron, consiste em ajustar
    os pesos e os thresholds de suas unidades
    para que a classificação desejada seja
    obtida.



   Cada informação processada gera um
    peso, dependendo do resultado. Se for um
    acerto, ela ganha um ponto, se for um
    erro, ela perde meio ponto. Dessa forma, o
    sistema cria a rotina de seguir o caminho
Treinamento supervisionado
   Quanto mais tentativas, mais aprimorado
    fica o sistema, chegando, ao final de um
    processo de aprendizado, a executar
    tarefas quase sem erro algum.


   Em sistemas bem elaborados, uma rede
    neural consegue aprender qualquer função
    que uma pessoa possa saber e não há
    limites para a quantidade de informação
    que ela possa processar.
Treinamento supervisionado
    Regra Delta:

1) Iniciar todas as conexões com pesos
   aleatórios;
2) Repita até que o erro E seja
   satisfatoriamente pequeno (E=e);
3) Para cada par de treinamento
   (X,d), faça:
     1) Calcular resposta obtida O;
     2) Se o erro não for satisfatoriamente
        pequeno E > e, então:
4)    Atualizar pesos: Wnovo := W anterior +
      neta E X
Treinamento supervisionado
    Regra Delta:

1) Iniciar todas as conexões com pesos
   aleatórios;
2) Repita até que o erro E seja
   satisfatoriamente pequeno (E=e);
3) Para cada par de treinamento (X,d),
   faça:
     1) Calcular resposta obtida O;
     2) Se o erro não for satisfatoriamente
        pequeno E > e, então:
4)    Atualizar pesos: Wnovo := W anterior +
      neta E X
Treinamento supervisionado
   Regra Delta:
Inteligência Artificial
   As redes neurais são principalmente
    utilizadas para criar sistemas de
    inteligência artificial.

   a inteligência artificial gerada por
    computadores tradicionais são simulações
    de inteligência real, ou seja, apresentam
    respostas segundo regras e comandos de
    um programa pré-estabelecido.
Inteligência Artificial
   Simbólica:

   simula o comportamento inteligente. Ela é
    baseada em uma programação que indica
    quais respostas devem ser dadas diante de
    determinados comandos.

   corretores ortográficos ou simuladores ;

   esses programas dificilmente aprendem coisas
    novas, somente se você incluir novas
    programações.
Inteligência Artificial
   Conexionista:

   conexionista simula a estrutura do cérebro,
    pois acredita-se que a inteligência está na
    forma de processar informação e não na
    informação processada.

    aprender com seus erros e executar
    diferentes processos, independente de
    instruções
Perceptron
   foi à primeira máquina criada para
    processamento de informação feita sobre o
    sistema de redes neurais.

   Ele é construído com neurônios
    artificiais, formando redes de
    processamento.
Perceptron
   ele não executa programas, mas os
    aprende.

   As informações não são gravadas, mas
    aprendidas.

 é capaz de múltiplos processamentos e
    testes de hipóteses em paralelo

Redes neurais

  • 1.
    Redes Neurais Alex Alonso AntônioNunes Carolina Borges Everton Ramos Kézia bittencourt
  • 2.
    O sistema nervoso  O cérebro humano possui aproximadamente 10 bilhões de neurônios;  São conectados através de sinapses;  Formam a rede neural;
  • 3.
    O sistema nervoso  As sinapses transmitem estímulos através de diferentes concentrações de Na+ (Sódio) e K+ (Potássio), e o resultado disto pode ser estendido por todo o corpo humano. Sinapse
  • 4.
    O sistema nervoso  Os neurônios têm um papel essencial na determinação do funcionamento, comportamento e do raciocínio do ser humano.  Ao contrário das redes neurais artificiais, redes neurais naturais não transmitem sinais negativos, sua ativação é medida pela frequência com que emite pulsos, frequência esta de pulsos contínuos e positivos.
  • 5.
    Redes Neurais artificiais  Redes Neurais Artificiais são técnicas computacionais que apresentam um modelo matemático inspirado na estrutura neural de organismos inteligentes e que adquirem conhecimento através da experiência.
  • 6.
    Redes Neurais artificiais- Histórico  As pesquisas sobre redes neurais artificias começaram basicamente com três publicações muito importantes neste universo, desenvolvidas por: McCulloch e Pitts (1943), Hebb (1949), e Rosemblatt (1958).
  • 7.
    Redes Neurais artificiais  McCulloch - neurônio possuia apenas uma saída, que era uma função de entrada (threshold) da soma do valor de suas diversas entradas;
  • 8.
    Redes Neurais artificiais  Rosemblatt - os neurônios eram organizados em camada de entrada e saída, onde os pesos das conexões eram adaptados a fim de se atingir a eficiência sináptica;
  • 9.
    Redes Neurais artificiais  Rumelhart, Hinton e Williams – famoso backpropagation. Modelo de 3 camadas:  Camada de Entrada: onde os padrões são apresentados à rede;
  • 10.
    Redes Neurais artificiais Camadas Intermediárias ou Escondidas: onde é feita a maior parte do processamento, através das conexões ponderadas; podem ser consideradas como extratoras de características;  Camada de Saída: onde o resultado final é concluído e apresentado.
  • 11.
    Processos de aprendizado Aprendizado Supervisionado: quando é utilizado um agente externo que indica à rede a resposta desejada para o padrão de entrada;  Aprendizado Não Supervisionado: (auto- organização), quando não existe um agente externo indicando a resposta desejada para os padrões de entrada;  Reforço: quando um crítico externo avalia a resposta fornecida pela rede.
  • 12.
    Processos de aprendizado Modo Padrão: A correção dos pesos acontece a cada apresentação à rede de um exemplo do conjunto de treinamento. Cada correção de pesos baseia-se somente no erro do exemplo apresentado naquela iteração. Assim, em cada ciclo ocorrem N correções.  Modo Batch: Apenas uma correção é feita por ciclo. Todos os exemplos do conjunto de treinamento são apresentados à rede, seu erro médio é calculado e a partir deste erro fazem-se as correções dos pesos.
  • 13.
    Treinamento supervisionado  Adotado no Perceptron, consiste em ajustar os pesos e os thresholds de suas unidades para que a classificação desejada seja obtida.  Cada informação processada gera um peso, dependendo do resultado. Se for um acerto, ela ganha um ponto, se for um erro, ela perde meio ponto. Dessa forma, o sistema cria a rotina de seguir o caminho
  • 14.
    Treinamento supervisionado  Quanto mais tentativas, mais aprimorado fica o sistema, chegando, ao final de um processo de aprendizado, a executar tarefas quase sem erro algum.  Em sistemas bem elaborados, uma rede neural consegue aprender qualquer função que uma pessoa possa saber e não há limites para a quantidade de informação que ela possa processar.
  • 15.
    Treinamento supervisionado  Regra Delta: 1) Iniciar todas as conexões com pesos aleatórios; 2) Repita até que o erro E seja satisfatoriamente pequeno (E=e); 3) Para cada par de treinamento (X,d), faça: 1) Calcular resposta obtida O; 2) Se o erro não for satisfatoriamente pequeno E > e, então: 4) Atualizar pesos: Wnovo := W anterior + neta E X
  • 16.
    Treinamento supervisionado  Regra Delta: 1) Iniciar todas as conexões com pesos aleatórios; 2) Repita até que o erro E seja satisfatoriamente pequeno (E=e); 3) Para cada par de treinamento (X,d), faça: 1) Calcular resposta obtida O; 2) Se o erro não for satisfatoriamente pequeno E > e, então: 4) Atualizar pesos: Wnovo := W anterior + neta E X
  • 17.
  • 18.
    Inteligência Artificial  As redes neurais são principalmente utilizadas para criar sistemas de inteligência artificial.  a inteligência artificial gerada por computadores tradicionais são simulações de inteligência real, ou seja, apresentam respostas segundo regras e comandos de um programa pré-estabelecido.
  • 19.
    Inteligência Artificial  Simbólica:  simula o comportamento inteligente. Ela é baseada em uma programação que indica quais respostas devem ser dadas diante de determinados comandos.  corretores ortográficos ou simuladores ;  esses programas dificilmente aprendem coisas novas, somente se você incluir novas programações.
  • 20.
    Inteligência Artificial  Conexionista:  conexionista simula a estrutura do cérebro, pois acredita-se que a inteligência está na forma de processar informação e não na informação processada.  aprender com seus erros e executar diferentes processos, independente de instruções
  • 21.
    Perceptron  foi à primeira máquina criada para processamento de informação feita sobre o sistema de redes neurais.  Ele é construído com neurônios artificiais, formando redes de processamento.
  • 22.
    Perceptron  ele não executa programas, mas os aprende.  As informações não são gravadas, mas aprendidas.  é capaz de múltiplos processamentos e testes de hipóteses em paralelo