SlideShare uma empresa Scribd logo
1 de 120
Sistemas de software basados en Redes Neuronales
(Inteligencia Artificial Avanzada) y el Estado del Arte de la
Tecnología Global
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Inteligencia Artificial Avanzada
(Redes Neuronales con 3 ejes de visión)
1 Arquitectura , Algoritmos y Aplicaciones.
2 Hardware + Software.
3 Neurocibernética y el advenimiento de la Biónica.
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
“The Gene is by far the most sophisticated program around.”
- Bill Gates, Business Week, June 27, 1994
Genes , Atoms , Cells and Neurons are the Building Blocks of the XXI Century
- Fernando Jiménez M, México 2011
Road Map de Tecnología y la evolución
de la PC hasta la Web 4.0
Semántica de las conexiones sociales
The Semantic Web (AI)
La evolución hacia la Inteligencia Artificial
EVOLUCION HACIA LA INTELIGENCIA ARTIFICIAL
 Aumento exponencial de la capacidad computacional de las PC´s.
 Capacidad de manejo computacional masivo, paralelo y distribuído.
 Escalamiento de la ciencia a la nube. (Scaling Science to the Cloud).
 Advenimiento de Sistemas Neuro y biomiméticos.
 Emergencia de la Neurocomputación o Neurocomputing.
 Very large Scale Integrated Systems VLSI.
 Convergencia de las GRIN Technologies.
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
“BACK TO THE FUTURE” 2010 -2050
CONVERGENCIA DE LAS GRIN TECHNOLOGIES
G
R
N
N
I
ARQUITECTURAS ALGORITMOS Y
APLICACIONES
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Qué es una Red Neuronal ?
Una Red Neuronal Artificial es un sistema de procesamiento de información o
Processing Element (PE) en el caso de una neurona, el cual tiene características
de performance en común con redes neuronales biológicas.
Han sido desarrolladas a través de generalizaciones de modelos matemáticos
(Matemática Neurobiológica) basados en cognición humana o biología neuronal y
basadas en asunciones como:
El procesamiento de información ocurre en muchos elementos simples llamados
neuronas.
Las señales son enviadas entre neuronas a través de conexiones. (LINKS)
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Qué es una Red Neuronal ?
Cada conexión (LINK) tiene un peso asociado, el cual, en una red neuronal típica
multiplica la señal transmitida.
Cada neurona aplica una función de activación (usualmente no lineal) a su entrada
neta (net_input) para determinar la señal de salida.
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Red Neuronal Biológica
Soma Soma
Synapse
Synapse
Dendrites
Axon
Synapse
Dendrites
Axon
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Estructura de una neurona biológica
1 Nucleo; 2 Nucleoide; 3 Soma; 6 Membrana Celular; 7 Región Sináptica , 8 Axon; 11 Dendritas
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
“Building block” de una Neurona Artificial
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Anología entre Redes Neuronales Biológicas y
Redes Neuronales Artificiales
Biological Neural Network Artificial Neural Network
Soma
Dendrite
Axon
Synapse
Neuron
Input
Output
Weight
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Recursos disponibles en
computadoras y cerebro humano
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
• Aplicaciones
- Clasificación (Classification)
- (Clustering)
- Aproximación de funciones (Function approximation)
- Predicción (Prediction)
- Toma de decisiones en situaciones con restricción (constrained optimization)
• Tipo de conexión
- Estática / Static (feedforward)
- Dinámica / Dynamic (feedback)
• Topología
- Una sóla capa (Single layer)
- Multicapa (Multilayer)
- Recurrente (Recurrent)
- Auto Organizacional (Self-organizing Neural Net)
• Método de aprendizaje
- Supervizada (Supervised)
- No Supervizada (Unsupervised)
Tipos de Redes Neuronales
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Perceptron
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Redes Neuronales en Reconocimiento y Clasificación de de Patrones
(Pattern Recognition/Pattern Recognition )
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Reconocimiento de caracteres
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Reconocimiento de caracteres
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Perceptron
(Pattern Recognition/Pattern Classification)
M
S
D
N
.
MSDN…
…………
…………
………...
MSDN…
…………
…………
………...
REDES NEURONALES BASADAS EN
COMPETICION (Neural Computation)
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Self Organizing Map (SOM)
Neural Network
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Self organizing maps
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Mapas auto organizantes del cuerpo humano
(Somatotensory cortex)
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Topología de mapeo SOM
Dos capas: capa de entrada y la capa de salida (mapa o COMPUTATIONAL LAYER).
Capas de entrada y de salida están completamente conectadas.
Las neuronas de salida están interconectadas dentro de un vecindario definido.
Una topología (relación de vecindad) se define en la capa de salida.
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
SELF ORGANIZING NEURAL NETWORK
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
4x4 SOM Network
(4 nodes down, 4 nodes across)
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Self-Organizing Maps (Kohonen Maps)
Estructuras de salida típicas: (“Computational layer”)
Uni-dimensional
(completamente interconectada para determinar
la unidad ganadora. (“winner”)
Bi-dimensional
i
i
Vecindario de la neurona i
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH
IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Mapas Auto Organizantes
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Self Organizing Neural Network
Kohonen Learning
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
“Self Organizing Traffic Lights”
La evolución de la inteligencia artificial la concepción moderna es que la ciudad es la red neuronal. Las diferentes
vías, avenidas y autopistas de una ciudad emulan a las dendritas y axons de la estructura intracelular y
extracelular de una neurona o red neuronal biológica. En la red víal de una ciudad, las intersecciones definen
entonces neuronas y la red neuronal víal aprende del flujo de tráfico de vehículos.
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Arreglo lineal de “cluster” units
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Arquitectura
• Grilla Rectangular
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Arquitectura
• Grilla hexagonal
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Topological SOM (Matlab)
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Radius 1
Radius 2
Winning unit, only one to update if radius=0
Units to be updated when radius=1
Units to be updated when radius=2
La topología determina que unidad cae
dentro del radio R de una unidad o
neurona ganadora.
La unidad ganadora adaptará sus pesos
en la cual acercará a ese “cluster” hacia
el vector de entrenamiento.
Actualización de pesos dentro de un radio de acción
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Entrenamiento no supervizado en SOMs
Ejemplo: Aprendiendo la representación unidimensional de un espacio de entrada
(“input space“) bi dimensional.
0
25000
20 100
1000 10000
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Entrenamiento no supervizado en SOMs
Ejemplo : Aprendiendo una representación bi-dimensional de un espacio de entrada
(“input space“) bi dimensional.
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Aplicaciones
• WEBSOM: Organización de una colección masiva de
documentos.
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
SOFM
“Phoneme Recognition”
 Phonotopic maps
 Recognition result for “humppila”
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Aplicaciones
• Clasificando la pobreza mundial
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Neural Networks in Agriculture
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Entrenamiento no supervizado en SOMs
Ejemplo : Aprendiendo una representación bi-dimensional de un espacio de entrada
(“input space“) bi dimensional.
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Self Organizing Map SOM
“Elastic virtual network”
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Self Organizing Map SOM
“Elastic virtual network”
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Entrenamiento no supervizado en SOMs
Ejemplo:
Aprendiendo el mapeo bi-
dimensional de texturas de
imágenes.
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Autonomous Land Vehicle in a Neural Network
ALVINN system
• Input: 30 x 32 grid of
pixel intensities (960
nodes)
• 4 hidden units
• Output: direction of
steering (30 units)
• Training: 5 min. of
human driving
• Test: up to 70 miles for
distances of 90 miles on
public highway. (driving
in the left lane with
other vehicles present)
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Autonomous Land Vehicle in a Neural Network
ALVINN system
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Wireless Localization Using Self-Organizing Maps
– Utiliza una Red Neuronal Auto Organizante para determinar las
posiciones de los nodos de una red inalámbrica.
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Multiple Self-Organizing Maps
for Intruder Detection
Euclidean Norm NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Self-Organizing Neighborhood Wireless Mesh
Networks
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Millions of Neural Nets covering the world over the Internet
Each TCIP / Node becomes a Neuron so that a SuperNet is built over the
Internet. The whole network will behave as a Synthetic Intelect,
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Sistema de control
Neuro Difuso Genético
Modelo de Sistema o
Proceso (Red Neuronal)
Test
Driver
Control Difuso
Fuzzy Inference Engine
Pesos
Rules
Relaciones
difusas
Decodificación cromosómica
Algoritmos
genéticos
Control de
temperatura
Modelo del
Sistema
Test
function
Función evaluación
GRIN
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Self Organizing Map SOM
“Semantic mapping”
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
SOM “building block” CAD/CAM
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
N13(1) N13(2)
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Self organized semantic map: Word categories
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Cronología de SOM´s
• Kohonen (1984). Speech recognition - a map of
phonemes in the Finish language
• Optical character recognition - clustering of
letters of different fonts
• Angeliol etal (1988) – travelling salesman problem
(an optimization problem)
• Kohonen (1990) – learning vector quantization
(pattern classification problem)
• Ritter & Kohonen (1989) – semantic maps
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
“Skeletonization of images”
• Esqueletización de imágenes ruidosas.
• Aplicación del MST SOM: robustez con respecto al
ruido.
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
CELULLAR NEURAL NETWORK CNN ARCHITECTURE WITH 3X3
NEIGHBORHOOD CONNECTIVITY
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
RED NEURONAL DE MULTIPLES CAPAS
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Backpropagation Neural
Network
(Red Neuronal de Retropropagación)
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Three-Layer Network
321
SSSR Number of neurons in each layer:
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Algoritmo de aprendizaje
Backpropagation
Las siguientes diapositivas describe el proceso de enseñanza del algoritmo de aprendizaje
para redes neuronales de retropropagación de múltiples capas.
Para ilustrar este proceso, la red neural que utilizaremos consiste de tres capas con dos
entradas y una salida como se muestra en la siguiente arquitectura:
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Algoritmo de aprendizaje
Backpropagation
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Algoritmo de aprendizaje
Backpropagation
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Algoritmo de aprendizaje
Backpropagation
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Algoritmo de aprendizaje
Backpropagation
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Algoritmo de aprendizaje
Backpropagation
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Algoritmo de aprendizaje
Backpropagation
Propagación de las señales a través del “output layer”
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Algoritmo de aprendizaje
Backpropagation
En el paso siguiente del algoritmo se obtiene la señal de salida de la red y se
compara con el valor de salida deseado (valor objetivo o “target
La diferencia se llama error de la señal d de la capa de salida de la red
neuronal.
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Algoritmo de aprendizaje
Backpropagation
La idea es la de propagar la señal de error d (calculado en la etapa de
enseñanza) de nuevo a todas las neuronas, cuyas señales de salida fueron
entrada para dicha neurona.
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Algoritmo de aprendizaje
Backpropagation
La idea es la de propagar la señal de error d (calculado en la etapa de
enseñanza) de nuevo a todas las neuronas, cuyas señales de salida
fueron entrada para dicha neurona.
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Algoritmo de aprendizaje
Backpropagation
Los pesos wmn «coeficientes utilizados para propagar errores
hacia atrás son iguales a utilizar, a los que fueron utilizados para
calcular el valor de salida. La dirección del flujo de datos cambia
(se propagan las señales de salida a entradas de una después de
la otra). Esta técnica se utiliza para todas las capas de red.
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Algoritmo de aprendizaje
Backpropagation
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Algoritmo de aprendizaje
Backpropagation
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Algoritmo de aprendizaje
Backpropagation
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
REDES NEURONALES
HARDWARE - SOFTWARE
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Redes Neuronales en Procesamiento Digital de Señales
DSP
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Redes Neuronales en Ingeniería de Control
(Neural Network Adaptive Control Systems)
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Redes Neuronales en Ingeniería de Control (Modelamiento Inverso)
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Redes Neuronales en Ingeniería de Control (Navigation & Collition
Avoidance)
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
NEURO COPTER 1.0 DESIGN
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Redes Neuronales en Ingeniería de Control (Pathfinder + Sojourner
en Marte)
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Redes Neuronales en Ingeniería de Control
(Control No Lineal de Manipuladores de Robot)
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Redes Neuronales en Ingeniería de Control Inteligente
(“Upper backer Track Neural Network”)
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Redes Neuronales en Reconocimiento de lenguage y voz
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Redes Neuronales en Medicina y Bio Ingeniería
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Redes Neuronales en Interfase Hombre Máquina
“Human Machine Interfase/Bionics”
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Neural Network-Based Face Detection. (Face Pattern Recognition).
A Convolutional Neural Network Hand Tracker. (Gesture Recognition).
Neural Networks for speech and image processing.
Speech recognition with Neural Networks.
Conversational Speech Transcription Using Context-Dependent Deep
Neural Networks.
Speech recognition breakthrough via machine translation that converted
spoken English words into computer-generated Chinese language.
(Human/natural machine interfase HMI).
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Microsoft Neural Network Algorithm
SQL Server
In SQL Server Analysis Services, the Microsoft Neural Network
algorithm combines each possible state of the input attribute with
each possible state of the predictable attribute, and uses the
training data to calculate probabilities. You can later use these
probabilities for classification or regression, and to predict an
outcome of the predicted attribute, based on the input attributes.
A mining model that is constructed with the Microsoft Neural
Network algorithm can contain multiple networks, depending on
the number of columns that are used for both input and prediction,
or that are used only for prediction. The number of networks that a
single mining model contains depends on the number of states that
are contained by the input columns and predictable columns that
the mining model uses.
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
NEURO SOLUTIONS FOR EXCEL
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
CNAPS Chip
(Paralell processor for Pattern Recognition, Image Processing and Neural networks)
64 x 64 x 1 in 8 µs
(8 bit inputs, 16 bit weights,
CNAPS 1064 chip
Adaptive Solutions,
Oregon
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
……..
……..
64
128
4
Execution time : ~500 ns
Weights coded in 16 bits
States coded in 8 bits
with data arriving every BC=25ns
Electrons, tau, hadrons, jets
Neural Network architecture
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Very fast architecture
• Matrix of n*m matrix
elements
• Control unit
• I/O module
• TanH are stored in
LUTs
• 1 matrix row
computes a neuron
• The results is back-
propagated to
calculate the output
layer
TanH
PE
256 PEs for a 128x64x4 network
PE PEPE
PE PE PEPE
PE PE PEPE
PE PE PEPE
TanH
TanH
TanH
ACC
ACC
ACC
ACC
I/O module
Control unit
Three-Layer Network
321
SSSR Number of neurons in each layer:
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
CELULAR NEURAL NETWORK CNN ARCHITECTURE WITH 3X3
NEIGHBORHOOD CONNECTIVITY
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Matlab + Simulink Neural Network
Toolbox
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Celullar Neural Network
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Boltzman Machine Neural Network
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Radial Basis Function RBF
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Neocognitron
GLOBAL NAVIGATIONAL SATELLITE SYSTEM GNSS
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
INTELIGENCIA ARTIFICIAL /NEURO
CIBERNETICA
La emergencia de la Biónica
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
“Dinámica Estocástica del Complejo Neuronal”
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Representación de Red de la actividad Neurocelular
Aspectos estocásticos de un complejo neuronal infectado por ruido.
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Teoría de Campo Neuronal
Control del complejo organizativo (minimización de entropía)
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
NEUROMORPHIC ENGINEERING
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Analog Neural Network Core (ANNCORE)
containing 128k synapses and 512 membrane circuits which can be grouped
together to form neurons with up to 16k synapses.
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Próximos Chips Neuromórficos a ser lanzados por IBM e INTEL
Bionic Eye
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Bionic ear
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
THE MESSENGER
(Neural Network Somatosensory maps)
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Año 2030-2050
El cerebro Artificial: Positronic Brain
Red Neuronal Artificial para emular un Cerebro Humanoide
El Humanoide Data (“Star Treck”) tiene 100,000 terabytes de memoria (equiv a 100,000,000 de 1-GB hard drives). Tiene
una capacidad de almacenamiento de 800 quadrillones de bits (100 quadrillion bytes). Data procesa 60 trillones de
operaciones x segundo . Si uno compara su capacidad de almacenamiento de 100,000 terabytes con la los ordenadores
actuales, podrìa decirse que la del ser humano es equivalente a unos 3 Terabytes, es decir Data contendrìa 260,000
Cerebros humanos
NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
Director/Technology Product Manager/Consultor
Technology Director CTO IT/USERS
NEUROMORPHIC TECHNOLOGIES
Product Catalog
Product Management Consulting and Training.
Project Management Consulting and Training.
Strategic Product Planing.
Workshops and Tutorials on site and via On Line.
Scientific Research, Projects and Teaching
International Conferences.
Nacional Conferences.
maurice_2500@hotmail.com

Mais conteúdo relacionado

Destaque

Curso Big Data. Introducción a Deep Learning by Gabriel Valverde Castilla
Curso Big Data. Introducción a  Deep Learning by Gabriel Valverde CastillaCurso Big Data. Introducción a  Deep Learning by Gabriel Valverde Castilla
Curso Big Data. Introducción a Deep Learning by Gabriel Valverde CastillaVictoria López
 
Taller Dircom Castilla y León: "Los nuevos retos: BigData, Internet of Things...
Taller Dircom Castilla y León: "Los nuevos retos:BigData, Internet of Things...Taller Dircom Castilla y León: "Los nuevos retos:BigData, Internet of Things...
Taller Dircom Castilla y León: "Los nuevos retos: BigData, Internet of Things...Asociación de Directivos de Comunicación
 
Internet, Big Data e Inteligencia Artificial
Internet, Big Data e Inteligencia ArtificialInternet, Big Data e Inteligencia Artificial
Internet, Big Data e Inteligencia ArtificialCleverTask
 
Minería de datos / Machine Learning
Minería de datos / Machine LearningMinería de datos / Machine Learning
Minería de datos / Machine LearningSpanishPASSVC
 
How Machine Learning and Big Data can Help Us with the Human Learning
How Machine Learning and Big Data can Help Us with the Human LearningHow Machine Learning and Big Data can Help Us with the Human Learning
How Machine Learning and Big Data can Help Us with the Human LearningSvet Ivantchev
 
Machine Learning and its Use Cases (dsth Meetup#3)
Machine Learning and its Use Cases (dsth Meetup#3)Machine Learning and its Use Cases (dsth Meetup#3)
Machine Learning and its Use Cases (dsth Meetup#3)Data Science Thailand
 
Los nuevos retos: BigData, Internet of Things (IoT) y Deep Web
Los nuevos retos: BigData, Internet of Things (IoT) y Deep WebLos nuevos retos: BigData, Internet of Things (IoT) y Deep Web
Los nuevos retos: BigData, Internet of Things (IoT) y Deep WebEmilio del Prado
 
Modelos De Data Mining
Modelos De Data MiningModelos De Data Mining
Modelos De Data Miningbrobelo
 
1 Simuladores Rna
1 Simuladores Rna1 Simuladores Rna
1 Simuladores RnaESCOM
 
Machine Learning Whitepaper
Machine Learning WhitepaperMachine Learning Whitepaper
Machine Learning WhitepaperRaona
 

Destaque (16)

Curso Big Data. Introducción a Deep Learning by Gabriel Valverde Castilla
Curso Big Data. Introducción a  Deep Learning by Gabriel Valverde CastillaCurso Big Data. Introducción a  Deep Learning by Gabriel Valverde Castilla
Curso Big Data. Introducción a Deep Learning by Gabriel Valverde Castilla
 
Taller Dircom Castilla y León: "Los nuevos retos: BigData, Internet of Things...
Taller Dircom Castilla y León: "Los nuevos retos:BigData, Internet of Things...Taller Dircom Castilla y León: "Los nuevos retos:BigData, Internet of Things...
Taller Dircom Castilla y León: "Los nuevos retos: BigData, Internet of Things...
 
Internet, Big Data e Inteligencia Artificial
Internet, Big Data e Inteligencia ArtificialInternet, Big Data e Inteligencia Artificial
Internet, Big Data e Inteligencia Artificial
 
Minería de datos / Machine Learning
Minería de datos / Machine LearningMinería de datos / Machine Learning
Minería de datos / Machine Learning
 
How Machine Learning and Big Data can Help Us with the Human Learning
How Machine Learning and Big Data can Help Us with the Human LearningHow Machine Learning and Big Data can Help Us with the Human Learning
How Machine Learning and Big Data can Help Us with the Human Learning
 
Machine Learning and its Use Cases (dsth Meetup#3)
Machine Learning and its Use Cases (dsth Meetup#3)Machine Learning and its Use Cases (dsth Meetup#3)
Machine Learning and its Use Cases (dsth Meetup#3)
 
Los nuevos retos: BigData, Internet of Things (IoT) y Deep Web
Los nuevos retos: BigData, Internet of Things (IoT) y Deep WebLos nuevos retos: BigData, Internet of Things (IoT) y Deep Web
Los nuevos retos: BigData, Internet of Things (IoT) y Deep Web
 
Modelos De Data Mining
Modelos De Data MiningModelos De Data Mining
Modelos De Data Mining
 
Introducción a machine learning
Introducción a machine learningIntroducción a machine learning
Introducción a machine learning
 
Minería de datos
Minería de datosMinería de datos
Minería de datos
 
1 Simuladores Rna
1 Simuladores Rna1 Simuladores Rna
1 Simuladores Rna
 
Machine Learning Whitepaper
Machine Learning WhitepaperMachine Learning Whitepaper
Machine Learning Whitepaper
 
Deep web
Deep webDeep web
Deep web
 
Machine Learning
Machine LearningMachine Learning
Machine Learning
 
Machine learning
Machine learningMachine learning
Machine learning
 
Machine learning y Kaggle
Machine learning y KaggleMachine learning y Kaggle
Machine learning y Kaggle
 

Semelhante a Advanced Artificial Intelligence Microsoft Technet MSDN summit 2013

Semelhante a Advanced Artificial Intelligence Microsoft Technet MSDN summit 2013 (20)

REDES NEURONALES Mapas con Características Autoorganizativas Som
REDES NEURONALES Mapas   con Características Autoorganizativas  SomREDES NEURONALES Mapas   con Características Autoorganizativas  Som
REDES NEURONALES Mapas con Características Autoorganizativas Som
 
Regla de kohonen y Red LVQ
Regla de kohonen y Red LVQ Regla de kohonen y Red LVQ
Regla de kohonen y Red LVQ
 
06mem
06mem06mem
06mem
 
06mem inteligencia artificial redes neuronales y sus aplicciones
06mem inteligencia artificial redes neuronales y sus aplicciones06mem inteligencia artificial redes neuronales y sus aplicciones
06mem inteligencia artificial redes neuronales y sus aplicciones
 
Lectura ia rna y aplicaciones 2 as_06mem
Lectura ia rna y aplicaciones 2 as_06memLectura ia rna y aplicaciones 2 as_06mem
Lectura ia rna y aplicaciones 2 as_06mem
 
Redes neuronales
Redes neuronalesRedes neuronales
Redes neuronales
 
Redes Neuronales
Redes NeuronalesRedes Neuronales
Redes Neuronales
 
2024-T19-Redes_Neuronales_II.pdf
2024-T19-Redes_Neuronales_II.pdf2024-T19-Redes_Neuronales_II.pdf
2024-T19-Redes_Neuronales_II.pdf
 
Reconocimiento de patrones
Reconocimiento de patronesReconocimiento de patrones
Reconocimiento de patrones
 
Redes neuronales y sus aplicaciones
Redes neuronales y sus aplicacionesRedes neuronales y sus aplicaciones
Redes neuronales y sus aplicaciones
 
Presentacion 2 redes neuronales
Presentacion 2 redes neuronalesPresentacion 2 redes neuronales
Presentacion 2 redes neuronales
 
Teoría de Resonancia Adaptativa ART
Teoría de Resonancia Adaptativa ARTTeoría de Resonancia Adaptativa ART
Teoría de Resonancia Adaptativa ART
 
Inteligencia artificial
Inteligencia artificialInteligencia artificial
Inteligencia artificial
 
MLP
MLP MLP
MLP
 
Súper computadoras
Súper computadorasSúper computadoras
Súper computadoras
 
Súper computadoras
Súper computadorasSúper computadoras
Súper computadoras
 
Súper computadoras
Súper computadorasSúper computadoras
Súper computadoras
 
redes neuronales y artificales.pdf
redes neuronales y artificales.pdfredes neuronales y artificales.pdf
redes neuronales y artificales.pdf
 
Libro del-curso
Libro del-cursoLibro del-curso
Libro del-curso
 
Redes Neuronales(Examen)
Redes Neuronales(Examen)Redes Neuronales(Examen)
Redes Neuronales(Examen)
 

Último

GonzalezGonzalez_Karina_M1S3AI6... .pptx
GonzalezGonzalez_Karina_M1S3AI6... .pptxGonzalezGonzalez_Karina_M1S3AI6... .pptx
GonzalezGonzalez_Karina_M1S3AI6... .pptx241523733
 
Google-Meet-como-herramienta-para-realizar-reuniones-virtuales.pptx
Google-Meet-como-herramienta-para-realizar-reuniones-virtuales.pptxGoogle-Meet-como-herramienta-para-realizar-reuniones-virtuales.pptx
Google-Meet-como-herramienta-para-realizar-reuniones-virtuales.pptxAlexander López
 
Excel (1) tecnologia.pdf trabajo Excel taller
Excel  (1) tecnologia.pdf trabajo Excel tallerExcel  (1) tecnologia.pdf trabajo Excel taller
Excel (1) tecnologia.pdf trabajo Excel tallerValentinaTabares11
 
Crear un recurso multimedia. Maricela_Ponce_DomingoM1S3AI6-1.pptx
Crear un recurso multimedia. Maricela_Ponce_DomingoM1S3AI6-1.pptxCrear un recurso multimedia. Maricela_Ponce_DomingoM1S3AI6-1.pptx
Crear un recurso multimedia. Maricela_Ponce_DomingoM1S3AI6-1.pptxNombre Apellidos
 
definicion segun autores de matemáticas educativa
definicion segun autores de matemáticas  educativadefinicion segun autores de matemáticas  educativa
definicion segun autores de matemáticas educativaAdrianaMartnez618894
 
Presentación inteligencia artificial en la actualidad
Presentación inteligencia artificial en la actualidadPresentación inteligencia artificial en la actualidad
Presentación inteligencia artificial en la actualidadMiguelAngelVillanuev48
 
Medidas de formas, coeficiente de asimetría y coeficiente de curtosis.pptx
Medidas de formas, coeficiente de asimetría y coeficiente de curtosis.pptxMedidas de formas, coeficiente de asimetría y coeficiente de curtosis.pptx
Medidas de formas, coeficiente de asimetría y coeficiente de curtosis.pptxaylincamaho
 
Mapa-conceptual-del-Origen-del-Universo-3.pptx
Mapa-conceptual-del-Origen-del-Universo-3.pptxMapa-conceptual-del-Origen-del-Universo-3.pptx
Mapa-conceptual-del-Origen-del-Universo-3.pptxMidwarHenryLOZAFLORE
 
El_Blog_como_herramienta_de_publicacion_y_consulta_de_investigacion.pptx
El_Blog_como_herramienta_de_publicacion_y_consulta_de_investigacion.pptxEl_Blog_como_herramienta_de_publicacion_y_consulta_de_investigacion.pptx
El_Blog_como_herramienta_de_publicacion_y_consulta_de_investigacion.pptxAlexander López
 
Actividad integradora 6 CREAR UN RECURSO MULTIMEDIA
Actividad integradora 6    CREAR UN RECURSO MULTIMEDIAActividad integradora 6    CREAR UN RECURSO MULTIMEDIA
Actividad integradora 6 CREAR UN RECURSO MULTIMEDIA241531640
 
La Electricidad Y La Electrónica Trabajo Tecnología.pdf
La Electricidad Y La Electrónica Trabajo Tecnología.pdfLa Electricidad Y La Electrónica Trabajo Tecnología.pdf
La Electricidad Y La Electrónica Trabajo Tecnología.pdfjeondanny1997
 
El uso de las tic en la vida ,lo importante que son
El uso de las tic en la vida ,lo importante  que sonEl uso de las tic en la vida ,lo importante  que son
El uso de las tic en la vida ,lo importante que son241514984
 
LAS_TIC_COMO_HERRAMIENTAS_EN_LA_INVESTIGACIÓN.pptx
LAS_TIC_COMO_HERRAMIENTAS_EN_LA_INVESTIGACIÓN.pptxLAS_TIC_COMO_HERRAMIENTAS_EN_LA_INVESTIGACIÓN.pptx
LAS_TIC_COMO_HERRAMIENTAS_EN_LA_INVESTIGACIÓN.pptxAlexander López
 
Arenas Camacho-Practica tarea Sesión 12.pptx
Arenas Camacho-Practica tarea Sesión 12.pptxArenas Camacho-Practica tarea Sesión 12.pptx
Arenas Camacho-Practica tarea Sesión 12.pptxJOSEFERNANDOARENASCA
 
LUXOMETRO EN SALUD OCUPACIONAL(FINAL).ppt
LUXOMETRO EN SALUD OCUPACIONAL(FINAL).pptLUXOMETRO EN SALUD OCUPACIONAL(FINAL).ppt
LUXOMETRO EN SALUD OCUPACIONAL(FINAL).pptchaverriemily794
 
Segunda ley de la termodinámica TERMODINAMICA.pptx
Segunda ley de la termodinámica TERMODINAMICA.pptxSegunda ley de la termodinámica TERMODINAMICA.pptx
Segunda ley de la termodinámica TERMODINAMICA.pptxMariaBurgos55
 
Explorando la historia y funcionamiento de la memoria ram
Explorando la historia y funcionamiento de la memoria ramExplorando la historia y funcionamiento de la memoria ram
Explorando la historia y funcionamiento de la memoria ramDIDIERFERNANDOGUERRE
 
AREA TECNOLOGIA E INFORMATICA TRABAJO EN EQUIPO
AREA TECNOLOGIA E INFORMATICA TRABAJO EN EQUIPOAREA TECNOLOGIA E INFORMATICA TRABAJO EN EQUIPO
AREA TECNOLOGIA E INFORMATICA TRABAJO EN EQUIPOnarvaezisabella21
 
El uso de las TIC's en la vida cotidiana.
El uso de las TIC's en la vida cotidiana.El uso de las TIC's en la vida cotidiana.
El uso de las TIC's en la vida cotidiana.241514949
 
FloresMorales_Montserrath_M1S3AI6 (1).pptx
FloresMorales_Montserrath_M1S3AI6 (1).pptxFloresMorales_Montserrath_M1S3AI6 (1).pptx
FloresMorales_Montserrath_M1S3AI6 (1).pptx241522327
 

Último (20)

GonzalezGonzalez_Karina_M1S3AI6... .pptx
GonzalezGonzalez_Karina_M1S3AI6... .pptxGonzalezGonzalez_Karina_M1S3AI6... .pptx
GonzalezGonzalez_Karina_M1S3AI6... .pptx
 
Google-Meet-como-herramienta-para-realizar-reuniones-virtuales.pptx
Google-Meet-como-herramienta-para-realizar-reuniones-virtuales.pptxGoogle-Meet-como-herramienta-para-realizar-reuniones-virtuales.pptx
Google-Meet-como-herramienta-para-realizar-reuniones-virtuales.pptx
 
Excel (1) tecnologia.pdf trabajo Excel taller
Excel  (1) tecnologia.pdf trabajo Excel tallerExcel  (1) tecnologia.pdf trabajo Excel taller
Excel (1) tecnologia.pdf trabajo Excel taller
 
Crear un recurso multimedia. Maricela_Ponce_DomingoM1S3AI6-1.pptx
Crear un recurso multimedia. Maricela_Ponce_DomingoM1S3AI6-1.pptxCrear un recurso multimedia. Maricela_Ponce_DomingoM1S3AI6-1.pptx
Crear un recurso multimedia. Maricela_Ponce_DomingoM1S3AI6-1.pptx
 
definicion segun autores de matemáticas educativa
definicion segun autores de matemáticas  educativadefinicion segun autores de matemáticas  educativa
definicion segun autores de matemáticas educativa
 
Presentación inteligencia artificial en la actualidad
Presentación inteligencia artificial en la actualidadPresentación inteligencia artificial en la actualidad
Presentación inteligencia artificial en la actualidad
 
Medidas de formas, coeficiente de asimetría y coeficiente de curtosis.pptx
Medidas de formas, coeficiente de asimetría y coeficiente de curtosis.pptxMedidas de formas, coeficiente de asimetría y coeficiente de curtosis.pptx
Medidas de formas, coeficiente de asimetría y coeficiente de curtosis.pptx
 
Mapa-conceptual-del-Origen-del-Universo-3.pptx
Mapa-conceptual-del-Origen-del-Universo-3.pptxMapa-conceptual-del-Origen-del-Universo-3.pptx
Mapa-conceptual-del-Origen-del-Universo-3.pptx
 
El_Blog_como_herramienta_de_publicacion_y_consulta_de_investigacion.pptx
El_Blog_como_herramienta_de_publicacion_y_consulta_de_investigacion.pptxEl_Blog_como_herramienta_de_publicacion_y_consulta_de_investigacion.pptx
El_Blog_como_herramienta_de_publicacion_y_consulta_de_investigacion.pptx
 
Actividad integradora 6 CREAR UN RECURSO MULTIMEDIA
Actividad integradora 6    CREAR UN RECURSO MULTIMEDIAActividad integradora 6    CREAR UN RECURSO MULTIMEDIA
Actividad integradora 6 CREAR UN RECURSO MULTIMEDIA
 
La Electricidad Y La Electrónica Trabajo Tecnología.pdf
La Electricidad Y La Electrónica Trabajo Tecnología.pdfLa Electricidad Y La Electrónica Trabajo Tecnología.pdf
La Electricidad Y La Electrónica Trabajo Tecnología.pdf
 
El uso de las tic en la vida ,lo importante que son
El uso de las tic en la vida ,lo importante  que sonEl uso de las tic en la vida ,lo importante  que son
El uso de las tic en la vida ,lo importante que son
 
LAS_TIC_COMO_HERRAMIENTAS_EN_LA_INVESTIGACIÓN.pptx
LAS_TIC_COMO_HERRAMIENTAS_EN_LA_INVESTIGACIÓN.pptxLAS_TIC_COMO_HERRAMIENTAS_EN_LA_INVESTIGACIÓN.pptx
LAS_TIC_COMO_HERRAMIENTAS_EN_LA_INVESTIGACIÓN.pptx
 
Arenas Camacho-Practica tarea Sesión 12.pptx
Arenas Camacho-Practica tarea Sesión 12.pptxArenas Camacho-Practica tarea Sesión 12.pptx
Arenas Camacho-Practica tarea Sesión 12.pptx
 
LUXOMETRO EN SALUD OCUPACIONAL(FINAL).ppt
LUXOMETRO EN SALUD OCUPACIONAL(FINAL).pptLUXOMETRO EN SALUD OCUPACIONAL(FINAL).ppt
LUXOMETRO EN SALUD OCUPACIONAL(FINAL).ppt
 
Segunda ley de la termodinámica TERMODINAMICA.pptx
Segunda ley de la termodinámica TERMODINAMICA.pptxSegunda ley de la termodinámica TERMODINAMICA.pptx
Segunda ley de la termodinámica TERMODINAMICA.pptx
 
Explorando la historia y funcionamiento de la memoria ram
Explorando la historia y funcionamiento de la memoria ramExplorando la historia y funcionamiento de la memoria ram
Explorando la historia y funcionamiento de la memoria ram
 
AREA TECNOLOGIA E INFORMATICA TRABAJO EN EQUIPO
AREA TECNOLOGIA E INFORMATICA TRABAJO EN EQUIPOAREA TECNOLOGIA E INFORMATICA TRABAJO EN EQUIPO
AREA TECNOLOGIA E INFORMATICA TRABAJO EN EQUIPO
 
El uso de las TIC's en la vida cotidiana.
El uso de las TIC's en la vida cotidiana.El uso de las TIC's en la vida cotidiana.
El uso de las TIC's en la vida cotidiana.
 
FloresMorales_Montserrath_M1S3AI6 (1).pptx
FloresMorales_Montserrath_M1S3AI6 (1).pptxFloresMorales_Montserrath_M1S3AI6 (1).pptx
FloresMorales_Montserrath_M1S3AI6 (1).pptx
 

Advanced Artificial Intelligence Microsoft Technet MSDN summit 2013

  • 1. Sistemas de software basados en Redes Neuronales (Inteligencia Artificial Avanzada) y el Estado del Arte de la Tecnología Global NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 2. Inteligencia Artificial Avanzada (Redes Neuronales con 3 ejes de visión) 1 Arquitectura , Algoritmos y Aplicaciones. 2 Hardware + Software. 3 Neurocibernética y el advenimiento de la Biónica. NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 3. “The Gene is by far the most sophisticated program around.” - Bill Gates, Business Week, June 27, 1994 Genes , Atoms , Cells and Neurons are the Building Blocks of the XXI Century - Fernando Jiménez M, México 2011
  • 4. Road Map de Tecnología y la evolución de la PC hasta la Web 4.0 Semántica de las conexiones sociales
  • 6. La evolución hacia la Inteligencia Artificial
  • 7. EVOLUCION HACIA LA INTELIGENCIA ARTIFICIAL  Aumento exponencial de la capacidad computacional de las PC´s.  Capacidad de manejo computacional masivo, paralelo y distribuído.  Escalamiento de la ciencia a la nube. (Scaling Science to the Cloud).  Advenimiento de Sistemas Neuro y biomiméticos.  Emergencia de la Neurocomputación o Neurocomputing.  Very large Scale Integrated Systems VLSI.  Convergencia de las GRIN Technologies. NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 8. “BACK TO THE FUTURE” 2010 -2050 CONVERGENCIA DE LAS GRIN TECHNOLOGIES G R N N I
  • 9. ARQUITECTURAS ALGORITMOS Y APLICACIONES NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 10. Qué es una Red Neuronal ? Una Red Neuronal Artificial es un sistema de procesamiento de información o Processing Element (PE) en el caso de una neurona, el cual tiene características de performance en común con redes neuronales biológicas. Han sido desarrolladas a través de generalizaciones de modelos matemáticos (Matemática Neurobiológica) basados en cognición humana o biología neuronal y basadas en asunciones como: El procesamiento de información ocurre en muchos elementos simples llamados neuronas. Las señales son enviadas entre neuronas a través de conexiones. (LINKS) NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 11. Qué es una Red Neuronal ? Cada conexión (LINK) tiene un peso asociado, el cual, en una red neuronal típica multiplica la señal transmitida. Cada neurona aplica una función de activación (usualmente no lineal) a su entrada neta (net_input) para determinar la señal de salida. NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 12. Red Neuronal Biológica Soma Soma Synapse Synapse Dendrites Axon Synapse Dendrites Axon NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 13. Estructura de una neurona biológica 1 Nucleo; 2 Nucleoide; 3 Soma; 6 Membrana Celular; 7 Región Sináptica , 8 Axon; 11 Dendritas NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 14. “Building block” de una Neurona Artificial NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 15. Anología entre Redes Neuronales Biológicas y Redes Neuronales Artificiales Biological Neural Network Artificial Neural Network Soma Dendrite Axon Synapse Neuron Input Output Weight NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 16. Recursos disponibles en computadoras y cerebro humano NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 17. • Aplicaciones - Clasificación (Classification) - (Clustering) - Aproximación de funciones (Function approximation) - Predicción (Prediction) - Toma de decisiones en situaciones con restricción (constrained optimization) • Tipo de conexión - Estática / Static (feedforward) - Dinámica / Dynamic (feedback) • Topología - Una sóla capa (Single layer) - Multicapa (Multilayer) - Recurrente (Recurrent) - Auto Organizacional (Self-organizing Neural Net) • Método de aprendizaje - Supervizada (Supervised) - No Supervizada (Unsupervised) Tipos de Redes Neuronales NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 18. Perceptron NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 19. Redes Neuronales en Reconocimiento y Clasificación de de Patrones (Pattern Recognition/Pattern Recognition ) NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 20. Reconocimiento de caracteres NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 21. Reconocimiento de caracteres NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 23. REDES NEURONALES BASADAS EN COMPETICION (Neural Computation) NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 24. Self Organizing Map (SOM) Neural Network NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 25. Self organizing maps NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 26. Mapas auto organizantes del cuerpo humano (Somatotensory cortex) NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 27. Topología de mapeo SOM Dos capas: capa de entrada y la capa de salida (mapa o COMPUTATIONAL LAYER). Capas de entrada y de salida están completamente conectadas. Las neuronas de salida están interconectadas dentro de un vecindario definido. Una topología (relación de vecindad) se define en la capa de salida. NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 28. SELF ORGANIZING NEURAL NETWORK NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 29. 4x4 SOM Network (4 nodes down, 4 nodes across) NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 30. Self-Organizing Maps (Kohonen Maps) Estructuras de salida típicas: (“Computational layer”) Uni-dimensional (completamente interconectada para determinar la unidad ganadora. (“winner”) Bi-dimensional i i Vecindario de la neurona i NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 31. Mapas Auto Organizantes NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 32. Self Organizing Neural Network Kohonen Learning NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 33. “Self Organizing Traffic Lights” La evolución de la inteligencia artificial la concepción moderna es que la ciudad es la red neuronal. Las diferentes vías, avenidas y autopistas de una ciudad emulan a las dendritas y axons de la estructura intracelular y extracelular de una neurona o red neuronal biológica. En la red víal de una ciudad, las intersecciones definen entonces neuronas y la red neuronal víal aprende del flujo de tráfico de vehículos. NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 34. Arreglo lineal de “cluster” units NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 35. Arquitectura • Grilla Rectangular NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 36. Arquitectura • Grilla hexagonal NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 37. Topological SOM (Matlab) NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 38. Radius 1 Radius 2 Winning unit, only one to update if radius=0 Units to be updated when radius=1 Units to be updated when radius=2 La topología determina que unidad cae dentro del radio R de una unidad o neurona ganadora. La unidad ganadora adaptará sus pesos en la cual acercará a ese “cluster” hacia el vector de entrenamiento. Actualización de pesos dentro de un radio de acción NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 39. Entrenamiento no supervizado en SOMs Ejemplo: Aprendiendo la representación unidimensional de un espacio de entrada (“input space“) bi dimensional. 0 25000 20 100 1000 10000 NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 40. Entrenamiento no supervizado en SOMs Ejemplo : Aprendiendo una representación bi-dimensional de un espacio de entrada (“input space“) bi dimensional. NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 41. Aplicaciones • WEBSOM: Organización de una colección masiva de documentos. NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 42. SOFM “Phoneme Recognition”  Phonotopic maps  Recognition result for “humppila” NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 43. Aplicaciones • Clasificando la pobreza mundial NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 44. Neural Networks in Agriculture NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 45. Entrenamiento no supervizado en SOMs Ejemplo : Aprendiendo una representación bi-dimensional de un espacio de entrada (“input space“) bi dimensional. NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 46. Self Organizing Map SOM “Elastic virtual network” NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 47. Self Organizing Map SOM “Elastic virtual network” NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 48. Entrenamiento no supervizado en SOMs Ejemplo: Aprendiendo el mapeo bi- dimensional de texturas de imágenes. NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 49. Autonomous Land Vehicle in a Neural Network ALVINN system • Input: 30 x 32 grid of pixel intensities (960 nodes) • 4 hidden units • Output: direction of steering (30 units) • Training: 5 min. of human driving • Test: up to 70 miles for distances of 90 miles on public highway. (driving in the left lane with other vehicles present) NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 50. Autonomous Land Vehicle in a Neural Network ALVINN system NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 51. Wireless Localization Using Self-Organizing Maps – Utiliza una Red Neuronal Auto Organizante para determinar las posiciones de los nodos de una red inalámbrica. NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 52. Multiple Self-Organizing Maps for Intruder Detection Euclidean Norm NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 53. Self-Organizing Neighborhood Wireless Mesh Networks NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 54. Millions of Neural Nets covering the world over the Internet Each TCIP / Node becomes a Neuron so that a SuperNet is built over the Internet. The whole network will behave as a Synthetic Intelect, NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 55. Sistema de control Neuro Difuso Genético Modelo de Sistema o Proceso (Red Neuronal) Test Driver Control Difuso Fuzzy Inference Engine Pesos Rules Relaciones difusas Decodificación cromosómica Algoritmos genéticos Control de temperatura Modelo del Sistema Test function Función evaluación GRIN NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 56. Self Organizing Map SOM “Semantic mapping” NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 57. SOM “building block” CAD/CAM NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 59. NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 60. Self organized semantic map: Word categories NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 61. Cronología de SOM´s • Kohonen (1984). Speech recognition - a map of phonemes in the Finish language • Optical character recognition - clustering of letters of different fonts • Angeliol etal (1988) – travelling salesman problem (an optimization problem) • Kohonen (1990) – learning vector quantization (pattern classification problem) • Ritter & Kohonen (1989) – semantic maps NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 62. “Skeletonization of images” • Esqueletización de imágenes ruidosas. • Aplicación del MST SOM: robustez con respecto al ruido. NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 63. CELULLAR NEURAL NETWORK CNN ARCHITECTURE WITH 3X3 NEIGHBORHOOD CONNECTIVITY NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 64. RED NEURONAL DE MULTIPLES CAPAS NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 65. Backpropagation Neural Network (Red Neuronal de Retropropagación) NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 66. Three-Layer Network 321 SSSR Number of neurons in each layer: NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 67. Algoritmo de aprendizaje Backpropagation Las siguientes diapositivas describe el proceso de enseñanza del algoritmo de aprendizaje para redes neuronales de retropropagación de múltiples capas. Para ilustrar este proceso, la red neural que utilizaremos consiste de tres capas con dos entradas y una salida como se muestra en la siguiente arquitectura: NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 68. Algoritmo de aprendizaje Backpropagation NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 69. Algoritmo de aprendizaje Backpropagation NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 70. Algoritmo de aprendizaje Backpropagation NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 71. Algoritmo de aprendizaje Backpropagation NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 72. Algoritmo de aprendizaje Backpropagation NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 73. Algoritmo de aprendizaje Backpropagation Propagación de las señales a través del “output layer” NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 74. Algoritmo de aprendizaje Backpropagation En el paso siguiente del algoritmo se obtiene la señal de salida de la red y se compara con el valor de salida deseado (valor objetivo o “target La diferencia se llama error de la señal d de la capa de salida de la red neuronal. NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 75. Algoritmo de aprendizaje Backpropagation La idea es la de propagar la señal de error d (calculado en la etapa de enseñanza) de nuevo a todas las neuronas, cuyas señales de salida fueron entrada para dicha neurona. NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 76. Algoritmo de aprendizaje Backpropagation La idea es la de propagar la señal de error d (calculado en la etapa de enseñanza) de nuevo a todas las neuronas, cuyas señales de salida fueron entrada para dicha neurona. NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 77. Algoritmo de aprendizaje Backpropagation Los pesos wmn «coeficientes utilizados para propagar errores hacia atrás son iguales a utilizar, a los que fueron utilizados para calcular el valor de salida. La dirección del flujo de datos cambia (se propagan las señales de salida a entradas de una después de la otra). Esta técnica se utiliza para todas las capas de red. NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 78. Algoritmo de aprendizaje Backpropagation NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 79. Algoritmo de aprendizaje Backpropagation NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 80. Algoritmo de aprendizaje Backpropagation NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 81. REDES NEURONALES HARDWARE - SOFTWARE NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 82. Redes Neuronales en Procesamiento Digital de Señales DSP NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 83. Redes Neuronales en Ingeniería de Control (Neural Network Adaptive Control Systems) NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 84. Redes Neuronales en Ingeniería de Control (Modelamiento Inverso) NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 85. Redes Neuronales en Ingeniería de Control (Navigation & Collition Avoidance) NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 86. NEURO COPTER 1.0 DESIGN NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 87. NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 88. Redes Neuronales en Ingeniería de Control (Pathfinder + Sojourner en Marte) NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 89. Redes Neuronales en Ingeniería de Control (Control No Lineal de Manipuladores de Robot) NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 90. Redes Neuronales en Ingeniería de Control Inteligente (“Upper backer Track Neural Network”) NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 91. Redes Neuronales en Reconocimiento de lenguage y voz NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 92. Redes Neuronales en Medicina y Bio Ingeniería NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 93. Redes Neuronales en Interfase Hombre Máquina “Human Machine Interfase/Bionics” NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 94. Neural Network-Based Face Detection. (Face Pattern Recognition). A Convolutional Neural Network Hand Tracker. (Gesture Recognition). Neural Networks for speech and image processing. Speech recognition with Neural Networks. Conversational Speech Transcription Using Context-Dependent Deep Neural Networks. Speech recognition breakthrough via machine translation that converted spoken English words into computer-generated Chinese language. (Human/natural machine interfase HMI). NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 95. Microsoft Neural Network Algorithm SQL Server In SQL Server Analysis Services, the Microsoft Neural Network algorithm combines each possible state of the input attribute with each possible state of the predictable attribute, and uses the training data to calculate probabilities. You can later use these probabilities for classification or regression, and to predict an outcome of the predicted attribute, based on the input attributes. A mining model that is constructed with the Microsoft Neural Network algorithm can contain multiple networks, depending on the number of columns that are used for both input and prediction, or that are used only for prediction. The number of networks that a single mining model contains depends on the number of states that are contained by the input columns and predictable columns that the mining model uses. NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 96. NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E NEURO SOLUTIONS FOR EXCEL
  • 97. NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 98. CNAPS Chip (Paralell processor for Pattern Recognition, Image Processing and Neural networks) 64 x 64 x 1 in 8 µs (8 bit inputs, 16 bit weights, CNAPS 1064 chip Adaptive Solutions, Oregon NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 99. …….. …….. 64 128 4 Execution time : ~500 ns Weights coded in 16 bits States coded in 8 bits with data arriving every BC=25ns Electrons, tau, hadrons, jets Neural Network architecture NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 100. Very fast architecture • Matrix of n*m matrix elements • Control unit • I/O module • TanH are stored in LUTs • 1 matrix row computes a neuron • The results is back- propagated to calculate the output layer TanH PE 256 PEs for a 128x64x4 network PE PEPE PE PE PEPE PE PE PEPE PE PE PEPE TanH TanH TanH ACC ACC ACC ACC I/O module Control unit
  • 101. Three-Layer Network 321 SSSR Number of neurons in each layer: NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 102. CELULAR NEURAL NETWORK CNN ARCHITECTURE WITH 3X3 NEIGHBORHOOD CONNECTIVITY NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 103. Matlab + Simulink Neural Network Toolbox NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 104. Celullar Neural Network NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 105. Boltzman Machine Neural Network NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 106. Radial Basis Function RBF NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 108. GLOBAL NAVIGATIONAL SATELLITE SYSTEM GNSS NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 109. INTELIGENCIA ARTIFICIAL /NEURO CIBERNETICA La emergencia de la Biónica NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 110. “Dinámica Estocástica del Complejo Neuronal” NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 111. Representación de Red de la actividad Neurocelular Aspectos estocásticos de un complejo neuronal infectado por ruido. NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 112. Teoría de Campo Neuronal Control del complejo organizativo (minimización de entropía) NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 113. NEUROMORPHIC ENGINEERING NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 114. Analog Neural Network Core (ANNCORE) containing 128k synapses and 512 membrane circuits which can be grouped together to form neurons with up to 16k synapses. NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 115. NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E Próximos Chips Neuromórficos a ser lanzados por IBM e INTEL
  • 116. Bionic Eye NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 117. Bionic ear NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 118. THE MESSENGER (Neural Network Somatosensory maps) NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 119. Año 2030-2050 El cerebro Artificial: Positronic Brain Red Neuronal Artificial para emular un Cerebro Humanoide El Humanoide Data (“Star Treck”) tiene 100,000 terabytes de memoria (equiv a 100,000,000 de 1-GB hard drives). Tiene una capacidad de almacenamiento de 800 quadrillones de bits (100 quadrillion bytes). Data procesa 60 trillones de operaciones x segundo . Si uno compara su capacidad de almacenamiento de 100,000 terabytes con la los ordenadores actuales, podrìa decirse que la del ser humano es equivalente a unos 3 Terabytes, es decir Data contendrìa 260,000 Cerebros humanos NEUROMORPHIC TECHNOLOGIES in CO BRANDING WITH IT/USERS Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E
  • 120. Fernando Jimenez Motte Ph.D.EE (c), M.S.E.E, B.S.E.E Director/Technology Product Manager/Consultor Technology Director CTO IT/USERS NEUROMORPHIC TECHNOLOGIES Product Catalog Product Management Consulting and Training. Project Management Consulting and Training. Strategic Product Planing. Workshops and Tutorials on site and via On Line. Scientific Research, Projects and Teaching International Conferences. Nacional Conferences. maurice_2500@hotmail.com