L’informatique neuro-inspirée

1. L
’année 2016 a mar-
qué un tournant dans
l’histoire de l’informa-
tique. La fameuse loi
de Moore, qui voulait que la
puissance des puces électro-
niques, à prix constant, double
tous les deux ans, semble avoir
atteint ses limites. Au-delà
des 14 nanomètres actuels,
les transistors sont de plus en
plus chers à produire, donc de
moins en moins rentables, et
surtout moins fiables car per-
turbés par des incertitudes
quantiques. De plus, l’architec-
ture des ordinateurs bâtis se-
lon le modèle dit «de von Neu-
mann» depuis plus de soixante
ans (une mémoire, un système
central de calcul, une unité
d’assemblage des données), a
vu son hégémonie remise en
cause par l’émergence d’une
informatique neuro-inspirée
pour faire face aux enjeux du
futur, notamment au niveau de
l’intelligence artificielle.
L’histoire
De nombreux travaux de re-
cherche sont à la base de ce
changement de paradigme,
mais celui qui est considéré
comme le père l’informatique
neuro-inspirée reste Carver
Mead* qui avait prédit à la fin
des années 80 que les ordi-
nateurs consommeraient dix
millions de fois plus d’énergie
par instruction que pour l’acti-
vation d’une synapse de notre
cerveau. C’est là l’une des trois
caractéristiques du cerveau
sur laquelle s’appuie l’infor-
matique neuro-inspirée à ce
jour : faiblement énergivore
(du fait des circuits plus courts,
mais aussi de moins de déper-
dition d’électricité transformée
en chaleur), sa tolérance au
défaut (les microprocesseurs
peuvent être affectés par la
perte d’un transistor quand
le cerveau fonctionne alors
qu’il perd régulièrement des
neurones) et la capacité à ap-
prendresansêtreprogrammé.
Nouvelle génération
Contrairement à nos transis-
tors actuels qui ne retiennent
aucune information, les puces
de nouvelle génération offrent
des circuits qui, simultané-
ment, effectuent des opéra-
tions et stockent les données.
Mieux encore, dans un ordina-
teur neuronal, chaque point de
traitement de données sur une
puce est lié à plusieurs autres,
comme les neurones de notre
cerveau. La puce peut ainsi tra-
vailler plus vite et accomplir
plus de tâches en même temps.
Comme le cerveau, la puce
ne dispose pas d’une grande
unité centrale de traitement
mais d’un nombre important
de «neurones» dont les inter-
connexions évoluent en fonc-
tion des requêtes demandées.
La porte est ainsi ouverte vers
l’apprentissage automatique
et les intelligences artificielles
puissantes.
E
euratech trends
Janvier 2017 Édition 1 Numéro 10
L’informatique
neuro-inspirée
*https://web.stanford.edu/group/brainsinsilicon/documents/MeadNeuroMorphElectro.pdf

2. M
ême si les chiffres
divergent selon
les études, une
chose est certaine:
le marché de l’informatique
neuro-inspirée a de beaux
jours devant lui. Pour Grand
View Research*
, il devrait ainsi
atteindre les 6,48 milliards
de dollars d’ici à 2024. Une
croissance exponentielle due
à la demande en intelligence
artificielle dans de nombreux
secteurs comme l’automobile,
la médecine, la défense ou en-
core l’aérospatiale. Le logiciel
représente pour le moment le
plus grand débouché à hauteur
de 62 %, notamment pour la
vidéo ou l’identification vocale.
Selon l’étude, le marché nord-
américain, qui occupait en
2016 34 % du marché global
devrait aussi maintenir, voire
densifier, sa position du fait de
la forte présence sur son sol de
concepteurs de puces neuro-
inspirées.
Les grands acteurs
Parmilesacteursmajeursdece
secteur émergent, se retrouve
en bonne position la multi-
nationale américaine IBM.
Sa puce TrueNorth compte 1
million de neurones de traite-
ment, reliés par 256 millions
de connexions, et près de 5,4
milliards de transistors indi-
viduels. En une seconde, cette
petite merveille peut exécuter
1 milliard d’instructions pour
une consommation de moins
d’un centième de watt. Elle
équipe notamment une ma-
chine neuronale développée
dans le cadre du programme
de recherche Synapse mené
par l’agence de la défense
américaine (Darpa). NVIDIA,
le fournisseur mondial de pro-
cesseurs graphiques, de cartes
graphiques et de puces gra-
phiques, compte également
jouer un rôle actif et a dépensé
pasmoinsde2milliardsdedol-
lars dans la production d’une
nouvelle puce de 15 milliards
de transistors, qui, prétend-il,
est 12 fois plus rapide que ces
prédécesseurs…
Les start-ups
Qui dit nouvelle technologie,
dit start-up et dans le secteur
de l’informatique neuro-inspi-
rée, elles sont nombreuses et
prometteuses. Nervana, fondée
en 2014, a levé 24,4 millions
de dollars pour développer
une solution optimisée pour
le deep learning qui doit voir
le jour en 2017. Fondée par un
ancien responsable de la NASA,
KnuEdge a de son côté mis
au point une puce neuronale
jusqu’à 6 fois plus performante
que les anciennes de la société.
Elle a pour cela reçu un soutien
de 100 millions de dollars et
présente déjà des revenues de
20millionsdedollars.Pourson
fondateur et CEO, Dan Goldin, «
notre mission ne concerne pas
la technologie incrémentale
mais bien une transformation
fondamentale ». On peut citer
aussi Horizon Robotics, une
start-up chinoise fondée en
2015, Eyeriss développée par
des chercheurs du MIT qui
serait 10 fois plus rapide et qui
consommerait 10 fois moins
d’énergie, ou encore Lightfleet
et sa puce qui peut réaliser
115 milliards d’instruction par
seconde avec l’alimentation
d’une pile AA…
Aujourd’hui
euratech trends #1002
*“Neuromorphic Computing Industry Insights”, Grand View Research, Inc., août 2016 / www.grandviewresearch.com/press-release/global-neuromorphic-computing-market

3. E
n 2016, AlphaGo déve-
loppé par l’entreprise
britannique Google
DeepMind a vaincu
assez nettement le champion
humain de la discipline au jeu
de go. Son réseau de neurones
artificiels a été couplé au deep
learning ce qui lui a permis
d’apprendre à jouer en mémo-
risant des parties entre grands
joueurs, puis de s’entraî�ner à
jouer contre lui-même. L’infor-
matique neuro-inspirée a ainsi
réussi à montrer au grand jour
tout le potentiel qu’elle repré-
sente. Et si le développement
croissant de l’intelligence
artificielle dans des domaines
aussi divers que la santé ou
les transports incite à un opti-
misme grandissant quand la
puissance des machines, l’un
des enjeux de cette technologie
réside aussi dans sa très faible
consommation énergétique
qui permet de faire face aux be-
soins croissants de ressources
notamment dans les data cen-
ter.
Human Brain
Un projet initié par la Com-
mission européenne va encore
plus loin. Le Human Brain Pro-
ject rassemble des dizaines
de milliers de scientifiques à
travers le monde pour réus-
sir à simuler d’ici à 2024 le
fonctionnement du cerveau
humain, appliquer ces connais-
sances dans le domaine médi-
cal et contribuer à la création
de l’informatique de demain.
Si le projet subit quelques cri-
tiques, en particulier, le fait
que la simulation du fonction-
nement d’un cerveau humain
nécessite une puissance calcu-
latoire estimée d’un exaflops,
performance difficilement
atteignable avant 2020, une
équipe a réussi la simulation
d’un cerveau de rat, de ses 31
neurones et ses 40 millions
de synapses. Une plateforme
basée sur l’informatique neu-
ro-inspirée, BrainScaleS relie
aussi désormais 20 plaquettes
de silicium sur lesquelles ont
été réalisés 4 millions de neu-
rones artificiels, interconnec-
tés par un milliard de liaisons
synaptiques dynamiques.
En amont
Si l’informatique s’inspire dé-
sormais du cerveau, les projets
de développement de puces
à implanter dans le cerveau
humain se multiplient. L’ambi-
tion est pour le moment de
permettre de lutter contre cer-
tainespathologies,parexemple
la maladie d’Alzheimer ou les
troubles de la vision, comme
le propose l’implant Argus II*
développé par Second Sight. La
puce pourrait aussi intervenir
en amont sur la détection de
problèmes, ou, comme certains
le prédisent, augmenter les
capacités de notre cerveau, par
exemple en le dotant de la télé-
pathie. Nous n’en sommes pas
encore là, tant mieux dirons
certains qui s’inquiètent de ce
rapprochement et des consé-
quences qu’il peut entraî�ner
sur les libertés individuelles.
euratech trends #10 03
Les enjeux
*http://www.sciencesetavenir.fr/sante/france-un-oeil-bionique-inte-
gralement-rembourse-par-la-securite-sociale_19453

4. euratech trends #0904
D
ans la région des
Hauts-de-France,
l’équipe É�meraude
explore la concep-
tion de nouvelles architectures
neuromorphiques.
Emeraude
www.lifl.fr/emeraude
Emeraude entend contribuer
à une utilisation plus efficace
et plus facile des générations
futures de processeurs pour les
applications mobiles et embar-
quées en se focalisant sur la
prise en compte du temps dans
toutes les couches des sys-
tèmes de calcul (langage, com-
pilateur, système d’exploita-
tion, machine virtuelle). L’idée
clé des recherches est qu’en
utilisant les informations tem-
porelles, le système d’exploi-
tation ou l’intergiciel pourra
prendre de meilleures déci-
sions concernant la consom-
mation d’énergie. Par exemple,
connaî�tre une échéance tem-
porelle et avoir une estimation
du temps de calcul nécessaire
pour une tâche peut permettre
de réduire la fréquence du pro-
cesseur et ainsi de diminuer
la consommation d’énergie.
Ces recherches contribuent à
l’ordonnancement temps-réel
prenant en compte l’énergie
sur plateformes hétérogènes,
au placement de tâches et de
communications sur des ré-
seauxsurpuceshétérogènes,et
à l’adaptation dynamique à la
variabilité du matériel. En sus
de cette direction de recherche
principale, l’équipe É�meraude
étudie la possibilité de chan-
gement radical de la façon de
calculer par l’utilisation d’accé-
lérateurs neuromorphiques
basés sur des nanocomposants
memristifs. Emeraude réunit
des équipes de l’IRCICA et de
CRIStAL.
IRCICA
www.ircica.univ-lille1.fr
Un des projets de recherche
de l’IRCICA vise l’exploration
conjointe de nouvelles archi-
tectures de traitement de l’in-
formation bio-inspirées et des
composants requis pour leur
implémentation. En particulier,
l’interface entre les traitements
numériques classiques et ces
architectures bio-inspirées.
IEMN
http://www.iemn.fr/
Une collaboration a été éta-
blie entre Emeraude et deux
équipes de nanoélectronique
de l’IEMN pour construire un
simulateur utilisant les carac-
téristiques des composants
qu’ils conçoivent et permettant
l’exploration d’architecture
de réseaux de neurones maté-
riels utilisant ces composants.
L’IEMN est une Unité Mixte de
Recherche associant le CNRS et
trois établissements d’Ensei-
gnement Supérieur publics ou
privé. Les recherches couvrent
un vaste domaine allant de la
physique des matériaux et des
nanostructures aux systèmes
de télécommunications et à
l’instrumentation acoustique et
micro-ondes.
Hauts-de-France
Directeur de publication :
Massimo Magnifico
Rédacteur en chef :
Patrick Bertolo
Journaliste :
Thibault Caudron
165 avenue de Bretagne 59000 Lille
03.20.19.18.55
contact@euratechnologies.com
12th
HIPEAC CONFERENCE
du 23 au 25 janvier 2017, Stockholm (Suède)
https://www.hipeac.net/2017/stockholm/
du 6 au 8 mars 2017, San Jose (états-Unis)
https://www.src.org/calendar/e006125/
du 14 au 19 mai 2017, Anchorage (Alaska)
http://www.ijcnn.org/
5th
Neuro Inspired Computational
Elements Workshop (NICE 2017)
du 3 au 7 avril 2017, Marrakech (Maroc)
http://www.sigapp.org/sac/sac2017/
32nd
ACM SIGAPP Symposium on Applied
Computing (SAC 2017)
30th
International Joint Conference on
Neural Networks (IJCNN 2017)
du 15 au 17 mai 2017, Siena (Italie)
http://www.computingfrontiers.org/2017/
ACM International Conference on
Computing Frontiers 2017
www.euratechnologies.com
A
G
E
N
D
A
du 25 au 28 mai 2017, Shanghai (Chine)
http://neuro.embs.org/2017/
du 15 au 16 juin 2017, Vieste (Italie)
http://iwasi2017.poliba.it/
du 11 au 15 septembre 2017, Alghero (Italie)
http://www.icann2017.org/
7th
IEEE International Workshop on Advances
in Sensors and Interfaces (IWASI 2017)
du 21 au 23 juin 2017, Sapporo (Japon)
https://conference.cs.cityu.edu.hk/isnn/
14th
International Symposium on Neural
Networks (ISNN 2017)
26th
International Conference on
Artificial Neural Networks (ICANN 2017)
du 20 au 21 novembre 2017, Paris (France)
http://waset.org/conference/11/2017/paris/ICSIM
19th
International Conference on Sensors,
Interfaces and Microsystems (ICSIM2017)
8th
International IEEE EMBS Neural
Engineering Conference (NER’17)