Technology More than Moore, end of Moore’s law, IT, AI

Technology More than Moore, end of Moore’s law, IT, AI

C’est l’un des co-fondateurs d’Intel, Gordon Earle Moore, qui en 1965 a énoncé la loi de Moore qui porte son nom.

Gordon Earle Moore Moore's Law

Gordon Earle Moore

L’énoncé précis a varié au cours des années mais il y a un accord pour dire qu’elle affirme désormais que le nombre de transistors des microprocesseurs sur une puce de silicium double tous les dix-huit mois ou vingt-quatre mois.

Il ne s’agit là que d’une loi empirique mais vérifiée par les progrès de la technologie depuis une quinzaine d’années.

Les technologies More than Moore ou technologies dites dérivées représentent les technologies qui intègrent plusieurs fonctions sur une même puce de silicium.

Les technologies More than Moore sont celles qui permettent d’intégrer sur une puce de silicium des fonctions de calcul et de mémoire mais également des fonctions telles que la radiofréquence, les composants haute tension, l’électronique de l’éclairage et les chargeurs de batterie).

Si l’on compare les technologies More than Moore au corps humain, les fonctions intégrées représentent des yeux, des oreilles, des bras et des jambes et permettent au cerveau (qui calcule et mémorise) d’interagir avec le monde réel. Ces technologies sont au cœur du développement de la robotique.

Fin de la loi de Moore annoncé en 2024

La date prévue de la fin de la loi de Moore varie selon les chercheurs et les études. Certains chercheurs l’avaient annoncée pour 2020, d’autres pour 2021. Plus récemment, l’International Roadmap for Devices and Systems (IRDS) au sein de l’IEEE, société savante internationale, vient de publier en mars 2017 son livre blanc « International Roadmap For Devices and Systems – More Moore ».

Dans son livre blanc, l’IRDS prévoit la fin de la loi de Moore en 2024. Les principales étapes de la feuille de route de l’IRDS sont les suivantes :

« La mise à l’échelle de la règle du sol ralentit et se sature autour de 2024. La technologie EUV (extra-ultraviolet) a maintenant commencé à ralentir cette tendance à la saturation en maîtrisant le coût grâce à la réduction de la complexité du processus. La transition vers l’intégration 3D et l’utilisation d’appareils au-delà des CMOS pour des fonctions complémentaires System-on-Chip (SoC) sont projetées après 2024 ».

Du transistor de Bardeen au transistor monoatomique

Plus de soixante-treize ans après l’invention du premier transistor par Bardeen, en 2012, la fin de la loi de Moore avait été évoquée suite à une publication de plusieurs chercheurs des universités de New South Wales, Purdue et Melbourne d’un article dans la revue scientifique Nature Nanotechnology.

Dans leur publication, les chercheurs australiens faisaient état d’une percée dans la réalisation de transistors sur un support en silicium.

Le groupe de chercheurs australiens, avaient annoncé être en mesure de fabriquer avec précision un transistor composé d’un unique atome de phosphore sur une couche d’atomes de silicium.

Et après la loi de Moore

Prenant en considération l’hypothèse que la loi de Moore puisse arriver à son terme en 2024, le Syndicat professionnel américain des industries des semi-conducteurs (le SIA) et le Semiconductor Research Corporation (SRC), un consortium à but non lucratif de sociétés ayant un intérêt commun à accélérer les progrès de la recherche en sciences et ingénierie des semiconducteurs, viennent de publier également un guide « Semiconductor Research Opportunities » dans lequel sont identifiées les priorités pour la recherche et l’industrie afin d’anticiper la fin de la loi de Moore.

Ces priorités visent 14 domaines de recherches jugés stratégiques.

Research areas needs for futur computing, SIA-SRC Guide, Mars 2017.

Vers l’Informatique cognitive.

Les activités de recherche en Europe.

Human Brain Project (2013)

Le projet Human Brain est une initiative paneuropéenne qui a débuté en octobre 2013 et qui a été prévu pour une durée de dix ans. La phase I s’est terminée en avril 2016.

Ce projet est financé par le programme ICT de l’UE ( qui appuie la recherche technologique) avec un coût projeté d’un milliard d’euros.

L’objectif affiché poursuit le rassemblement d’un large éventail de communautés de recherche, des ingénieurs matériels aux neuroscientifiques, des programmeurs aux philosophes, afin collectivement, de réaliser des progrès significatifs dans la connaissance de la machine la plus compliquée connue de l’Homme : le cerveau humain lui-même.

Ce projet massif est divisé en plusieurs thèmes appelés piliers.

Plate-forme Neurorobotics (NRP)

Cette plate-forme est un système de simulation accessible par Internet qui permet la simulation de robots et d’environnements contrôlés par des réseaux de neurones dynamiques.

La plate-forme permet de réaliser des expériences virtuelles simples en boucle fermée en neuroscience cognitive en utilisant des modèles de cerveau développés au sein de l’HBP, avec la possibilité de personnaliser plusieurs variables, telles que les paramètres environnementaux et physiques, à l’aide d’un concepteur de robots, d’un constructeur d’environnement et d’une boucle fermée moteur.

Un autre objectif de ce projet est de soutenir une compréhension commune du cerveau.

La capacité de modéliser des robots et des environnements virtuels existe déjà, et d’autres chercheurs ont créé des configurations en boucle fermée avec des modèles simples de cerveau.

Cependant, la plate-forme Neurorobotics est la première plate-forme qui devrait permettre aux robots virtuels d’être connectés à des modèles détaillés du cerveau. Elle devrait permettre dans le futur d’effectuer des expériences explorant le lien entre les circuits de cerveau de bas niveau et la fonction de haut niveau, offrant ainsi des capacités inégalées aux chercheurs.

De cette façon, la plateforme Neurorobotics devrait congribuer à combler le fossé entre la neuroscience et la robotique et présentera de l’intérêt pour une communauté d’utilisateurs diversifiée. Les systèmes de la plate-forme permettront également une expérimentation silico, ce qui facilitera la validation et la comparaison des résultats avec les chercheurs pour la recherche in vivo.

Neuromorphic Computing Platform

La plate-forme de calcul neuromorphique (NCP) se compose de deux systèmes informatiques neuromorphes complémentaires et configurables, basés sur des conceptions matérielles personnalisées.

Ces systèmes sont « conçus pour imiter les microcircuits neuronaux et appliquer des principes semblables à des cerveaux dans l’apprentissage par machine et l’informatique cognitive, c’est-à-dire des principes qui permettront à la machine d’apprendre de la manière que le cerveau fonctionne plutôt que d’être programmée comme un ordinateur normal ».

La plate-forme neuromorphique utilise des technologies « de composants et de circuits électroniques à la fine pointe de la technologie et intègre de nouvelles connaissances acquises dans d’autres domaines de la recherche en neurosciences » (neurosciences expérimentales, neurosciences théoriques et la modélisation du cerveau).

La plate-forme Neuromorphic offre un accès à distance à des systèmes informatiques neuromorphes à grande échelle basés à Manchester, au Royaume-Uni et à Heidelberg, en Allemagne. Ensemble avec le système TrueNorth par IBM, ce sont les seuls systèmes neuromorphes dans le monde capable d’exécuter des simulations de systèmes de circuits neuronaux avec des modèles de neurones, des synapses et de la plasticité à la fine pointe du temps en temps réel ou accéléré (soit 10 000 fois plus vite qu’en temps réel).

PHRESCO – PHotonic REServoir COmputing

De nouveaux paradigmes informatiques sont nécessaires pour alimenter la prochaine révolution dans les technologies de l’information. Les machines doivent être inventées pour pouvoir apprendre, mais aussi gérer une grande quantité de données.

Afin d’atteindre cet objectif et de réduire encore l’empreinte énergétique des technologies de l’information et de la communication, des innovations matérielles fondamentales doivent être réalisées.

Une implémentation physique prenant nativement en charge de nouvelles méthodes informatiques est nécessaire.

La plupart du temps, CMOS est utilisé pour émuler par exemple. Comportement neuronal …

Spiking Neural Network Architecture (SpiNNaker)

SpiNNaker fait partie du pilier neuromorphe du projet Human Project dont l’intérêt est de développer et soutenir de nouveaux matériels informatiques qui peuvent accélérer la simulation de grands réseaux de neurones.

Pour la première phase du projet, les objectifs sont les suivants :

  • Développer et améliorer le logiciel fonctionnant sur les plus grandes machines SpiNNaker (Comprenant entre 100 000 et un million de microprocesseurs simples connectés dans une grille hexagonale) permettant de simuler des réseaux de plusieurs millions de neurones en temps réel.
  • Faire en sorte que le matériel SpiNNaker soit mis à la disposition des chercheurs du monde entier via une interface Web simple afin qu’ils puissent
  • Exécuter leurs simulations à distance
  • Utiliser la plate-forme à Manchester pour contribuer à la recherche sur la fonction cérébrale
  • Travailler avec des partenaires pour concevoir une puce de test pour une machine SpiNNaker de prochaine génération, en tirant parti de notre expérience avec la machine SpiNNaker actuelle et des commentaires de notre base d’utilisateurs.

La conception sera terminée et la machine construite dans la seconde phase du projet

SpiNNaker est une architecture informatique inspirée du fonctionnement du cerveau humain. SpiNNaker est une plate-forme de calcul, axée sur trois grands domaines de recherche :

Les neurosciences : comprendre comment fonctionne le cerveau est un Grand Défi de la science du 21ème siècle. SpiNNaker envisage ainsi de fournir une plate-forme pour aider les neuroscientifiques à démêler le mystère qui est l’esprit. D’après SpiNNaker, la plus grande machine SpiNNaker sera capable de simuler un milliard de neurones simples, ou des millions de neurones à structure complexe et à une dynamique interne.

La robotique : SpiNNaker est également une cible à atteindre pour les chercheurs en robotique, qui ont besoin d’un calcul mobile et de faible puissance. Un petit tableau SpiNNaker permet de simuler un réseau de dizaines de milliers de neurones spiking, de traiter les entrées sensorielles et de générer des sorties moteur, en temps réel et dans un système à faible puissance.

L’informatique : SpiNNaker rompt les règles suivies par les superordinateurs traditionnels qui s’appuient sur des communications déterministes, reproductibles et des calculs fiables. Les nœuds SpiNNaker communiquent à l’aide de messages simples (spikes) intrinsèquement peu fiables. Cette rupture avec le déterminisme offre de nouveaux défis, mais aussi le potentiel de découvrir de puissants nouveaux principes de calcul massivement parallèle.

Les activités de recherche aux USA

NSCI – National Strategic Computing Initiative Strategic Plan (NSCISP, Juillet 2016)

  1. L’objectif n°3 de la NSCISP : The post Moore’s Law era (Aire post loi de Moore)

L’objectif n° 3 du Plan stratégique de l’Initiative pour l’informatique stratégique (NSCI) est d’établir, au cours des 15 prochaines années, un chemin viable pour les futurs systèmes HPC au-delà des limites de la technologie actuelle des semi-conducteurs et lorsque la loi de Moore prendra fin (Ere post-Moore’s Law).

Establishing, over the next 15 years, a viable path forward for future HPC systems even after the limits of current semiconductor technology are reached (the « post-Moore’s Law era »).

« Alors que les approches actuelles des semi-conducteurs devraient être réalisables à l’exascale, ces approches finiront par se développer en raison de limitations physiques inhérentes. L’objectif stratégique 3 du NSCI cherche de nouvelles technologies qui continueront à progresser dans l’informatique afin d’établir les bases pour étendre l’avantage informatique mondial des États-Unis au milieu des années 2050.

Pour atteindre cet objectif, le NSCI poursuivra deux axes d’efforts parallèles sur une période de 10 à 20 ans : la R & D des technologies qui permettront de déplacer la performance informatique numérique après les limites théoriques des semi-conducteurs d’oxyde métallique complémentaires (CMOS) et la recherche et le développement des paradigmes alternatifs qui ouvriront de nouvelles possibilités pour l’avancement de l’informatique à grande échelle.

Le NSCI envisage un environnement informatique futur plus hétérogène, où l’informatique numérique est complétée par des systèmes mettant en œuvre des paradigmes alternatifs pour résoudre efficacement des problèmes spécifiques.

Ces paradigmes de calcul alternatifs, qu’ils soient quantiques, neuromorphes ou autres alternatives, peuvent résoudre certaines classes de problèmes intrinsèques à l’informatique numérique et fournir des solutions plus efficaces pour d’autres types de problèmes. Pour atteindre cette vision, il est essentiel de rechercher l’éventail des problèmes de calcul de ces approches car il s’agit de favoriser la R & D de base qui leur permettra.

Pour les problèmes qui resteront dans le domaine de l’informatique numérique, l’augmentation des performances au-delà de l’exascale ou d’autres réductions du coût de l’énergie peut ne pas être possible avec les technologies à semi-conducteurs actuelles.

(Exascale : supercalculateur capable de traiter un milliard de milliards d’opérations par seconde).

Pour relever ces défis, les activités du NSCI doivent explorer et créer de nouvelles technologies informatiques hautement évolutives, programmables, efficaces et économiquement viables ».

The National Artificial Intelligence Research And Development Strategic Plan (octobre 2016)

Ce plan stratégique national de R & D en intelligence artificielle établit un ensemble d’objectifs pour la recherche sur l’AI fondé au niveau fédéral, tant les recherches menées au sein du gouvernement que la recherche financée par le gouvernement fédéral se déroulant à l’extérieur du gouvernement, comme dans le milieu universitaire.

Le but ultime de cette recherche est de produire de nouvelles connaissances et technologies de l’AI qui offrent une gamme d’avantages positifs à la société tout en minimisant les impacts négatifs. Pour atteindre cet objectif, ce plan stratégique de R & D d’AI identifie les priorités suivantes pour la recherche AI sur l’aide fédérale :

Stratégie 1: Faire des investissements à long terme dans la recherche sur l’IA. Prioriser les investissements dans la prochaine génération d’IA qui conduira la découverte et la perspicacité et permettra aux États-Unis de rester un leader mondial de l’IA.

Stratégie 2: Élaborer des méthodes efficaces pour la collaboration entre les humains et les IA. Plutôt que de remplacer les humains, la plupart des systèmes d’IA collaboreront avec les humains pour obtenir des performances optimales. Des recherches sont nécessaires pour créer des interactions efficaces entre les humains et les systèmes d’IA.

Stratégie 3: Comprendre et aborder les implications éthiques, juridiques et sociétales de l’IA. Nous nous attendons à ce que les technologies de l’IA se comportent selon les normes formelles et informelles auxquelles nous tenons nos compatriotes. Des recherches sont nécessaires pour comprendre les implications éthiques, juridiques et sociales de l’IA et pour développer des méthodes de conception de systèmes d’AI qui s’harmonisent avec les objectifs éthiques, juridiques et sociétaux.

Stratégie 4: Assurer la sécurité et la sécurité des systèmes d’IA. Avant que les systèmes d’AI ne soient largement utilisés, il faut s’assurer que les systèmes fonctionneront en toute sécurité et de manière sécurisée, de manière contrôlée, bien définie et bien comprise. De nouveaux progrès dans la recherche sont nécessaires pour relever ce défi de créer des systèmes d’IA fiables, fiables et dignes de confiance.

Stratégie 5: Élaborer des ensembles de données publiques partagés et des environnements pour la formation et les tests d’IA. La profondeur, la qualité et la précision des ensembles de données et des ressources de formation influent de manière significative sur les performances de l’AI. Les chercheurs doivent développer des ensembles de données et des environnements de haute qualité et permettre un accès responsable à des ensembles de données de haute qualité, ainsi qu’à des ressources de test et de formation.

Stratégie 6: Mesurer et évaluer les technologies de l’IA grâce à des normes et des repères. . Les normes, les repères, les bancs d’essai et l’engagement de la collectivité sont essentiels aux avancées dans l’IA, qui guident et évaluent les progrès dans l’IA. Des recherches supplémentaires sont nécessaires pour développer un large éventail de techniques d’évaluation.

Stratégie 7: mieux comprendre les besoins nationaux en matière de main-d’oeuvre en RD. Les progrès dans l’IA exigeront une communauté forte de chercheurs en IA. Une meilleure compréhension des exigences actuelles et futures de la main-d’œuvre en R & D en IA est nécessaire pour s’assurer que suffisamment d’experts en AI sont disponibles pour aborder les domaines stratégiques de R & D décrits dans ce plan.

En conclusion, le plan stratégique de R & D de l’AI prévoit deux recommandations :

  • Élaborer un cadre de mise en œuvre de la R & D de l’AI afin d’identifier les opportunités de S et T et de soutenir une coordination efficace des investissements en R & D de l’AI, conformément aux Stratégies 1-6 de ce plan.
  • Étudier le paysage national pour la création et le maintien d’une main-d’œuvre saine en R & D, conformément à la Stratégie 7 de ce plan.

DARPA  – Systèmes de développement adaptatif néodorphe adaptable en plastique (Programme SyNAPSE)

La vision du programme Systèmes de développement adaptatif néodorphe adaptable en plastique (SyNAPSE) est de développer des ordinateurs électroniques neuromorphes à faible puissance qui se développent à des niveaux biologiques.

Les ordinateurs actuels sont limités par la quantité de puissance requise pour traiter de gros volumes de données. En revanche, les systèmes neurologiques biologiques, tels que le cerveau, traitent de gros volumes d’informations de manière complexe tout en consommant très peu d’énergie. Des économies d’énergie sont réalisées dans les systèmes neuronaux grâce à l’utilisation limitée des ressources matérielles dans le temps et dans l’espace. Étant donné que de nombreux problèmes du monde réel sont limitées et doivent traiter de gros volumes de données, les ordinateurs neuromorphes sont très prometteurs.

SyNAPSE soutient une approche multidisciplinaire coordonnant les activités de développement de technologies agressives en matériel, architecture et simulation.

La phase initiale de SyNAPSE a développé des composants synaptiques électroniques à l’échelle nanométrique capables de varier la force de connexion entre deux neurones d’une manière analogue à celle observée dans les systèmes biologiques et a simulé l’utilité de ces composants synaptiques dans les microcircuits de base qui ont soutenu l’architecture globale du système.

Les efforts continus se concentrent sur le développement du matériel grâce au développement de microcircuits, au développement de systèmes à puce unique et au développement de systèmes multi-puce. À l’appui de ces développements matériels, SyNAPSE cherche également à développer des outils d’architecture et de conception de plus en plus performants, y compris des simulations informatiques à très grande échelle des systèmes électroniques neuromorphes, pour informer les concepteurs et valider le matériel avant la fabrication.

A Federal Vision for Future Computing : A Nanotechnology-Inspired Grand

La Maison Blanche a annoncé en 2015 « Un défi majeur inspiré de la nanotechnologie » pour développer des capacités informatiques transformationnelles en combinant des innovations dans de multiples disciplines scientifiques.

Le Grand Challenge s’attaque à trois priorités de l’Administration: l’Initiative Nationale de Nanotechnologie (NNI), l’Initiative Nationale d’Informatique Stratégique (NSCI) et l’Initiative Brain Research Through Advancer Innovative Neurotechnologies (BRAIN )  à:

Créez un nouveau type d’ordinateur capable d’interpréter et d’apprendre de manière proactive à partir des données, résoudre des problèmes inconnus en utilisant ce qu’il a appris et fonctionner avec l’efficacité énergétique du cerveau humain.

Pour en savoir plus :

IEEE IRDS – International Roadmap for Devices and Systems – 2016 Edition – More Moore White Paper

SIA – SRCSemiconductor Research Opportunities – Mars 2017

UE – CORDIS – PHotonic REServoir COmputing (PHRESCO)

UE – Human Brain Project – Neurorobotics Program

USA White House – National Strategic Computing Initiative Strategic Plan Juillet 2016

USA NITRDThe National Artificial Intelligence Research And Development Strategic Plan

A Federal Vision for Future Computing: A Nanotechnology-Inspired Grand Challenge (White Paper)

Unlocking the secrets of the brain’s intelligence to develop smarter technologies  Graciela Gutierrez  March 11, 2016

Mapping the Brain to Build Better Machines Emily Singer April 6, 2016

He is one of Intel’s co-founders, Gordon Earle Moore, who in 1965 stated Moore’s law that bears his name.

Gordon Earle Moore Moore's Law

Gordon Earle Moore

The precise statement has varied over the years but there is agreement that it now asserts that the number of microprocessor transistors on a silicon chip doubles every eighteen months or twenty four months.

This is only an empirical law, but it has been verified by the progress of technology over the last fifteen years.

More than Moore technologies or so-called technologies represent technologies that integrate several functions on the same silicon chip.

More than Moore technologies are those that allow the integration of calculation and memory functions on a silicon chip, but also functions such as radiofrequency, high voltage components, lighting electronics and battery chargers ).

If we compare More than Moore technologies to the human body, integrated functions represent eyes, ears, arms and legs and allow the brain (which calculates and memorizes) to interact with the real world. These technologies are at the heart of the development of robotics.

End of Moore’s Law in 2024

So far, the expected date of the end of Moore’s law varies according to researchers and studies. Some researchers had announced it for 2020, others for 2021. More recently, the International Roadmap for Devices and Systems, within the IEEE, an international scholarly company, has just published in March 2017 its White Paper « International Roadmap For Devices and Systems – More Moore « .

In its white paper, the IRDS IEEE provides for the end of Moore’s law in 2024.

The main steps of the IRDS roadmap are:

« The scaling of the ground rule slows down and saturates around 2024. EUV (extra-ultraviolet) technology has now begun to slow down this saturation trend by controlling cost by reducing the complexity of process. The transition to 3D integration and the use of devices beyond CMOS for System-on-Chip (SoC) complementary functions is projected after 2024 « .

From the Bardeen transistor to the monoatomic transistor

More than seventy-three years after the invention of the first transistor by Bardeen in 2012, the end of Moore’s law had been evoked following a publication by several researchers from the universities of New South Wales, Purdue and Melbourne of an article In the scientific journal Nature Nanotechnology.

In their publication, the Australian researchers reported a breakthrough in the realization of transistors on a silicon support.

The group of Australian researchers had announced that they were able to precisely manufacture a transistor composed of a single phosphorous atom on a layer of silicon atoms.

And after Moore’s Law

Taking into consideration the hypothesis that Moore’s law could be completed by 2024, the American Professional Union of Semiconductor Industries (SIA) and the Semiconductor Research Corporation (SRC), a non-profit consortium of companies With a common interest in accelerating advances in semiconductor science and engineering research, have also published a « Semiconductor Research Opportunities » guide identifying research and industry priorities to anticipate the end of the Law of Moore.

These priorities focus on 14 strategic areas of research:

Research areas needs for future computing -SIA-SRC March, 2017.

Research areas needs for future computing

Towards Cognitive Computing and AI Convergence, Robotics, Blockchain:

Research activities in Europe

Human Brain Project (2013)

The Human Brain project is a pan-European initiative that began in October 2013 and is planned for a ten-year period. Phase I was completed in April 2016.

This project is funded by the EU’s ICT program (which supports technological research) with a projected cost of one billion euros.

The stated objective continues to bring together a wide range of research communities, from material engineers to neuroscientists, from programmers to philosophers, collectively to make significant progress in knowledge of the most complicated machine known to man : The human brain itself.

This massive project is divided into several themes called pillars.

Neurorobotics Platform

This platform was conceived as a simulation system accessible via the Internet which allows the simulation of robots and environments controlled by dynamic neural networks.

The platform allows for simple virtual closed-loop experiments in cognitive neuroscience using brain models developed within BPH, with the ability to customize several variables, such as environmental and physical parameters, Using a robot designer, an environment builder and a closed loop engine.

Another objective of this project is to support a common understanding of the brain.

The ability to model robots and virtual environments already exists, and other researchers have created closed-loop configurations with simple brain models.

However, the platform Neurorobotics seems to be the first platform that should allow virtual robots to be connected to detailed models of the brain. It should allow experiments in the future to explore the link between low-level brain circuits and the high-level function, thus offering unequaled capabilities to researchers.

In this way, the Neurorobotics platform should help to bridge the gap between neuroscience and robotics and be of interest to a diverse user community. Platform systems will also allow silico testing, which will facilitate validation and comparison of results with researchers for in vivo research.

Neuromorphic Computing Platform

The Neuromorphic Computing Platform (NCP) consists of two complementary and configurable neuromorphic computer systems based on custom hardware designs.

These systems are « designed to mimic neural microcircuits and apply brain-like principles in machine learning and cognitive computing, that is, principles that will enable the machine to learn in the That the brain functions rather than being programmed as a normal computer. « 

The neuromorphic platform uses « state-of-the-art » electronic components and electronics technologies and incorporates new knowledge gained from other areas of neuroscience research (experimental neuroscience, theoretical neuroscience and brain modeling ).

The Neuromorphic platform provides remote access to large-scale neuromorphic computer systems based in Manchester, UK and Heidelberg, Germany. Together with the TrueNorth system by IBM, they are the only neuromorphic systems in the world capable of performing neural circuit system simulations with real-time neural models, synapses and plasticity in real time or (10,000 times faster than in real time).

PHRESCO – PHotonic REServoir COmputing

New IT paradigms are needed to fuel the next revolution in information technology. Machines must be invented to be able to learn, but also to manage a large amount of data.

In order to achieve this objective and to further reduce the energy footprint of information and communication technologies, fundamental material innovations must be achieved.

A physical implementation that natively supports new computing methods is required.

Most of the time, CMOS is used to emulate for example. Neural Behavior.

Spiking Neural Network Architecture (SpiNNaker)

SpiNNaker is part of the neuromorphic pillar of the Project Human Project whose interest is to develop and support new computer hardware that can accelerate the simulation of large networks of neurons.

For the first phase of the project, the objectives were:

– Develop and improve the software running on the largest SpiNNaker machines (Including between 100,000 and one million simple microprocessors connected in a hexagonal grid) to simulate networks of several million neurons in real time.

– Ensure that SpiNNaker hardware is made available to researchers around the world via a simple web interface so that they can

– Run their simulations remotely

– Using the platform in Manchester to contribute to research on brain function

– Work with partners to design a test chip for a next-generation SpiNNaker machine, taking advantage of our experience with the current SpiNNaker machine and feedback from our user base.

The design will be completed and the machine built in the second phase of the project.

SpiNNaker is a computer architecture inspired by the functioning of the human brain. SpiNNaker is a computing platform, focused on three main areas of research:

Neuroscience: understanding how the brain works is a Great Science Challenge of the 21st century. SpiNNaker is considering providing a platform to help neuroscientists unravel the mystery that is the mind. According to SpiNNaker, the biggest SpiNNaker machine will be able to simulate one billion simple neurons, or millions of neurons with complex structure and internal dynamics.

Robotics: SpiNNaker is also a target for robotics researchers, who need mobile computing and low power. A small SpiNNaker table can simulate a network of tens of thousands of spiking neurons, process sensory inputs and generate motor outputs in real time and in a low power system.

IT: SpiNNaker breaks the rules followed by traditional supercomputers that rely on deterministic, reproducible and reliable computations. SpiNNaker nodes communicate using inherently unreliable spikes. This break with determinism offers new challenges, but also the potential to discover powerful new principles of massively parallel computation.

Research activities in USA

NSCI – National Strategic Computing Initiative Strategic Plan (July, 2016)

Goal 3 of the National Strategic Computing Initiative (NSCI) Strategic Plan is to establish, over the next 15 years, a viable path for future HPC (Hight Performance Computing) systems beyond The limitations of current semiconductor technology and when Moore’s law ends.

Establishing, over the next 15 years, a viable path forward for future HPC systems even after the limits of current semiconductor technology are reached (the « post-Moore’s Law era »).

While current semiconductor approaches should be feasible at exascale, these approaches will eventually develop due to inherent physical limitations. NSCI’s Strategic Goal 3 seeks new technologies that will continue to advance in computing to lay the foundation for expanding the global IT advantage of the United States in the mid-2050s.

To achieve this goal, NSCI will pursue two parallel lines of effort over a period of 10 to 20 years: R & D technologies that will shift digital computing performance beyond the theoretical limits of complementary metal oxide semiconductors (CMOS) and research and development of alternative paradigms that will open up new opportunities for the advancement of large-scale computing.

NSCI is also considering a « more heterogeneous future computing environment, where digital computing is complemented by systems implementing alternative paradigms to effectively solve specific problems ».

These alternative computing paradigms (whether quantum, neuromorphic, or other alternatives) need to be able to solve certain classes of problems intrinsic to digital computing and provide more efficient solutions for other types of problems. In order to achieve this vision, it is essential to seek the range of problems in calculating these approaches.

The National Artificial Intelligence Research And Development Strategic Plan (october, 2016)

This National Strategic Artificial Intelligence R & D Plan sets out a set of objectives for federally funded IA research, both on government research and federally funded research at Outside the government, particularly in the academic community.

The ultimate goal of this research is to produce new AI knowledge and technologies offering a range of positive benefits to American society while minimizing negative impacts. To achieve this objective, this AI R & D strategic plan identifies the following priorities for AI research on federal assistance:

1) Make long-term investments in AI research. Prioritize investments in the next generation of RNs that will drive discovery and insight and allow the US to remain a world leader in AI.

2) Develop effective methods for collaboration between humans and RNs. Rather than replacing humans, most AI systems will work with humans to achieve optimal performance. Research is needed to create effective interactions between humans and AI systems.

3) Understand and address the ethical, legal and societal implications of AI. We expect that AI technologies will behave according to the formal and informal standards we hold our fellow citizens. Research is needed to understand the ethical, legal and social implications of AI and to develop methods for designing CE systems that align with ethical, legal and societal objectives.

4) Ensure the safety and security of AI systems. Before CEW systems are widely used, it must be ensured that the systems will operate safely and in a secure, controlled, well-defined and well understood manner. Further progress in research is needed to meet this challenge of creating reliable, reliable and trustworthy AI systems.

5) Develop shared public data sets and environments for AI training and testing. The depth, quality and accuracy of the data sets and training resources significantly affect AI performance. Researchers need to develop high-quality datasets and environments and provide responsible access to high-quality data sets as well as test and training resources.

6) Measure and evaluate AI technologies through standards and benchmarks. . Standards, benchmarks, test benches and community engagement are essential to advances in AI, which guide and evaluate progress in AI. Further research is needed to develop a wide range of assessment techniques.

7) Understand national needs for R & D workforce. Progress in AI will require a strong community of AI researchers. A better understanding of the current and future requirements of the AI ​​R & D workforce is needed to ensure that sufficient AI experts are available to address the strategic R & D areas described in this plan.

In conclusion, the IA’s strategic R & D plan fixed  two recommendations:

– Develop an IA R & D implementation framework to identify S & T opportunities and support effective coordination of R & D investment by the IA in accordance with this plan.

– Study the national landscape for the creation and maintenance of a healthy R & D workforce in accordance with 7 of this plan.

Intelligence Advanced Research Projects Activity (IARPA) – MICrONS (Machine Intelligence from Cortical Networks)

The MICRONS research programof IARPA  seeks « to revolutionize machine learning by reverse engineering algorithms of the brain. The program is expressly designed as a dialogue between data science and neuroscience « 

  Participants in the program seek to advance the theories of neural computation and obtain answers through carefully planned experimentation and data analysis.

DARPA – Systems of Neuromorphic Adaptive Plastic Scalable Electronics

The vision for the Systems of Neuromorphic Adaptive Plastic Scalable Electronics (SyNAPSE) program is to develop low-power electronic neuromorphic computers that scale to biological levels.

Current computers are limited by the amount of power required to process large volumes of data. In contrast, biological neural systems, such as the brain, process large volumes of information in complex ways while consuming very little power. Power savings are achieved in neural systems by the sparse utilizations of hardware resources in time and space. Since many real-world problems are power limited and must process large volumes of data, neuromorphic computers have significant promise.

SyNAPSE supports a multidisciplinary approach coordinating aggressive technology development activities in hardware, architecture and simulation.

The initial phase of SyNAPSE developed nanometer-scale electronic synaptic components capable of varying connection strength between two neurons in a manner analogous to that seen in biological systems and simulated the utility of these synaptic components in core microcircuits that supported the overall system architecture.

Continuing efforts focus on hardware development through microcircuit development, single chip system development and multi-chip system development. In support of these hardware developments, SyNAPSE also seeks to develop increasingly capable architecture and design tools, including very large-scale computer simulations of the neuromorphic electronic systems, to inform the designers and validate hardware prior to fabrication.

A Federal Vision for Future Computing : A Nanotechnology-Inspired Grand challenge

The White House announced in 2015 « A major challenge inspired by nanotechnology » to develop transformational computing capabilities by combining innovations in multiple scientific disciplines.

  The Grand Challenge addresses three priorities of the Administration: the National Nanotechnology Initiative (NNI), the National Strategic Informatics Initiative (NSCI) and the Brain Initiative through Advance Innovative Neurotechnologies (BRAIN) :

Create a new type of computer capable of proactively interpreting and learning from data, solving unknown problems using what it has learned and working with the energy efficiency of the human brain.

For more information :

IEEE IRDS – International Roadmap for Devices and Systems – 2016 Edition – More Moore White Paper

SIA – SRC – Guide « Semiconductor Research Opportunities »

UE – CORDIS – PHotonic REServoir COmputing (PHRESCO

UE – Human Brain Project – Neurorobotics Program

USA White House – National Strategic Computing Initiative Strategic Plan Juillet 2016

USA NITRDThe National Artificial Intelligence Research And Development Strategic Plan

A Federal Vision for Future Computing: A Nanotechnology-Inspired Grand Challenge (White Paper)

Unlocking the secrets of the brain’s intelligence to develop smarter technologies  Graciela Gutierrez  March 11, 2016

Mapping the Brain to Build Better Machines Emily Singer April 6, 2016

Pin It on Pinterest

Share This