Réseaux neuronaux

Les réseaux neuronaux et le deep learning

De nos jours, on ne peut pas parler de machine learning sans parler de réseau de neurones artificiels, un ensemble d’algorithmes dont le fonctionnement est inspiré des neurones biologiques et qui s’appuie également sur les méthodes statistiques.

L’usage de réseaux de neurones est une technique de l’Intelligence Artificielle, optimisant les méthodes d’apprentissage automatiques. Ils démontrent un mécanisme perceptif indépendant des idées propres du développeur.

Fonctionnement des réseaux neuronaux

On apporte au réseau de neurones des entrées X pour attendre des sorties Y. Le réseau fait ses réglages sur chaque synapse à partir de nombreux paramètres pour trouver des relations entre X et Y. Ainsi, lorsqu’on lui donne X, il saura ensuite calculer Y et vice versa.

Dans le cerveau humain, il y a une centaine de milliards de neurones et donc presque un million de milliards de connexion (synapses). Pour un réseau de neurones artificiels, dans l’incapacité pour l’instant de reproduire un tel schéma, on tentera de réduire au maximum le nombre d’entrées. En reconnaissance d’images, par exemple, l’algorithme commencera donc par définir d’abord les caractéristiques phares d’un objet (de quelques dizaines à quelques centaines seulement) comme la présence ou non de roues, combien, de fenêtres, leur forme etc…pour définir une voiture.

 

Fonctionnement de réseaux neuraux

En entassant les couches de neurones, on va pouvoir demander à la machine de résoudre les problèmes un à un et tour à tour. Par exemple, réunir les pixels pour identifier une roue avant de réunir les roues ainsi identifiées pour déterminer qu’il y en a 4 puis réunir les 4 roues avec la couche précédente ayant déterminé qu’il y avait aussi des chevaux devant et un homme avec un fouet entre les roues et les chevaux, la dernière couche concluant à la présence d’une diligence.

Lorsqu’on fournit beaucoup de données en entrée, le réseau de neurones peut présenter une équation très complexe (la machine bouge en effet les pondérations entre neurones comme les boutons d’un potentiomètre et il peut y en avoir pour la reconnaissance de certaines images près d’un milliard) et trop difficile pour être interprétée. On parle dans ce cas de boîte noire. Mais le réseau donnant presque toujours la bonne réponse, donc en général on ne va pas chercher plus loin et cela ne pose pas de problème.

 Donald Hebb

Le deep learning pour booster les réseaux neuronaux

Le deeplearning est associé au fonctionnement des réseaux neuronaux artificiels. En principe, c’est un humain qui doit apprendre à la machine à reconnaître les caractéristiques communes à un objet. Mais ce n’est plus trop le cas avec la technique d’apprentissage profond. En effet, c’est la machine qui va analyser les objets avant de décider, afin d’identifier leurs points communs. L’homme valide ensuite.

On parle donc d’apprentissage supervisé puisque l’homme dira à la machine la réponse correcte puis surveillera ses erreurs à la main sur des milliers ou millions d’exemples avant qu’elle ne puisse devenir autonome.

 

Les algorithmes peuvent, depuis les travaux de Donald Hebb, mémoriser de l’expérience, donc apprendre. Concrètement, la machine est capable de modifier le poids des liaisons ou des transmissions synaptiques entre neurones en fonction des erreurs constatées dans de précédentes évaluations. Elle se corrige seule (rétropropagation du gradient), mais c’est un «auto-apprentissage» assisté puisque c’est l’humain qui donne la bonne réponse en sortie.

Ces questions de réseaux ont évidemment une incidence sur les capacités hardware (matériel informatique) nécessaires. Le programme SYNAPSE de la DARPA a permis à IBM de lancer en 2014 TrueNorth, un programme capable de simuler un million de neurones artificiels, 256 millions de synapses reliant ces neurones et exécutant 46 milliards d’opérations synaptiques par seconde et par Watt consommé.

D’autres articles sur le même thème

Systèmes experts

Les systèmes experts (ou moteurs de règles) sont une technique de l’IA

Système multi agents et IA Distribuée

Le domaines complexes et hétérogènes tels que l’aide à la décision dans des situations subtiles, la reconnaissance et la compréhension de formes dans des environnements mouvants

La résolution de problèmes

Les recherches et applications business sur l’IA sont intenses, ce qui accélère les innovations et l’évolution des algorithmes intelligents.

Le chaine TAL

L’Intelligence Artificielle se caractérise par une approche nouvelle dans le traitement informatique des problèmes.

Le machine learning

« Il n’y a pas d’intelligence sans apprentissage », affirme Yann Le Cun, patron de l’Intelligence Artificielle (IA) chez Facebook. C’est dans cette logique que s’inscrit le machine learning.

Le web sémantique

Le web sémantique permet à la machine de comprendre le langage humain et de le contextualiser.