Vulgarisation des réseaux neuronaux

Introduction

Ce cours est une rapide introduction aux notions de bases afin d’appréhender des textes bien plus compliquer. En effet, la plupart du temps, lors de la lecture d’un cours sur les réseaux neuronaux ce qui fait que l’on ne le comprend pas vient du vocabulaire. Ce vocabulaire est loin d’être dur a apprendre car ce sont souvent des synonymes entre réseaux biologique (réel) et formels qui sont utilisées. Je ne parle pas volontairement de certaines parties du neurone biologique car sont intérêt n’est pas probant dans le cadre de réseaux de neurones. Il y a deus types de neurone, biologique et formel. Etudions le premier

1. Le neurone Biologique

1.1 Définition
Par neurone Biologique on entend, un “vrai” neurone, ceux qui remplissent notre tête.
” Le neurone est un type de cellule constituant l’unité fonctionnelle du système nerveux. Les neurones sont 10 à 50 fois moins nombreux que les cellules gliales, seconds composants du tissu nerveux assurant plusieurs fonctions dont le soutien et la nutrition des neurones.
On estime que le cerveau humain comprend environ 100 milliards (1011) de neurones. Les neurones assurent la transmission de l’influx nerveux. ”
Heuuu… Ouais… mais encore…
Voila ma version nettoyée de cette définition
” Le neurone est un type de cellule permettant le fonctionnement du système nerveux. Les neurones sont 10 à 50 fois moins nombreux que les cellules gliales qui composent le reste du tissu nerveux et permettent de tenir et nourrir les neurones.
Les neurones assurent la transmission d’un signal électrique que l’on nomme influx nerveux. ”
Sa me semble déjà plus clair 😉

1.2 Structure

1.2.1 Le corps
Le neurone est composé d’un corps appelé péricaryon, corps cellulaire ou encore “soma”, dans ce cours nous utiliseront “Soma” pour le nommer, et de deux types de prolongements : l’axone qui conduit « l’influx nerveux » (ou potentiel d’action) et le ou les dendrites. Nous utiliserons le terme influx nerveux dans ce cours.
La morphologie, la localisation et le nombre de ces prolongements, ainsi que la forme du soma, varient et contribuent à définir différentes familles de neurones.
Le diamètre du Soma varie selon leur type, de 5 à 120 μm. Il contient le noyau, bloqué et donc incapable de se diviser, et le cytoplasme.

1.2.2 Les Axones
L’axone (ou fibre nerveuse) a un diamètre compris entre 1 et 15 μm, sa longueur varie d’un millimètre à plus d’un mètre. Sont origine s’appel le corps d’émergence, il est également appelé zone gâchette car il participe à la création de l’influx nerveux. Il décrit un trajet plus ou moins long avant de se terminer en se ramifiant (c’est l’arborisation terminale). Chaque ramification se termine par un renflement, le bouton synaptique. Elles sont uniques, il n’y a qu’un axone par neurone.

1.2.3 Les dendrites
Elles sont nombreuses (environ 100 000), courtes et très ramifiées dès leur origine. Elles sont parfois recouvertes d’épines. Contrairement à l’axone, elles ne contiennent pas de microvésicules permettant la transmission de l’information à l’extérieur du neurone. La dendrite conduit l’influx nerveux, induit à son extrémité, jusqu’au Soma (le corps) : c’est un prolongement afférent.

1.2.4 Résumé
Bon, il y en a qui sont déjà perdu.
Le neurone est composé donc de 3 principaux éléments :
– Le corps (synonymes : preicaryon, soma, corps cellulaire)
– Les Axones (syn. : fibre nerveuse)
– Les Dendrites

Le Soma fait la traduction du signal interne entre les dendrites et l’Axone via le “Cone d’initiation”
L’Axone reçois des ordres du Soma et émet des signaux vers les autres cellules
Les Dendrites reçoivent le signal venant des Axones et le transmettent au Soma

Par exemple un signal qui entre et sort fera ce chemin :
1. l’axone du envoi un Signal
2. Le signal est reçu par les dendrites
3. Le signal remonte les dendrites et arrive au Soma
4. Le signal est “traite” par le Cone d’initiation et envoi la réponse traduit à l’Axone
5. L’axone envoi l’information vers un autre neurone

Dans cet exemple le neurone1 a envoyé un signal au neurone 2 qui l’a transmis au neurone 3 ^^
Nous remarquons donc que : Les ont comme rôle de transmettre l’information et les Dendrites de les recevoir !

Mais il nous reste encore quelques zones d’ombres, comment les Axones envoient l’influx et comment font les Dendrites pour le recevoir ?

1.2 Les synapses

1.2.1 Définition
Le relais qui assure la transmission de l’influx nerveux entre les Axones et les Dendrites est la synapse. Il existe deux sortes de synapse.
* Les synapses électriques (jonction GAP, également appelées jonction communicante), qui sont surtout retrouvées chez les invertébrés et les vertébrés inférieurs, rarement chez les mammifères.
* Les synapses chimiques, très majoritaires, et quasi exclusives chez l’être humain.
La synapse est constituée de 3 éléments : d’un élément présynaptique, d’une fente synaptique et d’un élément post synaptique.

1.2.2 L’élément présynaptique

L’élément présynaptique est soit la fin l’axone, soit le “début” d’une dendrite. C’est le lieu de synthèse et souvent d’accumulation du neuromédiateur. Il assure la libération du neuromédiateur et de neurotransmetteur (substance chimique) suivant l’un influx nerveux qui seront transmise à l’autre neurone. Il contient les vésicules présynaptiques, contenant les différents neuromédiateur/transmetteur.
Il existe 4 types de vésicules

1.2.3 Récepteurs post synaptique

Il peut être la membrane d’un axone, d’un Soma, d’une dendrite, d’une cellule somatique (exemple : cellule musculaire). Suivant leur effet, on différencie les synapses excitatrices et les synapses inhibitrices.Ce sont eux qui vont recevoir les neurotransmetteur qui vont être convertie en signal électrique remonter les Dendrites. On peux ensuite dépolarisé et hyperpolarisé le signal suivent le récepteur ayant reçus le signal. On parle alors de :
* Le Potentiel Post synaptique Excitateur (ou PPSE) diminue la différence de potentiel entre les deux côtés de la membrane plasmique. Autrement dit le PPSE dépolarise localement la membrane ;
* Le Potentiel Post synaptique Inhibiteur (ou PPSI) augmente la différence de potentiel. Elle hyperpolarise la membrane.
Les Cones d’action (qui lient les Axone et les Dendrite d’un même neurone) fonctionne au tout ou rien.
Soit le signal est suffisamment puissant, dans ce cas il est envoyé au Dendrites. Soit il est trop faible un autre signal sera envoyé sa place, signifiant que il y a eu une “erreur”

1.2.4 La fente synaptique
C’est l’espace séparent le synapse de l’Axone (émetteur) et de la Dendrite (récepteur)

1.2.5 Résume

Donc voila comment se passe un échange d’information d’un Axone vers un Dendrite via donc leurs Synapses respectifs :
1. L’élément Pré synaptique de l’Axone reçoit un signal et émet des neurotransmetteurs vers la fente synaptique.
2. Les neurotransmetteurs sont “modifié” selon les neuromédiateurs présents à leurs cotés.
3. Les récepteurs du neurone “voisin” vont accueillir ces neurotransmetteurs et les convertir en influx électrique
4. Ces influx sont envoyés le long des Dendrites vers le Cone d’Action
5. Le Cone d’action teste la polarisation de l’influx et enverra via les Axone la réponse appropriée.

Voici un shema qui détail ce phénomène :

Voici le shema de tout ce que nous avons vus :

A partir de la vous pouvez consulter si vous le désirez le document suivant
http://zlab.rutgers.edu/classes/behaviorCogNeuro/HonorsLecture%201.htm
(Mais c’est facultatif pour la suite du cours.)

2 Les neurones formel

2.1 Définition
«  Un neurone formel est une représentation mathématique et informatique d’un neurone biologique. Le neurone formel possède généralement plusieurs entrées et une sortie qui correspondent respectivement aux dendrites et au cône d’émergence du neurone biologique (point de départ de l’axone). Les actions excitatrices et inhibitrices des synapses sont représentées, la plupart du temps, par des coefficients numériques (les poids synaptiques) associés aux entrées. Les valeurs numériques de ces coefficients sont ajustées dans une phase d’apprentissage. Dans sa version la plus simple, un neurone formel calcule la somme pondérée des entrées reçues, puis applique à cette valeur une fonction d’activation, généralement non linéaire. La valeur finale obtenue est la sortie du neurone. »
Normalement, maintenant que vous connaissez les bases des neurones biologiques, vous ne devriez avoir aucun soucis a comprendre cette définition !
Voici une comparaison entre un neurone formel et biologique
Dendrites -> Valeurs Entrée
Le Potentiel Post synaptique -> Poids synaptiques (coéficients numeriques)
Cone d’action -> Fonction d’activation
Cône d’emergence/Base de l’Axone -> Valeur de Sortie

2.2 Le neurone formel de McCulloch et Pitts

2.2.1 Présentation
Le premier modèle mathématique et informatique du neurone biologique est proposé par Warren McCulloch et Walter Pitts en 1943. En s’appuyant sur les propriétés des neurones biologiques connues à cette époque, McCulloch et Pitts proposent un modèle simple de neurone formel. Il s’agit d’un neurone binaire, c’est-à-dire dont la sortie vaut 0 ou 1. Pour calculer cette sortie, le neurone effectue une somme pondérée de ses entrées, puis applique une fonction d’activation à seuil (un test) : si la somme pondérée dépasse une certaine valeur, la sortie du neurone est 1, sinon elle vaut 0.



2.2.2 Propriétés importantes de la fonction d’activation

Les propriétés de la fonction d’activation influent en effet sur celle du neurone formel et il est donc important de bien choisir celle-ci pour obtenir un modèle utile en pratique.
Quand les neurones sont combinés en un réseau de neurones formels, il est important par exemple que la fonction d’activation de certains d’entre eux ne soit pas un polynôme sous réserve de limiter la puissance de calcul du réseau obtenu. Un cas caricatural de puissance limitée correspond à l’utilisation d’une fonction d’activation linéaire, comme la fonction identité : dans une telle situation le calcul global réalisé par le réseau est lui-aussi linéaire et il est donc parfaitement inutile d’utiliser plusieurs neurones, un seul donnant des résultats strictement équivalents.
Cependant, les fonctions de type sigmoïde sont généralement bornées. Dans certaines applications, il est important que les sorties du réseau de neurones ne soient pas limitées a priori : certains neurones du réseau doivent alors utiliser une fonction d’activation non bornée. On choisit généralement la fonction identité.
Il est aussi utile en pratique que la fonction d’activation présente une certaine forme de régularité. Pour calculer le gradient de l’erreur commise par un réseau de neurones, lors de son apprentissage, il faut que la fonction d’activation soit dérivable. Pour calculer la matrice hessienne de l’erreur, ce qui est utile pour certaines analyses d’erreur, il faut que la fonction d’activation soit dérivable deux fois. Comme elles comportent généralement des points singuliers, les fonctions linéaires par morceaux sont relativement peu utilisées en pratique.

Voila, maintenant vous devriez comprendre comment fonctionne de manière basique un neurone formel et biologique.
Les documentation que j’ai utilisé pour écrire se cours viennent de l’université de Lille, la Faculté Universitaire Notre Dame de la Paix (Namur), l’ULB (Université libre de Bruxelle) et l’Ucl (Université Catholique de Louvain). Les shemas SVG proviennent de Wikipedia. (Le SVG est vraiment une format genial ^^)

Un second cours viendra compléter celui-ci prochainement

Inform@tiquement
Manu404 – Istace Emmanuel

2 thoughts on “Vulgarisation des réseaux neuronaux

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Change )

Twitter picture

You are commenting using your Twitter account. Log Out / Change )

Facebook photo

You are commenting using your Facebook account. Log Out / Change )

Google+ photo

You are commenting using your Google+ account. Log Out / Change )

Connecting to %s