Unité de calcul qui combine des données d'entrée afin de produire une information de sortie.
Les neurones artificiels sont des unités de calcul qui constituent les réseaux de neurones artificiels. Ils s'inspirent très schématiquement du fonctionnement des neurones biologiques, mais réalisent en réalité des opérations mathématiques.
Les réseaux de neurones artificiels (RNA) constituent l’une des principales familles de méthodes du machine learning.
Qu’est-ce qu’un réseau de neurones artificiels ?
Un réseau de neurones artificiels est un modèle mathématique capable d’apprendre des relations complexes à partir de données.
Il est constitué de petites unités de calcul appelées neurones artificiels, organisées en couches successives. Ainsi les données sont traitées par les différentes couches de neurones artificiels avant de fournir la réponse de sortie.
Comment fonctionne un neurone artificiel ?
Un neurone artificiel reçoit plusieurs valeurs en entrée : à chacune est associé un poids, qui indique son importance dans le calcul.
Le neurone artificiel effectue une combinaison mathématique des entrées, puis applique une fonction d’activation. Le résultat est transmis aux neurones de la couche suivante suivant le schéma :
sortie = fonction d'activation(Σ entrée × poids + biais)
Les paramètres les plus importants sont donc les poids et les biais. Ce sont eux que le réseau va progressivement ajuster pendant son apprentissage.
Comment le réseau « apprend-il » ?
Le réseau apprend en corrélant la prédiction qu'il fait à la réalité d'une donnée puis en l'extrapolant.
Si l'on prend l'exemple d'un réseau de neurones chargé d'identifier la présence d'une ou plusieurs tumeurs sur des images IRM, l'entrée d'apprentissage du réseau serait donc une image dont on connait la présence ou non de tumeurs et sur laquelle le réseau va pouvoir s'entrainer..
- Sur la base de cette image, le réseau produit une prédiction
- Cette prédiction est comparée à la réponse attendue (présence ou non de tumeurs)
- Le réseau calcule une fonction de perte (loss function) qui mesure l'erreur qui aurait pu être commise dans sa prédiction
- Le réseau modifie légèrement ses paramètres pour réduire cette erreur
- Le processus est répété sur un très grand nombre d'exemples.
L'algorithme utilisé pour déterminer comment modifier les paramètres repose notamment sur la rétropropagation du gradient (backpropagation) et sur des méthodes d'optimisation comme la descente de gradient.
À force de répétitions, le réseau apprend donc des représentations permettant de réaliser la tâche demandée.
Pourquoi plusieurs couches ?
Plusieurs couches sont nécessaire pour passer du simple réseau de neurones au deep learning, ou apprentissage profond.
Dans un réseau comportant plusieurs couches, les premières peuvent apprendre à détecter des caractéristiques relativement simples, tandis que les couches suivantes combinent ces informations pour identifier des structures plus complexes.
Si on reprend l'exemple de notre image IRM précédentes, les différentes couches successives permettant d'identifier une tumeur pourraient être :
- Pixels
- Contours
- Formes
- Structures
- Objet ou anomalie.
Cette organisation n'est toutefois qu'une représentation simplifiée : dans un réseau réel, les caractéristiques apprises ne sont pas nécessairement aussi facilement interprétables.
Quels sont les principaux types de réseaux de neurones ?
Il existe plusieurs architectures, adaptées à différents types de données.
- Les réseaux de neurones convolutifs (CNN) sont particulièrement adaptés à l'analyse d'images. Ils sont notamment utilisés en imagerie médicale pour analyser des IRM, scanners ou images microscopiques.
- Les réseaux récurrents (RNN) et leurs variantes, comme les LSTM, ont été conçus pour traiter des données séquentielles : séries temporelles, signaux biologiques, texte, etc. Ils ont toutefois été largement supplantés par les Transformers dans de nombreuses applications.
- Les Transformers sont aujourd'hui essentiels dans le traitement du langage et sont également utilisés pour les images, les données biologiques et les modèles multimodaux. Les grands modèles de langage comme ChatGPT reposent sur cette architecture.
- Les réseaux génératifs, notamment les GAN et les modèles de diffusion, sont capables de produire de nouvelles données : textes, images, sons ou autres contenus.
D'autres mots qui pourraient vous intéresser
- Deep learning (apprentissage profond) :
- Apprentissage profond basé sur des réseaux de neurones artificiels multicouches.
- Machine learning (apprentissage automatique) :
- Apprentissage automatique permettant à un algorithme d’apprendre à partir de données.