Numérique · Intelligence artificielle
Réseaux de neurones artificiels
Un réseau de neurones artificiels est un modèle mathématique fait de nombreuses unités de calcul simples, organisées en couches, dont les connexions sont ajustées par entraînement.
Mis à jour le 4 min de lecture
Les réseaux de neurones artificiels sont le moteur de l’essentiel de l'intelligence artificielle actuelle : reconnaissance d’images, traduction, assistants conversationnels. Leur nom vient d’une inspiration lointaine du cerveau, mais leur fonctionnement est purement mathématique : des multiplications, des additions et des fonctions simples, répétées des milliards de fois.
Le neurone formel
Proposé en 1943 par Warren McCulloch et Walter Pitts, le neurone formel est une petite fonction :
- il reçoit plusieurs entrées (des nombres) ;
- il multiplie chaque entrée par un poids, qui mesure son importance ;
- il additionne le tout et ajoute un biais ;
- il applique une fonction d’activation qui décide de la sortie (par exemple : 0 si le total est négatif, le total lui-même sinon — la fonction ReLU).
Seul, un neurone ne sait faire que des distinctions très simples. Leur puissance vient de leur nombre et de leur organisation.
L’architecture en couches
| Couche | Rôle |
|---|---|
| Couche d’entrée | Reçoit les données brutes (pixels d’une image, mots d’un texte transformés en nombres) |
| Couches cachées | Transforment progressivement les données en représentations de plus en plus abstraites |
| Couche de sortie | Donne le résultat (probabilité de chaque catégorie, mot suivant, valeur prédite) |
Dans un réseau de reconnaissance d’images, les premières couches détectent des contours, les suivantes des formes, puis des parties d’objets (yeux, roues), enfin des objets entiers. On parle d'apprentissage profond (deep learning) quand le réseau compte de nombreuses couches cachées.
Comment un réseau apprend
- Propagation avant : un exemple traverse le réseau, qui produit une réponse.
- Calcul de l’erreur : une fonction de perte mesure l’écart avec la réponse attendue.
- Rétropropagation du gradient : on calcule, en remontant le réseau, dans quelle direction modifier chaque poids pour réduire l’erreur (méthode popularisée en 1986 par David Rumelhart, Geoffrey Hinton et Ronald Williams).
- Mise à jour : chaque poids est légèrement corrigé (descente de gradient).
- On répète sur des millions d’exemples, pendant de nombreux passages (époques).
Les grands modèles comptent des milliards, voire des milliers de milliards de poids ; leur entraînement exige des milliers de processeurs graphiques (GPU) pendant des semaines.
Les principales architectures
| Architecture | Spécialité | Exemples d’usage |
|---|---|---|
| Perceptron multicouche | Données simples, en tableau | Classification, prédiction |
| Réseau convolutif (CNN) | Images : détecte des motifs locaux | Reconnaissance d’objets, imagerie médicale |
| Réseau récurrent (RNN, LSTM) | Séquences, avec mémoire des éléments précédents | Parole, séries temporelles (largement remplacés par les Transformers) |
| Transformer (2017) | Séquences, grâce au mécanisme d’attention qui relie chaque élément à tous les autres | Grands modèles de langage, traduction, vision |
| Modèles de diffusion | Génération d’images en débruitant progressivement | Générateurs d’images |
| Réseaux antagonistes génératifs (GAN, 2014) | Deux réseaux en compétition, un générateur et un discriminateur | Génération d’images réalistes |
Le Transformer, introduit par des chercheurs de Google dans l’article « Attention Is All You Need » (2017), est à la base des grands modèles de langage.
Une brève histoire
| Date | Étape |
|---|---|
| 1943 | Neurone formel (McCulloch et Pitts) |
| 1957-1958 | Perceptron (Frank Rosenblatt) |
| 1969 | Minsky et Papert montrent les limites du perceptron à une couche : désintérêt pour les réseaux |
| 1986 | Diffusion de la rétropropagation : renouveau |
| 1989-1998 | Réseaux convolutifs de Yann LeCun pour lire les chiffres manuscrits (chèques) |
| 2012 | AlexNet gagne le concours ImageNet grâce aux GPU : explosion de l’apprentissage profond |
| 2017 | Architecture Transformer |
| 2018 | Prix Turing pour Bengio, Hinton et LeCun |
| 2024 | Prix Nobel de physique pour John Hopfield et Geoffrey Hinton |
Neurones artificiels et neurones biologiques
La comparaison avec le cerveau est surtout une métaphore. Un neurone biologique est une cellule vivante complexe, qui communique par impulsions électriques et signaux chimiques ; le cerveau humain en compte environ 86 milliards, avec une consommation d’environ 20 watts. Un neurone artificiel est une formule de quelques opérations. Les réseaux artificiels n’apprennent pas comme le cerveau (la rétropropagation n’a pas d’équivalent biologique établi) et consomment beaucoup plus d’énergie. Voir mémoire pour le fonctionnement biologique.
Limites
- Boîte noire : on sait calculer la sortie, mais expliquer pourquoi le réseau a pris telle décision reste difficile ; c’est l’objet de la recherche en explicabilité.
- Dépendance aux données et reproduction de leurs biais.
- Fragilité : de petites modifications imperceptibles d’une image peuvent tromper un réseau (exemples adverses).
- Coût énergétique et matériel de l’entraînement.
Questions fréquentes
Un réseau de neurones pense-t-il ?
Non. Il calcule une fonction très complexe apprise sur des données. Il n’a ni conscience ni intention, même quand ses résultats imitent un raisonnement.
Combien de neurones dans un réseau artificiel ?
De quelques dizaines pour un exemple pédagogique à des millions dans les grands modèles ; on compte plutôt en paramètres (poids), qui se chiffrent en milliards pour les grands modèles de langage.
Quelle différence entre réseau de neurones et deep learning ?
Le deep learning désigne les réseaux de neurones profonds, c’est-à-dire à nombreuses couches cachées. Tous les réseaux ne sont pas profonds.
Pourquoi utilise-t-on des cartes graphiques ?
Parce que l’entraînement consiste en d’immenses multiplications de matrices, que les GPU exécutent en parallèle bien plus vite que les processeurs classiques. Voir fonctionnement d’un ordinateur.