Bibliographie & annexes
Présentation
RÉSUMÉ
L’intelligence générative est une branche de l’intelligence artificielle (IA) qui tend à fournir une production (texte, image, vidéo, musique) à partir d’un court texte descriptif (appelé prompt). Les modèles de base de tels systèmes sont des réseaux neuronaux profonds dont l’apprentissage nécessite des quantités très importantes de données de différents types selon la production désirée. Les performances obtenues par ces systèmes (tels ChatGPT pour la production de textes) atteignent des niveaux jusqu’à présent inégalés.
Lire cet article issu d'une ressource documentaire complète, actualisée et validée par des comités scientifiques.
Lire l’articleABSTRACT
Generative artificial intelligence is a special case of artificial intelliegnce (for short AI) which aims at producing text, image, video or music from a short description (a prompt). The basic models underlying such systems are deep neural nets. The learning process of deep neural nets necessitate huge amount of training data of different types, according to the type of desired output. The performance reached (such as texts for ChatGPT) are of very high level.
Auteur(s)
-
Jean-Paul HATON : Professeur émérite - LORIA – Université de Lorraine
INTRODUCTION
L’intelligence artificielle (IA) est née au cours des années 1950, sous l’impulsion de pionniers notamment John McCarthy, Marvin Minsky, Claude Shannon. Son but est d’implanter sur ordinateur des systèmes simulant des fonctions réputées intelligentes : reconnaissance de la parole et des images, raisonnement, prise de décision, etc.
De tels systèmes se fondent sur différents types de modèles, en particulier les réseaux neuronaux, ou neuromimétiques, qui tirent leur inspiration du modèle cortical humain ou animal : un ensemble d’unités très simples (les « neurones ») en très grand nombre et fortement interconnectés. Un avantage majeur est leur capacité d’apprentissage à partir d’exemples. Vers 2010, des résultats spectaculaires dans de nombreux domaines (jeu de go, interprétation d’images, reconnaissance de la parole, traitement de la langue naturelle écrite, diagnostic) ont mis en lumière un type particulier de ces modèles : les réseaux neuronaux profonds (Deep Neural Networks).
La caractéristique de tels modèles est d’être formés d’un nombre important de couches de neurones pouvant atteindre plusieurs centaines. L’apprentissage profond de ces modèles nécessitent à la fois trois conditions :
-
des algorithmes performants (amélioration de la rétropropagation du gradient d’erreur) ;
-
des moyens de calcul parfois considérables (processeur spécialisés tels que ceux de la firme Nvidia) ;
-
la disponibilité de quantités importantes de données d’apprentissage, notamment les big data, ces données numériques que nous produisons tous quotidiennement de façon massive (messages vocaux et écrits, signaux GPS, informations climatiques, achats, transactions bancaires, publications scientifiques, journaux et revues, etc.)
Parmi ces réseaux neuronaux profonds, un modèle s’est révélé particulièrement performants. Il s’agit des réseaux convolutifs, conçus initialement pour l’image et étendu ensuite à de nombreux domaines d’application.
L’IA générative utilise les réseaux neuronaux profonds pour produire à la demande un texte, une image, une vidéo, une musique, etc. Cette production résulte d’une courte description textuelle appelée prompt. Cet article présente les différents types de modèles d’IA générative et décrit leur fonctionnement. Les domaines de l’écrit (notamment ChatGPT) et de l’image (tel que MidJourney) sont particulièrement considérés.
L'expertise technique et scientifique de référence
VERSIONS
- Version archivée 1 de sept. 1995 par Xavier PERRAS
DOI (Digital Object Identifier)
CET ARTICLE SE TROUVE ÉGALEMENT DANS :
Accueil > Ressources documentaires > Technologies de l'information > Documents numériques Gestion de contenu > Gestion de contenus numériques > L’intelligence artificielle générative > Réseaux neuronaux profonds
Accueil > Ressources documentaires > Innovation > Innovations technologiques > Innovations en électronique et TIC > L’intelligence artificielle générative > Réseaux neuronaux profonds
Accueil > Ressources documentaires > Technologies de l'information > Le traitement du signal et ses applications > Gestion audio, images et vidéo numériques > L’intelligence artificielle générative > Réseaux neuronaux profonds
Cet article fait partie de l’offre
Technologies logicielles Architectures des systèmes
(239 articles en ce moment)
Cette offre vous donne accès à :
Une base complète d’articles
Actualisée et enrichie d’articles validés par nos comités scientifiques
Des services
Un ensemble d'outils exclusifs en complément des ressources
Un Parcours Pratique
Opérationnel et didactique, pour garantir l'acquisition des compétences transverses
Doc & Quiz
Des articles interactifs avec des quiz, pour une lecture constructive
Présentation
Modèles génératifs2. Réseaux neuronaux profonds
2.1 Définition
Une avancée majeure de l’IA depuis 2010 est l’invention des réseaux neuronaux profonds (Deep Neural Networks, DNN). Dès 2006, les modèles acoustiques de reconnaissance de la parole avaient été améliorés de façon importante grâce à ces réseaux. Depuis, ils ont montré leur efficacité dans d’autres domaines : dans les jeux, en traitement de la langue naturelle, en vision par ordinateur, en diagnostic, en robotique, dans l’art, etc.
Les réseaux profonds doivent leur nom au grand nombre de couches cachées de neurones, qui peut aller jusqu’à des centaines. Cela leur donne la capacité d’apprendre des fonctions de mise en correspondance toujours plus complexes. Il existe différents types de réseaux profonds : perceptrons feedforward, réseaux récurrents, réseaux convolutifs. Pour une description détaillée, le lecteur est invité à consulter l’article [H 3 730].
HAUT DE PAGE2.2 Apprentissage
L’apprentissage, caractéristique fondamentale de l’intelligence, est partie prenante de la plupart des systèmes d’IA. En 1959, Arthur Samuel, un des pionniers de l’IA, introduit le terme d’« apprentissage automatique » (machine learning).
Les progrès réalisés en IA depuis les années 2010 sont dus à l’utilisation de méthodes numériques d’apprentissage profond .
Toutes les méthodes impliquent l’existence...
L'expertise technique et scientifique de référence
Cet article fait partie de l’offre
Technologies logicielles Architectures des systèmes
(239 articles en ce moment)
Cette offre vous donne accès à :
Une base complète d’articles
Actualisée et enrichie d’articles validés par nos comités scientifiques
Des services
Un ensemble d'outils exclusifs en complément des ressources
Un Parcours Pratique
Opérationnel et didactique, pour garantir l'acquisition des compétences transverses
Doc & Quiz
Des articles interactifs avec des quiz, pour une lecture constructive
Réseaux neuronaux profonds
BIBLIOGRAPHIE
-
(1) - LE CUN (Y.) - Quand la machine apprend, la révolution des réseaux de neurones et l’apprentissage profond – - Odile Jacob (2021).
-
(2) - HATON (J.-P.) et al - Intelligences artificielles : de la théorie à la pratique – - Dunod (2023).
-
(3) - GOODFELLOW (I.) et al - Generative Adversarial Networks. - Advances in Neural Information Processing Systems, 27 (2014).
-
(4) - SOHL-DICKSTEIN (J.) et al - Deep unsupervised learning using non equilibrium thermodynamics. - Proc. 32nd Int. Conf. on Machine Learning, Lille, France (2015).
-
(5) - RAMESH (A.) et al - Hierarchical Text-Conditional Image Generation with CLIP Latents. - (2022) arXiv.org: 2204.06125.
-
(6) - NICHOL (A.) et al - Point·E: A System for...
DANS NOS BASES DOCUMENTAIRES
L'expertise technique et scientifique de référence
Cet article fait partie de l’offre
Technologies logicielles Architectures des systèmes
(239 articles en ce moment)
Cette offre vous donne accès à :
Une base complète d’articles
Actualisée et enrichie d’articles validés par nos comités scientifiques
Des services
Un ensemble d'outils exclusifs en complément des ressources
Un Parcours Pratique
Opérationnel et didactique, pour garantir l'acquisition des compétences transverses
Doc & Quiz
Des articles interactifs avec des quiz, pour une lecture constructive
