Présentation
En anglaisRÉSUMÉ
Les machines à noyaux constituent une classe d’algorithmes permettant d’extraire de l’information à partir de données dans un cadre non paramétrique. L’intérêt suscité par ces méthodes tient d’abord aux excellentes performances qu’elles ont permis d’obtenir notamment sur les problèmes de grande taille. Cette bonne tenue à la charge est due à la parcimonie de la solution et à la faible complexité de son calcul. L’intérêt des machines à noyaux réside aussi dans leur caractère flexible et rigoureux, approche, qui recèle un grand potentiel. Cet article vise à introduire les machines à noyaux en se focalisant sur la plus populaire, le séparateur à vaste marge.
Lire cet article issu d'une ressource documentaire complète, actualisée et validée par des comités scientifiques.
Lire l’articleABSTRACT
Kernel methods are a class of algorithms for extracting information from data in a non-parametric framework. The interest generated by these methods is due to the excellent performances they have yielded, especially on large scale problems. These performances are the result of parsimonious solutions and the low complexity of its calculation. The value of kernel methods lies in their flexible and rigorous character, an approach that has great potential. This article presents kernel methods focusing on the most popular element, the support vector machine (SVM)
Auteur(s)
-
Stéphane CANU : Professeur des Universités - Directeur du LITIS, INSA de Rouen
INTRODUCTION
Les machines à noyaux constituent une classe d’algorithmes permettant d’extraire de l’information à partir de données dans un cadre non paramétrique. L’intérêt suscité par ces méthodes tient d’abord aux excellentes performances qu’elles ont permis d’obtenir notamment sur les problèmes de grande taille. Cette bonne tenue à la charge est due à la parcimonie de la solution et à la faible complexité de son calcul. L’intérêt des machines à noyaux réside aussi dans leur caractère flexible et rigoureux, approche, qui recèle un grand potentiel. Ce dossier vise à introduire les machines à noyaux en se focalisant sur la plus populaire, le séparateur à vaste marge (SVM), en faisant le point sur les différentes facettes de son utilisation. L’accent est mis sur les considérations pratiques liées à la mise en œuvre de ce type de méthode.
DOI (Digital Object Identifier)
CET ARTICLE SE TROUVE ÉGALEMENT DANS :
Accueil > Ressources documentaires > Technologies de l'information > Technologies logicielles Architectures des systèmes > Intelligence artificielle > Machines à noyaux pour l’apprentissage statistique > Aspects pratiques liés à la mise en œuvre des machines à noyaux
Cet article fait partie de l’offre
Technologies logicielles Architectures des systèmes
(239 articles en ce moment)
Cette offre vous donne accès à :
Une base complète d’articles
Actualisée et enrichie d’articles validés par nos comités scientifiques
Des services
Un ensemble d'outils exclusifs en complément des ressources
Un Parcours Pratique
Opérationnel et didactique, pour garantir l'acquisition des compétences transverses
Doc & Quiz
Des articles interactifs avec des quiz, pour une lecture constructive
Présentation
6. Aspects pratiques liés à la mise en œuvre des machines à noyaux
Dans le cadre paramétrique, les études statistiques commencent par une phase de définition du modèle suivie par une phase d’identification des paramètres et s’achève par une étude de validation. Dans le cadre non paramétrique, qui est celui de l’utilisation d’une machine à noyaux, la phase de modélisation est remplacée par une méthodologie assez complexe dans laquelle il faut choisir le noyau et identifier les hyperparamètres, ce qui revient à sélectionner un modèle qui convient. Cette phase est souvent très coûteuse en terme de temps de calcul d’où la nécessité de disposer d’une méthode efficace pour l’identification des paramètres (résolution du problème posé par les équations [8]).
Nous allons présenter différents aspects liés à la mise en œuvre des machines à noyaux en commençant par la brique de base : la méthode de résolution du problème de programmation quadratique posé par les SVM [8]. Nous allons ensuite montrer comment effectuer la sélection du modèle dans ce cadre et finir par proposer une méthode globale pour l’utilisation des machines à noyaux.
6.1 Noyau et optimisation
L’une des clés du succès des machines à noyaux parcimonieuses est l’existence de méthodes efficaces permettant de résoudre les problèmes d’optimisation associés. Cette efficacité est toute relative car le problème d’optimisation, analogue à un simplex, est dans le pire des cas de complexité non polynomiale. Mais en pratique sur les problèmes concrets, on constate une complexité polynomiale de type , voire moins. Il faut souligner que dans le cadre général, le problème des splines généralisées nécessite la résolution d’un système linéaire de complexité...
Cet article fait partie de l’offre
Technologies logicielles Architectures des systèmes
(239 articles en ce moment)
Cette offre vous donne accès à :
Une base complète d’articles
Actualisée et enrichie d’articles validés par nos comités scientifiques
Des services
Un ensemble d'outils exclusifs en complément des ressources
Un Parcours Pratique
Opérationnel et didactique, pour garantir l'acquisition des compétences transverses
Doc & Quiz
Des articles interactifs avec des quiz, pour une lecture constructive
Aspects pratiques liés à la mise en œuvre des machines à noyaux
BIBLIOGRAPHIE
-
(1) - VAPNIK (V.) - Statistical Learning Theory - . Wiley, 1998.
-
(2) - HASTIE (T.), TIBSHIRANI (R.), FRIEDMAN (J.) - The elements of statistical learning - . Data Mining, inference and predictions, Springer, 2001.
-
(3) - HERBRICH (R.) - Learning Kernel Classifiers - . The MIT Press, 2002.
-
(4) - SCHOELKOPF (B.), SMOLA (A.J.) - Learning with Kernels - . The MIT Press, 2002.
-
(5) - SHAWE-TAYLOR (J.), CRISTIANIN (N.) - Kernel Methods for Pattern Analysis - . Cambridge Univ. Press, 2004.
-
(6) - * - Trois sites de référence : http://www.kernel-machines.org, http://jmlr.csail.mit.edu, http://www.nips.cc.
-
(7)...
Cet article fait partie de l’offre
Technologies logicielles Architectures des systèmes
(239 articles en ce moment)
Cette offre vous donne accès à :
Une base complète d’articles
Actualisée et enrichie d’articles validés par nos comités scientifiques
Des services
Un ensemble d'outils exclusifs en complément des ressources
Un Parcours Pratique
Opérationnel et didactique, pour garantir l'acquisition des compétences transverses
Doc & Quiz
Des articles interactifs avec des quiz, pour une lecture constructive