1 / 16

Algorithmes de descente par blocs pour l’apprentissage creux

Algorithmes de descente par blocs pour l’apprentissage creux. Mehdi Meghzifene – IF Ensimag 2A 18 mai 2011. Objectif. Réduire le nombre de paramètres décrivant un individu. k < < m. Comment?. En minimisant l’erreur de reconstruction pour k fixé. ACP. où.

teegan-tran
Download Presentation

Algorithmes de descente par blocs pour l’apprentissage creux

An Image/Link below is provided (as is) to download presentation Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author. Content is provided to you AS IS for your information and personal use only. Download presentation by click this link. While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server. During download, if you can't get a presentation, the file might be deleted by the publisher.

E N D

Presentation Transcript

  1. Algorithmes de descente par blocs pour l’apprentissagecreux Mehdi Meghzifene – IF Ensimag 2A 18 mai 2011

  2. Objectif Réduire le nombre de paramètres décrivant un individu. k < < m

  3. Comment? En minimisantl’erreur de reconstruction pour k fixé.

  4. ACP où

  5. Formulation du Problème Relacher la contrainted’orthogonalité pour obtenirune compression plus forte. parcimonie Minimisation de l’erreur Problème trop complexe

  6. Norme ||.||1 Pourquoi la norme ||.||1?

  7. Difficultés & Solutions • h n’est pas convexe. • On considère donc les fonctions partielles • f n’est pas différentiable. • On doit avoir recours à des algorithmes spécifiques pour résoudre

  8. Algorithme de descente par coordonnée Minimisation à tour de rôle selon chaque coefficient de α.

  9. Convergence Preuve adaptée de Non LinearProgramming,Bertsekas

  10. Expériences

  11. AlgorithmesImplémentés

  12. Résultats Descente α

  13. Résultats Descente D

  14. RésultatsParcimonie

  15. Comparaison avec l’ACP

  16. MERCI

More Related