Commande optimale des systèmes dynamiques hybrides

1. Commande optimale des systèmes dynamiques hybrides C.Iung P.Riedinger EEA 20/03/2003 Claude Iung Centre de Recherche en Automatique de Nancy

2. La commande optimale Pour définir un problème de commande optimale, nous devons avoir • Un système dynamique i.e • Un espace de temps T • Un espace d’état X • Un espace de commandes U • Une fonction de transition d’état f(t,t0,x0,u) • Quelques axiomes de bon sens • Un critère additif • J(t0,tf,x0,u)= J(t0,ti,x0,u)+ J(ti,tf,xi,u) EEA 20/03/2003 Claude Iung Centre de Recherche en Automatique de Nancy

3. Commande optimale 2 classes de méthodes : • Méthodes variationelles la commande optimale û est caractérisée par le fait qu’une commande u=û+du doit donner un critère supérieur en exprimant en fonction de du on peut espérer trouver des caractérisations de û • Programmation dynamique l’application du théorème de Bellman peut donner une équation sur les critères dont la solution conduira au critère optimal EEA 20/03/2003 Claude Iung Centre de Recherche en Automatique de Nancy

4. Méthodes variationnelles • Elles s’appliquent lorsqu’il est possible d’évaluer la variation du critère en fonction de la variation de la commande.Ceci suppose des hypothèses de continuité voire de dérivabilité du critère optimal en fonction de u. • Le théorème de référence est le théorème de Pontriaguine. EEA 20/03/2003 Claude Iung Centre de Recherche en Automatique de Nancy

5. Théorème de Pontriaguine • Soit • le système dynamique : où f est continue sur • Le critère f est C1 Si sont optimales alors il existe une fonction l et une constante l0 <0, telles que • x et l vérifient les équations canoniques de Hamilton • et û(t) maximise la fonction hamiltonienne sur [t0 tf] EEA 20/03/2003 Claude Iung Centre de Recherche en Automatique de Nancy

6. Théorème de Pontriaguine, remarques • Sous des conditions assez faibles, s’il existe des commandes satisfaisant aux conditions aux extémités, alors il existe une commande optimale. • La recherche des trajectoires optimales et un problème de tir de dimension 2n. En effet s’ajoutent les conditions de tranversalité : EEA 20/03/2003 Claude Iung Centre de Recherche en Automatique de Nancy

7. s s d s s s z k & = x f ( x , u , t ) k = y g ( x , u , t ) k = z h ( x , u , t ) k SYSTEME DYNAMIQUE HYBRIDE =SYSTEME FORME PAR LE COUPLAGE DE SYSTEMES DYNAMIQUES CONTINUS ET DISCRETS Interface Interface discret/continu continu/discret k z y u EEA 20/03/2003 Claude Iung Centre de Recherche en Automatique de Nancy

8. Quelques phénomènes hybrides Le saut autonome • Exemples : • chocs, • hystérésis, • seuils, • saturations, ... Le saut commandé Le champ de vecteurs f et/ou l’état x(.) changent de façon discontinues en réponse à une commande de contrôle. • Exemple : • Circuit électrique avec interrupteurs Conséquence • Changement de dimension de l’état EEA 20/03/2003 Claude Iung Centre de Recherche en Automatique de Nancy

9. Sauts de l’état EEA 20/03/2003 Claude Iung Centre de Recherche en Automatique de Nancy

10. Extension aux systèmes commutés 1 Hypothèse : À tout instant on peut choisir le mode parmi tous les modes existants La commande d(t) a un nombre fini de valeurs EEA 20/03/2003 Claude Iung Centre de Recherche en Automatique de Nancy

11. Extension aux systèmes commutés 2 • Le théorème de Pontriaguine s’applique • Aux instants de commutation EEA 20/03/2003 Claude Iung Centre de Recherche en Automatique de Nancy

12. Extension aux systèmes commutés 3 • On convexifie le problème et on cherche les commandes bang-bang Avec • Un problème : comme la commande est plus « pauvre » que dans le cas continu, il peut exister des commandes, mais pas de commande optimale. • C’est le cas lorsque les fonctions hamiltoniennes sont égales pour une valeurs de la commande discrète convexifiée, sur un intervalle non nul. EEA 20/03/2003 Claude Iung Centre de Recherche en Automatique de Nancy

13. Dynamique Critère Hamiltonien Loi de commande Données : EEA 20/03/2003 Claude Iung Centre de Recherche en Automatique de Nancy

14. Trajectoire quelconque obtenue pour un temps T1=1.4 Ensemble des trajectoires candidates à l ’optimalité joignant le point final en un temps T < T1 Conclusion : il n ’existe pas de chemin optimal EEA 20/03/2003 Claude Iung Centre de Recherche en Automatique de Nancy

15. La solution sous optimale • Le système étendu • Loi de commande • Question : Existe-t-il un intervalle de temps non nul tel que • Réponse : oui EEA 20/03/2003 Claude Iung Centre de Recherche en Automatique de Nancy

16. La solution sous optimale x2 x2 x1 x1 T1=1.4035 s T3=1.3489 s T5=1.3446 s T17=1.3435 s T=1.3404 s EEA 20/03/2003 Claude Iung Centre de Recherche en Automatique de Nancy

17. Systèmes avec sauts autonomes 1 Extension du théorème • Par intégration d ’un critère terminal au PM • par application du principe d’optimalité de Bellman sous la contrainte EEA 20/03/2003 Claude Iung Centre de Recherche en Automatique de Nancy

18. Systèmes avec sauts autonomes 3 • Le recherche des solutions se complique car • On ne peut savoir à l’avance si une frontière sera franchie • Ni laquelle • Tous les cas doivent être envisagés EEA 20/03/2003 Claude Iung Centre de Recherche en Automatique de Nancy

19. Système avec sauts autonomes 2 • Une extension est nécessaire : • f n’est plus continue en x (au passage des frontières) • l ne peut donc plus être solution de • Cette condition est remplacée par la condition de transversalité sur la frontière, en tenant compte du critère terminal : il existe un vecteur p EEA 20/03/2003 Claude Iung Centre de Recherche en Automatique de Nancy

20. Un exemple hystérésis 1 Critère On peut réécrire le système Automate associé EEA 20/03/2003 Claude Iung Centre de Recherche en Automatique de Nancy

21. Un exemple hystérésis 2 Aux instants de commutation EEA 20/03/2003 Claude Iung Centre de Recherche en Automatique de Nancy

22. 0.9 0.8 0.7 0.6 cost 0.5 0.4 0.3 0.2 0.1 0 0 100 200 300 400 500 600 700 800 q Un exemple hystérésis 3 • Il est impossible de savoir au départ quel est le nombre optimal de commutations; • Seul le calcul du coût permet de conclure • Vers un point limite • Ou vers un cycle q=200 , q=400 , q=800 EEA 20/03/2003 Claude Iung Centre de Recherche en Automatique de Nancy

23. La programmation dynamique et les équations HJB • Théorème 1: Si une trajectoire admissible ( x; q )( : ) déterminée par la donnée de la condition initiale ( x 0 ; q 0 )( : ) et de la commande ( u; d )( : ) , est optimale alors les conditions suivantes sont vérifiées : pour presque tout t 2 [ a; b ] EEA 20/03/2003 Claude Iung Centre de Recherche en Automatique de Nancy

24. En pratique 1 • Pour résoudre ces équations, il est obligatoire de discrétiser (cf Hedlung & Rantzer). • Une approche intéressante consiste à discrétiser le problème dès le départ. Deux voies apparaissent intéressantes • Approche MLD(Bemporad, Morari) • Approche RPD(Lincoln and Rantzer CDC2002, ADSH2003) • Des commandes sous optimales sont recherchées par encadrement • Systèmes affines par morceaux, partition de l’espace d’état EEA 20/03/2003 Claude Iung Centre de Recherche en Automatique de Nancy

25. En pratique 2 • Avec le PM : • Problème aux frontières multiples (Conditions partagées aux instants initial et final et aux instants de commutations) • Bifurcation dans la trajectoire dès qu'une transition discrète est autorisée ) Résolution par la programmation dynamique • Notons que le PM revient également à résoudre HJB mais dans des directions privilégiées correspondant aux trajectoires optimales et pour lesquelles la continuité de V est assurée • Conclusion : • Des C.N. bien établies • Des efforts à mener pour parvenir à des algorithmes de résolution efficaces EEA 20/03/2003 Claude Iung Centre de Recherche en Automatique de Nancy