Amine Salaje

Amine Salaje


Research Focus & Metrics

Academic Career Length

2Years (2025-Present)

(Calculated once Scilit publication data is synced: current year − year of first publication + 1)

Representative Publications

View All Publications
23 May 2025 in Applied Sciences
Verified
Journal Article
Open access
PDF file
MUMuhammad Usama
Muhammad Usama
ASAmine Salaje
Amine Salaje
TCThomas Chevet
Thomas Chevet
Nicolas LangloisNicolas Langlois
Nicolas Langlois
This paper presents a novel control strategy employing a deep reinforcement learning (DRL) scheme for online selection of optimal weighting factors in cost functions of the finite control set model predictive current controller of a permanent magnet synchronous motor (PMSM). Indeed, when designing predictive controllers for PMSMs’ phase currents, competing objectives appear, such as managing current convergence and switching transitions. These objectives result in an asymmetric cost function where they have to be balanced through weighting factors in order to enhance the inverter and motor performance. Leveraging the twin delayed deep deterministic policy gradient algorithm, the optimal weighting factor selection policy is obtained for online balancing of the choice between current deviation in the dq frame and inverter commutations. For comparison, a metaheuristic-based artificial neural network is trained on static data obtained through a multi-objective genetic algorithm to predict the weights. The key performance markers, such as torque ripple, total harmonic distortion, switching frequency, steady-state, and dynamic performance, are provided through numerical simulations to verify the effectiveness of the proposed tuning scheme. The results of these simulations confirm that the proposed dynamic control scheme effectively resolves the challenges of weighting factor choice, meeting inverter performance requirements, and delivering better dynamic and steady-state performance.

7 October 2026
Verified
Thesis
Closed access
ASAmine Salaje
Amine Salaje
La commande prédictive non linéaire (NMPC) est largement utilisée en ingénierie d'automatique en raison de sa capacité à gérer les contraintes et à optimiser les performances. Toutefois, son efficacité dépend fortement du réglage de ses paramètres. L'apprentissage par renforcement (reinforcement learning, RL), grâce à sa nature adaptative, constitue une approche prometteuse pour automatiser ce processus. Cependant, l'intégration du RL à la NMPC soulève des défis majeurs liés à la stabilité, à la convergence et à la complexité de calcul. Cette thèse aborde ces enjeux en développant un ensemble de méthodes d'apprentissage combinant de manière systématique les algorithmes de RL avec la NMPC. La thèse débute par l'établissement des fondements théoriques du RL et de la NMPC. Sur cette base, trois approches de type value-based RL sont proposées, intégrant la NMPC comme approximateur de fonction au sein des algorithmes de RL : (i) une méthode regularized deep policy evaluation via TD(0), dans laquelle la NMPC joue le rôle de la value function tandis qu'un réseau neuronal approxime les valeurs successives de cette fonction, (ii) une méthode policy evaluation via gradient TD intégrant un contrôleur prédictif paramétré comme approximateur stable de la value function, et (iii) une approche deep Q-learning visant à apprendre la Q-function, exploitant la structure NMPC pour contraindre la sélection des actions. Dans leur ensemble, ces méthodes améliorent la stabilité, réduisent le coût de calcul et permettent d'obtenir des politiques localement optimales. La thèse explore ensuite les méthodes de type policy-based RL au travers d'une architecture actor-critic, dans laquelle la NMPC sert comme approximateur de la fonction politique. Afin de réduire le coût de calcul induit par cette intégration, deux stratégies d'approximation des state-action features du critic sont proposées : la première s'appuie sur des réseaux neuronaux, tandis que la seconde exploite directement les calculs structurels réalisés lors de la résolution de la NMPC. Finalement, une optimisation multi-objectif en RL est développée pour le contrôle optimal. Une formulation NMPC fondée sur l'algorithme Greedy-GQ est d'abord présentée afin d'assurer la compatibilité théorique avec les méthodes d'apprentissage de type gradient temporal difference. Sur cette base, une méthode améliorée, dite Fast Greedy-GQ, est proposée, combinant l'algorithme Greedy-GQ avec une technique de correction de gradient inspirée de la méthode TDC (temporal difference with correction). Cette combinaison permet de réduire la variance, d'accélérer la convergence et de préserver les garanties théoriques de stabilité.L'ensemble des méthodes proposées est évalué sur des systèmes non linéaires, notamment la navigation d'un robot mobile et la stabilisation du système pendule inverse.Dans l'ensemble, cette thèse contribue à l'intégration du RL et de la NMPC en introduisant de nouveaux algorithmes améliorant la stabilité et l'efficacité calculatoire, étendant ainsi les perspectives d'application du RL-NMPC dans des applications du monde réel.