La commande prédictive non linéaire (NMPC) est largement utilisée en ingénierie d'automatique en raison de sa capacité à gérer les contraintes et à optimiser les performances. Toutefois, son efficacité dépend fortement du réglage de ses paramètres. L'apprentissage par renforcement (reinforcement learning, RL), grâce à sa nature adaptative, constitue une approche prometteuse pour automatiser ce processus. Cependant, l'intégration du RL à la NMPC soulève des défis majeurs liés à la stabilité, à la convergence et à la complexité de calcul. Cette thèse aborde ces enjeux en développant un ensemble de méthodes d'apprentissage combinant de manière systématique les algorithmes de RL avec la NMPC. La thèse débute par l'établissement des fondements théoriques du RL et de la NMPC. Sur cette base, trois approches de type value-based RL sont proposées, intégrant la NMPC comme approximateur de fonction au sein des algorithmes de RL : (i) une méthode regularized deep policy evaluation via TD(0), dans laquelle la NMPC joue le rôle de la value function tandis qu'un réseau neuronal approxime les valeurs successives de cette fonction, (ii) une méthode policy evaluation via gradient TD intégrant un contrôleur prédictif paramétré comme approximateur stable de la value function, et (iii) une approche deep Q-learning visant à apprendre la Q-function, exploitant la structure NMPC pour contraindre la sélection des actions. Dans leur ensemble, ces méthodes améliorent la stabilité, réduisent le coût de calcul et permettent d'obtenir des politiques localement optimales. La thèse explore ensuite les méthodes de type policy-based RL au travers d'une architecture actor-critic, dans laquelle la NMPC sert comme approximateur de la fonction politique. Afin de réduire le coût de calcul induit par cette intégration, deux stratégies d'approximation des state-action features du critic sont proposées : la première s'appuie sur des réseaux neuronaux, tandis que la seconde exploite directement les calculs structurels réalisés lors de la résolution de la NMPC. Finalement, une optimisation multi-objectif en RL est développée pour le contrôle optimal. Une formulation NMPC fondée sur l'algorithme Greedy-GQ est d'abord présentée afin d'assurer la compatibilité théorique avec les méthodes d'apprentissage de type gradient temporal difference. Sur cette base, une méthode améliorée, dite Fast Greedy-GQ, est proposée, combinant l'algorithme Greedy-GQ avec une technique de correction de gradient inspirée de la méthode TDC (temporal difference with correction). Cette combinaison permet de réduire la variance, d'accélérer la convergence et de préserver les garanties théoriques de stabilité.L'ensemble des méthodes proposées est évalué sur des systèmes non linéaires, notamment la navigation d'un robot mobile et la stabilisation du système pendule inverse.Dans l'ensemble, cette thèse contribue à l'intégration du RL et de la NMPC en introduisant de nouveaux algorithmes améliorant la stabilité et l'efficacité calculatoire, étendant ainsi les perspectives d'application du RL-NMPC dans des applications du monde réel.