Convolutional Neural Networks (CNNs) have been incredibly effective for object detection tasks. YOLOv4 is a state-of-the-art object detection algorithm designed for embedded systems. It is based on YOLOv3 and has improved accuracy, speed, and robustness. However, deploying CNNs on embedded systems such as Field Programmable Gate Arrays (FPGAs) is difficult due to their limited resources. To address this issue, FPGA-based CNN architectures have been developed to improve the resource utilization of CNNs, resulting in improved accuracy and speed. This paper examines the use of General Matrix Multiplication Operations (GEMM) to accelerate the execution of YOLOv4 on embedded systems. It reviews the most recent GEMM implementations and evaluates their accuracy and robustness. It also discusses the challenges of deploying YOLOv4 on autonomous vehicle datasets. Finally, the paper presents a case study demonstrating the successful implementation of YOLOv4 on an Intel Arria 10 embedded system using GEMM.

Deploying deep learning-based object detection models like YOLOv4 on resource-constrained embedded ar-chitectures presents several challenges, particularly regarding computing performance, memory usage, and energy consumption. This study examines the quantization of the YOLOv4 model to facilitate real-time inference on lightweight edge devices, focusing on NVIDIA’s Jetson Nano and AGX. We utilize post-training quantization techniques to reduce both model size and computational complexity, all while striving to maintain acceptable detection accuracy. Experimental results indicate that an 8-bit quantized YOLOv4 model can achieve near real-time performance with minimal accuracy loss. This makes it well-suited for embedded applications such as autonomous navigation. Additionally, this research highlights the trade-offs between model compression and detection performance, proposing an optimization method tailored to the hardware constraints of embedded architectures.

Real-time object detection is crucial for autonomous vehicles, and YOLO (You Only Look Once) algorithms have demonstrated their effectiveness for this purpose. This study examines the performance of YOLOv4 [3] for real-time object detection on an embedded architecture. We focus on optimizing the computationally intensive convolution operations by employing the cuDNN library to achieve efficient inference. The evaluation assesses critical performance metrics, including object detection accuracy in terms of Mean Average Precision (mAP) and inference latency on the embedded architecture. We conduct a comparative analysis using the publicly available KITTI [7] database. The reported results establish a benchmark between the parallelized YOLOv4 model and the baseline implementation, assessing the advantages of cuDNN acceleration for real-time object detection on resource-constrained devices.

Ces dernières années, l'intégration de l'intelligence artificielle (IA) dans les systèmes embarqués a ouvert de nouveaux horizons pour les applications en temps réel, notamment les véhicules autonomes, la surveillance intelligente et la robotique. Cependant, le déploiement de modèles d'IA dans ces environnements embarqués présente des défis notables, en particulier les compromis entre la performance de calcul, l'efficacité énergétique et la précision du modèle. Cette thèse, intitulée « Méthodologie d'optimisation de la configuration matérielle-logicielle pour la détection d'objets dédiée aux véhicules autonomes », propose une méthodologie complète pour optimiser les configurations matérielles et logicielles des systèmes embarqués qui mettent en œuvre des technologies d'IA.La recherche se concentre sur les modèles de détection d'objets, notamment l'algorithme YOLOv4, adaptés aux architectures à ressources limitées telles que le Nvidia Jetson Xavier AGX et Jetson Nano. Les principaux objectifs sont l'amélioration des capacités de traitement en temps réel, la garantie d'une grande précision et la minimisation de la consommation de ressources. La méthodologie intègre des techniques de compression de modèles, telles que le pruning et la quantification, afin de réduire la complexité de calcul tout en maintenant une précision de détection significative pour les objets critiques, y compris les voitures, les vélos et les piétons, essentiels pour les applications de conduite autonome.L'approche proposée a été validée par une série d'évaluations expérimentales approfondies sur les plateformes Jetson AGX Xavier et Jetson Nano, démontrant la faisabilité d'un traitement en temps réel selon différentes stratégies d'optimisation. En particulier, la méthode d'élagage appliquée sur l'AGX a permis d'atteindre un taux de précision de 75 % à une fréquence d'inférence de 31.3 FPS, contre 5 FPS avec une précision de 70.62 % sur le Jetson Nano. En parallèle, la quantization post-entraînement (INT8) a offert un gain considérable en vitesse sur l'AGX, atteignant 62.5 FPS, au prix d'une réduction de précision à 56.69 %. Sur le Jetson Nano, la même méthode a permis de conserver une précision moyenne stable de 68.5 % à 5 FPS, ce qui souligne sa robustesse dans des contextes à fortes contraintes de ressources.Ce travail contribue à l'état de l'art en fournissant un cadre évolutif et systématique pour l'optimisation de l'IA, ouvrant la voie à des systèmes embarqués plus intelligents et plus réactifs dans les applications du monde réel. Les résultats sont particulièrement importants pour le développement de véhicules autonomes fiables et efficaces, et s'inscrivent dans le cadre des efforts mondiaux visant à améliorer la sécurité routière et à faire progresser les systèmes de transport intelligents.