Déploiement de LLM et d'IA Générative avec NVIDIA : Préparation à l'examen Associate

Le déploiement efficace de grands modèles de langage nécessite une accélération matérielle spécialisée et une optimisation logicielle. Ce cours basé sur du texte vous guide à travers les concepts fondamentaux de la mise en service de modèles d'IA générative à l'aide des technologies NVIDIA standard de l'industrie. Vous passerez de la compréhension des architectures de modèles de base à la configuration et au déploiement de pipelines d'inférence haute performance. Grâce à des explications structurées, des analyses architecturales et des présentations de configuration, vous acquerrez les connaissances pratiques nécessaires pour optimiser les modèles pour la production et vous préparer en toute confiance aux examens de déploiement de niveau Associate. Ce que vous apprendrez : * Comprendre l'architecture centrale des grands modèles de langage et des pipelines de déploiement d'IA générative ; * Configurer Triton Inference Server pour la mise en service évolutive de plusieurs modèles ; * Optimiser les performances des modèles à l'aide de TensorRT-LLM et des techniques de quantification modernes ; * Déployer des flux de travail de génération augmentée par récupération (RAG) pour les environnements de production ; * Surveiller et dépanner la latence, le débit et l'utilisation du matériel des modèles ; * S'entraîner avec des concepts alignés sur les examens pour renforcer la confiance en vue de la certification de niveau Associate. Le cours commence par la terminologie essentielle et les bases de l'inférence accélérée par le matériel avant de passer à des scénarios de configuration pratiques. Vous explorerez des stratégies de déploiement pratiques, le réglage des performances et les modèles d'optimisation grâce à des explications claires et écrites et à des exemples de configuration. Ce cours est conçu pour les futurs ingénieurs IA, administrateurs système et développeurs souhaitant entrer dans le domaine des opérations IA ; aucune expérience préalable en déploiement n'est requise, bien qu'une familiarité de base avec les concepts d'IA soit utile. Commencez à lire dès aujourd'hui pour maîtriser les bases du déploiement d'IA générative haute performance.