Inferenza efficiente dell'IA con Red Hat AI

L'implementazione di modelli di machine learning è solo metà della battaglia; la vera sfida consiste nel servire questi modelli in modo rapido e conveniente su scala. In questo corso pratico, basato solo su testo, imparerai a padroneggiare i fondamenti del model serving e a sfruttare Red Hat AI per semplificare la pipeline di deployment.Passerai dai concetti di base alle strategie di ottimizzazione avanzate, assicurandoti che i tuoi sistemi AI funzionino in modo affidabile negli ambienti di produzione. Cosa imparerai: - Comprendere i concetti fondamentali di inferenza AI, latenza, throughput e accelerazione hardware. - Configura gli ambienti Red Hat AI per servire i modelli in modo efficiente su scala. - Applicare tecniche di ottimizzazione come la quantizzazione per ridurre l'impronta del modello. - Implementare pratiche MLOps moderne per la distribuzione e il monitoraggio senza soluzione di continuità del modello. - Scala i carichi di lavoro di inferenza dinamicamente utilizzando modelli di orchestrazione containerizzati. - Esplora i modelli di generazione aumentata di recupero (RAG) per query contestuali ottimizzate. Inizieremo con la terminologia essenziale e i meccanismi fondamentali del model serving, per poi passare a spiegazioni chiare e strutturate e snippet di codice che illustrano come configurare, ottimizzare e gestire pipeline di inferenza ad alte prestazioni. Questo corso è ideale per principianti, sviluppatori e amministratori di sistema che desiderano entrare nel campo della distribuzione dell'IA.Non è richiesta alcuna esperienza precedente di apprendimento automatico. Inizia oggi stesso a creare pipeline di distribuzione dell'IA più veloci ed efficienti.