Progettazione dell'Architettura LLM: Confrontare e Analizzare le Architetture dei Modelli

Selezionare la giusta architettura di modello linguistico di grandi dimensioni è la base per costruire applicazioni AI efficienti, economiche e potenti. Con le varie famiglie di modelli e le variazioni strutturali disponibili oggi, comprendere le loro differenze è cruciale per prendere decisioni ingegneristiche informate. Questo corso basato su testo ti fornisce il quadro concettuale necessario per analizzare, confrontare e progettare architetture LLM per la distribuzione nel mondo reale. Imparerai a valutare i compromessi dei modelli, dai meccanismi di attenzione all'efficienza dei parametri, attraverso spiegazioni strutturate e scenari di progettazione scritti. Cosa imparerai: Comprendere i blocchi costitutivi fondamentali delle architetture Transformer, incluse le variazioni di encoder e decoder; Analizzare i moderni meccanismi di attenzione come Multi-Head Attention e Grouped-Query Attention (GQA); Confrontare i compromessi prestazionali riguardo allo scaling della finestra di contesto, alla latenza e all'ingombro della memoria; Valutare come le scelte architettoniche influenzano le strategie di Retrieval-Augmented Generation (RAG) e di fine-tuning; Applicare framework di selezione sistematici per scegliere il modello ottimale per specifici casi d'uso aziendali. Il corso inizia con la terminologia essenziale e i concetti strutturali fondamentali prima di passare all'analisi comparativa delle moderne famiglie di modelli. Progredirai attraverso casi di studio scritti e walkthrough di architetture che simulano decisioni di progettazione del mondo reale. Questo corso è progettato per sviluppatori di software, product manager tecnici e aspiranti ingegneri AI che desiderano comprendere il lato strutturale degli LLM. Non è richiesta alcuna conoscenza pregressa della matematica del deep learning. Leggi i moduli per scegliere e progettare con sicurezza la tua prossima architettura di sistema AI.