Progettazione di Sistemi ML: Tecniche di Stima "a spanne"

Quando si progettano sistemi di machine learning, effettuare rapide e accurate approssimazioni dei requisiti di risorse è un'abilità fondamentale sia per i colloqui di ingegneria che per la pianificazione della produzione nel mondo reale. Questo corso basato su testo ti insegna come eseguire calcoli rapidi "a spanne" senza impantanarti in formule complesse. Passerari dal congetturare le esigenze infrastrutturali alla stima sicura delle dimensioni del modello, della capacità di storage, del throughput di rete e delle tempistiche di addestramento. Cosa imparerai: - Calcolare l'impronta di memoria del modello e i requisiti di storage sia per architetture transformer tradizionali che moderne. - Stimare il throughput di rete, la latenza e i vincoli di query-al-secondo per le API di machine learning in tempo reale. - Calcolare il tempo di addestramento e i requisiti hardware in base alle dimensioni del dataset, alla dimensione del batch e alle operazioni in virgola mobile. - Dimensionare database vettoriali e pipeline di generazione aumentata da recupero per applicazioni AI moderne. - Applicare strategie di stima a scenari del mondo reale, confrontando i compromessi tra memoria CPU e GPU. - Analizzare le implicazioni dei costi di storage, calcolo e trasferimento dati durante la fase di progettazione. Il corso inizia con concetti fondamentali, terminologia chiave e le unità matematiche di base della progettazione di sistemi. Proseguirari quindi attraverso esempi scritti guidati e analisi passo-passo, analizzando scenari che vanno dai motori di raccomandazione di base alle moderne implementazioni di modelli linguistici su larga scala. Progettato specificamente per ingegneri del software, data scientist e aspiranti ingegneri di machine learning, questo corso non richiede alcuna esperienza infrastrutturale avanzata. Inizia a leggere oggi stesso per sviluppare le competenze quantitative necessarie per progettare sistemi di machine learning scalabili ed economicamente vantaggiosi.