Templat:Cite archive Templat archive:CITE archive

Memasang model bahasa besar ke produksi membutuhkan lebih dari sekadar panggilan API; hal ini membutuhkan operasi yang kuat, optimalisasi biaya, dan infrastruktur yang dapat disesuaikan. Anda akan mendapatkan pemahaman mendalam tentang cara mengelola siklus hidup model seperti Llama, mengoptimalkan kecepatan inferensi, dan meminimalkan biaya komputasi. Dengan mempelajari arsitektur dan pola konfigurasi praktis, Anda akan belajar membangun pipa peluncuran AI yang efisien, dapat disesuaikan, dan aman. Apa yang akan kau pelajari: - Mengerti konsep dasar LLMOps, siklus hidup model, dan transisi dari MLOps tradisional ke pipa LLM-spesifik. - Konfigurasi dan jejak model menggunakan MLflow untuk versi, logging, dan manajemen siklus hidup sistematis. - Terapkan teknik optimasi dan kuantisasi canggih, termasuk GPTQ, AWQ, dan LoRA, untuk mengurangi ukuran model dan biaya operasional. - Skala inference workloads efisien menggunakan Ray, strategi batching, Flash Attention, dan Paged Attention. - Mengintegrasikan pola modern retrieval-augmented generation (RAG) dan kerangka observability untuk memonitor kinerja model dan jejak keluaran. Mulai dari definisi dasar model hosting, kursus ini memandu Anda langkah demi langkah melalui konfigurasi, optimalisasi, skala, dan pemantauan produksi. Anda akan belajar melalui penjelasan tertulis yang jelas, walkthrough arsitektur yang terstruktur, dan latihan konseptual. Kursus ini dirancang untuk insinyur perangkat lunak, ilmuwan data, dan insinyor AI yang bercita-cita yang baru untuk deployment model dan ingin membangun fondasi yang kuat dalam LLMOps. Tidak ada pengalaman sebelumnya dengan skala produksi yang diperlukan. Mulailah perjalanan Anda menuju rekayasa AI tingkat produksi dan mulai mengoptimalkan deploymen Anda hari ini.