พื้นฐาน LLMOps: การติดตั้งใช้งาน LLM ด้วย Jenkins, Docker, และ Kubernetes

การติดตั้งใช้งาน Large Language Models (LLMs) ในสภาพแวดล้อมจริง (production) ต้องใช้มากกว่าแค่การเขียนโค้ด แต่ยังต้องการโครงสร้างพื้นฐานที่แข็งแกร่ง ระบบอัตโนมัติ และการตรวจสอบอย่างต่อเนื่อง หลักสูตรแบบข้อความนี้จะแนะนำคุณเกี่ยวกับแนวคิดหลักของ LLMOps ช่วยให้คุณเปลี่ยนจากการทดลอง AI ในเครื่องไปสู่การติดตั้งใช้งานที่ปรับขนาดได้และพร้อมสำหรับคลาวด์ คุณจะได้รับความเข้าใจอย่างถ่องแท้เกี่ยวกับวิธีการทำแอปพลิเคชัน LLM ให้เป็นคอนเทนเนอร์ (containerize) การทำให้ไปป์ไลน์การติดตั้งใช้งานเป็นไปโดยอัตโนมัติ และการรักษาประสิทธิภาพของโมเดลในการผลิต ด้วยการศึกษาแพตเทิร์นการติดตั้งใช้งานในโลกจริง คุณจะได้เรียนรู้วิธีจัดการโครงสร้างพื้นฐานอย่างมีประสิทธิภาพโดยใช้เครื่องมือมาตรฐานอุตสาหกรรมและบริการคลาวด์ What you'll learn: - ทำความเข้าใจหลักการหลักของ LLMOps รวมถึง model serving, vector databases และสถาปัตยกรรม retrieval-augmented generation (RAG) - สร้างและแพ็กเกจแอปพลิเคชัน LLM โดยใช้ FastAPI และ Docker containers เพื่อการติดตั้งใช้งานที่สม่ำเสมอ - ทำให้เวิร์กโฟลว์การส่งมอบเป็นไปโดยอัตโนมัติด้วย Jenkins CI/CD pipelines เพื่อปรับปรุงการทดสอบและการติดตั้งใช้งานให้มีประสิทธิภาพ - จัดการ (Orchestrate) แอปพลิเคชัน AI ที่เป็นคอนเทนเนอร์ในระดับขนาดใหญ่โดยใช้การจัดการคลัสเตอร์ Kubernetes - กำหนดค่าการตรวจสอบ (monitoring) และความสามารถในการสังเกต (observability) ในสภาพแวดล้อมจริงโดยใช้ Prometheus และ Grafana เพื่อติดตามความหน่วงและสถานะของโมเดล - ติดตั้งใช้งานโมเดลที่ปรับขนาดได้ในสภาพแวดล้อมคลาวด์โดยใช้โครงสร้างพื้นฐาน AWS และ GCP หลักสูตรนี้เริ่มต้นด้วยคำจำกัดความพื้นฐานของ LLMOps และ containerization ก่อนที่จะก้าวไปสู่การทำให้ไปป์ไลน์เป็นไปโดยอัตโนมัติ การจัดการ (orchestration) และการตรวจสอบในสภาพแวดล้อมจริง คุณจะก้าวหน้าไปทีละขั้นตอนผ่านคำอธิบายที่เป็นลายลักษณ์อักษร การวิเคราะห์แนวคิด และสถานการณ์การกำหนดค่าเชิงปฏิบัติ หลักสูตรนี้ออกแบบมาสำหรับนักพัฒนาซอฟต์แวร์ นักวิทยาศาสตร์ข้อมูล และวิศวกร MLOps ที่ต้องการเรียนรู้การติดตั้งใช้งานในสภาพแวดล้อมจริง ไม่จำเป็นต้องมีประสบการณ์ล่วงหน้าเกี่ยวกับ DevOps หรือโครงสร้างพื้นฐานคลาวด์ เนื่องจากเราจะสร้างขึ้นจากแนวคิดพื้นฐาน เริ่มอ่านวันนี้เพื่อฝึกฝนโครงสร้างพื้นฐานที่อยู่เบื้องหลังแอปพลิเคชัน generative AI สมัยใหม่