แนะนำให้รู้จักกับโมเดล Transformer และ BERT

การประมวลผลภาษาธรรมชาติ (NLP) ได้ถูกปฏิวัติโดยสถาปัตยกรรมโครงข่ายประสาทเทียมที่สามารถเข้าใจบริบทได้ดีกว่าที่เคยมีมา คอร์สเรียนแบบเน้นการอ่านนี้จะนำคุณไปสู่แนวคิดหลักของโมเดล Transformer และเฟรมเวิร์ก BERT โดยไม่จำเป็นต้องมีประสบการณ์ล้ำลึกด้าน Deep Learning มาก่อน เมื่อจบคอร์สนี้ คุณจะเปลี่ยนผ่านจากแนวคิดการประมวลผลข้อความขั้นพื้นฐานไปสู่ความเข้าใจอย่างถ่องแท้ทั้งในเชิงแนวคิดและเชิงปฏิบัติเกี่ยวกับ Bidirectional Representations, กลไก Attention และการ Fine-Tuning โมเดล สิ่งที่คุณจะได้เรียนรู้: 1. เข้าใจสถาปัตยกรรมพื้นฐานของโมเดล Transformer รวมถึงโครงสร้าง Self-Attention และ Encoder-Decoder 2. สำรวจว่าโมเดล BERT ใช้การเทรนแบบสองทิศทาง (Bidirectional Training) อย่างไรเพื่อจับความหมายตามบริบทที่ลึกซึ้งในข้อความ 3. เรียนรู้กลไกของ Tokenization, การจัดรูปแบบ Input และ Masked Language Modeling 4. ประยุกต์ใช้กลยุทธ์การ Fine-Tuning เพื่อปรับแต่งโมเดลที่ผ่านการ Pre-Train มาแล้วสำหรับงานจำแนกประเภทข้อความ (Text Classification) และงานเชิงความหมาย (Semantic Tasks) เฉพาะทาง 5. ค้นพบว่า Pipeline ของ NLP สมัยใหม่ใช้ Transfer Learning เพื่อบรรลุความแม่นยำสูงโดยใช้ข้อมูล Custom เพียงเล็กน้อยได้อย่างไร 6. เปรียบเทียบ BERT กับสถาปัตยกรรมแบบ Generative ที่ใหม่กว่าเพื่อเข้าใจภูมิทัศน์ที่กำลังพัฒนาของ AI ด้านภาษา เริ่มต้นด้วยคำศัพท์ที่จำเป็นและกลไกของ Attention คอร์สนี้จะดำเนินไปทีละขั้นตอนผ่านการทำงานภายในของ BERT, มาตรฐาน Tokenization และเวิร์กโฟลว์การจำแนกประเภทข้อความในทางปฏิบัติโดยใช้ตัวอย่างโค้ด คอร์สนี้ออกแบบมาสำหรับนักพัฒนาซอฟต์แวร์, นักวิเคราะห์ข้อมูล และผู้ที่สนใจเป็นบุคลากรด้าน AI ที่ต้องการบทนำสู่สถาปัตยกรรม NLP สมัยใหม่ที่ชัดเจนและเป็นมิตรกับผู้เริ่มต้น ไม่จำเป็นต้องมีพื้นฐาน Machine Learning ขั้นสูง เริ่มอ่านวันนี้เพื่อปลดล็อกพลังของโมเดลภาษาตามสถาปัตยกรรม Transformer