Building Secure LLM Applications: Agents, RAGs, and Prompt Injection Defense (bằng tiếng Anh).

Khi các mô hình ngôn ngữ lớn (LLM) được tích hợp vào các quy trình kinh doanh cốt lõi, các lỗ hổng bảo mật mới và quan trọng xuất hiện, đặc biệt là về xử lý đầu vào người dùng và riêng tư dữ liệu. Chương trình này cung cấp kiến thức nền tảng và kỹ thuật thực tế cần thiết để xác định, giảm thiểu và kiểm tra các rủi ro quan trọng nhất đối mặt với các ứng dụng LLM hiện đại. Sau khi hoàn thành khóa học này, bạn sẽ có thể thiết kế, xây dựng và triển khai các hệ thống LLM (như các ứng dụng Agent và RAG) hoạt động an toàn và có thể dự đoán, ngay cả khi đối mặt với đầu vào đối lập. Bạn sẽ học được: * Hiểu OWASP LLM Top 10 lỗ hổng và cách áp dụng mô hình đe dọa cho kiến trúc LLM phổ biến như RAG. * Thực hiện phòng thủ mạnh mẽ chống lại tiêm nhanh, tiêm gián tiếp và rò rỉ dữ liệu nhạy cảm trong các hệ thống triển khai. * Cấu hình các đại lý LLM và gọi hàm để ngăn chặn lạm dụng công cụ và áp dụng giới hạn nghiêm ngặt về việc sử dụng tài nguyên và chu kỳ. * Thực hành sử dụng các phương pháp xác minh dữ liệu và kỹ thuật xuất có cấu trúc (như JSON Schema) để đảm bảo các phản ứng mô hình dự đoán. * Apply data redaction and sanitization techniques to protect sensitive information flowing through the LLM pipeline. * Hợp nhất các thử nghiệm bảo mật cơ bản (đội đỏ) và cổng xác minh vào các luồng công việc tích hợp và triển khai liên tục (CI / CD). Chương trình học này được thiết kế cho các nhà phát triển, các nhà khoa học dữ liệu và các chuyên gia an ninh mới để bảo vệ các ứng dụng LLM. Không cần kinh nghiệm trước với bảo mật LLM, chỉ cần kiến thức lập trình cơ bản. Bắt đầu xây dựng hệ thống AI đáng tin cậy và bền vững ngay hôm nay.