Thạc Sĩ Khoa Học Về AI Ứng Dụng & Agentic AI | ĐH Golden Gate

Mọi mô hình ngôn ngữ lớn đều thực hiện một nhiệm vụ cốt lõi: dự đoán từ tiếp theo. Người học sẽ tự xây dựng mô hình từ đầu, chuyển văn bản thành mô hình xác suất, tạo câu và đánh giá kết quả bằng perplexity – chỉ số cũng được sử dụng để đánh giá các mô hình ngôn ngữ trong thực tế. Dự án bắt đầu từ những nguyên lý nền tảng, thay vì chỉ gọi API có sẵn.

Attention là cơ chế cốt lõi đứng sau các mô hình ngôn ngữ lớn hiện nay như ChatGPT, Claude và Gemini. Người học sẽ tự xây dựng cơ chế này và quan sát cách mô hình học được mối liên hệ giữa các từ trong một câu – chẳng hạn hiểu rằng “it” đang đề cập đến “the animal” trong câu “the animal didn't cross the street because it was tired.” Qua đó, người học hiểu được một trong những cơ chế quan trọng nhất của AI hiện đại từ nền tảng.

Các mô hình suy luận đạt được bước tiến lớn nhờ một cách tiếp cận đơn giản: cho mô hình thêm thời gian để suy nghĩ trước khi đưa ra câu trả lời. Người học sẽ áp dụng phương pháp này để cải thiện hiệu quả của mô hình mà không cần huấn luyện lại từ đầu. Đây cũng là một trong những phương pháp đang được sử dụng để phát triển các mô hình AI có khả năng suy luận hiện nay.

Các hệ thống Agent được thiết kế để tự hoàn thành một nhiệm vụ, thay vì chỉ trả lời câu hỏi. Người học sẽ xây dựng kiến trúc gồm nhiều Agent: một Agent quản lý lên kế hoạch, các Agent thực thi từng phần công việc và một Agent kiểm tra kết quả. Hệ thống có thể tự xử lý một nhiệm vụ gồm nhiều bước từ đầu đến cuối mà không cần con người can thiệp.

Học viên sử dụng Low-Rank Adaptation (LoRA) để tinh chỉnh một mô hình mã nguồn mở trên một GPU phổ thông, giúp mô hình có thêm một phong cách hoặc kỹ năng mới. Đây cũng là phương pháp được các công ty AI ở giai đoạn đầu sử dụng để phát triển mô hình riêng mà không phải chịu chi phí huấn luyện lại toàn bộ. Kết quả là một mô hình có thể vận hành trong môi trường thực tế.