Nexus Lab, phòng nghiên cứu chung của INT2 và VNU-ITI, tổ chức phiên tháng 8 của chuỗi AI Lunch & Seminar Series vào lúc 10:00 sáng Thứ Sáu, 21/08/2026, tại Phòng 505, Nhà E3, Đại học Quốc gia Hà Nội (144 Xuân Thủy, Cầu Giấy, Hà Nội).
Phiên báo cáo có sự tham dự của GS. Nguyễn Lê Minh từ Viện Khoa học và Công nghệ Tiên tiến Nhật Bản (JAIST), với bài trình bày Speculative Decoding: Hướng tới suy luận hiệu quả cho Mô hình ngôn ngữ lớn. Hội thảo do TS. Nguyễn Việt Cường thuộc Nexus Lab, INT2 & VNU-ITI chủ trì.
Các Mô hình Ngôn ngữ Lớn (LLM) đã tạo nên bước tiến vượt bậc, nhưng rào cản lớn nhất hiện nay là chi phí tính toán cao do cơ chế sinh token tuần tự. Bài trình bày giới thiệu Speculative Decoding, giải pháp đột phá nhằm tăng tốc suy luận LLM mà không làm ảnh hưởng đến chất lượng đầu ra của mô hình. Trọng tâm là cơ chế “phác thảo và xác minh” (draft-and-verify): thay vì suy luận đơn lẻ, mô hình phác thảo gọn nhẹ dự đoán nhanh các chuỗi token, sau đó LLM mục tiêu xác minh song song.
Bài trình bày đi sâu vào UNISPEC, khung speculative decoding tự vận hành, không cần huấn luyện lại và bảo toàn hoàn hảo phân phối đầu ra. UNISPEC nổi bật với cơ chế tự động điều chỉnh kích thước bản phác thảo theo thiết bị, thuật toán ước lượng độ tin cậy n-gram tiên tiến và chiến lược mở rộng cây dựa trên độ tin cậy. Bài trình bày kết thúc bằng thảo luận về tương lai của các cơ chế suy luận thích ứng, nhận biết phần cứng và tối ưu hóa đa ngôn ngữ.
GS. Nguyễn Lê Minh hiện là Giáo sư tại JAIST và trưởng nhóm Nguyen Lab, nơi tập trung vào Học máy và Hiểu ngôn ngữ tự nhiên. Hướng nghiên cứu chính bao gồm LLM, Xử lý ngôn ngữ tự nhiên, AI có khả năng giải thích (XAI), Legal AI và các giải pháp tối ưu hóa hiệu năng suy luận LLM. Nhóm nghiên cứu đã đạt giải thưởng SAC Highlights Award tại ACL 2025 cho SPECTRA và tại ACL 2026 cho UNISPEC, mở ra hướng đi mới cho việc triển khai AI hiệu năng cao.
AI Lunch & Seminar Series là chuỗi sự kiện ăn trưa và thảo luận do Nexus Lab chủ trì tại Nhà E3, Xuân Thủy Campus, Đại học Quốc gia Hà Nội, cập nhật tình hình phát triển AI trong nước và quốc tế. Các phiên báo cáo nhanh và ngắn gọn, hoàn thành trước hai giờ chiều.
Nguồn: Nguyen Lab, JAIST