INT2とVNU-ITIの共同研究レポートであるNexus Labは、2026年8月21日(金)10:00より、ベトナム国家大学ハノイ校 E3棟 505号室(144 Xuan Thuy, Cau Giay, ハノイ)で、AI Lunch & Seminar Seriesの8月セッションを開催します。
本セッションでは、北陸先端科学技術大学院大学(JAIST)のNguyen Le Minh 教授を招き、Speculative Decoding:大規模言語モデルの効率的な推論に向けてと題して講演いただきます。座長はNexus Lab、INT2 & VNU-ITIのNguyen Viet Cuong 博士が務めます。
大規模言語モデル(LLM)は目覚ましい進歩をもたらしましたが、現在の最大の障壁はトークンを逐次生成する仕組みに起因する高い計算コストです。本講演では、モデルの出力品質を損なうことなくLLMの推論を高速化する画期的な手法、Speculative Decodingを紹介します。中心となるのは「ドラフトと検証(draft-and-verify)」の仕組みで、1トークンずつ復号する代わりに、軽量なドラフトモデルが候補となるトークン列を高速に提案し、ターゲットとなるLLMが並列に検証します。
講演では、再学習を必要とせず出力分布を厳密に保持する自律型フレームワークUNISPECについて詳しく取り上げます。UNISPECは、デバイスに応じたドラフト長の自動調整、高度なn-gram信頼度推定アルゴリズム、信頼度に基づく木構造の拡張戦略を特長とします。最後に、適応的かつハードウェアを意識した推論と多言語最適化の今後の展望について議論します。
Nguyen Le Minh 教授はJAISTの教授であり、機械学習と自然言語理解を専門とするNguyen Labを率いています。主な研究テーマは、大規模言語モデル、自然言語処理、説明可能なAI(XAI)、リーガルAI、そしてLLM推論性能の最適化手法です。同研究室は、ACL 2025でSPECTRA、ACL 2026でUNISPECがそれぞれSAC Highlights Awardを受賞し、高性能AI実装に向けた新たな方向性を切り開いています。
AI Lunch & Seminar Seriesは、Nexus Labがベトナム国家大学ハノイ校 Xuan Thuyキャンパス E3棟で主催するランチタイムの討論シリーズで、ベトナム国内および海外のAI動向を取り上げます。短時間で密度の高いセッションで、午後2時までに終了します。