Direct Preference Optimization

Direct Preference Optimization (DPO) là một phương pháp nổi bật trong quá trình huấn luyện mô hình ngôn ngữ lớn (LLM) nhằm tối ưu hóa sự ưa thích trực tiếp. Bài viết này khám phá sâu về DPO, cách nó hoạt động và so sánh với các phương pháp khác như RLHF và SFT, cùng với các ứng dụng thực tế và thách thức.