System prompt là gì?
System Prompt được dùng để thiết lập một bối cảnh và mục tiêu tổng thể cho model. Prompt này sẽ định nghĩa "một bức tranh tổng thể" về những gì mà model cần thực hiện, từ những task đơn giản như dịch ngôn ngữ, phân loai, đánh giá cho tới những nhiệm vụ phức tạp hơn.
System prompt sẽ đóng vai trò như một bộ những quy tắc bổ sung mà model cần tuân thủ nhất quán trong mọi lần mà người dùng truy vấn nó, thí dụ như PHẢI trả về định dạng JSON, PHẢI cho đầu ra theo một định dạng mà người dùng muốn. Nếu muốn sử dụng output này của model để đưa vào một logic khác, hoặc nằm trong một hệ thống tự động, thì system prompt sẽ cực kỳ hữu ích.
Khi nào nên sử dụng System prompt
- Ép model tạo đầu ra đáp ứng được những yêu cầu cụ thể. Thí dụ dùng nó để chỉ định cách model trả về kết quả phân loại phim, chỉ trả về tiêu đề phim viết hoa, kèm theo tên 3 diễn viên chính,… Điều này đảm bảo model sẽ tạo đầu ra nhất quán theo một định dạng nhất định thỏa ý đồ của người dùng.
- Trả về đầu ra theo một cấu trúc mà người dùng muốn, thường gặp nhất là trả về một JSON. Bằng cách sử dụng System Prompt, model sẽ có thể cho ra đầu ra đã được sắp xếp thứ tự, cú pháp,… theo chỉ định và hạn chế hallucianation. Khi muốn dùng model trong một hệ thống tự động hóa xử lý dữ liệu hoặc luồng, việc dùng System Prompt gần như là việc làm bắt buộc.
- Kiểm soát thông tin được model trả về luôn an toàn và không có từ ngữ / nội dung độc hại. Thí dụ như bạn đang dùng model để tạo ra những nội dung cho trẻ em, cho một nhóm đối tượng nhạy cảm,… có thể dùng System Prompt để quy định nguyên tắc cho model, PHẢI làm xxx, KHÔNG ĐƯỢC trả về abc,…
Ví dụ 1:
Chúng ta dùng System Prompt để chỉ định rằng "Bạn luôn kiểm tra thông tin cẩn thận và luôn trích dẫn nguồn". Sau đó khi người dùng nhập prompt yêu cầu tác vụ cụ thể "Kể ra 3 sự thật đáng ngạc nhiên về loài mèo", model sẽ trả về kết quả như bên dưới.
Còn đây là khi bạn không sử dụng system promt
Ví dụ 2
Dùng prompt System để chỉ định rằng "Hãy luôn trả lời bằng 2 câu trong Truyện Kiều của Nguyễn Du." Sau đó người dùng nhập prompt yêu cầu: "Giải thích về cây thân gỗ"
Đây khi bạn không sử dụng system prompt