or
Bài tập này là một phần của khóa học
Lĩnh vực mô hình ngôn ngữ lớn đang bùng nổ, và Llama là một điểm nhấn. Với Llama 3, khả năng đã được mở rộng đáng kể. Hãy khám phá các năng lực của nó, học cách sử dụng với llama-cpp-python, và hiểu cách kiểm soát hành vi của mô hình bằng cách điều chỉnh tham số và gán các vai trò cụ thể để dẫn dắt hội thoại.
Mô hình ngôn ngữ không chỉ tạo văn bản — chúng có thể được định hướng để tạo ra phản hồi có cấu trúc và nhận biết ngữ cảnh. Trong chương này, bạn sẽ khám phá cách tận dụng llama-cpp-python để tạo đầu ra theo các định dạng cụ thể, bao gồm phản hồi tương thích JSON để tích hợp dữ liệu. Bạn cũng sẽ tinh chỉnh đầu ra của Llama bằng kỹ thuật nhắc (prompting) để căn chỉnh phản hồi với các nhiệm vụ khác nhau. Cuối cùng, bạn sẽ xây dựng các cuộc trò chuyện duy trì ngữ cảnh qua nhiều lượt trao đổi, đảm bảo tương tác tự nhiên hơn.
Bài tập hiện tại