1. Учиться
  2. /
  3. Courses
  4. /
  5. Làm việc với Llama 3

Connected

Exercise

Trò chuyện với Llama 3

Một công ty phân tích dữ liệu đang phát triển trợ lý AI nội bộ để giúp nhân viên nhanh chóng truy cập thông tin kỹ thuật. Trong dự án này, họ muốn tích hợp Llama 3 và đã nhờ bạn kiểm thử.

Để bắt đầu, bạn sẽ khởi tạo mô hình Llama 3 trên máy cục bộ và tạo phản hồi cho một câu hỏi.

Đường dẫn mô hình đã được lưu trong biến llama_path.

Инструкции

100 XP
  • Import lớp Llama từ llama_cpp.
  • Khởi tạo một thể hiện của Llama, chỉ định llama_path làm đường dẫn tới tệp mô hình.