Đặt mô hình ở chế độ đánh giá

Bạn đã sẵn sàng đặt mô hình ngôn ngữ vào chế độ đánh giá. Nếu mô hình không ở chế độ đánh giá khi suy luận, các tầng như batch normalization và dropout sẽ làm thay đổi hành vi của mô hình, dẫn đến chất lượng dịch không nhất quán. Hãy xây dựng vòng lặp để đánh giá mô hình!

Một số dữ liệu đã được nạp sẵn: model, eval_dataloader, accelerator, và metric.