Đánh giá mô hình BERT
Sau khi đã token hóa các bài đánh giá mẫu bằng tokenizer của BERT, giờ là lúc bạn đánh giá mô hình BERT với các mẫu tại PyBooks. Bên cạnh đó, bạn sẽ đánh giá dự đoán cảm xúc của mô hình trên dữ liệu mới.
Những thành phần sau đã được nhập sẵn cho bạn: BertTokenizer, BertForSequenceClassification, torch.
Thực thể model đã được huấn luyện cũng đã được nạp sẵn. Chúng ta sẽ kiểm thử nó trên một mẫu dữ liệu mới.
Bài tập này là một phần của khóa học
Deep Learning cho Văn bản với PyTorch
Hướng dẫn bài tập
- Chuẩn bị văn bản cần đánh giá cho mô hình bằng cách token hóa và trả về các tensor của PyTorch.
- Chuyển đổi logits đầu ra thành xác suất trong khoảng từ 0 đến 1.
- Hiển thị cảm xúc dựa trên các xác suất.
Bài tập tương tác thực hành trực tiếp
Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.
text = "I had an awesome day!"
# Tokenize the text and return PyTorch tensors
input_eval = tokenizer(____, return_tensors=____, truncation=True, padding=True, max_length=32)
outputs_eval = model(**input_eval)
# Convert the output logits to probabilities
predictions = torch.nn.functional.____(outputs_eval.____, dim=-1)
# Display the sentiments
predicted_label = ____ if torch.____(predictions) > 0 else ____
print(f"Text: {text}\nSentiment: {predicted_label}")