การประเมินโมเดล BERT
หลังจาก tokenize รีวิวตัวอย่างด้วย tokenizer ของ BERT แล้ว ก็ถึงเวลาประเมินโมเดล BERT กับข้อมูลตัวอย่างของ PyBooks นอกจากนี้ยังจะประเมินการทำนาย sentiment ของโมเดลบนข้อมูลใหม่ด้วย
มีการ import สิ่งต่อไปนี้ให้แล้ว: BertTokenizer, BertForSequenceClassification, torch
อินสแตนซ์ model ที่ผ่านการฝึกมาแล้วก็ถูกโหลดไว้ล่วงหน้าเช่นกัน เราจะทดสอบกับข้อมูลตัวอย่างใหม่
แบบฝึกหัดนี้เป็นส่วนหนึ่งของหลักสูตร
Deep Learning สำหรับข้อความด้วย PyTorch
คำแนะนำการฝึกหัด
- เตรียมข้อความสำหรับประเมินโดย tokenize และส่งคืนเป็น PyTorch tensors
- แปลง output logits ให้เป็นค่าความน่าจะเป็นในช่วงระหว่างศูนย์ถึงหนึ่ง
- แสดงผล sentiment จากค่าความน่าจะเป็นที่ได้
แบบฝึกหัดเชิงโต้ตอบแบบลงมือทำ
ลองทำแบบฝึกหัดนี้โดยเติมโค้ดตัวอย่างนี้ให้สมบูรณ์
text = "I had an awesome day!"
# Tokenize the text and return PyTorch tensors
input_eval = tokenizer(____, return_tensors=____, truncation=True, padding=True, max_length=32)
outputs_eval = model(**input_eval)
# Convert the output logits to probabilities
predictions = torch.nn.functional.____(outputs_eval.____, dim=-1)
# Display the sentiments
predicted_label = ____ if torch.____(predictions) > 0 else ____
print(f"Text: {text}\nSentiment: {predicted_label}")