Bắt đầu ngayBắt đầu miễn phí

Dịch ngôn ngữ với mô hình PyTorch pretrained

Đội của bạn tại PyBooks đang phát triển một dự án AI liên quan đến dịch từ ngôn ngữ này sang ngôn ngữ khác. Họ muốn tận dụng các mô hình đã được huấn luyện sẵn để tiết kiệm nhiều thời gian và tài nguyên. Nhiệm vụ trong bài tập này là thiết lập một mô hình dịch từ thư viện Transformers của HuggingFace, cụ thể là mô hình T5 (Text-To-Text Transfer Transformer), và dùng nó để dịch một câu tiếng Anh sang tiếng Pháp.

T5Tokenizer, T5ForConditionalGeneration đã được nạp sẵn cho bạn.

Bài tập này là một phần của khóa học

Deep Learning cho Văn bản với PyTorch

Xem khóa học

Hướng dẫn bài tập

  • Khởi tạo tokenizer và model từ mô hình pretrained "t5-small".
  • Mã hóa (encode) prompt đầu vào bằng tokenizer, đảm bảo trả về tensor của PyTorch.
  • Dịch prompt đầu vào bằng model và sinh ra bản dịch.

Bài tập tương tác thực hành trực tiếp

Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.

# Initalize tokenizer and model
tokenizer = ____.from_pretrained("t5-small")
model = ____.from_pretrained("t5-small")

input_prompt = "translate English to French: 'Hello, how are you?'"

# Encode the input prompt using the tokenizer
input_ids = ____.____(input_prompt, return_tensors="____")

# Generate the translated ouput
output = model.____(input_ids, max_length=50)
generated_text = tokenizer.decode(output[0], skip_special_tokens=True)
print("Generated text:",generated_text)
Chỉnh sửa và Chạy Mã