使用预训练 PyTorch 模型进行语言翻译

您在 PyBooks 的团队正在开展一个将一种语言翻译成另一种语言的 AI 项目。他们希望借助预训练模型来完成该任务，从而大幅节省训练时间和资源。本练习的任务是从 HuggingFace 的 Transformers 库中设置一个翻译模型，具体为 T5（Text-To-Text Transfer Transformer）模型，并用它将一句英文翻译为法语。

T5Tokenizer、T5ForConditionalGeneration 已为您加载。

本练习是课程的一部分

使用 PyTorch 的文本深度学习

查看课程

练习说明

从预训练的 "t5-small" 模型初始化 tokenizer 和 model。
使用 tokenizer 对输入提示进行编码，确保返回 PyTorch 张量。
使用 model 翻译该输入提示并生成翻译后的输出。

交互式实操练习

通过完成这段示例代码来试试这个练习。

# Initalize tokenizer and model
tokenizer = ____.from_pretrained("t5-small")
model = ____.from_pretrained("t5-small")

input_prompt = "translate English to French: 'Hello, how are you?'"

# Encode the input prompt using the tokenizer
input_ids = ____.____(input_prompt, return_tensors="____")

# Generate the translated ouput
output = model.____(input_ids, max_length=50)
generated_text = tokenizer.decode(output[0], skip_special_tokens=True)
print("Generated text:",generated_text)

编辑并运行代码