Перевод текста с помощью предобученной модели PyTorch
Ваша команда в PyBooks работает над ИИ-проектом, связанным с переводом текста с одного языка на другой. Для этой задачи планируется использовать предобученные модели, которые позволяют существенно сократить время и ресурсы на обучение. В этом упражнении вам нужно настроить модель перевода из библиотеки Transformers от HuggingFace — а именно модель T5 (Text-To-Text Transfer Transformer) — и с её помощью перевести фразу с английского языка на французский.
T5Tokenizer и T5ForConditionalGeneration уже загружены для вас.
Это упражнение является частью курса
Глубокое обучение для работы с текстом на PyTorch
Инструкции к упражнению
- Инициализируйте
tokenizerиmodelна основе предобученной модели"t5-small". - Закодируйте входной запрос с помощью токенизатора, убедившись, что возвращаются тензоры PyTorch.
- Выполните перевод входного запроса с помощью
modelи получите переведённый результат.
Интерактивное практическое упражнение
Попробуйте выполнить это упражнение, дополнив этот пример кода.
# Initalize tokenizer and model
tokenizer = ____.from_pretrained("t5-small")
model = ____.from_pretrained("t5-small")
input_prompt = "translate English to French: 'Hello, how are you?'"
# Encode the input prompt using the tokenizer
input_ids = ____.____(input_prompt, return_tensors="____")
# Generate the translated ouput
output = model.____(input_ids, max_length=50)
generated_text = tokenizer.decode(output[0], skip_special_tokens=True)
print("Generated text:",generated_text)