Оцінювання за METEOR
METEOR добре вимірює деякі семантичні характеристики тексту. Він працює подібно до ROUGE, порівнюючи згенерований моделлю текст із еталонним. Вам надано ці тексти як generated і reference; далі — оцініть показник.
Бібліотеку evaluate уже імпортовано для вас.
Ця вправа є частиною курсу
Вступ до LLM у Python
Інструкції до вправи
- Обчисліть і виведіть оцінку METEOR.
Інтерактивна практична вправа
Спробуйте виконати цю вправу, доповнивши цей зразок коду.
meteor = evaluate.load("meteor")
generated = ["The burrow stretched forward like a narrow corridor for a while, then plunged abruptly downward, so quickly that Alice had no chance to stop herself before she was tumbling into an extremely deep shaft."]
reference = ["The rabbit-hole went straight on like a tunnel for some way, and then dipped suddenly down, so suddenly that Alice had not a moment to think about stopping herself before she found herself falling down a very deep well."]
# Compute and print the METEOR score
results = ____
print("Meteor: ", ____)