Лематизація
Продовжуючи аналіз відгуків користувачів, ви помітили, що стемінг інколи дає нестандартні слова, як-от «fli» з «flying», що знижує зрозумілість. Щоб розв'язати цю проблему, тепер ви застосуєте лематизацію, яка повертає реальні слова й підвищує чіткість та точність аналізу.
WordNetLemmatizer уже імпортовано, stop_words визначено, а необхідні ресурси NLTK завантажено.
Ця вправа є частиною курсу
Natural Language Processing (NLP) in Python
Інструкції до вправи
- Створіть екземпляр
lemmatizerкласуWordNetLemmatizer(). - Використайте
lemmatizer, щоб лематизуватиlower_tokens.
Інтерактивна практична вправа
Спробуйте виконати цю вправу, доповнивши цей зразок коду.
clean_tokens = ['flying', 'lot', 'lately', 'flights', 'keep', 'getting', 'delayed', 'honestly', 'traveling', 'work', 'gets', 'exhausting', 'endless', 'delays', 'every', 'travel', 'teaches', 'something', 'new']
# Create lemmatizer
lemmatizer = ____()
# Lemmatize each token
lemmatized_tokens = [____.____(____) for ____ in clean_tokens]
print(lemmatized_tokens)