Lemmatisering
Under din analys av användarrecensioner märkte du att stemming ibland ger icke-standardiserade ord – till exempel "fli" från "flying" – vilket kan göra resultaten svårare att tolka. För att lösa det använder du nu lemmatisering, som returnerar faktiska ord och förbättrar både tydligheten och precisionen i analysen.
WordNetLemmatizer har importerats, stop_words har definierats och nödvändiga NLTK-resurser har laddats ned.
Den här övningen är en del av kursen
Natural Language Processing (NLP) i Python
Övningsinstruktioner
- Skapa en instans
lemmatizerav klassenWordNetLemmatizer(). - Använd
lemmatizerför att lemmatiseralower_tokens.
Interaktiv övning med praktiskt arbete
Testa den här övningen genom att slutföra den här exempelkoden.
clean_tokens = ['flying', 'lot', 'lately', 'flights', 'keep', 'getting', 'delayed', 'honestly', 'traveling', 'work', 'gets', 'exhausting', 'endless', 'delays', 'every', 'travel', 'teaches', 'something', 'new']
# Create lemmatizer
lemmatizer = ____()
# Lemmatize each token
lemmatized_tokens = [____.____(____) for ____ in clean_tokens]
print(lemmatized_tokens)