句子与单词分词
分词是 NLP 的重要起点。它将文本拆分为更小的单元(token),这是处理语言数据的关键。您的任务是把一段新闻文本同时分成句子和单词。
本练习是课程的一部分
Python 中的自然语言处理(NLP)
交互式实操练习
通过完成这段示例代码来试试这个练习。
# Import nltk
____
# Download the punkt_tab package
____
text = """
The stock market saw a significant dip today. Experts believe the downturn may continue.
However, many investors are optimistic about future growth.
"""
# Tokenize the text into sentences
sentences = ____
print(sentences)