开始使用免费开始使用

句子与单词分词

分词是 NLP 的重要起点。它将文本拆分为更小的单元(token),这是处理语言数据的关键。您的任务是把一段新闻文本同时分成句子和单词。

本练习是课程的一部分

Python 中的自然语言处理(NLP)

查看课程

交互式实操练习

通过完成这段示例代码来试试这个练习。

# Import nltk
____
# Download the punkt_tab package 
____

text = """
The stock market saw a significant dip today. Experts believe the downturn may continue.
However, many investors are optimistic about future growth.
"""

# Tokenize the text into sentences
sentences = ____
print(sentences)
编辑并运行代码