Lematización

Mientras continuabas con tu análisis de las reseñas de los usuarios, observaste que la derivación a veces produce palabras no estándar como «fli» a partir de «flying», lo que puede reducir la interpretabilidad. Para solucionar esto, ahora utilizarás la lematización, que devuelve las palabras reales y ayuda a mejorar la claridad y la precisión de tu análisis.

WordNetLemmatizer se ha importado, se ha definido stop_words y se han descargado los recursos NLTK necesarios.

Este ejercicio forma parte del curso

Procesamiento del lenguaje natural (NLP) en Python

Instrucciones del ejercicio

Crea una instancia lemmatizer de la clase WordNetLemmatizer().
Utiliza el diccionario de lematización lemmatizer para lematizar el diccionario de lematización lower_tokens.

Ejercicio interactivo práctico

Prueba este ejercicio y completa el código de muestra.

clean_tokens = ['flying', 'lot', 'lately', 'flights', 'keep', 'getting', 'delayed', 'honestly', 'traveling', 'work', 'gets', 'exhausting', 'endless', 'delays', 'every', 'travel', 'teaches', 'something', 'new']

# Create lemmatizer
lemmatizer = ____()

# Lemmatize each token
lemmatized_tokens = [____.____(____) for ____ in clean_tokens]

print(lemmatized_tokens)

Editar y ejecutar código

Este ejercicio forma parte del curso

Procesamiento del lenguaje natural (NLP) en Python

IntermedioNivel de habilidad

4.8+

Comienza el curso gratis

Aprende los conceptos básicos del procesamiento de texto en el procesamiento del lenguaje natural (NLP). Domina técnicas como la tokenización, la eliminación de palabras vacías y signos de puntuación, y la normalización de texto con conversión a minúsculas, stemming y lematización para preparar los datos de texto para su posterior análisis y extracción de información.

Exercise 1: Introducción al procesamiento del lenguaje natural Exercise 2: Tokenización de oraciones y palabras Exercise 3: Flujo de trabajo de PNL Exercise 4: Manejo de palabras vacías y puntuación Exercise 5: Eliminación de palabras vacías Exercise 6: Eliminar puntuación Exercise 7: Técnicas de normalización de texto Exercise 8: Minusculización Exercise 9: Derivación Exercise 10: Lematización

Ejercicio actual

Transforma texto sin formato en potentes características numéricas. Crea representaciones Bag-of-Words y TF-IDF para capturar la importancia de las palabras en los documentos y, a continuación, explora incrustaciones de palabras como Word2Vec y GloVe para descubrir patrones semánticos profundos. Visualiza la frecuencia, la relevancia y la similitud para dar vida a tus datos de texto.

Exercise 1: Representación Bag-of-Words Exercise 2: Amplía tu vocabulario a partir de las opiniones de los clientes Exercise 3: Transformar texto en números con BoW Exercise 4: Análisis de frecuencia de las reseñas de productos Exercise 5: Visualización de frecuencias de palabras Exercise 6: Vectorización TF-IDF Exercise 7: Representación TF-IDF de los comentarios sobre los productos Exercise 8: Comparación entre las representaciones BoW y TF-IDF Exercise 9: Incrustaciones Exercise 10: Explorar las relaciones entre palabras con incrustaciones Exercise 11: Visualización y comparación de incrustaciones de palabras

Aprovecha la potencia de los modelos preentrenados para realizar tareas avanzadas de clasificación de texto. Utiliza los procesos de Hugging Face para el análisis de sentimientos, la clasificación de temas y la inferencia del lenguaje natural. Evalúa la similitud semántica y la corrección gramatical con modelos de última generación, sin necesidad de crear nada desde cero.

Exercise 1: Pipelines de Hugging Face para el análisis de sentimientos Exercise 2: Analizar el sentimiento de una reseña Exercise 3: Clasificación por lotes de varias reseñas Exercise 4: Comparación de modelos en datos de reseñas etiquetados Exercise 5: Clasificación sin entrenamiento previo y QNLI Exercise 6: Clasificación sin entrenamiento previo de tickets de soporte técnico Exercise 7: ¿El texto responde a la pregunta?Exercise 8: Similitud entre preguntas y corrección gramatical Exercise 9: Detección de preguntas duplicadas Exercise 10: Comprobación de la corrección gramatical

Sumérgete en el núcleo de las aplicaciones modernas de la PNL con técnicas de clasificación de tokens y generación de texto. Aprende a extraer entidades significativas y estructuras gramaticales utilizando el etiquetado NER y PoS. Domina la respuesta a preguntas extractivas y abstractivas, y explora tareas avanzadas de generación, como la síntesis, la traducción y el modelado del lenguaje, utilizando los procesos de Hugging Face.

Exercise 1: Clasificación de tokens Exercise 2: Identificación de entidades nombradas en titulares de noticias Exercise 3: Etiquetado de partes del discurso para el análisis de texto Exercise 4: Respuesta a preguntas Exercise 5: Responder preguntas sobre las descripciones de los productos Exercise 6: Generación de respuestas naturales con preguntas y respuestas abstractas Exercise 7: Tareas de generación de secuencias Exercise 8: Resumen de artículos periodísticos para obtener información rápida Exercise 9: Traducir opiniones de clientes al francés Exercise 10: Creación de un sistema de autocompletado de búsquedas Exercise 11: ¡Enhorabuena!