Transformadores

Los Transformers han supuesto un antes y un después para la IA generativa, permitiendo que los modelos que generan texto alcancen una comprensión del lenguaje mucho más profunda.

Tienes a tu disposición una aplicación interactiva que visualiza el mecanismo de self-attention. La frase es: Transformers excel at grasping the context of text, which allows them to generate more coherent responses., donde la palabra "them" hace referencia a otra palabra de la oración.

Haz clic en la palabra "them" en la aplicación para explorar con qué intensidad el modelo la vincula con cada una de las demás palabras.