Transformers
Les Transformers ont changé la donne pour l’IA générative, en permettant aux modèles de génération de texte de mieux comprendre la langue.
Vous disposez d’une application interactive qui visualise le mécanisme d’auto-attention. La phrase est : Transformers excel at grasping the context of text, which allows them to generate more coherent responses., où le mot "them" renvoie à un autre mot de la phrase.
Cliquez sur le mot "them" dans l’application pour explorer à quel point le modèle le relie à chaque autre mot.
Cet exercice fait partie du cours
<cours>Concepts d'IA générative</cours>Exercice interactif pratique
Transformez la théorie en action avec l’un de nos exercices interactifs
Commencer l’exercice