Трансформеры

Трансформеры стали настоящим прорывом для генеративного ИИ: они позволяют моделям, генерирующим текст, гораздо глубже понимать язык.

Вам предоставлено интерактивное приложение, которое визуализирует механизм самовнимания. Анализируемое предложение: Transformers excel at grasping the context of text, which allows them to generate more coherent responses. — в нём слово «them» отсылает к другому слову из этого же предложения.

Нажмите на слово «them» в приложении, чтобы увидеть, насколько сильно модель связывает его с каждым из остальных слов.