Transformery

Transformery změnily pravidla hry v oblasti generativní AI – díky nim dokážou modely generující text mnohem hlouběji porozumět jazyku.

Máš k dispozici interaktivní aplikaci, která vizualizuje mechanismus vlastní pozornosti (self-attention). Věta zní: Transformers excel at grasping the context of text, which allows them to generate more coherent responses., přičemž slovo "them" odkazuje na jiné slovo v této větě.

Klikni na slovo "them" v aplikaci a prozkoumej, jak silně ho model spojuje s každým dalším slovem.