はなれた単語同士の関係

あるソフトウェア会社は、AIチャットボットにTransformerアーキテクチャを採用したことで、より複雑な顧客の問い合わせにも対応できるようになりました。その主な理由のひとつが、長距離依存関係を処理する能力です。

次の文を考えてみましょう。

「アリスはロンドン在住の優秀なグラフィックデザイナーで、市内で開催されるお気に入りのバンドのコンサートに足を運ぶのが好きです。」

この文で「アリス」と「コンサートに足を運ぶのが好きです」の関係をチャットボットが理解できるのは、Transformerアーキテクチャのどの要素によるものでしょうか？