Self vs. multi-head attention
Ви — аналітик даних у команді, що розробляє ШІ. Ваш поточний проєкт передбачає розуміння та впровадження концепцій self-attention і multi-head attention у мовній моделі. Розгляньте наведені фрази з набору даних розмов.
Скористайтеся інтерактивним застосунком, щоб дослідити різницю між self-attention (зв'язки між окремими словами в тексті) та multi-head attention (паралельне опрацювання кількох аспектів тексту).
Які аналітичні завдання є прикладами self-attention, а які — multi-head attention?
Ця вправа є частиною курсу
Концепції Large Language Models (LLMs)
Практична інтерактивна вправа
Перетворіть теорію на практику за допомогою однієї з наших інтерактивних вправ
Почати вправу