От текста к LLM
СВЯЗИ В КОНТЕКСТЕ

Attention

Модель перебирает все токены контекста и оценивает их влияние друг на друга

Transformer строит таблицу связей: какие предыдущие токены важны для каждой позиции сейчас [2].

Яркая ячейка означает больший вес в одной attention-операции.

N ТОКЕНОВN × N связей между позициями
откуда берём информацию →
↓ / →Машапост.чашкунастол,она
Маша
пост.
чашку
на
стол
,
она
← для кого собираем контекст
Учебная attention-операция: яркость показывает вес связи, но не всю причинность решения.
08/ 31