Коннекционизм.
ЛЕКЦИЯ 8. Революция Внимания: Трансформеры
- 22.11.26 г.
- 9772225665000 26025
Общие положения
В предыдущих лекциях мы разобрали, как устроены CNN и RNN, и как сети учатся. Мы увидели, что RNN умеют работать с последовательностями, но имеют фундаментальное ограничение: они обрабатывают данные шаг за шагом, что мешает параллелизации. Мы также увидели, что современные LLM проходят через предобучение, fine-tuning и RLHF.
Но остался вопрос: какая архитектура сделала все это возможным? Что позволило обучать модели на триллионах токенов, на тысячах GPU, и получать результаты, которые мы видим в ChatGPT?
Ответ — трансформер. Архитектура, представленная в 2017 году в статье «Attention is All You Need» (Vaswani et al., 2017). Эта лекция — о том, как она устроена, почему она работает и почему она вытеснила RNN.
Полная параллелизация, которую обеспечивает Transformer, сделала возможным предобучение на триллионах токенов — а значит, и весь пайплайн pretrain → SFT → RLHF.
Важно сразу разделить два уровня. Трансформер — это архитектура (чертеж). LLM — это конкретная модель, построенная по этому чертежу. В этой лекции мы разберем чертеж, потом заглянем внутрь конкретной LLM и разберем «марки машин» (GPT, BERT, Llama, Claude, Gemini).
1. Почему RNN оказались ограниченными
RNN обрабатывает последовательность шаг за шагом, слово за словом, токен за токеном. Сеть не может обработать все слова одновременно — она должна сначала прочитать первое, потом второе, потом третье.
Это создает фундаментальное ограничение: RNN нельзя эффективно параллелизовать. Даже если у вас тысяча GPU, вы не можете обработать тысячу слов одновременно — сеть должна идти последовательно.
Аналогия: представьте, что вы читаете книгу, но можете читать только одно слово за раз, и каждое следующее слово зависит от предыдущего. Вы не можете пропустить страницу или прочитать два слова одновременно. Это медленно.
Вторая проблема — дальние зависимости. Когда слово в конце фразы зависит от слова в ее начале. RNN с LSTM/GRU частично решают возникающую проблему, но не полностью: информация все равно проходит через все промежуточные шаги и может «затухнуть».
Третья проблема — масштабируемость. RNN сложно обучать на тысячах GPU, потому что последовательная природа не позволяет эффективно распараллелить вычисления. А Scaling Laws говорят: чем больше модель и данные, тем лучше результат. Без параллелизации масштабирование упирается в стену.
2. Механизм Self-Attention
2.1. Идея
Self-Attention (внимание к себе) — это механизм, который позволяет модели смотреть на все токены одновременно и оценивать, насколько каждый токен важен для каждого другого.
2.2. Query, Key, Value
Механизм внимания работает через три вектора для каждого токена:
- Query (Q) — «что я ищу?» (запрос),
- Key (K) — «что я предлагаю?» (ключ, описание),
- Value (V) — «мое содержание» (сами данные).
Для каждого токена вычисляется его Query. Затем Query сравнивается с Key всех токенов (через скалярное произведение). Результат — веса внимания: насколько каждый токен важен для текущего. Затем вычисляется взвешенная сумма Value всех токенов с этими весами.
Аналогия с поиском в библиотеке: вы вводите запрос в поисковик (Query). Система сравнивает его с заголовками книг (Key). Выдает содержание книг (Value) в порядке релевантности. Именно так работает Self-Attention: каждый токен «запрашивает» информацию у всех остальных токенов.
2.3. Формула
Формально внимание вычисляется так: Attention(Q, K, V) = softmax(QKᵀ / √d) · V, где d — размерность векторов.
Деление на √d нужно, чтобы скалярные произведения не становились слишком большими по модулю. Иначе softmax становится слишком «острым» (почти one-hot), и градиенты становятся исчезающе малыми — модель перестает обучаться.
2.4. Почему это работает
Self-Attention позволяет модели динамически определять, какие токены важны. В отличие от RNN, где информация передается последовательно, здесь каждый токен может «напрямую» обратиться к любому другому токену.
Пояснение: в RNN информация от первого слова до последнего проходит через все промежуточные шаги. В Transformer каждый токен напрямую «обращается» к каждому другому токену. Это как если бы вы могли позвонить любому человеку напрямую, а не передавать сообщение через цепочку посредников. Именно поэтому Transformer решает проблему дальних зависимостей: слово в конце предложения может «увидеть» слово в начале без промежуточных шагов.
Важно отметить и «цену» этого преимущества. Классический full self-attention имеет квадратичную сложность O(n²) по длине последовательности: нужно сравнить каждый токен с каждым. Поэтому длинный контекст становится дорогим по памяти и вычислениям — это одно из ключевых ограничений архитектуры.
С этой сложностью борются разными способами:
- разреженное внимание (Sparse Attention) сравнивает не все пары токенов, а только некоторые,
- линейное внимание (Linear Attention) переформулирует вычисление так, чтобы сложность стала линейной,
- FlashAttention — это оптимизация вычислений без изменения математики: она ускоряет и экономит память за счет более эффективного использования GPU.
Мы не будем разбирать их подробно, но стоит знать, что это активная область исследований.
3. Multi-Head Attention
3.1. Зачем несколько голов
Одно «окно внимания» может упустить важные аспекты. Поэтому используют Multi-Head Attention: несколько механизмов внимания, работающих параллельно.
Как это работает.
Входные данные проецируются в несколько наборов Q, K, V (например, 8 или 16 голов). Каждая голова учится смотреть на разные типы связей. На практике разные головы часто специализируются на разных паттернах — синтаксических, семантических, позиционных и других, — хотя эти роли не задаются заранее, а возникают в процессе обучения.
Результаты работы голов конкатенируются (объединяются) и проходят через линейный слой. Это позволяет модели учитывать разные типы связей одновременно.
Аналогия: представьте, что вы анализируете текст с командой экспертов. Один эксперт смотрит на грамматику, другой — на смысл, третий — на стиль. Каждый видит свой аспект. Потом вы объединяете их выводы. Multi-Head Attention делает похожее: несколько «голов» смотрят на разные аспекты, а потом результаты объединяются.
4. Архитектура Transformer
Transformer был создан для машинного перевода: в статье 2017 года авторы показали, что он превосходит предыдущие модели на WMT 2014 с существенно меньшими затратами на обучение.
Трансформер состоит из двух частей:
- энкодер (Encoder) — читает и понимает входной текст,
- декодер (Decoder) — генерирует выходной текст.
В оригинальной архитектуре (Vaswani et al., 2017) энкодер и декодер используются вместе. Но современные модели часто используют только одну часть: BERT — только энкодер, GPT и большинство современных LLM — только декодер.
Энкодер состоит из нескольких одинаковых слоев. Каждый слой содержит:
- Multi-Head Attention — слой внимания,
- Add & Norm — остаточная связь (вход добавляется к выходу) и нормализация (LayerNorm),
- Feed-Forward — полносвязный слой, примененный к каждому токену отдельно,
- Add & Norm — снова остаточная связь и нормализация.
Остаточные связи и LayerNorm помогают градиенту «протекать» через слои, не затухая, и стабилизируют обучение. Без них обучать очень глубокие стеки Transformer (десятки слоев) было бы крайне трудно. Мы уже встречали остаточные связи в ResNet - в Transformer они выполняют ту же функцию.
LayerNorm нормализует каждый токен отдельно, а не по батчу. Это важно для NLP, потому что последовательности имеют разную длину (BatchNorm работал бы нестабильно). LayerNorm не зависит от длины последовательности и от размера батча, поэтому он стал стандартом для Transformer.
Декодер похож на энкодер, но имеет две важные особенности.
Masked self-attention: при обработке каждого токена декодер может «смотреть» только на предыдущие токены, но не на будущие. Это необходимо для авторегрессивной генерации: модель не должна «подглядывать» в ответ. Если бы декодер видел будущие токены, он бы просто «списывал» правильный ответ во время обучения, и генерация была бы невозможна. Маскирование реализуется через добавление к весам будущих токенов перед softmax такого члена, что их вероятность становится нулевой.
Cross-attention. Декодер имеет дополнительный слой внимания, который смотрит на выход энкодера. Важно: в cross-attention Query приходит из декодера, а Key и Value — из энкодера. Это позволяет декодеру «запрашивать» информацию у входного текста при генерации.
Важная деталь: Transformer не обрабатывает последовательность шаг за шагом, поэтому он не знает порядок слов. Чтобы исправить это, к эмбеддингам добавляется позиционное кодирование (Positional Encoding) — вектор, который кодирует позицию слова в предложении.
Как это работает: используются синусы и косинусы разных частот, или обучаемые векторы. В любом случае модель получает информацию о том, какое слово идет первым, какое вторым, и так далее.
Аналогия: представьте, что вы получили набор слов в случайном порядке. Без дополнительной информации вы не знаете, какое слово было первым. Позиционное кодирование — это как номера на карточках со словами: оно говорит, какое слово где стояло.
Трансформеры стали возможны благодаря:
- GPU-кластерам (тысячи GPU, работающие параллельно),
- TPU (специализированные чипы от Google, ускоряющие матричные умножения),
- Big Data (Интернет, книги, код — триллионы токенов).
Без параллелизации, которую обеспечивает Transformer, обучение на таких масштабах было бы невозможно.
5. BERT vs GPT
5.1. BERT (энкодер-only)
BERT (Bidirectional Encoder Representations from Transformers) использует только энкодер. Он смотрит на слова слева и справа одновременно (двунаправленный контекст).
BERT дают предложение с «пропущенными» словами (masked language modeling). Он должен угадать пропущенные слова по контексту. Например: «Я пошел в [MASK] и купил хлеб». BERT угадывает: «магазин». Именно двунаправленность позволяет BERT «видеть» и левый, и правый контекст при угадывании.
BERT не генерирует текст — он его анализирует (понимание текста: классификация, ответы на вопросы, поиск информации). Именно поэтому BERT не используется в чат-ботах: для генерации нужен декодер (GPT), а не энкодер (BERT).
Сегодня encoder-only используется в задачах понимания и поиска
5.2. GPT (декодер-only)
GPT (Generative Pre-trained Transformer) использует только декодер. Он смотрит только слева направо (авторегрессия).
Ему дают текст и просят предсказать следующее слово. Например: «Сегодня отличная …» → «погода».
GPT генерирует текст, а не анализирует его.
Сегодня decoder-only архитектуры (GPT, Llama, Claude, Gemini и др.) доминируют среди больших генеративных языковых моделей.
Encoder-decoder по-прежнему используется в задачах перевода и некоторых seq2seq-сценариях (например, T5, BART, mBART).
5.3. Сравнение
По контексту: BERT смотрит в обе стороны, GPT — только вперед.
По задаче: BERT — понимание, GPT — генерация.
По обучению: BERT — masked language modeling, GPT — autoregressive language modeling.
По применению: BERT — классификация, поиск, ответы на вопросы. GPT — чат-боты, генерация кода, творческие задачи.
Подробнее о семействах моделей (GPT, BERT, Llama, Claude, Gemini) будет раccказано позже.
6. Связь со Scaling Laws
Трансформеры позволили реализовать Scaling Laws на практике. (Scaling Laws (Kaplan et al., 2020) — это эмпирические законы, которые описывают, как качество модели зависит от размера, данных и вычислений.) Именно возможность полной параллелизации позволила обучать модели на огромных кластерах GPU.
Трансформеры не «создали» эти законы — они позволили проверить их на практике, потому что обеспечили параллелизацию. Без Transformer не было бы GPT-3, GPT-4 и современных LLM.
7. Примеры
7.1. Чтение предложения
Представьте, что вы читаете предложение. Чтобы его понять, ваш мозг связывает отдельные лова. Это и есть внимание. Transformer делает это для всех пар слов одновременно. Он не читает предложение строго слева направо — он сразу учитывает связи между всеми словами.
7.2. Поиск в библиотеке
Self-Attention — это как поиск в библиотеке. Вы вводите запрос (Query). Система сравнивает его с заголовками книг (Key). Выдает содержание книг (Value) в порядке релевантности. Каждое слово в предложении «запрашивает» информацию у всех остальных слов.
8. Заключение
Мы разобрали трансформер — архитектуру, которая перевернула мир ИИ.
Мы увидели, что
- Self-Attention позволяет модели «смотреть» на все токены одновременно (ценой квадратичной сложности), а Multi-Head Attention — учитывать разные типы связей;
- энкодер и декодер можно использовать по-разному: BERT — для понимания, GPT и современные LLM — для генерации;
- masked self-attention в декодере не дает модели «подглядывать» в будущее, а cross-attention позволяет декодеру «видеть» входной текст,
- трансформер стал возможен благодаря параллелизации и аппаратной эволюции. Именно он позволил реализовать Scaling Laws на практике и сделал возможным современный пайплайн предобучения и alignment.