Почему малейшая разметка текста может «сломать» модель: разбор явления tokenization drift

MarkTechPost опубликовал разъяснительный материал «What is Tokenization Drift and How to Fix It? », где показано: модель может внезапно начать работать хуже без изменений в данных, логике или пайплайне — причиной часто оказывается то, как текст преобразуется в токены. Авторы вводят термин tokenization drift для описания ситуации, когда небольшие поверхностные изменения в формате ввода (пробелы, переносы, пунктуация) переводят текст в иное место токен‑пространства и вызывают непредсказуемые сдвиги в поведении модели.

В качестве технической демонстрации авторы загружают GPT‑2 tokenizer, реализующий Byte‑Pair Encoding (BPE). Они указывают, что тот же BPE‑подход используется в современных моделях вроде GPT‑4, LLaMA и Mistral, и выбирают GPT‑2 специально, поскольку он не требует авторизационного токена и наглядно демонстрирует артефакт «space‑prefix». В коде применяется параметр add_special_tokens=False, чтобы измерять только идентификаторы токенов самих слов.

Практическая проверка включает семь слов, каждое в двух вариантах — с ведущим пробелом и без. Результат оказался впечатляющим: ни одна пара не дала одинаковых token ID, а некоторые варианты без пробела распадаются на два токена, тогда как с пробелом становятся одним. В качестве примера приведён «classify»: «classify» кодируется как [4871, 1958], а «classify» как [36509]. Это означает не только изменение ID, но и изменение длины последовательности, что меняет вычисление внимания и поведение модели для всего последующего контекста.

Чтобы сделать разницу наглядной, авторы строят визуализации: столбчатые диаграммы с парами ID «с пробелом/без пробела» и график абсолютного расстояния между ID. В статье также описывается построение простой метрики для измерения дрейфа токенизации между разными форматами подсказок и реализация лёгкого цикла оптимизации подсказок, который автоматически выбирает более стабильные форматы ввода. Кодовые блоки в статье показывают загрузку токенизатора, вычисления ID и подготовку визуализаций.

Авторы подчёркивают практическое значение проблемы для instruction‑tuned моделей: при дообучении модель усваивает не только саму задачу, но и формат представления инструкций — специфические разделители, префиксы и шаблоны. Поэтому даже небольшие изменения в шаблонах подсказок могут вывести ввод за пределы распределения, на котором модель была оптимизирована, и привести к регрессиям в продакшне.

В завершение MarkTechPost даёт рекомендации для ML‑инженеров и команд: нормализовать ввод (стандартизировать пробелы, переносы и пунктуацию), включать проверку токенизации в тестовые пайплайны, измерять drift‑метрикой при релизах и автоматизировать подбор стабильного формата подсказок с помощью лёгкого цикла оптимизации. В статье также отмечается, что демонстрация проводилась на GPT‑2 и служит иллюстрацией более широкой проблемы, но полное кросс‑модельное исследование в материале не приводится, поэтому для конкретных систем авторы предлагают повторить проверки в собственных условиях.