Яндекс опубликовал разбор того, как языковая модель проходит путь от простого продолжателя фраз до помощника, который понимает инструкции. Заодно компания напомнила: Alice AI Foundation LLM, обученная с нуля и выложенная под свободной лицензией, — это фундамент для будущей единой рассуждающей модели Алисы AI. Разбор появился в канале «Технологии Яндекса».
Два этапа вместо одного
Внутри LLM — огромное количество числовых коэффициентов, которые задают, как запрос превращается в ответ. Обучение идёт итерациями: система сверяет полученное с эталоном и подкручивает коэффициенты. Сначала — предобучение, затем — постобучение.
На первом этапе модель тренируется угадывать, каким будет продолжение фразы: слово целиком или его фрагмент. Среда сверяет догадку с верным вариантом, и так на колоссальном массиве примеров модель впитывает язык, накапливает знания и попутно прокачивает математику, программирование и навыки для агентных сценариев. Это самая ресурсоёмкая часть работы, на выходе — базовая модель. Она уже умеет продолжать текст и порой отвечает на вопросы, но запрос как инструкцию воспринимает не всегда.
Как из болтуна делают исполнителя
Второй этап начинается с пар «запрос — хороший ответ». Дальше модель сама генерирует несколько вариантов, AI-тренеры или специальные модели их оценивают, а веса снова корректируются — так ответы подтягиваются к эталонным. В итоге модель учится приносить пользу: решать задачи, пересказывать, извлекать данные, писать код.
Зачем выпускать промежуточную версию, которую ещё дообучать и дообучать? Это универсальная заготовка: компании адаптируют её под себя или открывают, чтобы то же самое могли сделать другие. Именно так Яндекс поступил с Alice AI Foundation LLM — обучил с нуля и опубликовал под свободной лицензией.
Что открыли вместе с моделью
Для Яндекса это экспериментальная база будущей единой рассуждающей модели для Алисы AI, на которой построят её агентные возможности: пользователи смогут поручать ассистенту конкретные действия. Сторонние разработчики уже сейчас вправе применять модель в исследовательских и коммерческих проектах. Вместе с ней компания выложила тесты на фактические знания на русском языке — по ним можно воспроизводимо сравнивать разные модели. Подробности разработчики рассказали на Хабре.
Что это значит
Для читателя, который пользуется Алисой или собирает собственные решения на открытых моделях, важны две вещи. Первая: открытая база — это не готовый продукт, а сырьё, которое предстоит доводить. Вторая: вместе с весами появились русскоязычные тесты, а значит, сравнивать модели станет проще — и не только Яндексу.
Источник: Telegram: Технологии Яндекса
Комментарии
Пока нет комментариев — будьте первым.