ICML 2026: диффузионные модели, агенты и дешёвый посттрейн

ICML — конференция, где академическая наука встречается с промышленной разработкой. В этот раз, как сообщает Telegram-канал «Технологии Яндекса», компания представила восемь докладов и взяла приз за лучшую работу на секции, посвящённой графовым моделям. Сергей Юдин, возглавляющий в Яндексе направление ИИ-сервисов, выделил три тектонических сдвига.

Диффузия выходит из лабораторий

Первый тренд — стирание границы между теорией и продуктом. Исследователи всё чаще изучают то, что инженеры уже запустили в работу, а награды достаются технологиям, которые завтра окажутся в общем доступе. Две работы получили Outstanding Paper Award; обе так или иначе связаны с диффузионными моделями, а одна — с dLLM. Такие языковые модели умеют выдавать несколько токенов за один шаг, что в ряде сценариев заметно ускоряет генерацию.

Агенты: надёжность важнее скорости

Агентные системы уже применяются в промышленных задачах, но вопросы качества, предсказуемости и безопасной автономной работы пока не закрыты. Отдельное внимание уделили харнессу — обвязке вокруг языковой модели. Исследователи разбирают, как устроена память агента (эпизодическая и процедурная), как он учится на собственном опыте и как поверх этой памяти работает обучение с подкреплением. Другое направление — рабочие процессы: параллельное выполнение задач и грамотное распределение запросов по серверам. Третье — безопасность. Агент, читающий чужие документы, уязвим к промпт-инъекциям. Организаторы ICML встроили такие инъекции в PDF статей, чтобы поймать рецензентов, нарушивших запрет на использование LLM. Нашли 795 рецензий от 506 человек; у 398 из них были собственные заявки на конференцию. Итог — 497 связанных с ними статей отклонены.