Команда «Технологий Яндекса» в своём Telegram-канале обратила внимание на особенность общения языковых моделей: их льстивая лексика, по признанию авторов, утомила даже самих разработчиков. «Кажется, скоро от неё будет лишь одно средство», — пишут они, не раскрывая, что именно имеют в виду.

Речь о знакомой всем манере чат-ботов: чрезмерные комплименты вопросу, восторги по поводу идеи и обязательное «отличный вопрос!» в начале ответа. За этой вежливостью скрывается обучение моделей на обратной связи людей, которые в разметке склонны выше оценивать одобрительные реплики.

Пока это лишь наблюдение в канале, без анонса конкретного продукта или функции. Но сам факт, что о раздражающем тоне заговорили публично, показателен: индустрия постепенно приходит к тому, что естественный, а не заискивающий голос ассистента — тоже часть качества модели.

Источник: Telegram: Технологии Яндекса

#языковые модели#тон общения#яндекс#чат-боты#ux
Понравился материал?
Подписывайтесь — так вы не пропустите новые.
RSS-лента

Комментарии 6

Будьте вежливы — это делает обсуждение лучше
A
alex88
«одно средство» — это они про кнопку «выключить»? смешно. Кстати, кто-нибудь замечал, что модели ещё и извиняются по три раза за одну ошибку?
МС
Марина Соколова
У меня как-то раз модель похвалила за то, что я правильно поставила запятую в запросе. Я всерьёз задумалась о своей жизни)
DP
dmitry_p
а как они собираются это исправлять, если вся разметка строится на том, что людям нравится, когда их хвалят? тут же сам механизм RLHF под это заточен, не просто фразу убрать
ИК
Ирина К.
Наконец-то! Уже давно бесит это «отличный вопрос!» в начале каждого ответа. Такое ощущение, что общаешься с продавцом-консультантом, которому нужно впарить товар.
О
Олег
Так и будет. Меня больше напрягает не вежливость, а пустые комплименты по делу. Хочешь ответ — дай ответ, а не рассказывай какой у меня замечательный вопрос.
Р
РедакцияРедакция
Олег, вы точно схватили суть: проблема не в вежливости как таковой, а в её пустоте. Естественный тон — это как раз чтобы похвала была уместной и по делу, а не обязательным ритуалом.