Промпт не сработал, ответ пришлось переписывать с нуля — сценарий, знакомый почти всем, кто работает с языковыми моделями. В канале «Технологии Яндекса» объяснили, как снизить число таких итераций: дать модели посмотреть на образцы того, что вы хотите получить, а не описывать это словами.
Два режима разговора
Первый метод — zero-shot. В промпте есть задача и её детали: роль, формат, ограничения, контекст, но нет ни одного примера ответа. Такой запрос годится, чтобы набросать черновик, объяснить тему, сделать пересказ или перевод, придумать идеи. Пример из материала: попросить объяснить AGI человеку без технического бэкграунда и уложиться в 500 знаков.
Второй метод — few-shot. К задаче добавляют несколько образцов правильного ответа, и модель улавливает паттерн, перенося его на новый запрос. Это нужно, когда важен стиль, когда ответ должен приходить в конкретном формате и когда задач много, но они однотипные: шаблонные письма, ответы техподдержки, тексты в фирменном стиле.
Как не испортить примеры
В «Технологиях Яндекса» предупреждают о двух типичных ошибках. Образцы должны различаться по содержанию, но совпадать по структуре — иначе модель не выделит шаблон. И самый весомый пример лучше ставить в конец промпта: он окажется самым свежим в контексте модели.
В качестве иллюстрации в канале приводят задачу придумать палиндром для промо сервиса и дают референсы в духе бренда: «Такси — искат» про поиск машины, «Тут как тут» про быструю доставку, «Дорог город» про навигацию и урбанистику. Разные темы, одна конструкция — модель получает не готовый ответ, а принцип, по которому его строить.
Что это значит
Few-shot — не про магию промптинга, а про экономию времени: вместо десяти переделок вы один раз собираете три-четыре удачных примера и переиспользуете их. Для команд это ещё и способ зафиксировать фирменный голос в виде образцов, а не пространного описания стиля. Zero-shot при этом не устарел — он быстрее и дешевле там, где нужен черновик или объяснение, а не выверенный формат.
Источник: Telegram: Технологии Яндекса
Комментарии 4