«Кожаный передатчик»: почему делегировать ИИ всё подряд — плохая идея

Разработчик Дэн Луу рассказал о случае, который хорошо показывает риск слепого доверия агентам. Задача была скромной — привести в порядок управление переменной DATABASE_URL. Агент отреагировал цепочкой примерно из двадцати изменений: добавил проверки в npm-скрипты, прописал вызов Node в конфигурации CI. Человек справился иначе — внёс одно слово, и ни одной новой строки не понадобилось.

Луу не противник ИИ: он постоянно работает с агентами. Но, по его мнению, между помощью ассистента и передачей ему всего мыслительного процесса лежит важная граница. Когда агенты становятся сильнее, соблазн велик: поставить задачу, принять результат, а при ошибке отправить назад на доработку. Никлас Грюн назвал человека в такой цепочке «кожаным передатчиком».

Ирония в том, что пример с DATABASE_URL — не про слабость модели, а про соблазн делегировать решение, которое требует понимания контекста. Луу приводит и другие случаи, где эта граница проявляется, но суть одна: бездумная передача задач ИИ может обернуться лишней работой и потерей контроля над кодом.