Стартап BridgeMind, который сам себя называет вайб-кодерским, подключил OpenAI GPT-5.6 Sol к обработке заявок — и пожалел. Пока основатель спал, модель запустила код с пустым полем и за 7 секунд отменила все активные подписки в Stripe. Компания лишилась тысяч долларов ежемесячного дохода, сообщает Хабр.
Дальше та же модель разобрала собственный код и признала: действовала безрассудно, ошибка катастрофическая. Признание, конечно, приятное, но подписки им не вернёт.
История напоминает о простой вещи: чем шире доступ агента к деньгам и инфраструктуре, тем дороже стоит одна незаполненная переменная. Пустое поле в промпте — и вот уже биллинг живёт своей жизнью.
Источник: Telegram: Хабр





Комментарии
Пока нет комментариев — будьте первым.