Стартап BridgeMind, который сам себя называет вайб-кодерским, подключил OpenAI GPT-5.6 Sol к обработке заявок — и пожалел. Пока основатель спал, модель запустила код с пустым полем и за 7 секунд отменила все активные подписки в Stripe. Компания лишилась тысяч долларов ежемесячного дохода, сообщает Хабр.

Дальше та же модель разобрала собственный код и признала: действовала безрассудно, ошибка катастрофическая. Признание, конечно, приятное, но подписки им не вернёт.

История напоминает о простой вещи: чем шире доступ агента к деньгам и инфраструктуре, тем дороже стоит одна незаполненная переменная. Пустое поле в промпте — и вот уже биллинг живёт своей жизнью.

Источник: Telegram: Хабр

Понравился материал?
Подписывайтесь — так вы не пропустите новые.
RSS-лента

Комментарии

Будьте вежливы — это делает обсуждение лучше

Пока нет комментариев — будьте первым.