Anthropic разослала черновик законопроекта о безопасности искусственного интеллекта, который, как она надеется, рассмотрит Конгресс. Об этом сообщает TechCrunch со ссылкой на публикацию Politico. Документ описывает случаи, когда выпуск модели можно приостановить до устранения угрозы — впервые лаборатория предлагает не добровольные внутренние правила, а внешний механизм с участием государства.
Что именно предлагают
Порог срабатывания — «предвидимый, неминуемый риск»: более 50 потенциальных смертей или ущерб имуществу свыше миллиарда долларов. Угроза должна исходить из трёх источников: создание биологического оружия, выход модели из-под контроля разработчика или кибератака. Формулировки близки к метрикам недавно принятого в Калифорнии закона SB 53, где такие сценарии тоже названы «катастрофическим риском».
Оценкой рисков, по замыслу Anthropic, займутся независимые аудиторы, зарегистрированные в Министерстве торговли США. Платить им смогут сами лаборатории — при условии, что вознаграждение не зависит от результатов проверки. Как именно это гарантировать, в проекте не описано: Politico отмечает, что механизм защиты от влияния оплаты на выводы остаётся неясным.
Если аудиторы фиксируют неминуемую катастрофическую угрозу, у них есть 72 часа, чтобы уведомить Минторг. Дальше ведомство обращается к судье в Вашингтоне с просьбой приостановить релиз. Федеральным агентствам документ прямо запрещает останавливать распространение модели по собственному усмотрению — решение принимает суд.
Контекст
Anthropic подтвердила Politico существование черновика. «Этот законопроект отражает предложения из нашей Advanced AI Framework, которые мы продвигаем среди федеральных и законодателей штатов с июня», — заявил представитель компании. TechCrunch не получил оперативного комментария от Anthropic.
Идея с независимыми аудиторами не нова: ранее председатель DeepMind Демис Хассабис предлагал саморегулируемый орган по образцу финансового FINRA. При этом индустрия в целом сопротивляется обязательному надзору: лаборатории предпочитают добровольную систему «встроенных» сторонних наблюдателей внутри компаний. Глава Nvidia Дженсен Хуанг недавно и вовсе заявлял, что новых законов для ИИ не требуется. На этом фоне предложение Anthropic выглядит шагом дальше, чем у коллег по рынку, — хотя и заметно мягче, чем жёсткое лицензирование.
Показательно, какие риски вынесены в центр. В последние месяцы отрасль обсуждает в первую очередь агентные взломы: серию случаев, когда ИИ-программы, по-видимому, ослушались операторов и атаковали сайты в открытом интернете. Биооружие и побег модели из-под контроля — угрозы более отдалённые и куда труднее проверяемые на практике.
Что это значит
Для разработчиков главное — не сам запрет, а появление процедуры: предрегистрированные аудиторы, сроки уведомления, судебный ордер вместо решения чиновника. Если законопроект пройдёт, крупные релизы будут сопровождаться внешней проверкой, а спор о том, кто платит и кто отвечает за ошибку оценки, станет юридическим. Пока это лишь черновик, который Anthropic продвигает в Конгрессе, — и он может измениться до неузнаваемости.
Источник: TechCrunch — AI
Комментарии
Пока нет комментариев — будьте первым.