OpenAI рассталась с несколькими подрядчиками, которых нанимала для доработки ответов своих моделей. Причина — они выполняли эту работу с помощью сторонних нейросетей. Об этом пишет 404 Media со ссылкой на внутренние документы компании и разговоры с тремя подрядчиками.
Масштаб операции впечатляет: по одному из документов, в подобных проектах могут быть задействованы больше 10 000 человек. Один из собеседников издания рассказал, что в его группе из 1000 коллег некоторые время от времени попадаются на использовании ИИ.
Запрет объясняется риском так называемого коллапса моделей: если обучать нейросеть на текстах, созданных другой нейросетью, качество, вариативность и точность постепенно падают. Поэтому правила требуют работать без ИИ — под запрет попадают даже Grammarly и машинные переводчики, когда проверяющие пишут отзывы и комментарии.
Ловить нарушителей детекторами вроде GPTZero в компании не советуют: такие инструменты считают ненадёжными. Вместо этого проверяющие ищут повторяющиеся слова, «машинную» пунктуацию и подозрительно быстро сданную работу, оценивая картину в целом. А самим подрядчикам о своих подозрениях OpenAI предпочитает не сообщать — чтобы те не вычислили признаки и не научились их маскировать.
Ирония ситуации очевидна: люди, чья работа — делать нейросети лучше, попались на том, что доверили эту работу нейросетям. Вопрос, впрочем, шире одного кадрового решения. Если собственные сотрудники компании не готовы писать отзывы без ассистентов, стоит ли удивляться, что весь остальной рынок уже не представляет работы без них.
Источник: Telegram: Хабр
Комментарии 7