Как сообщает Telegram-канал «Хабр», сборка домашнего сервера для запуска языковых моделей на бывших в употреблении картах NVIDIA CMP 90HX столкнулась с неожиданным препятствием. Владелец снимал вычислительные ограничения, допаивал отсутствующие конденсаторы для полноценного PCIe x16, но одна плата упорно работала на старом Gen1 со скоростью 2.5 GT/s. Ни готовые утилиты, ни ручная правка регистров не помогали: несколько часов подряд значение оставалось неизменным.
Тогда задачу поручили локальному агенту, запущенному на этих же картах. Четыре ускорителя NVIDIA управляли моделью, которая снимала ограничение с пятого ускорителя NVIDIA. На возню с драйвером, регистрами и пересборкой модулей закладывали несколько суток.
Сколько времени заняло решение на самом деле, в сообщении не уточняется. История иллюстрирует, как локальные ИИ-агенты начинают применять себя к задачам, которые раньше требовали ручного вмешательства, — вплоть до настройки оборудования, на котором они же и работают.
Источник: Telegram: Хабр
Комментарии 2