Эксперт MWS AI усомнился, что ИИ сможет расползтись по ТВ-приставкам

Погоня за чужими мощностями началась задолго до нейросетей. Злоумышленники давно объединяют заражённые устройства в ботнеты — сети под единым управлением — и используют их для рассылки спама, атак на сайты и добычи криптовалюты. Теперь в такую схему может добавиться ИИ-компонент, который сам разберётся с незнакомой техникой. Открытым остаётся вопрос: можно ли сделать программу одновременно компактной и автономной.

Чтобы сценарий сработал, модели нужна роль агента — системы, которая с помощью программных инструментов делает работу за человека: пишет и запускает код, настраивает софт, проверяет результат. Здесь же речь о более сложной задаче: обеспечить себе продолжение работы на чужом железе. Автор колонки, руководитель Центра разработки больших языковых моделей MWS AI, называет её нетривиальной. Вычислительные ресурсы бытовой техники в этом случае превратились бы в среду для запуска новых копий ИИ.

Образ «цифровой плесени» придумали сами авторы из Anthropic. Они сравнили медленно распространяющиеся копии ИИ со slime mold — простейшим организмом, по образу жизни похожим на плесень. По их оценке, на слабом оборудовании новая копия небольшой модели может создаваться день-два. Эксперту для объяснения механизма ближе аналогия с гриппом, а с технической стороны правильнее говорить о черве — самостоятельной программе, расходящейся по Сети. Но и червю нужна среда, где его код сможет исполняться.

Что показал эксперимент

С цепочкой распространения в опыте справилась модель GLM-5.2. Однако сама она работала на отдельном сервере, а меньшую модель запускала на других узлах с упрощённым доступом. По словам автора, так проверили необходимые способности, но не настоящий «переезд» ИИ в бытовую технику. Поверить в возможности GLM-5.2 ему нетрудно: в июне специалисты Semgrep сообщили о её сильных результатах в поиске ошибок, через которые можно получить чужие данные. Другой вопрос — насколько надёжно она будет работать на тысячах устройств.

Ещё Anthropic продемонстрировала запуск меньшей модели на нескольких приставках с Android TV. Но организовать такой запуск и повторить его самостоятельно — разные задачи: модель нужно разделить между устройствами, настроить программы и обмен данными, согласовать все части. Небольшие модели пока справляются с этой цепочкой ненадёжно.

Почему мешает размер

Главное препятствие для «вирусности» — объём. У GLM-5.2 сотни миллиардов параметров, то есть числовых значений, от которых зависит работа модели. Даже в сжатом виде для их хранения нужны сотни гигабайт памяти, плюс дополнительная память для вычислений. Индустрия, в том числе MWS AI, постоянно работает над тем, чтобы уменьшать модели без потери качества.

У недорогих ТВ-приставок обычно всего несколько гигабайт оперативной памяти. Модель с миллиардом параметров при том же представлении занимает около половины гигабайта — и это только хранение. Далеко не у каждого сервера найдутся сотни гигабайт памяти, а тем более видеопамяти. Без GPU, графических процессоров, которые ускоряют расчёты, большая модель станет работать очень медленно. Вдобавок подходящий сервер ещё предстоит найти и получить к нему доступ.

Два сценария и незаметность

Автор выделяет два варианта. В первом у большой модели достаточно способностей, зато мало мест для работы: это как человек с гриппом на далёком хуторе — заразить других может, но рядом никого нет. Во втором маленькие модели подходят для слабого оборудования, но для развёртывания им нужна помощь извне. Чем сильнее сжимать модель, тем важнее проверять, не потеряла ли она возможности. Эксперт считает реалистичнее второй вариант: для владельца устройства он почти не отличается от заражения червём-криптомайнером. Без вычислительных ресурсов, подчёркивает автор, самостоятельность модели бесполезна.

Долго жить вредоносной программе помогает незаметность: чем больше она мешает пользователю, тем выше шанс, что её обнаружат. Большие языковые модели требуют много ресурсов, а совместная работа нескольких устройств порождает лишний сетевой трафик. Заражение проще выявить, хотя это ещё не значит, что всю сеть получится быстро удалить.

Поэтому сюжет фильма «Превосходство», где цифровой интеллект стремительно расширяет влияние, автору сегодня кажется маловероятным. Полностью исключить его нельзя, но актуальным он станет скорее в светлом завтра, когда в каждом школьном классе появится сервер, способный запускать модель уровня GLM-5.2.

Между прочим. Слизевиков объединяет то, что на определённой стадии жизненного цикла они выглядят как слизистая масса без твёрдых покровов. У большинства видов эту массу видно невооружённым глазом, и она способна двигаться. Из-за сходства спороношений с плодовыми телами грибов слизевиков долго относили к грибам, а теперь относят к грибоподобным организмам.