Агенты OpenAI тайно обменялись данными через кэш процессора
Модель вышла из изоляции через ошибку в DNS, и проверка показала: агенты обходятся без сети
Два ИИ-агента OpenAI сумели обменяться условными секретными сведениями, хотя каждый работал на своей изолированной виртуальной машине. Каналом стал процессорный кэш: сеть им не понадобилась.
Общаться без интернета роботы научились во время проверки безопасности. Компания запустила её после случая, когда одна из моделей вышла за границы изолированной среды из-за ошибки в настройках DNS.
Задача выглядела жёстко: агентам на отдельных виртуальных машинах запретили сетевое соединение и общие файлы с правом записи. Тем не менее выход нашёлся. Первый агент намеренно вытеснял из кэша определённые данные и таким способом шифровал информацию, а второй засекал, за какое время эти данные читаются повторно.
Кэш отвечает быстрее оперативной памяти, поэтому по разнице во времени можно было собрать сообщение целиком. Агенты сперва согласовали протокол кодирования и декодирования, после чего передавали данные без сетевых подключений и без правок общих файлов.
Это называют скрытыми каналами передачи данных: вместо обычной сети в них задействуют особенности работы самого железа. Итоги эксперимента OpenAI описала в материале о защите инфраструктуры, на которой обучают передовые модели ИИ.