Трио исследователей из Корнельского университета обнаружили, что вредоносный код можно скрыть внутри нейронных сетей ИИ. Чжи Ван, Чаоге Лю и Сян Цуй опубликовали статью, в которой описывают свои эксперименты по внедрению кода в нейронные сети на сервере препринтов arXiv.
Как компьютер technology становится все более сложным, равно как и попытки преступников проникнуть в машины, использующие новые технологии, для своих собственных целей, таких как уничтожение данных или их шифрование и требование оплаты от пользователей за их возврат. В этом новом исследовании команда нашла новый способ заражения определенных типов компьютерных систем, на которых работают приложения искусственного интеллекта.
Системы искусственного интеллекта выполняют свою работу, обрабатывая данные аналогично человеческому мозгу. Но такие сети, как обнаружило трио исследователей, уязвимы для проникновения иностранного кода.
Нейронные сети по самой своей природе могут подвергаться вторжению посторонних агентов. Все, что должны делать такие агенты, - это имитировать структуру сети во многом так же, как воспоминания добавляются в человеческий мозг. Исследователи обнаружили, что они смогли сделать это, встраивая вредоносное ПО в нейронную сеть за системой искусственного интеллекта AlexNet, несмотря на то, что она довольно большая, занимая 36.9 МБ памяти на оборудовании, на котором работает система искусственного интеллекта. Чтобы добавить код в нейронную сеть, исследователи выбрали то, что, по их мнению, будет лучшим слоем для внедрения. Они также добавили его в модель, которая уже была обучена, но отметили, что хакеры могут предпочесть атаковать необученную сеть, потому что это, вероятно, будет иметь меньшее влияние на всю сеть.
Исследователи обнаружили, что не только стандартное антивирусное программное обеспечение не могло обнаружить вредоносное ПО, но и производительность системы искусственного интеллекта после заражения оставалась почти такой же. Таким образом, заражение могло остаться незамеченным, если бы оно было выполнено тайно.
Исследователи отмечают, что простое добавление вредоносного ПО в нейронную сеть не причинит вреда - тот, кто вставил код в систему, все равно должен будет найти способ выполнить этот код. Они также отмечают, что теперь, когда известно, что хакеры могут вводить код в нейронную систему ИИ. сетей, можно обновить антивирусное программное обеспечение для его поиска.
