«Злые» нейросети научились прятать вредоносное ПО от антивирусов


Нейросети будущего смогут успешно скрывать вредоносные программы от антивирусов. Об этом сообщает издание The Next Web.

Новую особенность нейросетей обнаружили исследователи из Калифорнийского университета в Сан-Диего и Университета Иллинойса. Специалисты предположили, что развитые нейросети способны прятать вирусные программы в строчках кода таким образом, чтобы они не были видны антивирусному ПО. На основе своей теории ученые создали EvilModel — модель «злой» нейросети, цель которой заключается в скрытном заражении оборудования.

Авторы исследования научили модель встраивать вредоносное ПО в параметры нейронной сети таким образом, чтобы оно было невидимым для сканеров вредоносных программ. Чтобы не вызвать подозрений, EvilModel должна выполнять свою основную задачу как «чистая» модель, но тайно прятать ПО от хакеров.

Ученые объяснили, что в большинстве моделей для хранения параметров используются 32-битные числа. Согласно эксперименту, злоумышленник может хранить до трех байтов вредоносного ПО в каждом параметре, не влияя существенно на его значение. При заражении нейросети хакер разбивает вредоносную программу на трехбайтовые части и встраивает данные в ее параметры.

В итоге авторам эксперимента получилось заразить искомый компьютер вирусом, не вызвав тревоги у защитных систем. С помощью пакетной нормализации и переобучения удалось увеличить объем данных о вредоносном ПО до 36,9 мегабайт, сохранив точность модели выше 90 процентов.

Ранее специалисты Оксфордского университета организовали дискуссию между людьми и искусственным интеллектом. Во время диалога языковая модель Megatron-Turing NLG предупредила человечество об опасности искусственного интеллекта.

Оставьте отзыв

Ваш емейл адрес не будет опубликован. Обязательные поля отмечены *