ноутбук, абстракция
Число атак с использованием ИИ недооценено, так как их трудно отличить от действий человека, — к такому выводу пришли в исследовании венчурного фонда Team8, специализирующегося на кибербезопасности, ИИ, данных, финтехе и цифровом здравоохранении. Компания опросила около 110 руководителей служб информационной безопасности, которые выразили как опасения по поводу вредоносного использования ИИ, так и надежду на то, что он может улучшить киберзащиту.
В отчёте говорится, что наиболее яркими примерами атак с использованием ИИ являются дипфейки, клонирование голоса и имитация речи в реальном времени, позволяющие эксплуатировать доверие людей. Однако, по словам Team8, ИИ также может использоваться для усиления и ускорения атак и в скором времени может превратиться в автономное оружие, способное действовать без вмешательства человека.
Выводы Team8 пересекаются с результатами другого опроса, проведённого Arkose Labs, согласно которому лишь каждая пятая компания уверена в том, что она хорошо подготовлена к атакам ботов на базе искусственного интеллекта.
56 % респондентов сообщили, что генеративный ИИ увеличил частоту киберугроз в отношении их компаний, и столько же отметили, что эти угрозы стали более изощрёнными.
Согласно опросу Arkose Labs, 88 % респондентов заявили, что за последние два года их компании столкнулись с ростом числа атак ботов на базе ИИ, превышающим темпы распространения «базовых» бот-атак.
Почти 40 % руководителей служб информационной безопасности (CISO) назвали внедрение ИИ через так называемых агентов искусственного интеллекта, которые выполняют задания от имени пользователей, нерешённой проблемой кибербезопасности. Злоумышленники активно используют методы социальной инженерии, обманывая пользователей с помощью ИИ-технологий для проникновения в защищённый периметр. И почти столько же руководителей заявили, что обеспокоены безопасностью использования ИИ самими сотрудниками.
Опрос Team8 также показал, что около 60 % организаций, представленных в исследовании, отдают предпочтение «лучшим в своём классе» инструментам кибербезопасности, а не консолидированным платформам. Этот результат свидетельствует о переломном моменте после многих лет, в течение которых компании стремились сократить число поставщиков и снизить расходы, приобретая пакеты различных продуктов у одного крупного вендора.
В России, согласно исследованию Института изучения мировых рынков, 88 % руководителей компаний также считают, что в вопросах кибербезопасности зависимость от одного поставщика может представлять собой критическую проблему.