ИИ
Как и любое технологическое достижение, инструменты генеративного искусственного интеллекта используются для повышения производительности и творчества, но также все чаще для мошенничества и злоупотреблений. Среди этой новой волны вредоносного контента особого внимания заслуживают дипфейки.
Эти искусственно созданные аудиовизуальные записи, которые по одной только фотографии и 10 секундному образцу голоса могут сгенерировать видео с любыми высказываниями и утверждениями, которые человек никогда не делал. Как показывает недавнее исследование Microsoft , фейки, мошенничество и злоупотребления — это то, что больше всего беспокоит онлайн-пользователей во всем мире.
71 процент респондентов в 17 странах, опрошенных Microsoft в июле и августе 2023 года, были очень или несколько обеспокоены мошенничеством с использованием искусственного интеллекта, так как уточнения что именно за мошенничество имелось ввиду в исследовании не представлено, можно утверждать, что это общее понятие. На втором месте находятся дипфейки, а также сексуальное или онлайн-насилие (69 процентов). ИИ-галлюцинация (когда, к примеру, чат бот представляет ложные ответы как факты, из-за проблем с учебным материалом) занимают четвертое место. Проблемы конфиденциальности данных (когда для обучения языковой модели загружается огромный массив данных не всегда обезличенных и почти всегда без согласия пользователей) занимает пятое место с 62 процентами.
В целом, 87% респондентов в какой-либо степени обеспокоены одним проблемным сценарием связанным с ИИ.
Опасности генеративного ИИ
Несмотря на впечатляющий рост рынка услуг и продуктов на основе ИИ, который по разным источникам оценивается в 300–500 миллиардов долларов в 2024 году, результаты опроса показывают, что игнорирование потенциальных проблем и уязвимостей уже сейчас может представлять угрозу для общества в целом.