Робот и человек угрожающе смотрят друг на друга
Внедрение все более продвинутых технологий искусственного интеллекта ведет к серьезным последствиям в мировом масштабе. Частные компании в сфере ИИ выходят на новый уровень глобального влияния, не ограниченного какими-либо регулятивными, социальными или моральными нормами.
Главы IT-компаний, ведущих разработки в сфере ИИ, ранее уже заявляли о том, что движение к более продвинутым версиям искусственного интеллекта является "неизбежным". Конечный результат этих работ зачастую описывается в религиозно-фантастических терминах: совершенный ИИ декларируется не просто как сверхчеловеческий разум, а как некий "бог" или "магический интеллект в небе", как в интервью изданию Financial Times в ноябре 2023 года заявил гендиректор OpenAI Сэм Альтман.
При этом руководитель OpenAI почти 10 лет назад в своем блоге признал, что "развитие сверхчеловеческого машинного интеллекта является, вероятно, величайшей угрозой для существования человечества,… никакая другая угроза не уничтожит всех людей таким образом, как может уничтожить сверхчеловеческий машинный интеллект". Подобные заявления звучат уже не первый год и, несмотря на признание реальности негативных последствия разработок ИИ, частные компании продолжают активную работу в данном направлении.
В 2023 году в ходе "Прямой линии" президент РФ Владимир Путин заявил о том, что "предотвратить развитие такого искусственного интеллекта невозможно, а значит – нужно возглавить", при этом сравнив появление полноценного искусственного интеллекта по своему эффекту с созданием атомной бомбы.
"Божественные" существа, однако, в различных религиях и мифологиях обычно имеют много способностей, и создание более продвинутых версий ИИ будет иметь – и отчасти уже имеет – комбинированный эффект.
Внедрение технологий ИИ уже оказывает и будет оказывать все более заметное влияние в глобальном масштабе на
- количество доступных рабочих мест;
- экологию;
- принципы ведения войн;
- системы наблюдения;
- сбор, хранение и использование персональных данных.
Тем самым, речь идет о создании и продвижении технологии, сочетающей в себе качества нейтронной бомбы, "грязной" атомной бомбы, глобальной системы наблюдения и сбора информации – и все это под контролем нечеловеческого, "магического интеллекта в небе".
В отличие от ядерного оружия, разработка которого в различных странах проходила под государственным контролем, создание и совершенствование технологий ИИ сегодня осуществляется частными компаниями и, фактически, ничем не ограничено.
Рабочие места
Нейтронный поражающий эффект ИИ заключается в увеличивающейся во времени сфере профессий, которые, по логике сокращения затрат и эффективности производства, могут быть автоматизированы по мере развития технологий искусственного интеллекта. Рабочие места останутся – но только вместо людей компании будут все активнее использовать ИИ.
В предыдущие годы автоматизации рабочих мест уже привела к негативным последствиям в виде обострения имущественного неравенства.
Автоматизация процессов с 1980 года стала одним из наиболее серьезных факторов, усиливших расхождения в зарплатах в экономике США. Исследования на эту тему публиковались в 2020 и 2022 годах в Массачусетском технологическом университете (MIT). Автоматизация снизила зарплаты мужчин, не имеющих среднего образования, примерно на 15%. В MIT также отметили, что в более узком временном диапазоне, в период с 1993 по 2007 год, внедрение компаниями каждого нового робота и/или программы в среднем привело к сокращению 3,3 рабочих мест.
За счет активного внедрения все более развитых технологий искусственного интеллекта в дальнейшем компании смогут продолжить сокращать свои издержки на производство, но крайним в этом процессе, опять же, будет человек.
По оценкам Банка международных расчетов (BIS), опубликованным в сентябре 2024 года на основе проведенного моделирования влияния ИИ на автоматизацию рабочих процессов среди более 700 различных профессий в США, доля возможной замены людей машинами по многим профессиям составляет от 60% до почти 100% при достижении технологий высокоразвитого искусственного интеллекта.
На более низком уровне развития ИИ, по оценкам BIS, внедрение автоматизации отчасти заменяет дополнительные навыки и квалификации сотрудников на всех уровнях. Однако по мере развития возможностей искусственного интеллекта более уязвимыми перед рисками полной автоматизации и потери работы становятся низкооплачиваемые вакансии, требующие более низких основной квалификации. При этом основную квалификацию и навыки на высокооплачиваемых позициях сложнее автоматизировать
Результаты исследования, как отмечается, "противоречат концепции о том, что генеративный ИИ поможет снизить неравенство на рынке труда".
Потенциально негативные тенденции по усилению неравенства по мере роста автоматизации производства были также обозначены в опубликованном в 2023 году докладе McKinsey Global Institute "Генеративный ИИ и будущее работы в Америке".
Среди основных тезисов исследования: к 2030 году автоматизация процессов может затронуть до 30% от общего объема рабочего времени в экономике США; вероятность потери работы на низкооплачиваемых вакансиях в 14 раз выше по сравнению с наиболее высокооплачиваемыми рабочими местами.
В качестве одного из потенциальных решений проблемы постепенного сокращения доступных рабочих мест из-за данного креативного "разрушения" прежнего экономического уклада в последние годы все чаще озвучивается предложение ввести так называем "безусловный базовый доход". Иными словами, в общественный дискурс многих стран мира постепенно и завуалированно внедряется концепция бессрочного пособия по безработице.
Экология
Потенциальные климатические последствия от развития и более активного применения ИИ пока еще не привлекают такого же заметного внимания. Однако, как отмечалось, восприятие искусственного интеллекта в виде "зеленой" технологии является довольно обманчивым.
Начальный процесс жизненного цикла создания ИИ – с добычей сырья, создания необходимых материалов для конечных компонентов оборудования, на котором будет осуществляться разработка ИИ, – уже сопряжен с определенным количеством выбросов в атмосферу. Еще более заметное влияние оказывает сам процесс "тренировки" и использования различных программ искусственного интеллекта.
По оценкам совместного исследования Google и Калифорнийского университета в Беркли, опубликованного в 2022 году, на обучение алгоритма GPT-3, который на определенном этапе использовался в ChatGPT, в целом было потрачено 1,287 МВт-часов электроэнергии. В среднем это эквивалент энергопотребления одного американского домохозяйства на протяжении 120 лет. При этом, на тот момент, пока в ChatGPT использовалась данная модель ИИ, в чатбот ежедневно поступали миллионы запросов, для создания которых было потрачено от 4000 до 6000 МВт часов электричества – т.е. в несколько раз больше, чем на создание GPT-3 в целом.
По прогнозам Международного энергетического агентства (МЭА), по сравнению с 2022 годом энергопотребление центров обработки данных, специализированных под нужды ИИ, к 2026 году увеличится в 10 раз. В этих целях ряд крупных корпораций США в лице Amazon, Microsoft, Google начали заключать контракты на покупку электроэнергии у АЭС, а также создания небольших модульных атомных реакторов для обеспечения генерации ЦОД. Помимо электроэнергии для функционирования данных дата-центров, необходим большой объем чистой воды. Совокупный объем воды, необходимой для обучения и функционирования ИИ в подобных ЦОД в 2027 году в мире составит от 4,4 до 6,6 млрд кубометров, что сравнимо с ежегодным потреблением воды в Дании или около 50% ежегодного потребления в Великобритании.
Военное применение
Еще один глобальный эффект технологий ИИ в настоящее время уже наблюдается в военной сфере. Алгоритмы искусственного интеллекта все более активно применяются в различных беспилотных летательных аппаратах. Ударные и разведывательные БПЛА получают все более широкие возможности по самостоятельному поиску и выбору целей. Тенденция по роботизации поля боя со все более массовым использованием ударных средств с применением технологий ИИ, скорее всего, будет продолжаться.
Использование технологий искусственного интеллекта в отдельных компонентах стратегических вооружений – вплоть до ядерных сил сдерживания – в дальнейшем может позволить совершать серьезные провокации, например под видом сбоя в работе программ или обвинений в перехвате систем управления с помощью кибератак. Отдельные страны мира, уже обладающие опытом в осуществлении так называемых "атак под чужим флагом" могут не устоять перед соблазном совершения подобных актов уже с применением технологий искусственного интеллекта.
Более широкое применение технологий искусственного интеллекта в военной сфере – наряду с рисками масштабной автоматизации рабочих мест во многих странах в дальнейшем – является конкретным примером реализации "величайшей угрозой для существования человечества", о которой говорят сами главы компаний, ведущих разработку ИИ.
Тотальный контроль и сбор данных
Использование программ для массовой слежки за людьми и сбором информации в глобальном масштабе со стороны американских спецслужб ранее уже освещалось в ходе разоблачений бывшего сотрудника Агентства по национальной безопасности США Эдварда Сноудена.
С этого момента прошло более 10 лет и не будет преувеличением утверждать, что алгоритмы сбора данных и наблюдения с использованием технологий искусственного интеллекта также претерпели заметные улучшения.
Одним из примеров проекта массового сбора персональных данных с помощью технологий искусственного интеллекта является проект World Network или просто World ("Мир"), как лаконично описывают его глава OpenAI Сэм Альтман и гендиректор Tools for Humanity Алекс Блания.
В рамках презентации 17 октября была представлена новая версия системы аутентификации личности с помощью биометрических данных World ID 3.0, а также были озвучены планы по дальнейшему увеличению объемов базы данных с текущих 7 млн до 700 млн человек.
Всем желающим передать свои персональные данные для получения цифрового паспорта предприниматели пообещали, что "World станет системой реальных, подтвержденных людей, построенной для достижения оптимистического будущего, в котором люди будут оставаться в центре прогресса искусственного интеллекта".
Дьявол или разрабатываемый "бог" искусственного интеллекта, как обычно скрывается в деталях. В центре развития технологий искусственного интеллекта в подобных проектах, и в целом в процессах автоматизации – персональные данные о людях, но не сами люди. Данные о человеке в процессе обучения и применения технологий ИИ являются набором статистики, на основе которой выдаются те или иные ответы, на основе которых компании принимают те или иные решения об автоматизации производства.
Пониженная социальная ответственность частных корпораций, которые сквозь призму внедрения новых технологий также начинают относиться к людям как к набору цифр, не должна игнорироваться властями многих стран, по-прежнему сохраняющих довольно мягкое законодательство в сфере технологий, применение которых имеет глобальные последствия.
Какие-либо прямые ограничения разработок "сверхчеловеческого разума" и других способов замещения человека – также и как запрет на клонирование людей, вероятнее всего, сами по себе не смогут повлиять на исследования в данной сфере.
Вместе с тем было бы странным наблюдать "сквозь пальцы" за разработкой цифрового аналога оружия массового поражения частными компаниями и вообще не принимать каких-либо мер в данном направлении. Предотвращение чрезмерного сосредоточения влияния и возможностей среди небольшого числа компаний по своей сути является одним из конкретных примеров полномочий, избиратели которые делегируют органам исполнительной власти.
Антимонопольные процессы в отношении крупных американских IT-корпорации в лице Google, Apple, Microsoft и ряда других компаний, которые, среди прочего, являются ведущими финансистами и бенефициарами технологий искусственного интеллекта, – это один из примеров возможных действий в данной сфере.