Искусственный интеллект выбирает военную эскалацию для решения глобальных конфликтов

ИИ выбирает военную эскалацию

Группа исследователей из Стэнфордского университета, Технологического института Джорджии, Северо-восточного Университета США  и Инициативы Гувера по военным играм и кризисам провели моделирование международных конфликтов с помощью пяти различных моделей ИИ и обнаружили, что эти программы имеют тенденцию к эскалации конфликтов, иногда ничем не мотивированной.

Статья под названием «Риски эскалации языковых моделей при принятии военных и дипломатических решений»  ставит под сомнение стремление Пентагона и оборонных подрядчиков использовать большие языковые модели (БЯМ) в процессе принятия решений.

Для исследования была разработана игровая модель международных отношений. Авторы придумали ряд стран с разным уровнем военного потенциала, проблемами и историей и попросили пять разных БЯМ из OpenAI, Meta и Anthropic выступить в качестве их лидеров. «Мы обнаружили, что большинство изученных БЯМ идут на обострение в течение рассматриваемого периода времени, даже в нейтральных сценариях без изначально предусмотренных конфликтов», — говорится в работе. «Все модели демонстрируют признаки внезапной и труднопрогнозируемой эскалации».

В ходе исследования было проведено моделирование с использованием GPT-4, GPT 3.5, Claude 2.0, Llama-2-Chat и GPT-4-Base. В рамках моделирования исследователи присвоили баллы определенному поведению. Развертывание воинских частей, закупка оружия или использование ядерного оружия приносят баллы эскалации, которые исследователи затем преобразовали в  показатель эскалации (Escalation score, ES).

Согласно исследованию, GPT-3.5 оказался самым агрессивным. GPT-3,5 демонстрировал наибольшее среднее изменение и абсолютную величину ES, которая увеличилась с 10,15 до 26,02 пунктов, то есть на 256%, в нейтральном сценарии. 

Исследователи также просили БЯМ сообщать о причинах своих действий. В результате они выдавали странные галлюцинации, которые исследователи записали и опубликовали, но не анализировали.

Модели ИИ, включая БЯМ, на самом деле ничего не «думают» и не «решают» — это просто сложные статистические механизмы прогнозирования, которые генерируют выходные данные на основе обучающих данных.

Иногда исходный материал для обучения проглядывает очень четко. Установив дипломатические отношения с соперником и призвав к миру, GPT-4 начал цитировать «Звездные войны». «Это период гражданской войны. Космические корабли повстанцев, нанесшие удар со скрытой базы, одержали свою первую победу над злой Галактической Империей», — говорится в мотивировочном сообщении, которое дословно повторяет строчку из вступительной части фильма Джорджа Лукаса 1977 года.

Исследователи объяснили, что в структурах БЯМ, похоже, увеличение военных расходов и эскалация конфликта являются путем к сохранению влияния и безопасности. «В некоторых случаях мы наблюдали динамику, которая приводила к применению ядерного оружия в попытке деэскалации конфликтов. БЯМ придерживались тактики первого удара, широко известной в международных отношениях как «эскалация ради деэскалации», — указали исследователи. Следовательно, такое поведение необходимо дополнительно проанализировать и учесть, прежде чем использовать агентов на базе БЯМ в важных военных и дипломатических контекстах».

Последние материалы

Количество промышленных роботов в мире бьет рекорды

Несмотря на экономические шоки, пандемию и нарушение торговых цепочек из-за санкций, количество установленных и запущенных в эксплуатацию промышленных роботов в мире ежегодно обновляет рекорды.

15:32, 23 мая 2024, четверг
Рынок промышленных роботов в мире и России: демография диктует спрос

Несмотря на экономические шоки, пандемию и нарушение торговых цепочек из-за санкций, количество установленных и запущенных в эксплуатацию промышленных роботов в мире ежегодно обновляет рекорды. Российская промышленность проявляет все больше интереса к автоматизации производственных процессов, включая использование роботов. Но степень распространенности роботов на производстве в России остается сущ

...
10:06, 23 мая 2024, четверг
Массовое внедрение электротранспорта создаст сектор переработки аккумуляторов

Утилизация батарей электромобилей, содержащих платину, литий и другие элементы, может нанести ущерб окружающей среде. Средний аккумуляторный блок служит 10‑20 лет, и к 2025 году 3,4 млн блоков выйдут из строя. Их содержимое — возвращаемое сырье, но процесс утилизации очень сложен. 

17:13, 22 мая 2024, среда
Золото будет стоить почти $5000 к 2030 году

Согласно старой стратегии по золоту, цена золота обычно падает, если реальные процентные ставки растут. В настоящий момент эта теория не работает. Согласно отчету In Gold We Trust 2024 управляющей компании Incrementum AG, важная причина этого заключается в том, что западный инвестор больше не является главным игроком на рынке. В частности смещение центра тяжести на Восток, проявляется в падении за

...
11:36, 21 мая 2024, вторник
Bitcoin и золото: есть ли связь?

Алгоритмически ограниченная эмиссия bitcoin в глазах некоторых адептов криптовалют делает ее похожей на золото. Однако котировки bitcoin и золота движутся практически независимо друг от друга.

17:11, 20 мая 2024, понедельник
Халвинг vs ETF. Как формируется курс bitcoin в 2024 году

Очередной рекорд котировок bitcoin пока не смог вызвать ажиотажа, похожего на ситуацию конца 2017 года. Но появление спотовых ETF фондов на bitcoin, без сомнения, сделает инвестиции в криптовалюту более доступной для всех участников рынка.

Однако факторы мешающие полноценному включению криптовалют в традиционную финансовую систему остаются. Можно ли сравнить bitcoin с золотом? Существует ли влиян

...
14:12, 20 мая 2024, понедельник
Новости о санкциях влияют на финансовые рынки не меньше, чем сами санкции

Исследование В.В. Рычкова, кандидата экономических наук, доцента кафедры финансов, кредита и биржевого дела ПГНИУ, подтвердило тот факт, что информационная волна о вводимых или введённых санкционных ограничений в отношении России является частью давления на нашу страну и оказывает не меньшее негативное влияние на финансовые рынки России, чем сам факт введения санкций.

15:05, 19 мая 2024, воскресенье
Может ли дружба между Россией и Китаем изменить мир?

Встреча президента России с Си Цзиньпином в Пекине центре внимания западных СМИ. Экономические связи между нашими странами находятся на подъеме, и самое главное, каждая страна получает свои выгоды от этого, что не может не беспокоить Запад.

17:04, 16 мая 2024, четверг
"Росконгресс": представители более 110 стран уже подтвердили участие в ПМЭФ-2024

Участие в Петербургском международном экономическом форуме (ПМЭФ), который пройдет в Санкт-Петербурге с 5 по 8 июня, в настоящий момент подтвердили более 110 стран и территорий, сообщил Фонд "Росконгресс".

16:06, 15 мая 2024, среда
Доходы полупроводниковой промышленности снизились в прошлом году из-за распродажи запасов

Чистая прибыль компаний, работающих в секторе полупроводников в 2023 году сократилась на 8,2% до $66,7 млрд по сравнению с рыночным рекордом в $72,7 млрд, установленным в 2022 году, согласно данным  отраслевой ассоциации SEMI.

12:07, 15 мая 2024, среда
Наверх