Самую популярную языковую модель ИИ теперь можно использовать в военных целях

ии и военные

Компания-разработчик моделей искусственного интеллекта OpenAI в середине января изменила текст правил использования своего сервиса и удалила формулировку, прямо запрещающую использование своей технологии в военных целях. Об изменении сообщает портал The Intercept.

До 10 января на странице «Политика использования» OpenAI содержался запрет на «деятельность, сопряженную с высоким риском физического вреда, включая», в частности, «разработку оружия» и «военную деятельность и боевые операции». Новая политика сохраняет запрет «не использовать наши услуги во вред себе или другим» и приводит в качестве примера «разработку или использование оружия», но полный запрет на «военное и боевое» применение исчез.

«Мы стремились создать набор универсальных принципов, которые легко запомнить и применять, тем более что наши инструменты теперь используются во всем мире обычными пользователями, — указал представитель OpenAI Нико Феликс в электронном письме The Intercept: Такой принцип, как «Не причиняй вреда другим», является широким, но его легко понять и он актуален во многих контекстах».

Хотя ни одна из услуг OpenAI пока не может быть использована для прямого убийства кого-либо, в военном или ином отношении (ChatGPT не может маневрировать дроном или запускать ракеты), любая армия занимается поражением живой силы противника или, по крайней мере, поддерживает способности к поражению людей. Существует ряд смежных задач, которые большие языковые модели, такие как ChatGPT, могут решать. Например, написание кода или обработка военных закупок. Национальное агентство геопространственной разведки, которое напрямую помогает армии США при выполнении боевых задач, уже высказывало предположения об использовании ChatGPT для помощи своим аналитикам.

Большие языковые модели обучаются на огромных объемах книг, статей и содержимом веб-страниц. Хотя результаты, которые выдают модели, такие как ChatGPT, часто выглядят чрезвычайно правдоподобно, они не основаны на ясном понимании реальности, и часто страдают от так называемых галлюцинаций, от которых страдает фактологическая точность их ответов. Тем не менее, способность языковых моделей быстро воспринимать большие объемы текста делает их привлекательными для военных.

Некоторые представители военного руководства США выразили обеспокоенность по поводу склонности больших языковых моделей вставлять явные фактические ошибки и вносить другие искажения в ответы. Их также настораживают риски, которые могут возникнуть при использовании ChatGPT или подобных систем для анализа секретных или иным образом конфиденциальных данных. Однако Пентагон в целом положительно смотрит на перспективные инструменты искусственного интеллекта. В ноябрьском интервью заместитель министра обороны Кэтлин Хикс заявила, что ИИ является «ключевой частью комплексного, ориентированного на военнослужащих подхода к инновациям». Она также отметила, что большинство уже существующих систем пока «еще не достаточно технически развиты, чтобы соответствовать нашим требованиям».

Последние материалы

Количество промышленных роботов в мире бьет рекорды

Несмотря на экономические шоки, пандемию и нарушение торговых цепочек из-за санкций, количество установленных и запущенных в эксплуатацию промышленных роботов в мире ежегодно обновляет рекорды.

15:32, 23 мая 2024, четверг
Рынок промышленных роботов в мире и России: демография диктует спрос

Несмотря на экономические шоки, пандемию и нарушение торговых цепочек из-за санкций, количество установленных и запущенных в эксплуатацию промышленных роботов в мире ежегодно обновляет рекорды. Российская промышленность проявляет все больше интереса к автоматизации производственных процессов, включая использование роботов. Но степень распространенности роботов на производстве в России остается сущ

...
10:06, 23 мая 2024, четверг
Массовое внедрение электротранспорта создаст сектор переработки аккумуляторов

Утилизация батарей электромобилей, содержащих платину, литий и другие элементы, может нанести ущерб окружающей среде. Средний аккумуляторный блок служит 10‑20 лет, и к 2025 году 3,4 млн блоков выйдут из строя. Их содержимое — возвращаемое сырье, но процесс утилизации очень сложен. 

17:13, 22 мая 2024, среда
Золото будет стоить почти $5000 к 2030 году

Согласно старой стратегии по золоту, цена золота обычно падает, если реальные процентные ставки растут. В настоящий момент эта теория не работает. Согласно отчету In Gold We Trust 2024 управляющей компании Incrementum AG, важная причина этого заключается в том, что западный инвестор больше не является главным игроком на рынке. В частности смещение центра тяжести на Восток, проявляется в падении за

...
11:36, 21 мая 2024, вторник
Bitcoin и золото: есть ли связь?

Алгоритмически ограниченная эмиссия bitcoin в глазах некоторых адептов криптовалют делает ее похожей на золото. Однако котировки bitcoin и золота движутся практически независимо друг от друга.

17:11, 20 мая 2024, понедельник
Халвинг vs ETF. Как формируется курс bitcoin в 2024 году

Очередной рекорд котировок bitcoin пока не смог вызвать ажиотажа, похожего на ситуацию конца 2017 года. Но появление спотовых ETF фондов на bitcoin, без сомнения, сделает инвестиции в криптовалюту более доступной для всех участников рынка.

Однако факторы мешающие полноценному включению криптовалют в традиционную финансовую систему остаются. Можно ли сравнить bitcoin с золотом? Существует ли влиян

...
14:12, 20 мая 2024, понедельник
Новости о санкциях влияют на финансовые рынки не меньше, чем сами санкции

Исследование В.В. Рычкова, кандидата экономических наук, доцента кафедры финансов, кредита и биржевого дела ПГНИУ, подтвердило тот факт, что информационная волна о вводимых или введённых санкционных ограничений в отношении России является частью давления на нашу страну и оказывает не меньшее негативное влияние на финансовые рынки России, чем сам факт введения санкций.

15:05, 19 мая 2024, воскресенье
Может ли дружба между Россией и Китаем изменить мир?

Встреча президента России с Си Цзиньпином в Пекине центре внимания западных СМИ. Экономические связи между нашими странами находятся на подъеме, и самое главное, каждая страна получает свои выгоды от этого, что не может не беспокоить Запад.

17:04, 16 мая 2024, четверг
"Росконгресс": представители более 110 стран уже подтвердили участие в ПМЭФ-2024

Участие в Петербургском международном экономическом форуме (ПМЭФ), который пройдет в Санкт-Петербурге с 5 по 8 июня, в настоящий момент подтвердили более 110 стран и территорий, сообщил Фонд "Росконгресс".

16:06, 15 мая 2024, среда
Доходы полупроводниковой промышленности снизились в прошлом году из-за распродажи запасов

Чистая прибыль компаний, работающих в секторе полупроводников в 2023 году сократилась на 8,2% до $66,7 млрд по сравнению с рыночным рекордом в $72,7 млрд, установленным в 2022 году, согласно данным  отраслевой ассоциации SEMI.

12:07, 15 мая 2024, среда
Наверх