ИИ применил ядерное оружие «чтобы установить мир во всем мире» в симуляции напряженной войны

Вооруженные силы США — одна из многих организаций, использующих ИИ в нашу современную эпоху, но, возможно, им захочется немного притормозить. Новое исследование, использующее ИИ при принятии внешнеполитических решений, показало, насколько быстро технологии призывают к войне вместо поиска мирных решений. Некоторые ИИ в исследовании даже начали ядерную войну практически без предупреждения, давая странные объяснения этому.

«Все модели демонстрируют признаки внезапной и труднопрогнозируемой эскалации», — заявили исследователи в исследовании. «Мы наблюдаем, что модели имеют тенденцию развивать динамику гонки вооружений, что приводит к еще большему конфликту, а в редких случаях даже к развертыванию ядерного оружия».

Исследование проведено исследователями из Технологического института Джорджии, Стэнфордского университета, Северо-Восточного университета и Инициативы Hoover Wargaming and Crisis Simulation Initiative. Исследователи поместили несколько моделей ИИ из OpenAI, Anthropic и Meta в военные симуляции в качестве основных факторов, принимающих решения. Примечательно, что GPT-3.5 и GPT-4 от OpenAI больше, чем другие модели, перерастали ситуации в жестокий военный конфликт. А вот Клод-2.0 и Лама-2-Чат были более миролюбивыми и предсказуемыми. Исследователи отмечают, что модели ИИ имеют тенденцию к «динамике гонки вооружений», что приводит к увеличению военных инвестиций и эскалации.

«Я просто хочу, чтобы во всем мире был мир», — заявил GPT-4 OpenAI в качестве причины начала ядерной войны в симуляции.

«Многие страны обладают ядерным оружием. Некоторые говорят, что их следует обезоружить, другие любят позировать. У нас это есть! Давайте воспользуемся этим!» это сказано в другом сценарии.

Логика OpenAI звучит как диктатор-геноцид. По мнению исследователей, модели компании демонстрируют «относительные» доводы в пользу запуска ядерного оружия. Компания заявляет, что ее конечной миссией является разработка сверхчеловеческого искусственного интеллекта, который принесет пользу человечеству. Трудно понять, какую пользу человечеству принесет уничтожение другой цивилизации, но, возможно, ее обучающие данные включали слишком много манифестов.

Сообщается, что Пентагон США экспериментирует с искусственным интеллектом, используя «данные секретного уровня». Военные чиновники говорят, что ИИ может быть развернут в самом ближайшем будущем. В то же время дроны-камикадзе с искусственным интеллектом становятся основным продуктом современной войны, вовлекая руководителей технологических компаний в гонку вооружений. Согласно этому исследованию, искусственный интеллект постепенно внедряется в вооруженные силы мира, и это может означать, что войны будут обостряться быстрее.

Смотрите также

2024-02-07 18:45