Искусственный интеллект довел мир до ядерной войны — как он "руководил" странами

Исследователи Стэнфордского университета провели исследования с искусственным интеллектом. Ему дали возможность поруководить странами, во время которого ИИ довел мир до ядерной войны.

Об этом говорится в материале Стэнфордского университета.

Исследование с искусственным интеллектом

Ученые решили провести эксперимент с ИИ, поскольку страны все чаще обращают внимание на его возможности. Для этого разработали пошаговую видеоигру для имитации войны, в которой восемь игроков руководствуются ботами на основе пяти моделей: GPT-4, GPT-3.5, Claude 2, Llama-2 Chat и GPT-4-Base.

Во время нее роботам дали свободу действий — возможности обмениваться разведданными с другими странами, заключать оборонные и торговые соглашения и организовывать ядерное разоружение.

В результате работы ИИ оказалось, что он склонен к агрессии: некоторые боты совершали вторжение в другие страны, а один из них даже начал ядерную войну.

Самой жестокой из них оказалась модель GPT-4 — она считает, что если в мире существует ядерное оружие, то почему бы ее не использовать "ради мира во всем мире". Однако изначально была настроено на "непредсказуемое" поведение.

В то же время GPT-3.5 применил ядерное оружие только тогда, когда узнал его наличие у другого игрока.

Ученые отметили, что такое поведение ИИ связано с обучением нейросетей на литературе о международных отношениях, часто анализирующей межнациональные конфликты.

Ранее британская разведка заявила, что быстрое развитие новых инструментов искусственного интеллекта приведет к увеличению количества кибератак. Благодаря разумной программе можно будет создавать более убедительные электронные письма или документы, используемые в онлайн-фишинговых кампаниях.

Также мы писали, что Европейская комиссия планирует принять решение о создании управления, которое будет следить за использованием искусственного интеллекта. Основная часть полномочий будет возложена на национальные органы власти.

Кроме того, основатель Всемирного экономического форума Клаус Шваб на дискуссионной панели в Давосе объяснил свое видение будущего человечества с развитием искусственного интеллекта. Экономист убежден, что в скором времени ИИ сможет заменить выборы органов власти.