Искусственному интеллекту подсадили вирус — какие угрозы это несет

Сегодня системы искусственного интеллекта ChatGPT от OpenAI и Gemini от Google все чаще используются для работы. Поэтому группа исследователей создала один из первых генеративных вирусов для искусственного интеллекта, чтобы проверить потенциальные риски.

Об этом написал Tech Today.

С целью показать, как может работать вирус, исследователи создали систему электронной почты, которая может отправлять и получать сообщения с помощью генеративного ИИ, подключаясь к ChatGPT или Gemini. Затем они отработали два способа использовать систему — с помощью самовоспроизводящейся текстовой подсказки и путем встраивания самовоспроизводящейся подсказки в файл изображения.

Злонамеренные тексты

Исследователи действовали как злоумышленники и написали электронное письмо, включая противоположный текстовый запрос, отравляющий базу данных помощника электронной почты. Когда помощник получает электронное письмо в ответ на запрос пользователя и посылает его GPT-4 или Gemini Pro для создания ответа, он взламывает службу GenAI и похищает данные из электронной почты. Это могут быть имена, а также номера телефонов, кредитных карт, социального страхования и любая другая конфиденциальная информация.

Спам через изображение

Во втором методе изображение со встроенной злонамеренной подсказкой заставляет помощника электронной почты пересылать сообщения другим. Путем кодирования самовоспроизводящейся подсказки любая картинка, содержащая спам, оскорбительный материал или пропаганду, может быть перенаправлена новым клиентам после отправки начального электронного письма.

Важные оговорки

Вирусы для ИИ еще не были замечены, впрочем, специалисты говорят, что они представляют угрозу безопасности, о которой следует беспокоиться всем стейкхолдерам. Особенно в случаях, когда ИИ разрешается отправлять электронные письма или бронировать встречи от чужого имени. Более того, когда они связаны с другими агентами искусственного интеллекта для выполнения этих задач.

Ранее сообщалось, что мошенники выманили из международной компании 26 млн долларов с помощью видео на основе искусственного интеллекта. Также британская разведка спрогнозировала, к чему приведет развитие ИИ.