Компания Google внедрила новые меры безопасности в браузере Chrome, чтобы защитить его от атак через непрямые команды. Эти меры направлены на предотвращение злоупотребления возможностями агентных функций браузера.

Что такое атака через непрямые команды?

Атака через непрямые команды происходит, когда агент искусственного интеллекта воспринимает и выполняет команды, спрятанные в стороннем контенте, например, в электронных письмах. Ярким примером может быть скрытая команда на выполнение криптовалютной транзакции, вписанная в письмо белым текстом с нулевым размером шрифта, что делает её невидимой для пользователя, но обнаруживаемой агентом.

Новые функции защиты

Google представила два новых уровня безопасности: User Alignment Critic и Agent Origin Sets. User Alignment Critic проверяет действия агента в изолированной среде, чтобы убедиться, что они соответствуют заявленным целям пользователя. Если действие не соответствует цели, его выполнение будет отклонено. Эта функция анализирует только метаданные предложенного действия и не взаимодействует с ненадежным контентом.

Agent Origin Sets ограничивает доступ агента к данным только теми источниками, которые относятся к текущей задаче или были явно разрешены пользователем. Это предотвращает произвольные действия агента на нерелевантных источниках. Для каждой веб-задачи создаётся доверительная функция, определяющая релевантные источники, которые отслеживаются в течение сессии.

Дополнительные меры безопасности

В рамках этих мер агенты теперь создают рабочий журнал для наблюдения за действиями пользователей и запрашивают явное разрешение перед переходом на чувствительные сайты, такие как банковские или медицинские порталы.

С помощью этих улучшений Google стремится повысить безопасность пользователей и предотвратить потенциальные угрозы, связанные с непрямыми командами.