Google планирует внедрить ИИ-агентов в Chrome и улучшить защиту от мошенников

Из-за добавления в браузер агентских функций планируется улучшение безопасности в Chrome. Агентские функций в браузере могут выполнять действия от имени пользователя, к примеру осуществлять бронирования или покупки, и данная функция сопряжена с определенными рисками для безопасности.

Основная угроза состоит в непрямом внедрении подсказок для возможного выполнения нежелательных действий. Атака может состояться со стороны вредоносных ресурсов.

Контроль действий ИИ-агентов

Несколько модулей используется до контроля возможных вредоносных действий. К примеру, Google создала модель User Alignment Critic для более тщательной проверки действий. Она функционирует для проверки каждого действия после завершения процесса планирования. Если после проверки обнаружена неправильная стратегия, модель будет ее пересматривать.

Кроме того, используется Agent Origin Sets, который ограничивает доступ к определенным источникам только для чтения или для чтения/записи. Например, контент сайта можно будет использовать для решения задач, а рекламные баннеры не будут использоваться.

Навигация по страницам будет контролироваться с помощью Observe, таким образом переход на вредоносные URL будет ограничен. Также, юзеры смогут непосредственно контролировать процесс, так как шаги будут прописаны в журнале и появиться возможность остановить процесс в любой момент.

Подтверждение юзера будет запрашиваться при переходе на конфиденциальный сайт, также будет запрашиваться разрешения на использование паролей, и для отправки сообщений.