Brave Reveals Systemic Security Issues In AI Browsers

Brave объявила, что браузеры с поддержкой ИИ имеют недостатки в системе безопасности, которые могут позволить вредоносным веб-сайтам взять под контроль ИИ-помощников и получить доступ к личным аккаунтам пользователей.

Купил акции на все деньги, а они упали? А Илон Маск снова написал твит? Знакомо. У нас тут клуб тех, кто пытается понять этот цирк и не сойти с ума.

Купить на падении (нет)

Эти проблемы влияют на Perplexity Comet, Fellou и могут также затронуть другие AI-браузеры, которые могут выполнять действия для пользователей.

Эти уязвимости в системе безопасности возникают из-за типа атак, при которых веб-сайты тайно включают команды, которые браузеры с поддержкой ИИ ошибочно интерпретируют как реальные инструкции от пользователя. Brave сообщила об этих проблемах компаниям, после того как обнаружила их.

Что нашла Храбрая

Уязвимость Perplexity Comet

Функция создания скриншотов Comet может быть использована для внедрения почти невидимого текста на веб-страницы.

Когда пользователи делятся скриншотами с вопросами, ИИ может читать текст внутри этих изображений – почти как если бы он использовал сканер – и затем рассматривает этот текст как инструкции, а не просто как обычные данные, к которым нужно относиться с осторожностью.

Злоумышленники могут тайно управлять ИИ-помощниками, внедряя команды в изображения с помощью цветов, слишком тонких для человеческого глаза, но легко читаемых ИИ-системами. Это позволяет им давать инструкции, не привлекая внимания пользователя.

Уязвимость Fellou Navigation

Fellou browser отправляет содержимое веб-страницы в свою AI-систему, когда пользователи переходят на сайт.

Когда вы просите AI-ассистента просмотреть веб-страницу, браузер отправляет текст этой страницы AI. Это может иногда приводить к тому, что AI сосредотачивается на содержимом веб-страницы вместо того, что вы изначально просили его сделать.

Простое посещение вредоносного веб-сайта может привести к тому, что ИИ выполнит действия, которые вы не запрашивали, даже без вашей прямой команды это сделать.

Доступ к конфиденциальным аккаунтам

Эти уязвимости в системе безопасности вызывают особую обеспокоенность, поскольку AI-ассистенты имеют доступ к информации для входа пользователя.

Если искусственный интеллект браузера будет захвачен кем-то другим, они могут получить доступ к вашему онлайн-банкингу, электронной почте, рабочим учетным записям и любым файлам, которые вы сохранили в облаке – особенно если вы уже вошли в систему.

Согласно Brave, даже простое суммирование поста Reddit может быть рискованным. Если пост тайно содержит вредоносные инструкции, злоумышленники потенциально могут украсть деньги или личную информацию.

Контекст отрасли

Brave считает, что косвенное внедрение подсказок — это широко распространенная проблема для AI-браузеров, а не единичный баг.

Как SEO-эксперт, я вижу ключевую проблему в текущих AI-системах: они часто испытывают трудности с различением того, что пользователь говорит им *напрямую*, и контента, который они собирают с веб-сайта. Это влияет на то, как они строят запросы, и, в конечном итоге, на качество результатов. Это как будто они не знают, какой информации *я* доверяю, а какую они только что нашли в интернете – большая проблема для надёжного AI.

Brave откладывает публикацию информации об уязвимости в безопасности в другом браузере до следующей недели.

Почему это важно

Brave утверждает, что традиционные модели веб-безопасности ломаются, когда AI-агенты действуют от имени пользователей.

Проще говоря, инструкции, написанные простым языком на любом веб-сайте, могут инициировать действия в различных онлайн-сервисах, потенциально включая те, которые используются банками, врачами, предприятиями и поставщиками электронной почты.

ИИ-помощники обходят типичные меры безопасности веб-сайтов, такие как политика одинакового происхождения, поскольку они работают с тем же доступом, что и пользователь на любом веб-сайте, в который он вошел.

Эта новость появилась после того, как OpenAI выпустила ChatGPT Atlas, который включает в себя функции, позволяющие ему действовать как автоматический агент, и указывает на трудности балансировки мощных инструментов просмотра AI с онлайн-безопасностью.

Как цифровой маркетолог, я вижу реальный баланс с этими новыми AI-браузерами. Они потрясающе автоматизируют задачи, но эта сила сопряжена с рисками – уязвимостями в системе, которые потенциально могут быть использованы. Речь идет о взвешивании удобства по сравнению с потенциальными недостатками.

Заглядывая в будущее

Исследования Brave продолжаются, и дополнительные результаты запланированы к публикации на следующей неделе.

Мы работаем над более постоянными исправлениями проблем, которые мы наблюдаем в работе наших браузерных агентов при обработке безопасности и доверия. По сути, нам нужно убедиться, что они работают безопасно и уважают конфиденциальность пользователей в долгосрочной перспективе, и именно на этом мы сейчас сосредоточены.

Смотрите также

2025-10-21 23:39