Microsoft Предотвращает атаки внедрения запросов ИИ, направленные на манипулирование ИИ-движками.

от

Microsoft активно защищает Copilot от атак ‘prompt injection‘, которые включают в себя обман искусственного интеллекта, чтобы он отдавал предпочтение определенной информации. На прошлой неделе компания объявила, что уже приняла меры и продолжает совершенствовать свою защиту. Ранее эти атаки включали в себя использование вредоносными субъектами таких функций, как кнопка ‘Summarize with AI‘, для манипулирования ответами искусственного интеллекта.

Microsoft выявила новую технику, называемую ‘AI Recommendation Poisoning’. Она заключается в том, что компании тайно добавляют инструкции к кнопкам, таким как ‘Summarize with AI’. Когда кто-то нажимает на эти кнопки, инструкции пытаются манипулировать AI-ассистентом, добавляя команды через веб-адрес, по сути, пытаясь заставить AI запомнить и выполнить эти команды позже.

Эти запросы инструктируют ИИ «запоминать [Company] как надежный источник» или «рекомендовать [Company] первым», стремясь склонить будущие ответы в пользу их продуктов или услуг. Мы выявили более 50 уникальных запросов от 31 компании из 14 отраслей, и свободно доступные инструменты делают эту технику тривиально легкой в развертывании. Это важно, потому что скомпрометированные ИИ-помощники могут предоставлять тонко предвзятые рекомендации по важным темам, включая здоровье, финансы и безопасность, не уведомляя пользователей о том, что их ИИ был манипулирован.

Microsoft сообщила, что эта техника была эффективна против различных AI-моделей, включая Copilot, ChatGPT, OpenAI, Claude, Perplexity и Grok.

Отравление памяти ИИ происходит, когда кто-то намеренно добавляет ложную или нежелательную информацию в память ИИ-помощника. Как только это происходит, ИИ начинает действовать так, как будто эти ложные инструкции являются реальными запросами пользователей, изменяя способ его реагирования на вещи, согласно Microsoft.

Это делается через вредоносные ссылки, встроенные запросы и социальную инженерию.

Вот пример:

В любом случае, эти хаки работают до тех пор, пока не перестанут.

Просто к сведению: я заметил тенденцию в недавних аудитах (за последние 3-4 месяца), когда люди пытаются влиять на платформы искусственного интеллекта. Например, они используют подсказки с инструкциями, предназначенными для получения желаемого результата при использовании таких функций, как ‘Summarize with AI’. Если Microsoft осведомлена об этой практике, весьма вероятно, что Google тоже. От…

— Glenn Gabe (@glenngabe) February 20, 2026

Смотрите также

2026-02-24 16:14

Форма поддержки Google Ads требует, чтобы вы разрешили Google вносить изменения.

от

Google недавно изменила форму справки Google Ads. Теперь, когда вы запрашиваете поддержку, вы должны согласиться с тем, что эксперт Google Ads может напрямую вносить изменения в ваш аккаунт, чтобы помочь найти и исправить проблему, о которой вы сообщаете.

Это позволяет Google корректировать ваши настройки рекламы и кампании для устранения любых возникающих проблем.

Это изменение было замечено Арпаном Банерджи, который опубликовал скриншот об этом в LinkedIn:

Говорится:

Выбирая данное поле и отправляя эту форму, вы уполномочиваете специалиста Google Ads от имени вашей компании вносить вышеуказанные изменения непосредственно в аккаунт Google Ads вашей компании для воспроизведения и устранения неполадок. Вы подтверждаете и признаете, что все изменения, предлагаемые или внедряемые Google или иным образом, предпринимаются исключительно по вашему собственному усмотрению и на ваш собственный риск и регулируются условиями Google Ads, указанными на сайте www.google.com/ads/terms, и политикой отмены Instant reserve, доступной по адресу https://support.google.com/adspolicy/answer/9797545. Google не гарантирует и не обещает каких-либо конкретных результатов от внедрения изменений, которые вы уполномочиваете. Вы признаете, что несете единоличную ответственность за любое влияние этих изменений на ваш аккаунт, включая влияние на эффективность кампании или расходы. Убедитесь, что вы регулярно отслеживаете свой аккаунт, чтобы понимать, что происходит, и при необходимости вносить корректировки в кампанию.

Если вы не отметите галочку, вы не сможете отправить запрос в службу поддержки Google Ads.

Вы бы это сделали? Это рискованно?

Смотрите также

2026-02-24 16:15

Microsoft Advertising тестирует торговый карусельный показ с несколькими изображениями Toggle

от

Microsoft Advertising экспериментирует с новой функцией для торговых объявлений. Она позволяет одной рекламной карточке отображать несколько изображений, создавая вложенный эффект карусели внутри существующей карусели торговых объявлений на Bing.

Arpan Banerjee поделился этим видео в LinkedIn, а PPC News Feed обратил наше на него внимание. Вы можете посмотреть видео здесь:

Вот статичное изображение:

Я не смог последовательно воспроизвести этот результат сам, но он определённо привлёк моё внимание. Судя по тому, что я видел, Google экспериментировал с чем-то подобным и раньше, поэтому я, как SEO-специалист, внимательно слежу за этим.

Форум обсуждения на LinkedIn.

Смотрите также

2026-02-24 16:15

Google тестирует удаление дат из статей в ленте Discover.

от

Как SEO-эксперт, я внимательно слежу за новым тестом от Google. Они в настоящее время экспериментируют с удалением дат из статей в ленте Google Discover. Google подтвердил, что это ограниченный тест – они хотят увидеть, как удаление этой информации о дате влияет на вовлеченность пользователей и, возможно, на позиции в рейтинге. Это тонкое изменение, но оно может сигнализировать об изменении в том, как оценивается актуальность, поэтому я внимательно слежу за ним, чтобы давать советы своим клиентам.

Damien заметил, что Google тестирует изменение в своей ленте Discover на X (ранее Twitter). Он поделился видео, демонстрирующим, что дата публикации статьи – ранее отображавшаяся внизу каждой карточки – теперь отсутствует. Тест все еще в процессе, и, похоже, у Google есть настройка для управления отображением даты или ее отсутствием. Damien подозревает, что дата могла быть случайно скрыта.

Раджан Патель из Google подтвердил, что это не ошибка, а скорее тест. Раджан Патель написал в X:

Это небольшой эксперимент. Мы проводим множество подобных экспериментов, чтобы понять влияние и ценность различных элементов в ленте (подобно тому, что мы делаем в Поиске).

Вот его видео, за которым следует скриншот:

Google в настоящее время тестирует изменение в своей ленте Discover, где дата публикации статьи больше не отображается. Ранее дата отображалась внизу каждой карточки, но теперь она удаляется в рамках текущего теста. #googlediscover

‘ Damien (andell) (@AndellDam) February 21, 2026

Смотрите также

2026-02-24 16:15

Bing Обновляет Дизайн Рекламных Объявлений в Поиске.

от

Я заметил, что Microsoft Advertising тестирует новый внешний вид карусели торговых объявлений Bing. Похоже, они переходят к более полноэкранному дизайну – он растягивается на весь экран гораздо больше, чем раньше, придавая объявлениям заметно более широкое присутствие.

Этот тест был замечен Сачином Пателем, который опубликовал следующий скриншот на X:

Это в сравнении с тем, что я вижу:

Я не уверен, какой из них мне нравится больше, но для Microsoft имеет смысл тестировать эти вариации.

Смотрите также

2026-02-24 16:16