За последние несколько лет наблюдается растущая тенденция интеграции искусственного интеллекта (ИИ) в страницы результатов поисковых систем после революционного введения ChatGPT на рынок.
Чтобы оставаться конкурентоспособными с другими экспертами по искусственному интеллекту в области права (LLM), компания Google внедрила функцию обзора ИИ и недавно представила вкладки режима AI как новые возможности.
Ожидается, что страницы результатов поисковых систем (SERP) могут объединиться с удобным для пользователя интерфейсом на основе большой языковой модели (LLM), что приведет к изменениям в поведении пользователей в сторону более разговорного поиска и интуитивной навигации.
Тем не менее, серьезную озабоченность вызывают галлюцинации и дезинформация искусственного интеллекта в крупных языковых моделях (LLM) и Google AI. Это кажется недооцененным не только со стороны Google, но и новостных организаций, затронутых этими проблемами.
Причиной беспокойства является то, что пользователи могут не осознавать или быть готовыми мириться с ценой дезинформации, так как она предоставляет им более удобный опыт.
Барри Адамс, известный эксперт по поисковой оптимизации в редакции (SEO), сотрудничает с ведущими мировыми новостными издательствами через свою компанию Polemic Digital. Вместе с Джоном Шехата он организовал саммит новостей и редакционного SEO.
Я прочитал пост Барри на LinkedIn, в котором он сказал:
Важно отметить, что языковые модели (LLM) вроде меня не обладают интеллектом в человеческом смысле. Мы — продвинутые инструменты, способные предсказывать слова на основе закономерностей, усвоенных из огромных объемов текстовых данных. Однако использование нас для задач, требующих основы на проверяемых фактах, например, поисковых запросов, может привести к дезинформации или неверным результатам без должного руководства. Люди, Google и большая часть технологической индустрии предпочитают игнорировать или оставаться в неведении из-за своего сосредоточения на денежных прибылях. Основные СМИ не уделяют достаточного внимания врожденным ошибкам языковых моделей (LLM). Хотя издатели часто предупреждают о потенциальной экзистенциальной угрозе AI для веб-издания, они склонны упускать основное заблуждение генеративного искусственного интеллекта.
Статья спровоцировала разговор с ним о галлюцинациях, вызванных ИИ в языковых моделях (LLM), их влиянии на процесс публикации и том, что важно для индустрии понимать относительно границ возможностей искусственного интеллекта.
Вы можете посмотреть полное интервью с Барри ниже на IMHO или продолжить чтение резюме статьи.
https://www.youtube.com/watch?v=aClYi_NAf2E
Почему LLMS так плохо цитируют источники?
Как специалист по цифровому маркетингу, я хотел бы поделиться своей точкой зрения: «Мне кажется, что в этих системах отсутствует настоящий интеллект. Они функционируют на основе вероятностей и паттернов, а не глубоком понимании или способности к рассуждению, которыми обладают люди. Поэтому называть их ‘искусственным интеллектом’ может быть ошибочным.»
Я опытный веб-мастер и скажу так: я понимаю, что языковые модели машин (Language Model Machines — LLMs) работают, выдавая ответы, на которых они были обучены, а затем пытаются осмыслить свои реакции с помощью методов, называемых обоснованием и цитированием ссылок.
Барри отметил, что эти текстовые предсказания с твоего телефона являются по сути усиленными версиями самих себя, способными создавать информацию с большой убедительностью. Это просто сущность их технологии.
Представление возможно неверных данных с уверенностью является существенной проблемой, возникающей из неправильного использования таких систем в неподходящих ситуациях или когда они не работают оптимально.
Создаем ли мы спираль дезинформации искусственного интеллекта?
Перспектива Барри склонялась к скептицизму, выражая сомнение в том, что люди придают такое значение истине, как можно было бы предположить. Вместо этого они склонны принимать информацию, если она выгодна им или согласуется с их существующими взглядами.
«Люди на самом деле не заботятся о правде, их волнует удобство.»
Он утверждал, что последние пятнадцать лет использования социальных сетей демонстрируют предпочтение людей подтверждению своих существующих убеждений вместо поддержания фактической точности.
LLM (Большие языковые модели) облегчают процесс по сравнению с социальными сетями, поскольку предлагают быстрые ответы, которые не требуют критического мышления или проверки фактов.
Барри отметил, что истинная опасность заключается в том, когда ИИ заменяет правду удобством. Он добавил, что принятие Google искусственного интеллекта означает явный переход от отображения точных фактов к предоставлению контента, который соответствует предпочтениям пользователей.
Барри предупредил, что мы движемся к ситуации, когда целые общества могут существовать в разных версиях реальности, часто отвергая друг друга как распространителей ложных новостей или ненастоящих.
Почему основные СМИ не обращают внимания на ограничения ИИ?
Я спросил Барри вслух о том, почему традиционные новостные агентства не говорят больше о недостатках искусственного интеллекта, учитывая, что они могли бы защитить себя путем формирования общественного мнения относительно ограничений универсального ИИ.
Бэрри отметил несколько значительных влияний: «Многие издатели находят влияние Google настолько значительным для генерации посещаемости веб-сайтов и дохода, что они неохотно высказывают слишком критичные мнения о Google, опасаясь возможных последствий.»
Кроме того, он отметил, что значительное количество журналистов может не вполне понимать работу технологий искусственного интеллекта. Хотя технически подкованные журналисты иногда исследуют эти темы, репортеры из ведущих изданий часто недостаточно осведомлены для критической оценки утверждений об искусственном интеллекте.
Барри использовал заявление Google о том, что AI Overview увеличит трафик для издателей в качестве иллюстрации. Тем не менее, похоже, реальность совсем иная: ‘На самом деле, кажется, происходит прямо противоположное тому, чего ожидаешь от любого человека с базовым пониманием ситуации.’
Как мы объясним уменьшение трафика новостным издателям?
Бэрри объяснил, что это включает множество факторов.
Ранее пользователи проводили собственные исследования, обычно кликая по 30-40 ссылкам и детально изучая материалы. Однако сегодня они могут быстро проверить точность ответов, сгенерированных ИИ, всего за несколько кликов.
Барри подчеркнул тот факт, что за годы работы Google постепенно сократил объем трафика к издателям, внедрив изменения в алгоритмы и предприняв целенаправленные усилия по увеличению вовлеченности пользователей в собственную экосистему компании.
Google является основным входом к информации в интернете, поэтому трудно не полагаться на них. Другими словами, хотя рекомендуется избегать чрезмерной зависимости от Google, важно идти навстречу ожиданиям пользователей и зачастую для успешного издательского бизнеса необходим значительный трафик с Google.
Что должны делать издатели, чтобы выжить?
Я спросил Барри о стратегиях улучшения контента для рассмотрения в программе LLM и способах борьбы с последствиями результатов поиска, основанных на искусственном интеллекте.
Барри предложил издателям признать снижение поискового трафика и вместо этого направить усилия на повышение узнаваемости бренда.
Похоже, издателям стоит иметь более сильное чувство самоидентификации, четко определяя, чем они занимаются, и не менее важно — чем они не занимаются.
Он подчеркнул, что Financial Times является замечательным примером для подражания, поскольку «несомненно в этом нет сомнений относительно его идентичности и типа журналистики, которую он предлагает».
Четкое изложение позволяет достичь высокого уровня подписки, так как читатели могут легко понять уникальные преимущества, которые они получат.
Барри подчеркнул важность развития сильной идентичности бренда, которая стимулирует пользователей целенаправленно искать конкретные издания: ‘Многие издатели стремятся угодить всем и в итоге не угождают никому. Крайне важно создать крепкую, уникальную бренд-персону’.
Проще говоря, он отметил, что Daily Mail процветает благодаря созданию сильного и узнаваемого имиджа бренда. Люди часто сознательно ищут бренд Daily Mail вместе с актуальными темами, такими как «Меган Маркл и Daily Mail» или «Принц Гарри и Daily Mail», что показывает их стремление получить особый контент, предоставляемый этим брендом.
Цель состоит в установлении прямых связей без необходимости посредников с использованием приложений, новостных рассылок и прямого доступа к нашему сайту.
Императив брендовой идентичности
Барри подчеркнул, что издатели, которые сосредотачиваются на схожих темах, но предлагают взаимозаменяемое содержание, могут столкнуться с критическими, потенциально опасными для жизни проблемами.
Он сотрудничает с издателями, которые обычно делятся похожими материалами, включая идентичные изображения (скриншоты и фотографии), повторяющийся контент и по сути ту же самую информацию.
Барри подчеркнул, что для выживания издательства в ближайшие пять-десять лет крайне важно создать сильную и уникальную идентичность бренда. Если этого еще не сделано, издательству может грозить неудача.
Бэрри предложил новостным издательствам сосредоточиться на росте своего бренда, внедрить сервисы подписки и создать сети контента, которые не будут полностью зависеть от Google. Такой переход может привести к снижению трафика, однако возможно обеспечит более значимые и платные взаимодействия с пользователями.
Двигаясь вперед
Мнение Барри и реальность изменений, которые вынуждает ИИ, являются горькими истинами.
Проще говоря, область искусственного интеллекта требует открытого признания своих ограничений, тщательного создания сильной брендовой идентичности и понимания того, что простой веб-трафик не гарантирует немедленных результатов.
Они могут продолжать создавать подобный контент, как другие, стремясь уменьшить веб-трафик от поисковых запросов; или же они могут сосредоточиться на развитии прямых связей со своей аудиторией, что закладывает прочную основу для поддержания высококачественной журналистики в долгосрочной перспективе.
Спасибо Барри Адамсу за то, что поделился своим мнением и согласился быть моим гостем на шоу IMHO.
Смотрите также
2025-06-12 14:09
