В документацию Google Crawler добавлено HTTP-кэширование

В документацию Google Crawler добавлено HTTP-кэширование

Как опытный эксперт по SEO с более чем двадцатилетним опытом работы в постоянно развивающейся сфере поисковой оптимизации, я могу с уверенностью сказать, что последний шаг Google по усилению HTTP-кэширования меняет правила игры для всех нас.

Google недавно пересмотрела руководство по помощи при сканировании веб-страниц, представив новый раздел, подробно описывающий HTTP-кэширование. В этой части поясняется, как боты Google управляют директивами управления кэшем. Более того, Google опубликовал статью, в которой просил разработчиков разрешить Google сохранять их веб-страницы для более быстрого доступа.

В скромном обращении Гэри Иллис написал: «Не могли бы вы позволить нам сохранить ваш контент, пожалуйста?» в качестве первой строки своего поста в блоге. Впоследствии он объяснил, что мы предоставляем Google разрешение на кэширование нашего контента чаще, чем десять лет назад. Гэри заявил, что процент запросов, которые можно получить из локальных кэшей, на самом деле снизился: 10 лет назад примерно 0,026% всех выборок были кэшируемыми, что не особенно примечательно; сегодня эта цифра составляет 0,017%.

Google включил объяснение HTTP-кеширования в свое руководство пользователя, в котором подробно описывается, как Google управляет директивами управления кэшем. Система веб-сканирования Google придерживается стандартного механизма HTTP-кэширования, в частности, используя заголовки ответов ETag и заголовки запросов If-None-Match, а также заголовки ответов Last-Modified и заголовки запросов If-Modified-Since.

В случае Google, когда в ответе HTTP появляются заголовки ETag и Last-Modified, сканирующие боты Google будут устанавливать приоритет значения ETag в соответствии со стандартами HTTP. Чтобы обеспечить оптимальную производительность сканеров Google, рекомендуется использовать заголовок ETag вместо заголовка Last-Modified, поскольку это позволяет избежать проблем, связанных с форматированием даты. Что касается других директив кэширования HTTP, они в настоящее время не поддерживаются Google.

Я должен добавить, что Google и Bing поддерживают ETag как минимум с 2018 года.

Как эксперт по SEO, я настоятельно рекомендую включить кеширование для оптимальной производительности. Кэширование — жизненно важный компонент сложной мозаики, формирующей Интернет. Благодаря реализации кэширования страницы будут загружаться с головокружительной скоростью при повторных посещениях, сохраняя при этом ценные вычислительные и природные ресурсы. Более того, этот простой шаг может значительно снизить затраты, связанные с передачей данных».

» Гленн Гейб (@glenngabe), 9 декабря 2024 г.

4/ Как кеширование влияет на скорость загрузки страницы?

» Siddhesh SEO a/cc (@siddhesh_asawa), 9 декабря 2024 г.

Google добавил в этот раздел больше деталей, но также расширил этот раздел страницы:

Сканеры и сборщики Google поддерживают HTTP/1.1 и HTTP/2. Сканеры будут использовать версию протокола, которая обеспечивает наилучшую производительность сканирования, и могут переключать протоколы между сеансами сканирования в зависимости от предыдущей статистики сканирования. Версия протокола по умолчанию, используемая сканерами Google, — HTTP/1.1; сканирование по HTTP/2 может сэкономить вычислительные ресурсы (например, ЦП, ОЗУ) для вашего сайта и робота Googlebot, но в противном случае сайт не получит конкретной выгоды от продукта Google (например, не будет повышения рейтинга в поиске Google). Чтобы отказаться от сканирования по HTTP/2, попросите сервер, на котором размещен ваш сайт, отвечать кодом состояния HTTP 421, когда Google пытается получить доступ к вашему сайту по HTTP/2. Если это невозможно, вы можете отправить сообщение команде сканирования (однако это решение временное).
Инфраструктура сканера Google также поддерживает сканирование через FTP (как определено в RFC959 и его обновлениях) и FTPS (как определено в RFC4217 и его обновлениях), однако сканирование по этим протоколам происходит редко.

Смотрите также

2024-12-10 16:14