Массовое тестирование PageSpeed ​​Insights

UPD 14.11.2018: Сервис обновился, и я уже готовлю новую статью.

Google делает отличную работу по предоставлению различных инструментов для SEO и веб-мастеров.  Хотя они не могут предоставить наиболее подробный анализ, но мы можем видеть, как Google просматривает наши веб-страницы.

Недостаток сервиса в том, что мы не можем массово проверить все страницы сайта. А проверять отдельно каждую страницу сайта не очень охота. И часто этот момент упускаем, не придавая скорости загрузки особенного значения.

Но я знаю как исправить это, и автоматизировать процесс получения метрик скорости загрузки сайта с помощью screaming frog.

URL адреса

Для начала нам необходимо получить весь список URL своего сайта. Или не весь, здесь суть не в этом. Покажу все на собственном примере, т.к. на своем сайте.

Парсим сайт, копируем все необходимые ссылки в Excel, столбец B.

Затем вам нужно добавить в ячейку А1 URL-адрес страницы по умолчанию для скорости страницы:
https://developers.google.com/speed/pagespeed/insights/?url=

В ячейку С1 добавьте формулу =$A$1&B1 и растяните на все строки которые есть в столбце B.

В итоге у вас должно выйти так:

Настройки

Теперь когда у вас есть необходимые урлы, необходимо настроить фрог так, что бы Google не понял, что вы используете бота и не показал вам Captcha:

• переключаемся в режим списка (в меню Mode > List);
• переходим к настройкам рендеринга находящий в разделе Configuration > Spider > Rendering — выбираем JavaScript, и увеличиваем тайм-аут AJAX с 5 секунд до 10 для безопасности;
• так же уменьшаем скорость обхода страниц в меню Configuration > Speed. Устанавливаем 1 поток и максимум url/s между 0,1 и 0,5 секунды. Поиграйте с этим и найдите свое число.

Extraction

Теперь когда мы все подготовили, необходимо настроить выборку данных, те самые оценки.

Переходим в меню Configuration > Custom > Extraction и вводим следующие коды XPath:

Оценка мобильной оптимизации:

(//div[@class=»speed-report-card»]//span[1])[1]

Оценка оптимизации на ПК:

(//div[@class=»speed-report-card»]//span[1])[2]

Мобильный FCP:

(//div[@class=»speed-report-card left»]//span[1])[1]

Мобильный DCL:

(//div[@class=»speed-report-card left»]//span[2])[1]

ПК FCP:

(//div[@class=»speed-report-card left»]//span[1])[2]

ПК DCL:

(//div[@class=»speed-report-card left»]//span[2])[2]

Или, если вы предпочтете, чтобы FCP и DCL были объединены в один столбец:

Мобильный FCP и DCL:
(//div[@class=»speed-report-card left»]/p[3])[1]

ПК FCP и DCL:
(//div[@class=»speed-report-card left»]/p[3])[2]

Если вы все сделали правильно, у вас должна быть зеленая галочка рядом с каждой записью:

Не забудьте выбрать XPath и Extract Text что бы все заработало как нужно.

Жмем ОК.

Запускаем парсинг

Т.к. сайт у меня молодой данные по FCP и DCL я парсить не буду, а значит оставил только 2 правила.

Копируем подготовленный список из Excel и вставляем его через кнопку Upload > Paste.

Проснувшись и выпив чашечку кофе на следующее утро можно приступать к экспорту и анализу полученных данных:

Делаем через меню Custom> Filter> Extraction и экспортируем в таблицу .xls:

После того как файл экспорта открыт, в первом столбце заменяем https://developers.google.com/speed/pagespeed/insights/?url= ничем. Так мы вернем все прежние url адреса нашего сайта.

После небольшого форматирования вы должны получить таблицу, которая выглядит примерно так:

Я надеюсь, что это краткое руководство было полезно, и если у вас возникнут какие-либо проблемы или какие-либо другие полезные трюки с функцией extraction, то дайте мне знать в комментариях ниже.

P.S. Работает только на версии 9.0 и выше.