Cookbook·Новости и медиа·theguardian.com
Скрапинг: страницы business на theguardian.com
Запрос, который сегодня возвращает страницы business с theguardian.com, с параметрами, шаблонами и типами ошибок из лога запросов с 14 августа 2026. Последняя проверка 6 сентября 2026.
99.8% успеха · авг 2026Браузер в 28% вызововЦена Стандартный · 1 кредит
О theguardian.com
theguardian.com описывает себя так: «Последние международные новости, спорт и комментарии от Guardian».
Его sitemap перечисляют 374 URL в 2 файла (news, video). 374 из 374 датированных записей изменились за последние 30 дней, самая свежая 6 сентября 2026.
Его robots.txt называет 2 sitemap и запрещает 12 путей, среди них /sendarticle/, /users/, /email/.
Измерено на Crawlbase
Доля успеха по каждому запросу каждого аккаунта за август 2026: 99.8%. Шаблоны, страны и сбои взяты из лога запросов с 14 августа 2026; 27.9% успешных вызовов использовали JavaScript-токен, медианный ответ занял 4.8s.
Среди 74 сайтов категории новости и медиа в Cookbook theguardian.com занимает 16 место из 74 по доле успеха; медиана категории 98.9%. Его медианный ответ 4.8s медленнее медианы категории 2.3s. 58 из 74 принимают обычный токен; этот сайт только на части страниц.
Вызов
Страницы статей здесь запрашивают чаще всего, со страной и токеном, которые успешны чаще всего. Замените путь-заполнитель настоящим URL статьи с сайта.
curl "https://api.crawlbase.com/?token=YOUR_TOKEN&url=https%3A%2F%2Fwww.theguardian.com%2Fbusiness%2F1234567%2Fexample-page"from crawlbase import CrawlingAPI api = CrawlingAPI({'token': 'YOUR_TOKEN'}) r = api.get('https://www.theguardian.com/business/1234567/example-page') html = r['body']
const { CrawlingAPI } = require('crawlbase'); const api = new CrawlingAPI({ token: 'YOUR_TOKEN' }); const r = await api.get('https://www.theguardian.com/business/1234567/example-page');
Важные параметры
| Параметр | Значение | Зачем |
|---|---|---|
country | не задавать | Большинство успешных вызовов не задают country (88.0%) и срабатывают с долей успеха 100%. |
javascript | не задавать | Вызовы с обычным токеном срабатывают с долей успеха 100%, с JavaScript-токеном 99.6%. Работают оба; начните без браузера и переключайтесь по шаблону URL там, где это показывает таблица ниже. |
Шаблоны URL, которые запрашивают аккаунты
| Шаблон | Доля успехов | JavaScript-токен | Страна | Параметры запроса |
|---|---|---|---|---|
/business/{id}/{slug} | 12.3% | 0.0% | нет | нет |
/world/{id}/{slug} | 11.5% | 4.3% | нет | нет |
/us-news/{id}/{slug} | 10.5% | 4.8% | нет | нет |
/technology/{id}/{slug} | 7.5% | 6.7% | нет | нет |
/football/{id}/{slug} | 6.0% | 66.7% | нет | нет |
/football/{slug}/{id} | 5.5% | 95.5% | нет | page |
/australia-news/{id}/{slug} | 5.0% | 0.0% | нет | нет |
/{slug}/{id}/{slug} | 3.5% | 7.1% | нет | нет |
Поля, которые вы получаете
Структурированные данные, которые Crawlbase нашёл на theguardian.com, по типам страниц. Это типы schema.org на странице, поля, которые ваш парсер может читать прямо из блока JSON-LD:
- Страница объекта:
NewsArticle, WebPage
Что ломается и как починить
На сбои с 14 августа 2026 сайт отвечал:
591: 100% сбоев 5xx означает сбой сайта, а не запроса. Повторите через минуту.
Запуск по расписанию
Новости меняются каждый час. Опрашивайте рубрику или sitemap на новые ссылки, затем отправляйте URL статей в Crawler с callback-адресом, чтобы запросы шли равномерно. Медианный ответ на этом сайте 4.8s.
Вопросы
Нужен ли браузер для скрапинга theguardian.com?
Зависит от страницы. Вызовы с обычным токеном срабатывают с долей успеха 100%, с JavaScript-токеном 99.6%; таблица шаблонов URL показывает, какие пути аккаунты запрашивают с браузером.
Сколько стоит страница theguardian.com на Crawlbase?
1 кредит без браузера. theguardian.com относится к уровню стандартный.
Какой country задать для theguardian.com?
Никакой не нужен: большинство успешных вызовов оставляют его незаданным.
Другие страницы на theguardian.com
Страницы, которые theguardian.com указывает в своих sitemap, запрошены Crawlbase 6 сентября 2026 и подтверждены в 2 прогонах подряд. В каждой строке самый дешёвый вызов, вернувший страницу с содержимым.
| Страница | Пример | Токен | Страна | Медиана |
|---|---|---|---|---|
Главная/ | theguardian.com/ | Обычный | нет | 4.6s |
Страница объекта/{slug}/video/{id}Структурированные данные: NewsArticle, WebPage | нет | Обычный | нет | 2.1s |
Названия сайтов обозначают страницы, которые запрашивает рецепт. Crawlbase не аффилирован ни с одним из перечисленных сайтов. Используйте рецепты в рамках политики допустимого использования.Измеренные цифры за август 2026, обновляются ежемесячно