Скрапинг: страницы business на theguardian.com
Запрос, который сегодня возвращает страницы business с theguardian.com, с параметрами, шаблонами и типами ошибок из лога запросов с 14 Aug 2026.
Измерено на Crawlbase
Доля успеха по каждому запросу каждого аккаунта за August 2026: 99.8%. Шаблоны, страны и сбои взяты из лога запросов с 14 Aug 2026; 27.9% успешных вызовов использовали JavaScript-токен, медианный ответ занял 4.8s.
Среди 74 сайтов категории новости и медиа в Cookbook theguardian.com занимает 16 место из 74 по доле успеха; медиана категории 98.9%. Его медианный ответ 4.8s медленнее медианы категории 2.3s. 58 из 74 принимают обычный токен; этот сайт только на части страниц.
Вызов
Страницы статей здесь запрашивают чаще всего, со страной и токеном, которые успешны чаще всего. Замените путь-заполнитель настоящим URL статьи с сайта.
curl "https://api.crawlbase.com/?token=YOUR_TOKEN&url=https%3A%2F%2Fwww.theguardian.com%2Fbusiness%2F1234567%2Fexample-page"from crawlbase import CrawlingAPI api = CrawlingAPI({'token': 'YOUR_TOKEN'}) r = api.get('https://www.theguardian.com/business/1234567/example-page') html = r['body']
const { CrawlingAPI } = require('crawlbase'); const api = new CrawlingAPI({ token: 'YOUR_TOKEN' }); const r = await api.get('https://www.theguardian.com/business/1234567/example-page');
Важные параметры
| Параметр | Значение | Зачем |
|---|---|---|
country | не задавать | Большинство успешных вызовов не задают country (88.0%) и срабатывают с долей успеха 100%. |
javascript | не задавать | Вызовы с обычным токеном срабатывают с долей успеха 100%, с JavaScript-токеном 99.6%. Работают оба; начните без браузера и переключайтесь по шаблону URL там, где это показывает таблица ниже. |
Шаблоны URL, которые запрашивают аккаунты
| Шаблон | Доля успехов | JavaScript-токен | Страна | Параметры запроса |
|---|---|---|---|---|
/business/{id}/{slug} | 12.3% | 0.0% | нет | нет |
/world/{id}/{slug} | 11.5% | 4.3% | нет | нет |
/us-news/{id}/{slug} | 10.5% | 4.8% | нет | нет |
/technology/{id}/{slug} | 7.5% | 6.7% | нет | нет |
/football/{id}/{slug} | 6.0% | 66.7% | нет | нет |
/football/{slug}/{id} | 5.5% | 95.5% | нет | page |
/australia-news/{id}/{slug} | 5.0% | 0.0% | нет | нет |
/{slug}/{id}/{slug} | 3.5% | 7.1% | нет | нет |
Поля, которые вы получаете
Страница статьи несёт заголовок, дату и автора, обычно в блоке ld+json Article, и текст в HTML. Блок часто называет и рубрику.
Что ломается и как починить
На сбои с 14 Aug 2026 сайт отвечал:
Запуск по расписанию
Новости меняются каждый час. Опрашивайте рубрику или sitemap на новые ссылки, затем отправляйте URL статей в Crawler с callback-адресом, чтобы запросы шли равномерно. Медианный ответ на этом сайте 4.8s.
Вопросы
Нужен ли браузер для скрапинга theguardian.com?
Зависит от страницы. Вызовы с обычным токеном срабатывают с долей успеха 100%, с JavaScript-токеном 99.6%; таблица шаблонов URL показывает, какие пути аккаунты запрашивают с браузером.
Сколько стоит страница theguardian.com на Crawlbase?
1 кредит без браузера. theguardian.com относится к уровню стандартный.
Какой country задать для theguardian.com?
Никакой не нужен: большинство успешных вызовов оставляют его незаданным.