Скрапинг: страницы section на indianexpress.com

О indianexpress.com

indianexpress.com описывает себя так: «Получайте последние новости дня, срочные новости и главные заголовки из Индии и всего мира. Будьте в курсе политики, бизнеса, спорта, развлечений и не только с The Indian Express».

Главная страница объявляет 4 языков: en-in, en, en-us, en-ca.

Его sitemap перечисляют 2 280 URL в 19 файлов (news-sitemap, video-sitemap, category-sitemap, allsitemap, aboutsitemap1, aboutsitemap2). 418 из 1 807 датированных записей изменились за последние 30 дней, самая свежая 14 августа 2026.

Его robots.txt называет 11 sitemap и запрещает 12 путей, среди них /wp-admin/, /dummy/, /homepage/.

Измерено на Crawlbase

Доля успеха по каждому запросу каждого аккаунта за август 2026: 99.1%. Шаблоны, страны и сбои взяты из лога запросов с 14 августа 2026; 4.2% успешных вызовов использовали JavaScript-токен, медианный ответ занял 3.0s.

Среди 74 сайтов категории новости и медиа в Cookbook indianexpress.com занимает 35 место из 74 по доле успеха; медиана категории 98.9%. Его медианный ответ 3.0s медленнее медианы категории 2.3s. 58 из 74 принимают обычный токен, и этот сайт тоже.

Вызов

Страницы статей здесь запрашивают чаще всего, со страной и токеном, которые успешны чаще всего. Замените путь-заполнитель настоящим URL статьи с сайта.

curl "https://api.crawlbase.com/?token=YOUR_TOKEN&url=https%3A%2F%2Fwww.indianexpress.com%2Fsection%2Fexample-page"

from crawlbase import CrawlingAPI
api = CrawlingAPI({'token': 'YOUR_TOKEN'})

r = api.get('https://www.indianexpress.com/section/example-page')
html = r['body']

const { CrawlingAPI } = require('crawlbase');
const api = new CrawlingAPI({ token: 'YOUR_TOKEN' });

const r = await api.get('https://www.indianexpress.com/section/example-page');

Важные параметры

Шаблоны URL, которые запрашивают аккаунты

Поля, которые вы получаете

Структурированные данные, которые Crawlbase нашёл на indianexpress.com, по типам страниц. Это типы schema.org на странице, поля, которые ваш парсер может читать прямо из блока JSON-LD:

• Главная: WebPage, ViewAction, NewsMediaOrganization, SiteNavigationElement, WebSite
• Страница объекта: NewsMediaOrganization, NewsArticle, VideoObject, SiteNavigationElement, WebSite
• Список: WebPage, ViewAction, BreadcrumbList, ItemList, NewsMediaOrganization, SiteNavigationElement, WebSite
• Другое: WebPage, ViewAction, BreadcrumbList, ItemList, NewsMediaOrganization, SiteNavigationElement, WebSite

Что ломается и как починить

На сбои с 14 августа 2026 сайт отвечал:

Запуск по расписанию

Новости меняются каждый час. Опрашивайте рубрику или sitemap на новые ссылки, затем отправляйте URL статей в Crawler с callback-адресом, чтобы запросы шли равномерно. Медианный ответ на этом сайте 3.0s.

Вопросы

Другие страницы на indianexpress.com

Страницы, которые indianexpress.com указывает в своих sitemap, запрошены Crawlbase 6 сентября 2026 и подтверждены в 2 прогонах подряд. В каждой строке самый дешёвый вызов, вернувший страницу с содержимым.