Скрапинг: статьи на indianweb2.com

О indianweb2.com

indianweb2.com описывает себя так: «Новостные репортажи, тенденции, аналитика и ежедневные обновления о бизнесе, технологиях, стартапах, науке и инновациях в Индии и во всём мире».

Его robots.txt называет 56 sitemap и запрещает 1 путь, среди них /search.

Измерено на Crawlbase

Доля успеха по каждому запросу каждого аккаунта за август 2026: 100%. Шаблоны, страны и сбои взяты из лога запросов с 14 августа 2026; 0.2% успешных вызовов использовали JavaScript-токен, медианный ответ занял 1.6s.

Среди 74 сайтов категории новости и медиа в Cookbook indianweb2.com занимает 3 место из 74 по доле успеха; медиана категории 98.9%. Его медианный ответ 1.6s быстрее медианы категории 2.3s. 58 из 74 принимают обычный токен, и этот сайт тоже.

Вызов

Страницы статей здесь запрашивают чаще всего, со страной и токеном, которые успешны чаще всего. Замените путь-заполнитель настоящим URL статьи с сайта.

curl "https://api.crawlbase.com/?token=YOUR_TOKEN&url=https%3A%2F%2Fwww.indianweb2.com%2F2026%2F09%2Fchinas-ubtech-lands-139m-for.html"

from crawlbase import CrawlingAPI
api = CrawlingAPI({'token': 'YOUR_TOKEN'})

r = api.get('https://www.indianweb2.com/2026/09/chinas-ubtech-lands-139m-for.html')
html = r['body']

const { CrawlingAPI } = require('crawlbase');
const api = new CrawlingAPI({ token: 'YOUR_TOKEN' });

const r = await api.get('https://www.indianweb2.com/2026/09/chinas-ubtech-lands-139m-for.html');

Важные параметры

Шаблоны URL, которые запрашивают аккаунты

Поля, которые вы получаете

Страница статьи несёт заголовок, дату и автора, обычно в блоке ld+json Article, и текст в HTML. Блок часто называет и рубрику.

Что ломается и как починить

Запуск по расписанию

Новости меняются каждый час. Опрашивайте рубрику или sitemap на новые ссылки, затем отправляйте URL статей в Crawler с callback-адресом, чтобы запросы шли равномерно. Медианный ответ на этом сайте 1.6s.

Вопросы

Другие страницы на indianweb2.com

Страницы, которые indianweb2.com указывает в своих sitemap, запрошены Crawlbase 6 сентября 2026 и подтверждены в 2 прогонах подряд. В каждой строке самый дешёвый вызов, вернувший страницу с содержимым.