Скрапинг: результаты поиска на baidu.com

О baidu.com

baidu.com описывает себя так: «Ведущая в мире китайская поисковая система, стремящаяся помочь пользователям удобнее получать информацию и находить искомое. База данных Baidu из более чем ста миллиардов китайских веб-страниц позволяет мгновенно находить релевантные результаты поиска».

Его robots.txt запрещает 10 путей, среди них /baidu, /bh, /shifen/.

Измерено на Crawlbase

Доля успеха по каждому запросу каждого аккаунта за август 2026: 99.9%. Шаблоны, страны и сбои взяты из лога запросов с 14 августа 2026; 0.0% успешных вызовов использовали JavaScript-токен, медианный ответ занял 2.3s.

Среди 11 сайтов категории технологии и разработка в Cookbook baidu.com занимает 2 место из 11 по доле успеха; медиана категории 97.8%. Его медианный ответ 2.3s медленнее медианы категории 1.9s. 8 из 11 принимают обычный токен, и этот сайт тоже.

Вызов

Страницы результатов поиска здесь запрашивают чаще всего, со страной и токеном, которые успешны чаще всего. Замените запрос-заполнитель своим.

curl "https://api.crawlbase.com/?token=YOUR_TOKEN&url=http%3A%2F%2Fwww.baidu.com%2Fs"

from crawlbase import CrawlingAPI
api = CrawlingAPI({'token': 'YOUR_TOKEN'})

r = api.get('http://www.baidu.com/s')
html = r['body']

const { CrawlingAPI } = require('crawlbase');
const api = new CrawlingAPI({ token: 'YOUR_TOKEN' });

const r = await api.get('http://www.baidu.com/s');

Важные параметры

Шаблоны URL, которые запрашивают аккаунты

Поля, которые вы получаете

Страница поиска несёт список результатов, у каждого заголовок, ссылка и обычно цена или сниппет. Листайте параметром страницы самого сайта и останавливайтесь, когда страница повторяется.

Что ломается и как починить

На сбои с 14 августа 2026 сайт отвечал:

Запуск по расписанию

Поиск это дорогая сторона сайта. Держите список запросов коротким, запускайте его по расписанию через Crawler с callback-адресом и потом запрашивайте только нужные страницы результатов. Медианный ответ на этом сайте 2.3s.

Вопросы

Другие страницы на baidu.com

Страницы, которые baidu.com указывает в своих sitemap, запрошены Crawlbase 6 сентября 2026 и подтверждены в 2 прогонах подряд. В каждой строке самый дешёвый вызов, вернувший страницу с содержимым.