Скрапинг: страницы категорий на oreillyauto.com

Измерено на Crawlbase

Доля успеха по каждому запросу каждого аккаунта за August 2026: 99.0%. Шаблоны, страны и сбои взяты из лога запросов с 14 Aug 2026; 100% успешных вызовов использовали JavaScript-токен, медианный ответ занял 46.5s.

Среди 16 сайтов категории автомобили в Cookbook oreillyauto.com занимает 10 место из 16 по доле успеха; медиана категории 99.3%. Его медианный ответ 46.5s медленнее медианы категории 1.9s. 12 из 16 принимают обычный токен; этому сайту нужен JavaScript-токен.

Вызов

Страницы категорий и списков здесь запрашивают чаще всего, со страной и токеном, которые успешны чаще всего. Замените путь-заполнитель настоящим URL раздела с сайта.

curl "https://api.crawlbase.com/?token=YOUR_JS_TOKEN&url=https%3A%2F%2Fwww.oreillyauto.com%2Fdetail%2Fc%2Fexample-page"

from crawlbase import CrawlingAPI
api = CrawlingAPI({'token': 'YOUR_JS_TOKEN'})

r = api.get('https://www.oreillyauto.com/detail/c/example-page')
html = r['body']

const { CrawlingAPI } = require('crawlbase');
const api = new CrawlingAPI({ token: 'YOUR_JS_TOKEN' });

const r = await api.get('https://www.oreillyauto.com/detail/c/example-page');

Важные параметры

Шаблоны URL, которые запрашивают аккаунты

Поля, которые вы получаете

Страница списка несёт элементы одного раздела, у каждого заголовок, ссылка и часто цена, плюс пагинацию. Детали живут на странице элемента; запрашивайте её только для нужных элементов.

Что ломается и как починить

На сбои с 14 Aug 2026 сайт отвечал:

Запуск по расписанию

Обходите списки по расписанию, чтобы находить новые элементы, затем отправляйте их URL в Crawler с callback-адресом; он распределяет вызовы и повторяет то, что сайт отклонил. Медианный ответ на этом сайте 46.5s.

Вопросы