Скрапинг: страницы категорий на oreillyauto.com

О oreillyauto.com

oreillyauto.com описывает себя так: «Автозапчасти, инструменты и многое другое в O'Reilly Auto Parts. Заказывайте онлайн с бесплатной доставкой на следующий день или забирайте заказ в одном из более чем 6 000 магазинов».

Его robots.txt называет 1 sitemap и запрещает 12 путей, среди них /detail, /checkout, /signin.

Измерено на Crawlbase

Доля успеха по каждому запросу каждого аккаунта за август 2026: 99.0%. Шаблоны, страны и сбои взяты из лога запросов с 14 августа 2026; 100% успешных вызовов использовали JavaScript-токен, медианный ответ занял 46.5s.

Среди 16 сайтов категории автомобили в Cookbook oreillyauto.com занимает 10 место из 16 по доле успеха; медиана категории 99.3%. Его медианный ответ 46.5s медленнее медианы категории 1.9s. 12 из 16 принимают обычный токен; этому сайту нужен JavaScript-токен.

Вызов

Страницы категорий и списков здесь запрашивают чаще всего, со страной и токеном, которые успешны чаще всего. Замените путь-заполнитель настоящим URL раздела с сайта.

curl "https://api.crawlbase.com/?token=YOUR_JS_TOKEN&url=https%3A%2F%2Fwww.oreillyauto.com%2Fshop%2Fbrands%2Fa%2Fsyntec%2Fsnt"

from crawlbase import CrawlingAPI
api = CrawlingAPI({'token': 'YOUR_JS_TOKEN'})

r = api.get('https://www.oreillyauto.com/shop/brands/a/syntec/snt')
html = r['body']

const { CrawlingAPI } = require('crawlbase');
const api = new CrawlingAPI({ token: 'YOUR_JS_TOKEN' });

const r = await api.get('https://www.oreillyauto.com/shop/brands/a/syntec/snt');

Важные параметры

Шаблоны URL, которые запрашивают аккаунты

Поля, которые вы получаете

Структурированные данные, которые Crawlbase нашёл на oreillyauto.com, по типам страниц. Это типы schema.org на странице, поля, которые ваш парсер может читать прямо из блока JSON-LD:

• Главная: Organization, Website
• Список: BreadcrumbList, Organization, Website
• Другое: Organization, Website

Что ломается и как починить

На сбои с 14 августа 2026 сайт отвечал:

Запуск по расписанию

Обходите списки по расписанию, чтобы находить новые элементы, затем отправляйте их URL в Crawler с callback-адресом; он распределяет вызовы и повторяет то, что сайт отклонил. Медианный ответ на этом сайте 46.5s.

Вопросы

Другие страницы на oreillyauto.com

Страницы, которые oreillyauto.com указывает в своих sitemap, запрошены Crawlbase 6 сентября 2026 и подтверждены в 2 прогонах подряд. В каждой строке самый дешёвый вызов, вернувший страницу с содержимым.