Скрапинг: страницы товаров на walmart.com

О walmart.com

walmart.com описывает себя так: «Покупайте на Walmart.com сегодня по низким ценам каждый день. Оформите Walmart+ для неограниченной бесплатной доставки из вашего магазина и бесплатной доставки без минимальной суммы заказа. Начните бесплатный 30-дневный пробный период!».

Его sitemap перечисляют 62 116 URL в 3 файла (category, browse_fst). 12 864 из 62 116 датированных записей изменились за последние 30 дней, самая свежая 6 сентября 2026.

Его robots.txt называет 34 sitemap и запрещает 12 путей, среди них /account/, /api/. Он просит краулеры ждать 5 с между запросами.

Измерено на Crawlbase

Доля успеха по каждому запросу каждого аккаунта за август 2026: 92.1%. Шаблоны, страны и сбои взяты из лога запросов с 14 августа 2026; 19.3% успешных вызовов использовали JavaScript-токен, медианный ответ занял 12.2s.

Среди 20 сайтов категории электронная коммерция в Cookbook walmart.com занимает 19 место из 20 по доле успеха; медиана категории 96.3%. Его медианный ответ 12.2s медленнее медианы категории 2.9s. 9 из 20 принимают обычный токен; этот сайт только на части страниц.

Вызов

Страницы товаров здесь запрашивают чаще всего, со страной и токеном, которые успешны чаще всего. Замените путь-заполнитель настоящим URL товара с сайта.

curl "https://api.crawlbase.com/?token=YOUR_JS_TOKEN&url=https%3A%2F%2Fwww.walmart.com%2Fip%2Fexample-page%2F1234567"

from crawlbase import CrawlingAPI
api = CrawlingAPI({'token': 'YOUR_JS_TOKEN'})

r = api.get('https://www.walmart.com/ip/example-page/1234567')
html = r['body']

const { CrawlingAPI } = require('crawlbase');
const api = new CrawlingAPI({ token: 'YOUR_JS_TOKEN' });

const r = await api.get('https://www.walmart.com/ip/example-page/1234567');

Важные параметры

Шаблоны URL, которые запрашивают аккаунты

Поля, которые вы получаете

Структурированные данные, которые Crawlbase нашёл на walmart.com, по типам страниц. Это типы schema.org на странице, поля, которые ваш парсер может читать прямо из блока JSON-LD:

• Главная: Organization, WebSite
• Список: FAQPage
• Статья: BreadcrumbList

Что ломается и как починить

На сбои с 14 августа 2026 сайт отвечал:

Запуск по расписанию

Обновление каталога это список URL товаров. Отправьте его в Crawler с callback-адресом, дайте ему распределить вызовы и повторить то, что сайт отклонил, и читайте результаты из Cloud Storage. Медианный ответ на этом сайте 12.2s.

Вопросы

Другие страницы на walmart.com

Страницы, которые walmart.com указывает в своих sitemap, запрошены Crawlbase 6 сентября 2026 и подтверждены в 2 прогонах подряд. В каждой строке самый дешёвый вызов, вернувший страницу с содержимым.