Скрапинг: результаты поиска на lidl.com

О lidl.com

lidl.com описывает себя так: «Lidl US | Продуктовый магазин | Больше ценности».

Его robots.txt называет 1 sitemap и запрещает 12 путей.

Измерено на Crawlbase

Доля успеха по каждому запросу каждого аккаунта за август 2026: 97.9%. Шаблоны, страны и сбои взяты из лога запросов с 14 августа 2026; 1.1% успешных вызовов использовали JavaScript-токен, медианный ответ занял 3.7s.

Среди 9 сайтов категории продукты питания в Cookbook lidl.com занимает 6 место из 9 по доле успеха; медиана категории 98.8%. Его медианный ответ 3.7s медленнее медианы категории 2.6s. 5 из 9 принимают обычный токен, и этот сайт тоже.

Вызов

Страницы результатов поиска здесь запрашивают чаще всего, со страной и токеном, которые успешны чаще всего. Замените запрос-заполнитель своим.

curl "https://api.crawlbase.com/?token=YOUR_TOKEN&country=US&url=https%3A%2F%2Fwww.lidl.com%2Fs%2Fexample-section%2Fexample-page"

from crawlbase import CrawlingAPI
api = CrawlingAPI({'token': 'YOUR_TOKEN'})

r = api.get('https://www.lidl.com/s/example-section/example-page', {'country': 'US'})
html = r['body']

const { CrawlingAPI } = require('crawlbase');
const api = new CrawlingAPI({ token: 'YOUR_TOKEN' });

const r = await api.get('https://www.lidl.com/s/example-section/example-page', { country: 'US' });

Важные параметры

Шаблоны URL, которые запрашивают аккаунты

Поля, которые вы получаете

Структурированные данные, которые Crawlbase нашёл на lidl.com, по типам страниц. Это типы schema.org на странице, поля, которые ваш парсер может читать прямо из блока JSON-LD:

• Главная: Organization

Что ломается и как починить

На сбои с 14 августа 2026 сайт отвечал:

Запуск по расписанию

Поиск это дорогая сторона сайта. Держите список запросов коротким, запускайте его по расписанию через Crawler с callback-адресом и потом запрашивайте только нужные страницы результатов. Медианный ответ на этом сайте 3.7s.

Вопросы

Другие страницы на lidl.com

Страницы, которые lidl.com указывает в своих sitemap, запрошены Crawlbase 6 сентября 2026 и подтверждены в 2 прогонах подряд. В каждой строке самый дешёвый вызов, вернувший страницу с содержимым.