Скрапинг: страницы категорий на betta.com.au

О betta.com.au

betta.com.au описывает себя так: «Откройте лучшие предложения на бытовую технику и мебель в Австралии! От стиральных машин и кухни до электроники и не только: покупайте онлайн или в магазине Betta уже сегодня».

Его sitemap перечисляют 6 533 URL в 11 файлов (agentic_discovery, products_1, products_2, products_3, products_4, products_5). 5 902 из 6 531 датированных записей изменились за последние 30 дней, самая свежая 7 сентября 2026.

Его robots.txt называет 1 sitemap и запрещает 12 путей, среди них /admin, /cart, /orders. Он просит краулеры ждать 10 с между запросами.

Измерено на Crawlbase

Доля успеха по каждому запросу каждого аккаунта за август 2026: 99.5%. Шаблоны, страны и сбои взяты из лога запросов с 14 августа 2026; 0.4% успешных вызовов использовали JavaScript-токен, медианный ответ занял 1.2s.

Среди 28 сайтов категории электроника в Cookbook betta.com.au занимает 14 место из 28 по доле успеха; медиана категории 99.5%. Его медианный ответ 1.2s быстрее медианы категории 2.0s. 14 из 28 принимают обычный токен, и этот сайт тоже.

Вызов

Страницы категорий и списков здесь запрашивают чаще всего, со страной и токеном, которые успешны чаще всего. Замените путь-заполнитель настоящим URL раздела с сайта.

curl "https://api.crawlbase.com/?token=YOUR_TOKEN&url=https%3A%2F%2Fwww.betta.com.au%2Fcollections%2Fipad"

from crawlbase import CrawlingAPI
api = CrawlingAPI({'token': 'YOUR_TOKEN'})

r = api.get('https://www.betta.com.au/collections/ipad')
html = r['body']

const { CrawlingAPI } = require('crawlbase');
const api = new CrawlingAPI({ token: 'YOUR_TOKEN' });

const r = await api.get('https://www.betta.com.au/collections/ipad');

Важные параметры

Шаблоны URL, которые запрашивают аккаунты

Поля, которые вы получаете

Структурированные данные, которые Crawlbase нашёл на betta.com.au, по типам страниц. Это типы schema.org на странице, поля, которые ваш парсер может читать прямо из блока JSON-LD:

• Главная: Organization, WebSite
• Страница объекта: Organization, WebSite, Product
• Список: Organization, WebSite
• Другое: Organization, WebSite

Что ломается и как починить

Запуск по расписанию

Обходите списки по расписанию, чтобы находить новые элементы, затем отправляйте их URL в Crawler с callback-адресом; он распределяет вызовы и повторяет то, что сайт отклонил. Медианный ответ на этом сайте 1.2s.

Вопросы

Другие страницы на betta.com.au

Страницы, которые betta.com.au указывает в своих sitemap, запрошены Crawlbase 6 сентября 2026 и подтверждены в 2 прогонах подряд. В каждой строке самый дешёвый вызов, вернувший страницу с содержимым.