Скрапинг: страницы talk на mumsnet.com

О mumsnet.com

mumsnet.com описывает себя так: «Mumsnet облегчает жизнь родителям, объединяя знания, советы и поддержку по всем вопросам: от зачатия до родов, от младенцев до подростков».

Его sitemap перечисляют 618 108 URL в 19 файлов (news, AMA_1, _chat_1, _chat_2, _chat_3, _chat_4). 4 694 из 618 104 датированных записей изменились за последние 30 дней, самая свежая 6 сентября 2026.

Его robots.txt называет 3 sitemap и запрещает 12 путей, среди них /session/, /login-needed/, /member/.

Измерено на Crawlbase

Доля успеха по каждому запросу каждого аккаунта за август 2026: 98.9%. Шаблоны, страны и сбои взяты из лога запросов с 14 августа 2026; 0.1% успешных вызовов использовали JavaScript-токен, медианный ответ занял 9.2s.

Среди 8 сайтов категории социальные сети в Cookbook mumsnet.com занимает 4 место из 8 по доле успеха; медиана категории 98.9%. Его медианный ответ 9.2s на уровне медианы категории 9.2s. 6 из 8 принимают обычный токен, и этот сайт тоже.

Вызов

Самая частая форма URL, которую запрашивают аккаунты, с country и токеном, которые срабатывают чаще всего. Замените путь-заполнитель на реальный путь с сайта.

curl "https://api.crawlbase.com/?token=YOUR_TOKEN&url=https%3A%2F%2Fwww.mumsnet.com%2Ftalk%2Fexample-section%2Fexample-page"

from crawlbase import CrawlingAPI
api = CrawlingAPI({'token': 'YOUR_TOKEN'})

r = api.get('https://www.mumsnet.com/talk/example-section/example-page')
html = r['body']

const { CrawlingAPI } = require('crawlbase');
const api = new CrawlingAPI({ token: 'YOUR_TOKEN' });

const r = await api.get('https://www.mumsnet.com/talk/example-section/example-page');

Важные параметры

Шаблоны URL, которые запрашивают аккаунты

Поля, которые вы получаете

Структурированные данные, которые Crawlbase нашёл на mumsnet.com, по типам страниц. Это типы schema.org на странице, поля, которые ваш парсер может читать прямо из блока JSON-LD:

• Главная: Organization
• Статья: Article, BreadcrumbList, Organization
• Другое: Organization, BreadcrumbList, DiscussionForumPosting

Что ломается и как починить

Запуск по расписанию

Медианный ответ на этом сайте 9.2s. Отправьте список URL в Crawler с callback-адресом для всего, что превышает несколько тысяч страниц в день; он распределяет вызовы по времени и повторяет то, что сайт отклонил.

Вопросы

Другие страницы на mumsnet.com

Страницы, которые mumsnet.com указывает в своих sitemap, запрошены Crawlbase 6 сентября 2026 и подтверждены в 2 прогонах подряд. В каждой строке самый дешёвый вызов, вернувший страницу с содержимым.