Скрапинг: статьи на medium.com
Запрос, который сегодня возвращает статьи с medium.com, с параметрами, шаблонами и типами ошибок из лога запросов с 14 августа 2026. Последняя проверка 6 сентября 2026.
О medium.com
medium.com описывает себя так: «На Medium каждый может поделиться с миром глубокими взглядами, полезными знаниями и жизненной мудростью».
Его sitemap перечисляют 45 758 URL в 19 файлов (posts-2015-05-06, catalogs-2025-09-21, posts-2021-07-29, posts-2011-01-01, posts-2025-10-28, posts-2002-10-26). 3 123 из 45 758 датированных записей изменились за последние 30 дней, самая свежая 5 сентября 2026.
Его robots.txt называет 1 sitemap и запрещает 12 путей, среди них /m/, /me/, /media/.
Измерено на Crawlbase
Доля успеха по каждому запросу каждого аккаунта за август 2026: 93.9%. Шаблоны, страны и сбои взяты из лога запросов с 14 августа 2026; 0.1% успешных вызовов использовали JavaScript-токен, медианный ответ занял 2.0s.
Среди 74 сайтов категории новости и медиа в Cookbook medium.com занимает 63 место из 74 по доле успеха; медиана категории 98.9%. Его медианный ответ 2.0s на уровне медианы категории 2.3s. 58 из 74 принимают обычный токен, и этот сайт тоже.
Вызов
Страницы статей здесь запрашивают чаще всего, со страной и токеном, которые успешны чаще всего. Замените путь-заполнитель настоящим URL статьи с сайта.
curl "https://api.crawlbase.com/?token=YOUR_TOKEN&url=https%3A%2F%2Fwww.medium.com%2Fexample-section%2Fexample-page"from crawlbase import CrawlingAPI api = CrawlingAPI({'token': 'YOUR_TOKEN'}) r = api.get('https://www.medium.com/example-section/example-page') html = r['body']
const { CrawlingAPI } = require('crawlbase'); const api = new CrawlingAPI({ token: 'YOUR_TOKEN' }); const r = await api.get('https://www.medium.com/example-section/example-page');
Важные параметры
| Параметр | Значение | Зачем |
|---|---|---|
country | не задавать | Большинство успешных вызовов не задают country (100%) и срабатывают с долей успеха 93.9%. |
javascript | не задавать | Вызовы с обычным токеном срабатывают с долей успеха 93.9% и составляют 100% трафика. Браузер стоит дороже и на этом сайте ничего не даёт. |
Шаблоны URL, которые запрашивают аккаунты
| Шаблон | Доля успехов | JavaScript-токен | Страна | Параметры запроса |
|---|---|---|---|---|
/{slug}/{slug} | 30.4% | 0.8% | нет | source |
/{slug} | 12.5% | 8.0% | нет | source |
/ | 8.3% | 60.6% | нет | нет |
Поля, которые вы получаете
Страница статьи несёт заголовок, дату и автора, обычно в блоке ld+json Article, и текст в HTML. Блок часто называет и рубрику.
Что ломается и как починить
На сбои с 14 августа 2026 сайт отвечал:
Запуск по расписанию
Новости меняются каждый час. Опрашивайте рубрику или sitemap на новые ссылки, затем отправляйте URL статей в Crawler с callback-адресом, чтобы запросы шли равномерно. Медианный ответ на этом сайте 2.0s.
Вопросы
Нужен ли браузер для скрапинга medium.com?
Нет. 93.9% вызовов с обычным токеном срабатывают, и аккаунты отправляют 100% своего трафика без браузера.
Сколько стоит страница medium.com на Crawlbase?
1 кредит без браузера. medium.com относится к уровню стандартный.
Какой country задать для medium.com?
Никакой не нужен: большинство успешных вызовов оставляют его незаданным.