Скрапер Washington Post.
Любая статья, полностью отрендеренная.
Отправьте любой URL Washington Post и получите обратно полностью отрендеренный HTML через резидентные прокси со встроенным обходом защиты от ботов.
Превратите его в JSON с помощью generic extractor.
Любой URL Washington Post на входе. HTML или JSON на выходе.
Crawling API, набранный вживую. Получите отрендеренный HTML или переключитесь на generic extractor для JSON. Наведите курсор, чтобы остановить и прочитать.
Один API для всего, что подбрасывает вам Post.
Washington Post прячет статьи за платным доступом с ограничением по количеству, рендерит материалы с помощью JavaScript и следит за ботами на страницах статей и разделов. Crawling API рендерит страницу в настоящем браузере, обращается к ней через резидентные IP и выдаёт вам чистый HTML или JSON.
Полный рендеринг JavaScript
Настоящий браузер выполняет страницу, поэтому заголовки, подписи авторов, отметки времени и текст статьи, загружаемые через JavaScript, захватываются полностью, а не только исходный HTML.
140M резидентных IP
Каждый запрос ротирует резидентный IP по 30 регионам, поэтому вы обращаетесь к Post как настоящий местный читатель.
Блокировки обрабатываются за вас
Обнаружение ботов, платный доступ с ограничением и лимиты частоты снимаются автоматически. Ничего решать, ничего поддерживать.
HTML или JSON
Получите полностью отрендеренный HTML или добавьте scraper=generic-extractor чтобы вернуть заголовок, содержимое, изображения и ссылки в виде структурированного JSON.
Скриншоты и асинхронность
Тот же вызов может сделать скриншот всей страницы или выполниться асинхронно с вебхуками и облачным хранилищем.
Один API для любого сайта
Crawling API работает с любым URL, поэтому один и тот же токен покрывает и Post, и всё остальное, что вы обходите. Смотреть живое демо.
Отрендеренный HTML или чистый JSON.
По умолчанию вы получаете отрендеренный HTML. Добавьте generic-extractor и та же страница вернётся в виде типизированного JSON.
Страница
title · string canonical · string favicon · string
Мета
meta.description · string meta.keywords · string
Содержимое
content · string
Медиа
images · array og_images · array
Ссылки
links · array
От URL к данным за один вызов.
Каждый запрос к Washington Post проходит один и тот же путь. Вы отправляете URL, мы управляем всем, что между.
Отправьте URL
Передайте любой публичный URL Washington Post со своим токеном: главную страницу, раздел, статью или поиск.
Ротация прокси
Резидентный IP и регион, которые обращаются к Post чисто, выбранные из 140M IP по 30 регионам.
Рендеринг страницы
Настоящий браузер загружает страницу, поэтому заголовок, подпись автора, отметка времени и полный текст статьи рендерятся до захвата.
Снятие защиты от ботов
Платный доступ с ограничением, обнаружение ботов и лимиты частоты на страницах статей и разделов обрабатываются автоматически. Ничего решать, ничего поддерживать.
Возврат HTML или JSON
Возвращается полностью отрендеренный HTML или типизированный JSON, когда вы добавляете generic extractor.
Что команды строят на данных Washington Post.
Мониторинг новостей
Отслеживайте главную страницу, витрины разделов и страницы статей, чтобы ловить срочные новости и обновления по мере публикации.
Анализ медиа и нарратива
Следите за тем, как темы, люди и политика подаются в материалах о политике, бизнесе и мнениях.
Анализ настроений и тональности
Извлекайте заголовки и текст статей, чтобы оценивать настроения и тональность по разделам во времени.
Исследования и архивирование
Захватывайте чистый текст статей и метаданные для исследовательских наборов данных и долгосрочных архивов.
Обучающие данные и RAG
Подавайте чистый текст статей в модели, RAG-конвейеры и агентов через один API.
Любой URL, один API
Обходите главную страницу, разделы, статьи и поиск, плюс любой другой сайт, который вам нужен.
Что полезно знать при скрапинге The Washington Post.
Рендеринг как в настоящем браузере
Post рендерит статьи с помощью JavaScript; Crawling API запускает настоящий браузер, поэтому заголовки, подписи авторов, отметки времени и текст статьи загружаются до захвата.
HTML по умолчанию, JSON по запросу
Вы получаете полностью отрендеренный HTML. Добавьте scraper=generic-extractor для разобранных заголовка, содержимого, изображений и ссылок, или разберите HTML самостоятельно.
Платный доступ с ограничением, публичный вид
Статьи находятся за платным доступом с ограничением; Crawling API читает публично видимую страницу без входа в систему, поэтому вы получаете то, что видит незалогиненный читатель.
Обращайтесь к Post откуда угодно
Геотаргетинг по 30 регионам и 140M резидентных IP означают стабильный доступ без управления прокси.
Создано для обхода The Washington Post в масштабе.
Crawling API работает на той же сети, что обслуживает 46,000+ платящих клиентов и 70,000+ разработчиков. Никаких прокси для покупки, никаких браузеров для запуска, ничего латать, когда Post меняется.
Один токен, официальные SDK для Python, Node и Ruby и сеть с аптаймом 99.99% под капотом.
Вопросы о скрапинге Washington Post.
Начните скрапинг The Washington Post.
Обойдите платный доступ и блокировки.
Бесплатно для старта, до 20,000 запросов. Один токен для Crawling API и каждого скрапера.