Скрапинг: статьи на abcnews.go.com
Запрос, который сегодня возвращает статьи с abcnews.go.com, с параметрами, шаблонами и типами ошибок из лога запросов с 14 августа 2026. Последняя проверка 6 сентября 2026.
О abcnews.go.com
abcnews.go.com описывает себя так: «Ваш надёжный источник срочных новостей, аналитики, эксклюзивных интервью, заголовков и видео на ABCNews.com».
Его sitemap перечисляют 2 021 URL в 3 файла (xmap, xmlLatestStories, xmlLatestVideos). 2 021 из 2 021 датированных записей изменились за последние 30 дней, самая свежая 6 сентября 2026.
Его robots.txt называет 3 sitemap и запрещает 12 путей, среди них /cgi, /xls, /imp.
Измерено на Crawlbase
Доля успеха по каждому запросу каждого аккаунта за август 2026: 100%. Шаблоны, страны и сбои взяты из лога запросов с 14 августа 2026; 0.0% успешных вызовов использовали JavaScript-токен, медианный ответ занял 2.9s.
Среди 74 сайтов категории новости и медиа в Cookbook abcnews.go.com занимает 1 место из 74 по доле успеха; медиана категории 98.9%. Его медианный ответ 2.9s медленнее медианы категории 2.3s. 58 из 74 принимают обычный токен, и этот сайт тоже.
Вызов
Страницы статей здесь запрашивают чаще всего, со страной и токеном, которые успешны чаще всего. Замените путь-заполнитель настоящим URL статьи с сайта.
curl "https://api.crawlbase.com/?token=YOUR_TOKEN&url=https%3A%2F%2Fwww.abcnews.go.com%2Fexample-page"from crawlbase import CrawlingAPI api = CrawlingAPI({'token': 'YOUR_TOKEN'}) r = api.get('https://www.abcnews.go.com/example-page') html = r['body']
const { CrawlingAPI } = require('crawlbase'); const api = new CrawlingAPI({ token: 'YOUR_TOKEN' }); const r = await api.get('https://www.abcnews.go.com/example-page');
Важные параметры
| Параметр | Значение | Зачем |
|---|---|---|
country | не задавать | Большинство успешных вызовов не задают country (100%) и срабатывают с долей успеха 100%. |
javascript | не задавать | Вызовы с обычным токеном срабатывают с долей успеха 100% и составляют 100% трафика. Браузер стоит дороже и на этом сайте ничего не даёт. |
Шаблоны URL, которые запрашивают аккаунты
| Шаблон | Доля успехов | JavaScript-токен | Страна | Параметры запроса |
|---|---|---|---|---|
/{slug} | 71.8% | 0.0% | нет | fbclid, utm_source |
/{id}/{id}/{id} | 27.3% | 0.0% | нет | нет |
Поля, которые вы получаете
Структурированные данные, которые Crawlbase нашёл на abcnews.go.com, по типам страниц. Это типы schema.org на странице, поля, которые ваш парсер может читать прямо из блока JSON-LD:
- Главная:
WebSite, WebPage - Страница объекта:
WebSite, WebPage - Статья:
WebSite, WebPage, NewsArticle - Другое:
WebSite, WebPage, NewsArticle
Что ломается и как починить
Запуск по расписанию
Новости меняются каждый час. Опрашивайте рубрику или sitemap на новые ссылки, затем отправляйте URL статей в Crawler с callback-адресом, чтобы запросы шли равномерно. Медианный ответ на этом сайте 2.9s.
Вопросы
Нужен ли браузер для скрапинга abcnews.go.com?
Нет. 100% вызовов с обычным токеном срабатывают, и аккаунты отправляют 100% своего трафика без браузера.
Сколько стоит страница abcnews.go.com на Crawlbase?
1 кредит без браузера. abcnews.go.com относится к уровню стандартный.
Какой country задать для abcnews.go.com?
Никакой не нужен: большинство успешных вызовов оставляют его незаданным.
Другие страницы на abcnews.go.com
Страницы, которые abcnews.go.com указывает в своих sitemap, запрошены Crawlbase 6 сентября 2026 и подтверждены в 2 прогонах подряд. В каждой строке самый дешёвый вызов, вернувший страницу с содержимым.
| Страница | Пример | Токен | Страна | Медиана |
|---|---|---|---|---|
Главная/Структурированные данные: WebSite, WebPage | abcnews.go.com/ | Обычный | нет | 3.1s |
Страница объекта/video/{id}Структурированные данные: WebSite, WebPage | abcnews.com/video/136237367/ | Обычный | нет | 3.3s |
Статья/{slug}/{slug}/storyСтруктурированные данные: WebSite, WebPage, NewsArticle | нет | Обычный | нет | 3.3s |
Другое/{slug}/{slug}/{slug}Структурированные данные: WebSite, WebPage, NewsArticle | нет | Обычный | нет | 12.3s |