Скрапинг: статьи на cnbc.com
Запрос, который сегодня возвращает статьи с cnbc.com, с параметрами, шаблонами и типами ошибок из лога запросов с 14 августа 2026. Последняя проверка 6 сентября 2026.
О cnbc.com
cnbc.com описывает себя так: «CNBC: мировой лидер в области деловых новостей и освещения финансовых рынков в реальном времени. Быстрая и практичная информация».
Его sitemap перечисляют 697 917 URL в 18 файлов (CNBCsitemapAll13, CNBCsitemapAll12, CNBCsitemapAll11, CNBCsitemapAll10, CNBCsitemapAll9, CNBCsitemapAll8). 4 597 из 696 681 датированных записей изменились за последние 30 дней, самая свежая 6 сентября 2026.
Его robots.txt называет 9 sitemap и запрещает 12 путей, среди них /preview/, /undefined/, /proplayer.
Измерено на Crawlbase
Доля успеха по каждому запросу каждого аккаунта за август 2026: 99.4%. Шаблоны, страны и сбои взяты из лога запросов с 14 августа 2026; 5.8% успешных вызовов использовали JavaScript-токен, медианный ответ занял 6.1s.
Среди 74 сайтов категории новости и медиа в Cookbook cnbc.com занимает 29 место из 74 по доле успеха; медиана категории 98.9%. Его медианный ответ 6.1s медленнее медианы категории 2.3s. 58 из 74 принимают обычный токен; этот сайт только на части страниц.
Вызов
Страницы статей здесь запрашивают чаще всего, со страной и токеном, которые успешны чаще всего. Замените путь-заполнитель настоящим URL статьи с сайта.
curl "https://api.crawlbase.com/?token=YOUR_TOKEN&url=https%3A%2F%2Fwww.cnbc.com%2F2026%2F09%2F05%2Fgm-ford-defense-energy.html"from crawlbase import CrawlingAPI api = CrawlingAPI({'token': 'YOUR_TOKEN'}) r = api.get('https://www.cnbc.com/2026/09/05/gm-ford-defense-energy.html') html = r['body']
const { CrawlingAPI } = require('crawlbase'); const api = new CrawlingAPI({ token: 'YOUR_TOKEN' }); const r = await api.get('https://www.cnbc.com/2026/09/05/gm-ford-defense-energy.html');
Важные параметры
| Параметр | Значение | Зачем |
|---|---|---|
country | не задавать | Большинство успешных вызовов не задают country (90.9%) и срабатывают с долей успеха 100%. |
javascript | не задавать | Вызовы с обычным токеном срабатывают с долей успеха 100% и составляют 89.8% трафика. Браузер стоит дороже и на этом сайте ничего не даёт. |
Шаблоны URL, которые запрашивают аккаунты
| Шаблон | Доля успехов | JavaScript-токен | Страна | Параметры запроса |
|---|---|---|---|---|
/{id}/{id}/{id} | 83.8% | 12.5% | нет | нет |
/{slug}/{slug}/{slug} | 5.0% | 0.0% | нет | symbols, requestMethod, noform |
/{slug}/{slug} | 2.8% | 0.0% | нет | нет |
Поля, которые вы получаете
Структурированные данные, которые Crawlbase нашёл на cnbc.com, по типам страниц. Это типы schema.org на странице, поля, которые ваш парсер может читать прямо из блока JSON-LD:
- Главная:
CollectionPage - Страница объекта:
VideoObject - Статья:
NewsArticle - Другое:
NewsArticle
Что ломается и как починить
На сбои с 14 августа 2026 сайт отвечал:
Запуск по расписанию
Новости меняются каждый час. Опрашивайте рубрику или sitemap на новые ссылки, затем отправляйте URL статей в Crawler с callback-адресом, чтобы запросы шли равномерно. Медианный ответ на этом сайте 6.1s.
Вопросы
Нужен ли браузер для скрапинга cnbc.com?
Нет. 100% вызовов с обычным токеном срабатывают, и аккаунты отправляют 89.8% своего трафика без браузера.
Сколько стоит страница cnbc.com на Crawlbase?
1 кредит без браузера. cnbc.com относится к уровню стандартный.
Какой country задать для cnbc.com?
Никакой не нужен: большинство успешных вызовов оставляют его незаданным.
Другие страницы на cnbc.com
Страницы, которые cnbc.com указывает в своих sitemap, запрошены Crawlbase 6 сентября 2026 и подтверждены в 2 прогонах подряд. В каждой строке самый дешёвый вызов, вернувший страницу с содержимым.
| Страница | Пример | Токен | Страна | Медиана |
|---|---|---|---|---|
Главная/Структурированные данные: CollectionPage | cnbc.com/ | Обычный | нет | 4.5s |
Страница объекта/video/{id}/{id}Структурированные данные: VideoObject | cnbc.com/video/2024/02/15/luca-de-meo.html | Обычный | нет | 3.3s |
Статья/{id}/{id}/{id}Структурированные данные: NewsArticle | cnbc.com/2026/09/05/gm-ford-defense-energy.html | Обычный | нет | 19.7s |
Другое/{id}/{id}/{id}Структурированные данные: NewsArticle | cnbc.com/2013/10/28/g4s-.html | Обычный | нет | 2.5s |