Скрапинг: статьи на yahoo.com
Запрос, который сегодня возвращает статьи с yahoo.com, с параметрами, шаблонами и типами ошибок из лога запросов с 14 августа 2026. Последняя проверка 6 сентября 2026.
О yahoo.com
yahoo.com описывает себя так: «Свежие новости, почта, бесплатные котировки акций, результаты матчей в реальном времени и видео: это только начало. Открывайте больше каждый день на Yahoo!».
Его sitemap перечисляют 109 110 URL в 19 файлов (index).
Его robots.txt называет 3 sitemap и запрещает 12 путей, среди них /p/, /r/, /bin/.
Измерено на Crawlbase
Доля успеха по каждому запросу каждого аккаунта за август 2026: 99.6%. Шаблоны, страны и сбои взяты из лога запросов с 14 августа 2026; 1.5% успешных вызовов использовали JavaScript-токен, медианный ответ занял 1.0s.
Среди 74 сайтов категории новости и медиа в Cookbook yahoo.com занимает 26 место из 74 по доле успеха; медиана категории 98.9%. Его медианный ответ 1.0s быстрее медианы категории 2.3s. 58 из 74 принимают обычный токен, и этот сайт тоже.
Вызов
Страницы статей здесь запрашивают чаще всего, со страной и токеном, которые успешны чаще всего. Замените путь-заполнитель настоящим URL статьи с сайта.
curl "https://api.crawlbase.com/?token=YOUR_TOKEN&url=https%3A%2F%2Fwww.yahoo.com%2Fexample-section%2Fexample-page%2Fexample-page"from crawlbase import CrawlingAPI api = CrawlingAPI({'token': 'YOUR_TOKEN'}) r = api.get('https://www.yahoo.com/example-section/example-page/example-page') html = r['body']
const { CrawlingAPI } = require('crawlbase'); const api = new CrawlingAPI({ token: 'YOUR_TOKEN' }); const r = await api.get('https://www.yahoo.com/example-section/example-page/example-page');
Важные параметры
| Параметр | Значение | Зачем |
|---|---|---|
country | не задавать | Большинство успешных вызовов не задают country (98.6%) и срабатывают с долей успеха 99.8%. |
javascript | не задавать | Вызовы с обычным токеном срабатывают с долей успеха 99.8% и составляют 98.2% трафика. Браузер стоит дороже и на этом сайте ничего не даёт. |
Шаблоны URL, которые запрашивают аккаунты
| Шаблон | Доля успехов | JavaScript-токен | Страна | Параметры запроса |
|---|---|---|---|---|
/{slug}/{slug}/{slug} | 33.0% | 0.0% | нет | period1, period2, interval |
/quote/{slug} | 19.5% | 0.0% | нет | нет |
Поля, которые вы получаете
Структурированные данные, которые Crawlbase нашёл на yahoo.com, по типам страниц. Это типы schema.org на странице, поля, которые ваш парсер может читать прямо из блока JSON-LD:
- Главная:
WebSite, NewsMediaOrganization
Что ломается и как починить
На сбои с 14 августа 2026 сайт отвечал:
Запуск по расписанию
Новости меняются каждый час. Опрашивайте рубрику или sitemap на новые ссылки, затем отправляйте URL статей в Crawler с callback-адресом, чтобы запросы шли равномерно. Медианный ответ на этом сайте 1.0s.
Вопросы
Нужен ли браузер для скрапинга yahoo.com?
Нет. 99.8% вызовов с обычным токеном срабатывают, и аккаунты отправляют 98.2% своего трафика без браузера.
Сколько стоит страница yahoo.com на Crawlbase?
1 кредит без браузера. yahoo.com относится к уровню стандартный.
Какой country задать для yahoo.com?
Никакой не нужен: большинство успешных вызовов оставляют его незаданным.
Другие страницы на yahoo.com
Страницы, которые yahoo.com указывает в своих sitemap, запрошены Crawlbase 6 сентября 2026 и подтверждены в 2 прогонах подряд. В каждой строке самый дешёвый вызов, вернувший страницу с содержимым.
| Страница | Пример | Токен | Страна | Медиана |
|---|---|---|---|---|
Главная/Структурированные данные: WebSite, NewsMediaOrganization | yahoo.com/ | Обычный | нет | 2.3s |
Статья/news/{slug}/{slug} | yahoo.com/news/weather/austria/tyrol/silz-551226 | JavaScript | нет | 6.4s |