Cookbook·Новости и медиа·foreignaffairs.com
Скрапинг: статьи на foreignaffairs.com
Запрос, который сегодня возвращает статьи с foreignaffairs.com, с параметрами, шаблонами и типами ошибок из лога запросов с 14 Aug 2026.
99.7% успеха · Aug 2026Нужен браузерЦена Стандартный · 1 кредит
Измерено на Crawlbase
Доля успеха по каждому запросу каждого аккаунта за August 2026: 99.7%. Шаблоны, страны и сбои взяты из лога запросов с 14 Aug 2026; 99.9% успешных вызовов использовали JavaScript-токен, медианный ответ занял 51.7s.
Среди 74 сайтов категории новости и медиа в Cookbook foreignaffairs.com занимает 18 место из 74 по доле успеха; медиана категории 98.9%. Его медианный ответ 51.7s медленнее медианы категории 2.3s. 58 из 74 принимают обычный токен; этому сайту нужен JavaScript-токен.
Вызов
Страницы статей здесь запрашивают чаще всего, со страной и токеном, которые успешны чаще всего. Замените путь-заполнитель настоящим URL статьи с сайта.
curl "https://api.crawlbase.com/?token=YOUR_JS_TOKEN&url=https%3A%2F%2Fwww.foreignaffairs.com%2Funited-states%2Fexample-page"from crawlbase import CrawlingAPI api = CrawlingAPI({'token': 'YOUR_JS_TOKEN'}) r = api.get('https://www.foreignaffairs.com/united-states/example-page') html = r['body']
const { CrawlingAPI } = require('crawlbase'); const api = new CrawlingAPI({ token: 'YOUR_JS_TOKEN' }); const r = await api.get('https://www.foreignaffairs.com/united-states/example-page');
Важные параметры
| Параметр | Значение | Зачем |
|---|---|---|
country | не задавать | Большинство успешных вызовов не задают country (100%) и срабатывают с долей успеха 99.4%. |
javascript | использовать JavaScript-токен | 99.5% вызовов используют JavaScript-токен и срабатывают с долей успеха 99.4%. Обычный токен пробовали слишком редко (9 вызовов), чтобы что-то о нём сказать. |
Шаблоны URL, которые запрашивают аккаунты
| Шаблон | Доля успехов | JavaScript-токен | Страна | Параметры запроса |
|---|---|---|---|---|
/united-states/{slug} | 31.8% | 99.2% | нет | нет |
/{slug}/{slug} | 19.6% | 100% | нет | нет |
/{slug} | 14.0% | 100% | нет | нет |
/russia/{slug} | 11.3% | 100% | нет | нет |
/middle-east/{slug} | 8.3% | 100% | нет | нет |
/israel/{slug} | 5.5% | 100% | нет | нет |
/china/{slug} | 5.3% | 100% | нет | нет |
Поля, которые вы получаете
Страница статьи несёт заголовок, дату и автора, обычно в блоке ld+json Article, и текст в HTML. Блок часто называет и рубрику.
Что ломается и как починить
На сбои с 14 Aug 2026 сайт отвечал:
504: 40.0% сбоев 504 означает таймаут: страница не успела загрузиться в пределах лимита. Повторите один раз и держите таймаут своего клиента выше медианного времени ответа, показанного для этого сайта.
0: 10.0% сбоев Статус 0 означает запрос, который так и не получил ответа в пределах таймаута. Повторите один раз с JavaScript-токеном, если шаблону нужен браузер.
517: 50.0% сбоев 5xx означает сбой сайта, а не запроса. Повторите через минуту.
Запуск по расписанию
Новости меняются каждый час. Опрашивайте рубрику или sitemap на новые ссылки, затем отправляйте URL статей в Crawler с callback-адресом, чтобы запросы шли равномерно. Медианный ответ на этом сайте 51.7s.
Вопросы
Нужен ли браузер для скрапинга foreignaffairs.com?
Да, для большинства страниц. Вызовы с JavaScript-токеном срабатывают с долей успеха 99.4%, а вызовы с обычным токеном достигают 100%.
Сколько стоит страница foreignaffairs.com на Crawlbase?
1 кредит без браузера. foreignaffairs.com относится к уровню стандартный.
Какой country задать для foreignaffairs.com?
Никакой не нужен: большинство успешных вызовов оставляют его незаданным.
Названия сайтов обозначают страницы, которые запрашивает рецепт. Crawlbase не аффилирован ни с одним из перечисленных сайтов. Используйте рецепты в рамках политики допустимого использования.Измеренные цифры за August 2026, обновляются ежемесячно